近日，“龍蝦”（OpenClaw）火遍全網。它是由外國程序員開發的一款開源的、可部署在本地電腦或服務器上的人工智能代理軟件，因其標志為一只紅色的卡通龍蝦，故被稱為“?龍蝦?”。與僅用于對話的AI軟件不同，“龍蝦”通過整合多渠道通信能力與大語言模型，具備了持久記憶、主動執行能力，是一款定制化的AI助手。

想象一下，你不再需要親自打開一個個軟件，只需對電腦輸入一句指令：“整理上周的會議記錄和郵件，按項目分類，并生成待辦清單發送至手機”，片刻之后任務便自動完成。這樣近乎科幻的場景，因“龍蝦”的出現已初步實現。因此，它的快速走紅不足為奇。從民間極客到產業巨頭再到地方政府，都對這一新生事物給予高度關注。

我們為這樣的技術躍遷感到振奮。“龍蝦”的出現，說明人工智能正從“聊天機器”邁向“執行機器”，真正開始嵌入人們的生產生活。但在“養蝦”熱潮中，也需保持理性思考。

技術發展史一再表明，幾乎每一輪重大技術浪潮都會經歷“過度期待”的階段。在圍繞“龍蝦”的討論中，也已經出現類似跡象：有人將其視為“打工人的終極外掛”，有人將其包裝成“一人創業”的萬能工具，仿佛只要部署一個智能體，個人生產力就可以無限放大。然而，技術演示與產業成熟之間，往往隔著很長一段距離。能夠在極客圈驚艷亮相，并不意味著馬上就能在復雜的社會環境中穩定運行。若將局部場景中的成功經驗簡單外推，很容易把技術熱度誤讀為產業現實。

更重要的是，當人工智能開始“動手”，風險也隨之發生變化。過去，大模型主要帶來的是信息風險，例如內容失真、虛假信息等。但AI智能體不僅生成內容，還能夠調用工具、訪問系統、執行操作。換句話說，它不只是“說錯話”，還可能“做錯事”。 近日，工業和信息化部網絡安全威脅和漏洞信息共享平臺發布提示，“龍蝦”在部分配置環境中存在較高安全風險，可能導致網絡攻擊或數據泄露。

當一個智能體擁有持續運行能力、網絡訪問能力以及任務執行能力時，它就像一個擁有鑰匙和權限的數字助手。一旦被誘導、劫持或惡意利用，其影響就不再只是“回答錯誤”，而可能是系統被入侵、數據被竊取甚至設備被控制。與此同時，技術熱潮往往也會吸引灰黑產業“搭便車”。近期已有安全研究發現，一些仿冒安裝包、惡意插件甚至木馬程序正借助“龍蝦”的熱度傳播。

這提醒我們，在技術創新的浪潮中，風險并不會自動消失，反而往往與創新同步增長。因此，對這些新事物最理性的態度，既不是盲目追捧，也不是簡單否定，而是保持必要的清醒。越是技術拐點，越需要加入一份審慎。

與傳統生成式人工智能相比，智能體的核心特征在于“行動能力”。這意味著治理思路也需要同步升級——不僅要關注人工智能“說什么”，更要關注它“做什么、怎么做”，為“會動手”的智能體立規矩。

首先，將過程管理和倫理審查前移，為智能體裝上“剎車系統”。過去對生成式人工智能，大家最關心的是輸出內容是否失真、失范；但到了智能體階段，真正關鍵的是任務執行鏈條本身。它調用了哪些工具、訪問了哪些數據、擁有多大權限、關鍵節點有沒有人復核，這些都應該成為治理重點。特別在醫療、金融、政務等高敏感領域，應建立更嚴格的準入與審查制度，為風險設置硬邊界。

其次，以敏捷治理回應技術快跑，扭轉“一步到位”的管理思路。智能體技術更新速度極快，插件生態、模型能力和應用場景都在不斷變化。傳統的“規則先定、技術后走”模式很難適應這種節奏。更現實的路徑是，通過監管沙盒、風險分級、動態備案、快速通報、漏洞協同修補等機制，合力形成“邊發展、邊評估、邊校正”的治理節奏，讓創新有空間，讓安全有底線。

再次，推動技術治理與制度治理協同發力，讓“安全設計”與“規則設計”同時“在線”。我們既要在技術層面嵌入身份認證、權限控制、異常監測、行為審計、安全沙箱等防護手段，把風險盡量攔在系統內部；也要在制度層面完善標準規范、責任認定和行業指引，明確開發者、平臺和使用者之間的責任邊界。

更長遠看，“龍蝦熱”真正提出的問題是：我們應以何種姿態迎接 AI 智能體時代？不能只顧著看它跑得多快，也要思考如何為其劃跑道、設護欄、裝剎車，讓智能體真正成為可靠的助手。

作者：王振宇　李瑞（作者分別系中國科學院科技戰略咨詢研究院學部綜合研究支撐中心執行副主任，中國科學院科技戰略咨詢研究院學部科學規范與倫理研究支撐中心助理研究員）