內地網絡安全企業360公司董事長周鴻褘表示,開源AI智能體"龍蝦"有安全問題很正常,從電腦到互聯網,數字化程度越高,脆弱性就越強。但不能因噎廢食,不發展AI科技才是最大的不安全。
周鴻褘認為,龍蝦目前仍是過渡產品,安全問題應分而治之:權限問題可置於沙盒虛擬環境;文件誤刪可通過保護關鍵目錄解決;技能包(skills)風險則可借助大模型掃描識別有毒內容。
他指,對個人而言,在受控環境下使用龍蝦,有助於培養AI素養。但企業使用需等待企業版,相關設計需解決兩大問題:一是智能體分級,形容企業不需要多個"孫悟空",更需要"豬八戒"、"沙和尚"式守紀律、可執行重複流程的智能體;二是成本分級,龍蝦的暴力拆解式推理消耗巨大,應根據任務複雜度,匹配不同層級的智能體,實現資源優化。