“龍蝦”智能體持續走熱,如何確保使用安全?
近期,開源AI智能體“龍蝦”持續走熱,並引發廣泛討論。其是否存在安全風險、怎樣才能安全使用?對此,記者採訪了中國信息通信研究院副院長魏亮。
所謂“龍蝦”,是開源AI智能體OpenClaw的別稱,因其圖標是紅色的龍蝦而得名。“龍蝦”智能體通過整合調用通信軟件和大語言模型,在用戶本地電腦自主執行文件管理、郵件收發、數據處理等複雜任務。
“但也要注意到,它很強的執行能力也給用戶帶來了嚴峻的安全挑戰。”魏亮說,作爲本地運行的AI代理,“龍蝦”智能體具有自主決策、調用系統資源等特點,加之信任邊界模糊、技能包市場目前還缺乏嚴格審覈,存在不少風險隱患。比如在調用大語言模型時可能誤解用戶指令內容,導致執行刪除等有害操作;使用被植入惡意代碼的技能包,可能導致數據泄露或系統受控等。
更新到最新版本,是否就沒有安全風險了?在魏亮看來,更新到官方最新版本,確實能修復已知的安全漏洞,但並不意味着完全消除安全風險。“網絡安全是動態的,黑客攻擊手法也在不斷迭代,不能把‘打補丁’和‘升版本’當成一勞永逸的安全保障。”
使用“龍蝦”智能體需要注意哪些?
魏亮認爲,必須堅持“最小權限、主動防禦、持續審計”的原則。具體而言,建議從以下幾方面來安全使用“龍蝦”智能體。
——使用官方最新版本。在部署時,要優先從官方渠道下載最新穩定版,並開啓自動更新提醒。在升級前備份數據,升級後重啓服務並驗證補丁是否生效。
——嚴格控制互聯網暴露面。不要將“龍蝦”智能體實例暴露到公網,確需互聯網訪問的,限制訪問源地址,使用強密碼或證書、硬件密鑰等認證方式。同時,定期自查是否存在互聯網暴露情況。
——堅持最小權限原則。在部署時,嚴禁使用管理員權限的賬號,只授予完成任務必需的最小權限,建議在容器或虛擬機中隔離運行,以形成獨立的權限區域。
——謹慎使用技能市場。ClawHub是專爲“龍蝦”智能體用戶提供技能包的社區平臺,其中的技能包存在惡意投毒風險,建議審慎下載,並在安裝前審查技能包代碼。
——防範社會工程學攻擊和瀏覽器劫持。不要隨意瀏覽來歷不明的網站,避免點擊陌生的網頁鏈接。遇到可疑行爲立即斷開網關並重置密碼。
——建立長效防護機制。啓用詳細日誌審計功能,定期檢查並修補漏洞。要定期關注工業和信息化部網絡安全威脅和漏洞信息共享平臺等漏洞庫的風險預警。
“廣大用戶在使用‘龍蝦’等AI智能體過程中,一定要把安全底線把握在自己手中,詳細瞭解並落實安全配置規範要求,養成安全使用習慣。”魏亮說,有關方面也會持續做好安全監測,如發現相關安全風險將及時預警,爲用戶安全使用提供必要的技術支持。
記者:周圓、唐詩凝