【中新社北京三月十五日電】一款被稱為OpenClaw的AI智能體近期在中國走紅。它能在現實世界執行文件管理、數據處理等複雜任務,但也出現用戶信息洩露等情況,安全風險引發關注。
因圖標為「龍蝦」,使用這款智能體被網民稱為「養龍蝦」。隨著中國用戶快速增多,這款智能體的風險逐漸暴露,例如有網民個人郵箱信息被清空,有公司機密文件被外傳。
此外,「龍蝦」執行任務要消耗大量token(詞元),費用高昂,許多民眾「買了蝦但養不起」。
連日來,國家互聯網應急中心、工業和信息化部網絡安全威脅和漏洞信息共享平台、廣東省政務服務和數據管理局等中央及地方有關部門紛紛發佈「養龍蝦」的風險提示,不少高校、業內專家也發佈防風險指南。
新華社近日新聞分析文章引述網絡安全專家指出,隨著AI智能體逐漸能夠訪問現實世界系統和數據,其潛在風險也在同步擴大。如何在推動技術創新的同時完善安全治理和監管體系,成為人工智能邁向更廣泛應用必須面對的重要課題。
極目新聞評論稱,「龍蝦」能積纍記憶、不眠不休,戳中很多人解放雙手的需求痛點。但從目前用戶反饋來看,使用「龍蝦」體驗較好的,大多是程序員、AI從業者、企業管理者或數據、市場分析相關工作者。而大多數普通人只是「被『AI焦慮』鉗住了」,花錢裝「龍蝦」趕完時髦,很快就會放在電腦裡「落灰」。
澎湃新聞評論指出,面對能夠自主行動的AI,事後追責往往為時已晚。人們需要與AI自主能力相匹配的治理,讓AI在「學會做事」的同時,也「學會不做甚麼」。
目前學術界、產業界和監管層對AI代理技術的討論仍處在早期階段,相關法律與治理規則也尚未完全成形。中國青年報評論認為,當智能體逐漸成為人類在賽博世界的代理人,如何為其設立清晰的行動邊界,或許比功能創新本身更為關鍵。
在討論「養龍蝦」風險的同時,也有輿論認為不應「因噎廢食」。
人民日報評論認為,儘管應用類似「龍蝦」的智能體,會面臨更加多樣的複雜情況,但我們研究新情況、解決新問題的意識一直沒有變。◇







