本刊記者 孫庭陽
近些天，OpenClaw（即大家俗稱的“龍蝦”）頻頻登上熱搜，與之前排隊安裝不同，有些地方卻變成了排隊卸載。在網(wǎng)絡(luò)平臺上，特定城市上門卸載“龍蝦”收費299元，遠程卸載199元，聲稱能“完整卸載，純凈無殘留”。
從3月10日到15日，國家互聯(lián)網(wǎng)應(yīng)急中心、工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺、中國互聯(lián)網(wǎng)金融協(xié)會，接連提示“龍蝦”風(fēng)險，指出應(yīng)極其謹(jǐn)慎安裝，免得“造成難以估量的損失”。
“面對‘龍蝦’引發(fā)的安全風(fēng)險，業(yè)界響應(yīng)非常迅速，構(gòu)建起‘監(jiān)管定紅線、企業(yè)出方案、用戶強防護’的多層次應(yīng)對體系?！敝袊畔⑼ㄐ叛芯吭焊痹洪L魏亮接受本刊記者采訪時說。
對于“龍蝦”等智能體，要敢為、慎為，統(tǒng)籌發(fā)展和安全，在充分理解風(fēng)險的情況下謹(jǐn)慎決策。
受訪專家認(rèn)為，相關(guān)部門提示風(fēng)險，但沒有叫停技術(shù)發(fā)展，而是給出了安全應(yīng)用建議。這與今年政府工作報告 “深化拓展 ‘人工智能+’，促進新一代智能終端和智能體加快推廣”的要求一脈相承。
行為不可完全預(yù)測的外部工具
用戶和AI聊天時，最大的風(fēng)險是AI“胡說八道”?？梢坏┯脩糇孉I操作電腦、發(fā)郵件、操作股票賬戶、訪問網(wǎng)銀，風(fēng)險的性質(zhì)就變了。
“智能體一旦能執(zhí)行動作，風(fēng)險就從回答錯誤升級為權(quán)限錯誤，這是一個關(guān)鍵轉(zhuǎn)變。”受訪專家說。
“龍蝦”的風(fēng)險，主要體現(xiàn)在權(quán)限濫用風(fēng)險、攻擊面擴大風(fēng)險以及生態(tài)失控帶來的供應(yīng)鏈風(fēng)險。
不當(dāng)安裝和使用“龍蝦”，已經(jīng)導(dǎo)致了一些嚴(yán)重的安全風(fēng)險，如用戶系統(tǒng)密鑰泄露，電子郵件、核心生產(chǎn)數(shù)據(jù)等重要信息徹底被刪除。據(jù)報道，Meta公司安全總監(jiān)在使用“龍蝦”整理郵件時，由于“龍蝦”和背后的大模型決策執(zhí)行了錯誤的指令，導(dǎo)致多封郵件被擅自刪除。
“企業(yè)與個人用戶，目前不能將智能體視為‘可信的內(nèi)部員工’，而應(yīng)將其當(dāng)作‘能力強大但行為不可完全預(yù)測的外部工具’來管理?！蔽毫两邮鼙究浾卟稍L時說。
“龍蝦”的“自主決策”與“高系統(tǒng)權(quán)限”之間缺乏足夠的安全隔離，加之很多使用者部署運維的粗放與生態(tài)治理的缺位，使得單一的安全隱患極易演變?yōu)橄到y(tǒng)性危害。
魏亮介紹，“龍蝦”默認(rèn)擁有較高的系統(tǒng)執(zhí)行權(quán)限，一旦被攻擊者入侵控制或者大模型出現(xiàn)決策錯誤，智能體就可能執(zhí)行高危操作。
監(jiān)測結(jié)果顯示，全球暴露在互聯(lián)網(wǎng)的“龍蝦”資產(chǎn)已超過20萬個，極易成為攻擊目標(biāo)。同時，已公開披露的漏洞達190個，其中高危及以上漏洞占比54%。
“鉆漏洞的技術(shù)門檻并不高，這意味著攻擊者可通過漏洞對大量暴露的用戶實施入侵。”魏亮說。
“龍蝦”在帶來便利的同時，也隱藏著風(fēng)險。
“龍蝦”用戶可以從技能市場ClawHub（專為“龍蝦”智能體用戶提供技能包的社區(qū)平臺）下載各種“技能包”來擴展AI的能力。
魏亮認(rèn)為，在“龍蝦”的技能插件生態(tài)中，第三方可以自由上傳各類技能，缺乏有效的安全審核機制。據(jù)安全機構(gòu)分析，官方技能市場中超過10%的技能包含惡意代碼。若貿(mào)然使用未經(jīng)過嚴(yán)格安全審核的技能包，可能引入安全隱患。用戶一旦安裝，攻擊者可能繞過安全檢測，遠程竊取用戶的瀏覽器信息、開發(fā)者令牌甚至系統(tǒng)密碼。
明確應(yīng)用紅線
“很多養(yǎng)‘蝦’人，養(yǎng)了個‘寂寞’?！鄙虾Ｘ斀?jīng)大學(xué)特聘教授胡延平接受本刊記者采訪時說。
除了安全事件頻發(fā)之外，“裝得起養(yǎng)不起”的情況也相當(dāng)普遍。個人用戶的硬件投入+Token消耗+時間調(diào)試，成本不菲，有用戶花699元找人上門安裝，卻因找不到使用場景棄用，又開始付費找人卸載。
對部分盲目跟風(fēng)部署“龍蝦”且安全防護滯后的企業(yè)，魏亮建議，禁止未經(jīng)審批的智能體終端接入單位內(nèi)網(wǎng)，已部署智能體的終端盡量專崗專用；做好網(wǎng)絡(luò)隔離，避免與核心業(yè)務(wù)系統(tǒng)互連，遠程訪問通過加密通道進行；部署時授予最小權(quán)限，關(guān)鍵操作開啟人工審批；優(yōu)先選擇來源可信的技能，安裝前執(zhí)行安全審計。
關(guān)鍵行業(yè)和部門尤其要防止跟風(fēng)。目前，尚無一家銀行在全行層面部署“龍蝦”，有的銀行不允許員工在做業(yè)務(wù)時自建或部署“龍蝦”。還有的銀行明確應(yīng)用紅線，自查內(nèi)部風(fēng)險。
對于個人用戶，魏亮建議，應(yīng)避免在存儲重要數(shù)據(jù)和應(yīng)用的終端上安裝這類智能體。使用過程中，慎重向智能體透露身份證號、銀行卡及支付密碼、重要賬號口令等敏感信息。當(dāng)不再需要使用時，務(wù)必徹底刪除本地敏感數(shù)據(jù)，作廢并重置關(guān)聯(lián)的大模型密鑰，取消相關(guān)的訂閱服務(wù)或計費套餐，防止殘留風(fēng)險造成后續(xù)損失。
避免只為拿補貼“養(yǎng)龍蝦”
廣東深圳市龍崗區(qū)、合肥高新區(qū)、江蘇無錫高新區(qū)，相繼推出優(yōu)惠政策，為“龍蝦”等優(yōu)質(zhì)項目提供支持，最高補貼達1000萬元。這些政策尚在征求意見階段。
“面對AI浪潮，誰都怕錯過下一個風(fēng)口。這有積極的一面，但隱憂同樣存在?！焙悠秸f。
胡延平認(rèn)為，一些地方的稟賦，不一定適合發(fā)展智能體，盲目跟風(fēng)可能造成資源錯配和“內(nèi)卷式”競爭。市面上已經(jīng)出現(xiàn)包裝概念的騙補項目，需要細(xì)加甄別?！皯?yīng)注意并防范那些只為拿補貼‘養(yǎng)龍蝦’、項目做完就收攤的反面案例?！焙悠秸f。
夜間
設(shè)置
移動端
手機版
網(wǎng)上訂閱
網(wǎng)上訂閱
頂部
