《Yahoo Finance》報導，熱門 AI 代理平台 OpenClaw 近期在科技圈掀起熱潮。該平台由目前已加入 OpenAI 的 Peter Steinberger 開發，允許使用者在其電腦上建立 AI 代理，執行從檢查電子郵件、回覆訊息到管理系統檔案等各種任務。
儘管功能強大，但這些能力同時潛藏安全風險。原因在於，使用者等同於將電腦控制權交給 AI 模型。這在運作順利時當然便利，但一旦出錯，可能導致嚴重後果，例如永久刪除重要郵件，甚至刪除整個系統程式。
而當企業將 OpenClaw 導入公司設備進行測試時，這類問題的風險將被進一步放大。
因此，越來越多企業開始推出新的資安解決方案，試圖「控管」OpenClaw，避免其 AI 代理帶來的問題大於效益。
輝達 (Nvidia)(NVDA.US) 上周在加州聖荷西舉行的 GTC 大會中，推出名為 NemoClaw 的平台，而思科 (Cisco)(CSCO.US) 則於周一 (23 日) 展示其進軍該領域的最新產品。
思科總裁暨產品長 Jeetu Patel 表示，「OpenClaw 之於 AI 代理，就像 ChatGPT 之於聊天機器人，是一個關鍵轉折點，也讓技術能力較強的使用者更容易在工作與家庭場景中部署代理。」
但他也指出，問題在於「信任與安全風險」。「這些 AI 代理就像青少年，他們非常有自信，但經驗不足，不完全理解後果，也不知道規則在哪裡。」
為了解決這些問題，思科表示將採取多管齊下的策略，防止 AI 代理對世界造成威脅，保護 AI 代理免受外界攻擊，並利用 AI 偵測駭客與惡意行為。
「防範 AI 代理危害世界」聽起來似乎有些誇張，但 Patel 強調，這並非危言聳聽。AI 代理就像任何軟體一樣，可能被利用來攻擊基礎設施或竊取敏感資料。
他指出，「AI 代理的風險遠高於聊天機器人。聊天機器人最糟情況只是給出錯誤答案，但 AI 代理最糟的情況是執行錯誤行動，而且可能造成災難性後果，例如清空銀行帳戶或刪除電子郵件，且無法復原。」
思科與其他企業認為，最佳做法是將 AI 代理視為人類員工來管理，為其建立可驗證的身份，並依照需求賦予適當的系統與服務存取權限。
另一方面，「保護 AI 代理免受外界威脅」的重點在於防止駭客對 AI「越獄」，迫使其執行原本不會做的行為。
為此，思科推出一項服務，讓企業客戶可透過模擬攻擊測試其 AI 代理，了解其在不同攻擊情境下的表現與弱點。
最後，思科也表示將運用 AI 代理來應對其他 AI 威脅，讓企業在面對攻擊時，能以與駭客相同的速度做出反應。
OpenClaw 只是 AI 浪潮的最新發展，未來勢必帶動更多變革。畢竟該平台自去年 11 月推出以來，已開始影響大型企業的決策。而這也意味著，未來將需要更多資安技術與方法，協助防禦方追上攻擊者的腳步。
(美股為即時串流報價； OTC市場股票除外，資料延遲最少15分鐘。)新聞來源 (不包括新聞圖片): 鉅亨網