跳到主要內容
即時
民生

防範AI自主執行風險 七大資安防護工具出列

廣告
防範AI自主執行風險 七大資安防護工具出列
防範AI自主執行風險 七大資安防護工具出列
圖/本報資料庫

商傳媒|何映辰/台北報導

企業導入人工智慧的腳步正從單純的「提供建議」,跨入由系統自主決策並操作軟體的代理人時代。外媒《AI News》報導指出,當傳統 AI 轉向具備自主執行能力的 Agentic AI 運作機制——也就是系統能直接將判斷轉化為實際行動時,企業面臨的資安風險隨之大幅升高。

傳統 AI 資安著重於模型、Prompt 以及應用程式的輸出內容。然而,自主代理人能串接外部工具與資源,導致風險面向擴展至資產盤點、供應鏈安全、身分權限、執行階段行為以及意圖偏差。其中,當代理人的行為逐漸偏離使用者最初設定的目標時,即會產生「意圖偏差」風險;若用來連接外部工具與資源的 MCP 伺服器遭到入侵,更會直接擴大受攻擊面。

針對這類新型態威脅,業界目前已有七款主要防護工具提供不同層面的防禦機制。在資產盤點與意圖監控方面,Dash Security 具備持續盤點企業內部代理人資產的能力,無論是官方核准或未經授權的影子代理人、MCP 伺服器及擴充套件皆能掌握,並透過監控作業過程來記錄使用者意圖、代理人推論與工具使用之間的關聯。

Zenity Inc. 則聚焦於生命週期防護,涵蓋代理人的資產發現、組態狀態管理到執行階段的威脅偵測。資安大廠派拓網路(Palo Alto Networks)推出的 Prisma AIRS,則是將代理人安全整合進整體的企業資安架構——也就是保護公司內部網路、系統與資料免受威脅的防禦體系——全面納管身分、工具與執行動作。

其他專用防護工具亦鎖定即時執行階段的防禦。Hiddenlayer 的平台著重於自主執行過程的可視性,支援威脅獵捕與調查;Check Point AI Security 結合了對 AI 互動過程的控管,防範代理人嘗試執行的惡意操作;Noma Security 提供涵蓋供應鏈風險與自主系統執行階段防護的完整方案;現已併入 SentinelOne 旗下的 Prompt Security,則強化員工、應用程式與代理人系統的使用可見度,協助企業落實安全政策。

防範AI自主執行風險 七大資安防護工具出列