跳到主要內容
即時
民生

影子 AI 繞過資安防線 專家警告多個 Agent 勾結恐釀數據外洩

廣告
影子 AI 繞過資安防線 專家警告多個 Agent 勾結恐釀數據外洩
影子 AI 繞過資安防線 專家警告多個 Agent 勾結恐釀數據外洩
圖/本報資料庫

商傳媒|責任編輯/綜合外電報導

企業內部員工自行建置 AI 工具的風潮,正悄悄打開資安後門。外媒報導指出,所謂「影子 AI(Shadow AI)」——即員工未經 IT 部門核准、自行開發或串接的 AI 工具與自動化腳本——正繞過傳統資安控管機制,甚至在多個自主代理(AI Agent)協同運作下,形成難以偵測的資料外洩漏洞。

在亞特蘭大舉辦的 Hacker Halted 研討會上,科技公司 Zon 資訊長 Lauren Trujillo 提出警告,指出企業目前普遍對單一 AI Agent 進行安全審查,卻忽視了多個 Agent 相互協同運作時產生的複合風險。她形容,這種情況就像聘用了整批新員工,卻完全沒有做背景調查。

Trujillo 舉例,當企業設定單一客服 Agent 的退款上限為 200 美元時,一個權限極低、僅負責記錄顧客需求的筆記 Agent,可能將外部惡意指令轉化為受信任的內部摘要,進而引導退款 Agent 發動未經授權的 199 美元退款。在審核中,每個 Agent 都完全符合本身的權限規定,但企業機密與資金卻在彼此的串接過程中流失。她將此類 Agent 勾結型態歸納為權限洗白、污染共享記憶庫與隱蔽通訊等模式,直言「危險正存在於它們彼此互動的夾縫中」。

除了 Agent 間的串通問題,外媒分析也點出影子 AI 破壞數據治理(Data governance,即企業確保內部資料安全、合規與正確使用的管理架構)的技術漏洞。例如在 RAG(檢索增強生成)架構中常出現的「權限扁平化」現象:AI 系統通常透過一組高權限的服務帳號擷取資料,導致原本在原始系統中設有文件級或行列級限制的敏感內容,一旦進入向量資料庫,任何能向該 AI 提問的員工都能直接調閱。

此外,許多員工透過「vibe coding」快速寫出自動化腳本,或使用自助授權串接信箱與客戶關係管理系統。由於這些請求均使用合法憑證,傳統的特權存取管理(PAM)或防火牆根本無法判別異常。即使管理員在事後撤銷外洩的金鑰,Agent 系統若快取了存取憑證或具備自動更新的刷新權杖,依然會出現「撤銷落差」,持續暗中存取企業資源。

前端部署平台 Vercel 於 2026 年 4 月發生的資安事件,便是第三方 AI 工具 Context.ai 遭駭後,導致憑證被盜並引發橫向移動的典型案例。專家建議,防範影子 AI 與 Agent 串通並不需要採購昂貴的新技術,而是必須回歸資安政策:明定每個 AI 整合的負責人、落實最小權限原則、實施「讀取機密者不得具備對外傳送權限」的職責分離,並繪製 Agent 之間的呼叫路徑與資料共享圖譜,才能有效防堵新型態的資料外流風險。

影子 AI 繞過資安防線 專家警告多個 Agent 勾結恐釀數據外洩