跳到主要內容
即時
民生

AI 智慧代理人握實體權限 資安專家示警兩大失控風險

廣告
AI 智慧代理人握實體權限 資安專家示警兩大失控風險
AI 智慧代理人握實體權限 資安專家示警兩大失控風險
圖/示意圖

商傳媒|林昭衡/綜合外電報導

企業導入能自主行動的 AI Agent(智慧代理人)正快速普及,但傳統資安防線正面臨全新考驗。《Quartz》報導指出,具備自主決策能力的 AI 系統與一般聊天機器人本質不同,其握有實質存取權限的特性,已讓「劫持」與「誤導」成為企業資安團隊最棘手的兩大潛在威脅。

一般聊天機器人僅停留在「接收提問、輸出文字」的被動循環,後續行動仍需由人類判斷並執行。然而,AI Agent 會自行規劃步驟、調用外部軟體工具,在極少人類介入下主動完成目標。為了串接企業內部系統,這類代理人通常持有登入工作階段、API 金鑰與存取 Token(即系統發放的數位身分識別通行證),一旦防線失守,這些機密憑證將直接暴露給攻擊者。

資安團隊面臨的威脅主要分為兩大模式。首先是「劫持」,意即駭客透過惡意指令操縱代理人的行為;其次為「誤導」,即代理人本身誤讀指令,或是在連續呼叫工具的過程中產生錯誤連鎖反應,最終導致非預期的破壞性後果。

面對 AI 代理人的失控隱憂,資安界重新聚焦電腦科學家傑洛姆·薩爾澤(Jerome Saltzer)與邁克爾·施羅德(Michael Schroeder)早在 1975 年提出的「最小權限原則」(Principle of Least Privilege)。該核心概念主張,任何程式或使用者僅應擁有完成任務所需的最低限度權限。

專家建議,企業防範 AI 代理人風險應落實具體防護措施,包含嚴格限縮代理人的任務權限、涉及高風險操作時強制要求人類審查核准、全面記錄工具調用軌跡,並將代理人的存取權限與企業內部網路進行嚴密隔離。

AI 智慧代理人握實體權限 資安專家示警兩大失控風險