
商傳媒|葉安庭/綜合外電報導
自主人工智慧(AI)系統若在未嚴格驗證的情況下對外觸發動作,可能帶來難以挽回的系統風險。資深資料工程師 Aditya Ranjan 在美國電腦協會旗艦期刊《Communications of the ACM》撰文提出「行動就緒合約」(Action-Readiness Contract, ARC)概念,主張在自主 AI 系統對外部環境產生實質影響前,必須即時通過一組以機器自動評估的證據要求,確保系統決策合理且安全。
現行的資料合約標準,如 Open Data Contract Standard (ODCS),主要規範資料結構、語意與服務水準期望。Aditya Ranjan 指出:「現有的資料合約很有用,但它們處理的是不同層面的問題。那些協定本身並無法在 Agent 提出操作的當下,證明特定動作是否具備合理性,這正是我想解決的缺口。」他強調,即使每項技術檢查都順利通過,AI 產生的採購單依然可能是錯誤的。
ARC 架構沿襲了美國國家標準技術研究所(NIST)在零信任架構中提出的「策略決策與執行分離」原則,與既有的身分驗證、授權機制及安全策略並行運作。該合約由五大斷言(predicates)組成:資料新鮮度(Freshness)、資料溯源(Provenance)、授權狀態(Authorization)、可觀測性(Observability)以及運作安全性(Operational safety)。
在決策邏輯上,ARC 採取極為保守的防護設計:只有當五大斷言全部順利通過,系統才會發出許可(ALLOW);若授權或運作安全檢驗失敗,則直接拒絕(DENY);一旦出現證據遺失或有未解的檢查項目,系統便進入暫緩(HOLD)狀態,避免自主系統因資訊不全而盲目執行關鍵任務。






