商傳媒｜責任編輯／綜合外電報導
根據《Wired》週四報導，一家美國國防承包商允許其個人的 AI 代理人（Agent，一種能自主執行任務的程式）存取五角大廈的安全系統，引發嚴重的資安疑慮。這名 AI 代理人不僅能存取用於非機密資訊交換的「NIPRNet」，甚至還能觸及用於傳輸機密資訊的「SIPRNet」。
報導指出，惡意程式碼在 NIPRNet 中可能正常運作，而在 SIPRNet 網路中，則可能執行難以預測的惡意行為。網路安全專家 Williams 認為，儘管要將數據從這些網路中竊取出去相對困難，但惡意程式碼仍可能從內部對系統發動攻擊。他提到，最有可能的攻擊形式是分散式阻斷服務攻擊，這可能導致情報運作速度減慢，侵蝕用戶信任。
近年來，工程師透過自然語言提示（prompt）AI 助理來生成程式碼，也就是所謂的「vibe coding」，已變得越來越普遍。然而，隨著 AI 生成程式碼的數量龐大，審核其安全性變得更具挑戰性。Williams 警告，當使用 AI 代理人時，幾乎無法掌握所生成程式碼的供應鏈或推理鏈。此外，許多用於訓練大型語言模型（LLM）的程式碼本身就存在漏洞，可能導致 AI 不斷複製既有的架構與程式碼問題。
現有的靜態應用程式安全測試（SAST），一種在程式碼執行前掃描錯誤與漏洞的工具，雖然能偵測 NIPRNet 中的程式錯誤，卻無法有效識別駭客植入的後門，也難以辨識程式碼創建邏輯鏈中的結構性問題。美國國防部（DOD）認為，任何未透過開源情報揭露的 NIPRNet 相關資訊，無論是否涉及機密網路，都應被視為機密。
這並非美國國防部首次因 AI 相關問題面臨資安風險。去年，微軟就被揭露在聯邦政府專案中採用「數位護航」模式，讓擁有安全許可的美國員工監督由中國外包人員撰寫的程式碼。由於美國員工無法充分審核這些程式碼，同樣構成潛在的安全威脅。