商傳媒｜林昭衡／綜合外電報導
近期，人工智慧（AI）程式在軟體開發領域展現強大潛力，但也伴隨嚴峻的資安挑戰。一款由青少年開發的新工具 Autark，設計上賦予 AI 程式高度自主權，恐在無意間引發系統安全疑慮；同時，資安研究也揭露現有 AI 程式助手（如 Claude Code）已將數千筆機密資訊外洩至 GitHub 公開儲存庫，凸顯 AI 時代下智慧財產權保護與企業資安防護的急迫性。
奧地利一名 14 歲開發者 Stanislaus Hees 打造的開源工具 Autark，旨在讓多個 AI 程式像虛擬團隊般協同工作，無需使用者不斷提示。Autark 官方網站說明，AI 程式會自行決定接下來的步驟、執行任務並規劃後續行動。然而，Autark 在設計上未實施沙盒機制（sandboxing，一種將程式限制在獨立安全環境的技術）、審批提示或權限閘門，意味著其 AI 程式若取得存取權限，將可對個人電腦執行任何操作。開發者 Hees 本人也坦言，該應用程式不適合在無人看管的情況下存取敏感系統。根據 Autark 自身的實測結果，其 AI 程式在數分鐘內就可觸及真實的儲存庫、備份檔案、SSH 金鑰以及 .env 環境設定檔，甚至修改了找到的檔案權限。
另一項資安隱憂來自現行的 AI 程式開發工具。資安公司 Apiiro 的研究發現，有高達 2,539 組敏感憑證（包括資料庫密碼、雲端金鑰、API Token、SSH 根目錄登入憑證）外洩至近 2,000 個 GitHub 公開儲存庫中。部分外洩事件可追溯至 Anthropic 公司開發的 Claude Code 程式助手。問題癥結在於，當開發人員為節省時間，在 Claude Code 提示操作時選擇「是，且不再詢問」（Yes, and don’t ask again）選項後，該工具會將包含機密資訊的完整指令儲存到一個隱藏檔案（.claude/settings.local.json）中。由於此檔案在儲存庫中並未標示為私有，導致其隨著其他程式碼一同被提交至公開平台。Apiiro 經分析 104,185 個公開的 .claude/settings.local.json 檔案，證實其中 1,122 個檔案含有真實的機密資訊，總計辨識出 1,379 組不同的機密資料，影響範圍涵蓋 63 個不同組織。
針對此問題，資料庫安全公司 Liquibase 行銷副總裁 Ryan McCurdy 指出，開發人員可能未意識到，這種為求便利而授權的指令會讓 AI 程式保留憑證，並最終進入公開儲存庫。網路安全公司 BreachLock 創辦人兼執行長塞曼特·塞加爾（Seemant Sehgal）也表示，許多開發人員可能不知道這些被儲存的憑證檔案存在，且這些檔案的位置常規的機密掃描工具不易察覺。Apiiro 已在研究發表前通知 Anthropic 公司。Anthropic 的 Claude Code 負責人鮑里斯·切爾尼（Boris Cherny）回應，公司正調查如何防止這類機密外洩事件，可能透過改進自動模式偵測或內建基礎的機密掃描功能來解決。
這些事件凸顯了企業在採用 AI 工具時所面臨的智慧財產權與資安風險。專家建議，開發人員應重新設定所有曾由這些檔案持有的憑證，並刪除任何包含機密資訊的規則。資安團隊則應將所有 AI 程式的資料夾視為潛在的機密儲存位置，並將其納入程式提交前的檢查與機密掃描範圍，包括儲存庫的歷史紀錄。Ryan McCurdy 進一步強調，組織不僅要保護原始程式碼，也必須確保 AI 程式的組態檔、操作紀錄和執行歷史的安全，因為傳統資安檢查恐會遺漏這些內容。
