商傳媒｜林昭衡／綜合外電報導
近期，全球領先的人工智慧（AI）實驗室對於是否放緩模型開發速度展開激烈辯論，此舉旨在應對日益浮現的安全與風險問題。然而，企業內部對於AI工具的應用卻已十分普遍，使得資訊科技（IT）部門與治理機制面臨如何有效追趕的挑戰。有媒體將此潛在的「AI實驗室的具體限制」視為企業IT部門提升安全與營運紀律的黃金機會，而非單純的技術停滯。
這場辯論的核心在於「前沿AI」（frontier AI）模型的發展速度。Anthropic 執行長達里奧·阿莫代（Dario Amodei）提議「調整前沿步調」（pacing the frontier），主張應加強安全測試、實驗室與政府間的協調，並透過獨立評估者進行深度檢測。OpenAI 執行長奧特曼（Sam Altman）也贊同應減緩最具能力模型的開發，而 Google DeepMind 執行長德米斯·哈薩比斯（Demis Hassabis）同樣支持這個方向。這些呼籲的背景，是 Anthropic 的 Claude 模型在網路安全評估中曾擅自存取第三方系統，以及 Google 的 Gemini 模型在一次安全測試中，因錯誤被賦予網際網路存取權限而意外存取了外部系統，皆暴露了「操作安全」的潛在風險。
然而，並非所有AI領域的領導者都認同全面放緩。Meta 執行長祖克柏（Mark Zuckerberg）強調市場競爭與責任歸屬，驅使企業採取獨立行動，例如 Meta 為確保安全而延遲發布 Muse agent。輝達（Nvidia）執行長黃仁勳（Jensen Huang）則明確反對廣泛減速，認為只要產品安全無虞，公司應「盡可能快地推進」。中國方面，華為（Huawei）輪值董事長徐直軍（Eric Xu）表示，中國 AI 模型供應商可能需要加速以識別風險，尋求發展與安全的平衡。阿里巴巴（Alibaba）也正積極訓練 Qwen 4 模型，規劃開發參數高達數兆的模型，以應對更複雜的任務。中國官媒《環球時報》（Global Times）甚至將美國討論 AI 放緩的言論解讀為地緣政治的遏制手段。政治人物也意見分歧，美國總統川普（Donald Trump）駁斥 AI 放緩的說法，稱相關恐懼為「HOAX」；而副總統范斯（JD Vance）則擔憂行業監管要求可能成為大型供應商鞏固市場地位的「特洛伊木馬」（Trojan horse）。歐盟執委會（European Commission）主席烏爾蘇拉·馮德萊恩（Ursula von der Leyen）則支持放緩前沿發展，並邀請各實驗室討論模型評估與安全。
儘管高層意見不一，AI工具在企業中的普及程度已不可逆。蓋洛普（Gallup）去年的調查顯示，52% 的美國員工每年至少使用數次 AI，其中 15% 每日使用。麥肯錫公司（McKinsey）的數據顯示，40% 的大型組織正在擴展 AI agents（一種能自主執行任務的AI程式），而德勤（Deloitte）的調查也指出，74% 的IT和業務領導者預計到 2027 年將中度使用 AI agents。然而，僅有 21% 的組織具備成熟的代理程式治理模型。這凸顯了企業IT部門在應對AI快速普及時，「IT 和治理的追趕策略」的迫切性，亦即確保技術應用安全合規。
若AI實驗室的開發速度放緩，這將為IT團隊爭取到寶貴時間，以便建立更完善的控制措施並提供安全的AI選項。組織應盤點所有AI模型、協作工具、擴充功能、代理程式及應用程式介面（API）金鑰，記錄其所有權、用途與資料存取權限。區分低風險的輔助功能與高風險的破壞性或敏感操作至關重要，後者應要求人工審核。此外，企業應實施最小權限原則、短期憑證，並建立明確的允許清單（allowlists），同時在部署前測試 prompt injection（提示注入）、資料外洩、幻覺（hallucination）等潛在風險。將 AI 整合至標準作業流程，如變更控制、日誌記錄及事件應變，將有助於確保安全性。國家標準及技術研究所（NIST）發布的 AI 風險管理框架（AI Risk Management Framework）能為企業提供風險管理的指引。IT團隊在採購AI解決方案時，也應要求供應商揭露模型變更、安全事件及資料保留政策，並確保合約包含回溯與資料匯出條款，以確保企業能掌握其AI資產。