Anthropic 推 AI 安全法案草案 籲美國會管制致命 AI 威脅

商傳媒·
即時新聞民生
··1 分鐘讀取
dc0fe3cc 4aa5 4094 8590 a89256e62296
圖／本報資料庫

商傳媒｜責任編輯／綜合外電報導

美國人工智慧（AI）公司 Anthropic 近日向美國國會議員提出一份 AI 安全法案草案，旨在呼籲政府應有權阻擋可能造成大規模死傷或經濟損失的危險 AI 模型發布。此舉顯示 AI 產業在快速發展的同時，對潛在風險的擔憂日益加劇。

根據《Deccan Chronicle》報導，Anthropic 提出的草案建議，若某個 AI 模型被認定可能立即造成超過 50 人死亡或受傷，或導致超過 10 億美元的損害，美國政府應能阻止其發布。這些潛在威脅包括 AI 模型製造或釋放生物武器、AI 失控，以及網路攻擊等。該公司發言人指出，這項提案是 Anthropic 自今年 6 月以來，持續向聯邦與州政府議員倡議的「先進 AI 框架」之具體體現。

該法案草案還要求 AI 製造商必須測試其模型並公開測試結果，同時允許獨立評估者定期審查模型。Anthropic 表示，這些是「明智的政策」，相信國會應採取行動。然而，《Deccan Chronicle》也提到，現任總統川普（Donald Trump）政府迄今已拒絕了加強監管的呼籲。

Anthropic 共同創辦人 Jack Clark 上週六在曼谷舉行的國際貨幣基金（IMF）與世界銀行年會上表示，快速進步的 AI 能力將加速各領域的變革。Clark 強調，需要國際合作來為 AI 制定「不尋常且嚴肅的規則」，並警告政策制定者採取行動的時間窗口正在縮小。他引用 Anthropic 內部 AI 模型預測，在特定條件下，AI 可能在 2030 年前將美國經濟產出提高近 50%，達到 44 兆美元。Clark 同時警示，利用 AI 進行科學研究也可能導致誤用，例如生物及網路武器等，需要最嚴格的人為監督與透明度。

AI 應用帶來營運變革與產業調整

除了對外部監管的呼籲，Anthropic 內部營運也正因 AI 的廣泛應用而發生轉變。根據《mint》與《CIOL》報導，Anthropic 的初級技術職位招聘比例大幅下降，從 27% 降至 9%；自 2025 年初以來，技術部門的初級員工佔比從 21% 滑落至 14%。這顯示許多基礎的程式編寫、偵錯與技術維護工作正逐步被自動化系統取代。至 2026 年 8 月，由員工指導的 AI 系統活躍工時已是人類員工的六倍。

這種轉變也影響了招聘標準，公司開始更重視應徵者的軟技能和戰略能力，而非單純的技術專長。儘管初級職位減少，Anthropic 的整體員工人數仍持續成長，技術職位的絕對招聘人數也有所增加，顯示公司正朝向不同的人才結構調整。

網路安全新威脅與客戶合作變動

Anthropic 也在網路安全領域發出警訊。該公司警告，AI 的進步可能使自我複製的惡意軟體（AI 蠕蟲）更具實用性，可能在智慧電視、攝影機等聯網裝置間傳播，適應不同硬體並獨立運行。研究指出，參數約 300 億或更小的 AI 模型，若依循歷史發展進程，可能在 2026 年底前達到發動此類攻擊所需的能力。

然而，Anthropic 在商業合作方面也面臨挑戰。AI 程式開發平台 Replit 近日宣布，已將 OpenAI 列為其首選 AI 模型供應商。Replit 執行長 Amjad Masad 表示，OpenAI 的模型在性能和成本上，對 Replit 的需求而言更具優勢，其 Sol 和 Astra 模型在內部基準測試中表現更佳。儘管 Replit 澄清客戶仍可選用 Anthropic 的 Claude 模型，但這項改變意味著 Anthropic 失去了一個曾是其前五大客戶的重要合作夥伴。

在追求利潤的同時，Anthropic 也展現對公共利益的承諾。根據《The Mighty 790 KFGO》報導，Anthropic 計畫將公司 5% 的股份投入一個新的公共利益基金，並可依公司估值增長進一步增加持股比例。此基金將用於支持非營利捐款、對特定族群直接分配，以及處理 AI 對勞工影響的相關計畫，但該基金的股權不會用於在美國或海外的遊說或政治捐獻。這項承諾是 Anthropic 作為一家「公益企業」（public benefit corporation）上市計畫的一部分，旨在平衡利潤與更廣泛的社會利益。

參考來源

dc0fe3cc 4aa5 4094 8590 a89256e62296