商傳媒｜何映辰／台北報導
全球知名的開源人工智慧模型託管平台 Hugging Face，近日被揭露其平台上存在大量可能用於發動人工智慧驅動網路攻擊的模型，引發各界對開源人工智慧模型安全性的高度關注。
資安公司 CrowdStrike 執行長喬治·庫茲（George Kurtz）指出，開放權重模型（open-weight models）的能力正日益逼近前沿模型，這意味著無論意圖好壞，任何人都能取得先進的人工智慧能力。他表示，這類模型「毫無防護機制」，自然成為惡意使用者覬覦的目標。
根據《Transformer》報導，早在今年七月，Hugging Face 平台上就有超過 6,500 個被標記為「消除安全防護」（abliterated）、無審查（uncensored）或「異端」（heretic）的模型。這些標籤顯示模型的安全篩選器或防護措施已被移除，使其更容易被用於產生惡意內容。Hugging Face 的內容政策明文禁止開發或散布旨在破壞系統、未經授權存取或生成惡意程式碼的模型。
網路安全專家艾倫·伍德華（Alan Woodward）也認同，免費發布這些模型會帶來明顯的風險。他認為 Hugging Face 應就其託管政策進行對話。例如，今年十月初，Hugging Face 便曾下架一個明確標榜「用於進攻性網路行動」的 GLM-5.3 模型版本。然而，該模型的開發者 Audnai，仍有其他標榜「不受限制」或「消除安全防護」的模型留存在平台上，其中一個 GLM-5.3 模型甚至聲稱只拒絕 7.5% 的有害請求。
更有甚者，平台上有開發者公開提供用於網路攻擊的 DeepSeek-4.1 模型版本，以及標註為「CyberStrike-OffSec」的攻擊性資安模型。一份由 dealignai 上傳的 GLM-5.3 衍生模型宣稱，已成功測試可生成金鑰記錄器（keyloggers）、勒索軟體（ransomware）及暴力破解攻擊（brute-force attacks）工具。去年九月，人工智慧研究公司 Anthropic 曾發現，GLM-5.3 模型在 12% 的嘗試中，成功開發出已知瀏覽器漏洞的攻擊程式，且在移除安全限制後，該模型在測試中會完全遵守所有有害請求。
開發清除模型安全校準工具 Heretic 的菲利普·伊曼紐爾·魏德曼（Philipp Emanuel Weidmann）說明，一個「消除安全防護」的模型本質上就是一台「問答機」，有問必答。儘管魏德曼聲稱，大部分對移除安全防護模型的需求來自於合法研究目的，網路安全專家伍德華也承認，這些不受限制的模型對於資安專業人員調查漏洞來說，是有效的防禦工具。然而，倫理學與遊戲科技教授凱瑟琳·弗裡克（Catherine Flick）則對此表示擔憂，認為安全防護被移除的模型所帶來的潛在好處，不足以抵銷其風險，且一旦模型發布，就失去發布的控制權。人工智慧研究員安德魯·阿爾迪蒂（Andrew Arditi）呼籲，在完全由開發者控制的模型與幾乎移除所有限制的模型之間，應尋求一個中間路線，在不完全移除所有安全防護的情況下，研究模型的客製化方案。
這場爭論的核心在於，人工智慧社群是否應複製閉源的規範，或是維持更開放的態度。儘管開源模型能提供更高的透明度與問責性，但批評者警告，將如此強大的工具交到所有人手中，風險不容小覷。
