跳到主要內容
即時
民生

資安業者推開源 AI 模型 可辨識 69 種個資且防禦 Prompt 攻擊

廣告
資安業者推開源 AI 模型 可辨識 69 種個資且防禦 Prompt 攻擊
資安業者推開源 AI 模型 可辨識 69 種個資且防禦 Prompt 攻擊
圖/示意圖

商傳媒|何映辰/台北報導

美國資料安全業者 Protegrity 於昨日宣布推出名為 Protegrity-PII 的開源權重 AI 模型,專門用於偵測與分類個人身分識別資訊(PII,即姓名、身分證號或電話等可用來辨識個人的機密資料),涵蓋範圍達 69 種個資類型。

根據外媒《Cybersecurity Insiders》報導,Protegrity-PII 模型參數量為 2.78 億,目前已在開源平台 Hugging Face 上釋出。該模型架構以 XLM-RoBERTa 為基礎,採用 Token 層級分類技術來解析文字。這項設計將輸入的文字視為純內容進行分析,而非可執行的指令,因此有助於大幅降低 Prompt 注入攻擊(Prompt Injection,惡意用戶透過輸入特定提示詞誘騙模型忽略安全限制)的風險。

為了驗證模型效能,Protegrity 同步釋出名為 PII-SCOPE 的公開基準測試,內含 8,030 筆涵蓋醫療、金融、保險、零售及政府等產業的資料紀錄。在實際測試中,Protegrity-PII 取得 0.910 的型態召回率(typed recall)與 0.902 的精準度,表現超越了市場上的主流方案,包括 AWS Comprehend、Microsoft Presidio 以及 OpenAI Privacy Filter。

在運算效率與成本方面,該模型使用單張 RTX 6000 Blackwell GPU 進行運算時,僅需 0.49 秒即可處理 100 萬個字元,估計每百萬字元的運算成本約為 0.0005 美元。企業可將此模型直接部署於內部架構中,就近審查包含 Prompt、工具調用(tool calls)、API 與 Agent 回應等各類生成式 AI 工作流程,確保敏感數據不出內網。

資安業者推開源 AI 模型 可辨識 69 種個資且防禦 Prompt 攻擊