商傳媒｜何映辰／台北報導
資安業者Gurucul Solutions, LLC昨日宣布推出其「AI風險與回應」（AI Risk and Response）安全產品，旨在協助企業有效偵測並應對人工智慧活動帶來的潛在資安風險。這項解決方案目前已全面上市，而其「AI預防」（AI Prevention）功能則正處於預覽階段。
該產品主要為企業的資安維運中心（Security Operations Centre, SOC）與內部風險管理團隊所設計，用於監控AI系統、代理程式以及使用者如何與企業資料、身份和系統互動。隨著AI工具的功能從單純生成文字，發展到能直接存取系統、處理資料及執行任務，傳統的資安防護已難以應對。
Gurucul Solutions, LLC的方案能夠整合來自多種AI平台（例如Anthropic Claude AI、Gemini Enterprise Agent Platform、Google Gemini、OpenAI ChatGPT、Azure AI Foundry Inventory及Microsoft 365 Copilot）的遙測資料（telemetry），並結合現有的資安工具。透過這項整合，資安分析師可將AI活動與特定使用者或非人類身份、相關權限、端點行為以及雲端或作業系統事件連結起來，進而判斷AI的使用是否合規、代理程式可存取哪些資源，以及其行為模式是否有異常變化。
該系統內建數百種偵測機制，涵蓋了全部16項MITRE ATLAS戰術以及針對大型語言模型應用程式的OWASP大型語言模型十大應用風險。此外，它還有助於識別未經授權的「影子AI」使用、敏感資料外洩、過度存取、高風險的自主代理程式以及AI供應鏈風險。Gurucul Solutions, LLC執行長Saryu Nayyar表示，隨著AI從提供答案轉向實際行動，風險不再局限於單一提示或應用程式，而是橫跨身份、權限、資料與工具。她指出，此解決方案能將這些訊號串聯起來，提供清晰且可執行的威脅視角。
Blue Mantis資安長兼資安副總裁Jay Martin指出，該產品能透過客戶現有的環境遙測資料快速啟用，無需額外部署端點軟體，即可提供迅速的資安可見度，有效降低導入時間、營運負擔和成本。預覽中的AI預防功能，則計畫在AI互動發生當下，透過瀏覽器外掛等方式，阻止高風險的AI行為，涵蓋提示詞、複製貼上內容、檔案上傳以及AI目標等面向。其應對措施與修復流程皆可整合至現有的身份驗證、端點、網路及支援AI平台控制措施，以及既有的IT服務管理工作流程中，簡化AI事件的處理程序。
這套解決方案是基於Gurucul Solutions, LLC在資安資訊與事件管理（SIEM）、使用者與實體行為分析（UEBA）以及內部風險管理方面的既有基礎，將這些系統擴展至AI相關的調查，把使用者和自主代理程式視為可持續監控行為變化的實體。