跳到主要內容
即時
即時新聞

輝達 Vera CPU 展現 AI Agent 任務優勢 速度功耗超越 x86

廣告
輝達 Vera CPU 展現 AI Agent 任務優勢 速度功耗超越 x86
輝達 Vera CPU 展現 AI Agent 任務優勢 速度功耗超越 x86
圖/本報資料庫

商傳媒|葉安庭/綜合外電報導

輝達(NVIDIA)於昨日(11月5日)公布其 Vera CPU 的最新測試結果,宣稱在處理人工智慧 Agent(AI Agent,能自主執行任務的程式)任務時,Vera CPU 的速度與能源效率均超越現有的 x86 CPU(一種常見的處理器架構)。輝達指出,在一個 100 百萬瓦(megawatt)的資料中心比較中,Vera CPU 的 Agent 處理速度比最節能的 x86 CPU 快上兩倍,同時每瓦特可處理的 Agent 數量也比最快的 x86 CPU 多出 1.6 倍。

輝達將 Vera CPU 定位為一款能同時滿足 Agent 即時反應與併發處理能力的單一處理器,而非傳統上混合使用速度與密度不同的 x86 處理器。合作夥伴的早期測試結果也支持了這些說法:

  • AI 搜尋引擎公司 Perplexity 報告,早期 Vera CPU 在執行其類似電腦工作流程時,速度約比目前其生產參考系統快 1.5 倍,同時啟動併發沙盒(用於隔離執行程式的獨立環境)的速度提升達 1.9 倍。Perplexity 計劃將 Vera CPU 部署到其未來的生產系統中。
  • DeepInfra 於今年 7 月 21 日的測試顯示,Vera CPU 在裸機編排(bare-metal orchestration)步驟僅需 29 毫秒,優於 AMD Zen 5 的 35 毫秒、Intel Granite Rapids 的 51 毫秒以及 Intel Sapphire Rapids 的 64 毫秒,表現領先 x86 處理器達 1.2 倍。在安全的微型虛擬機器(microVMs,一種輕量化的虛擬化技術)環境下,Vera CPU 可持續支援 256 個併發 Agent,而同級 x86 處理器約為 160 個。
  • Daytona Platforms Inc. 在 10 月 7 日的報告指出,Vera CPU 僅需 10.8 秒即可準備 1,000 個沙盒,遠優於 AMD 的 EPYC 9575F(32.3 秒)和 EPYC 9755(88.4 秒)。在 2,000 個併發沙盒執行編碼 Agent 任務時,Vera CPU 每秒可完成 12.7 個 Agent 作業,超越 EPYC 9755 的 10.9 個和 EPYC 9575F 的 8.1 個。
  • 資料庫公司 ClickHouse 和 DuckDB 的測試也顯示,Vera CPU 在資料分析和處理效能上表現出色。ClickHouse 於 10 月 21 日報告,在未經特別優化的情況下,標準程式在雙插槽 Vera 機器上即達到其硬體排行榜的頂端。DuckDB 在 10 月 16 日的測試中發現,Vera CPU 在功耗測試中比 Intel Xeon 6 基準處理器快 1.53 至 1.61 倍,吞吐量測試則快 1.37 至 1.41 倍。

Vera CPU 的規格包含每個處理器配有 88 個客製化的 Olympus 核心,透過 Spatial Multithreading 技術提供 176 個執行緒。它支援高達 1.2 TB/s 的 LPDDR5X 記憶體頻寬及 1.5 TB 的記憶體容量。其第二代 Scalable Coherency Fabric 可提供 3.4 TB/s 的雙向頻寬,並透過 NVLink-C2C 技術為 Vera CPU 和輝達 GPU 之間提供高達 1.8 TB/s 的高速連結。Vera CPU 可作為 Vera Rubin 系統的主機處理器,也可獨立應用於 Agent AI、強化學習、資料處理與分析等領域。

輝達 Vera CPU 展現 AI Agent 任務優勢 速度功耗超越 x86