跳到主要內容
即時
即時新聞

Reflection AI 開源 5010 億參數模型 Beam Apache 2.0 授權強化開源 AI 生態

廣告
Reflection AI 開源 5010 億參數模型 Beam Apache 2.0 授權強化開源 AI 生態
Reflection AI 開源 5010 億參數模型 Beam Apache 2.0 授權強化開源 AI 生態
圖/示意圖

商傳媒|責任編輯/綜合外電報導

美國人工智慧公司 Reflection AI 於週五宣布,已將其 5010 億參數的大型語言模型 Beam 的完整權重,在 Hugging Face 平台上以 Apache 2.0 授權方式開放。此舉被視為推動西方開源人工智慧(AI)生態系發展的重要一步,旨在回應來自中國實驗室日益增加的開源模型發布趨勢。

Beam 模型是一個稀疏專家混合模型(Mixture-of-Experts, MoE),這意味著它擁有龐大的總參數,但在處理特定任務時,只會啟動約 230 億個參數,透過這種方式來提升效率。Reflection AI 強調,Beam 專為程式開發、邏輯推理與代理(agentic)工作負載設計,能夠在這些任務上提供具競爭力的表現,同時降低 Token 成本與推論時間的運算需求。

這次發布內容相當完整,除了模型權重外,還包含一個分詞器(tokenizer)、參考實作以及稱為 DFlash2 的投機解碼(speculative decoding)元件。DFlash2 是一種「草稿模型」(drafter model),用於加速 AI 的推理過程。此外,Reflection AI 也同步釋出 Mirror CLI,這是一個開放原始碼的工具,用於建構與訓練 Beam 模型。

值得注意的是,Beam 模型的權重提供了 BF16、FP8 和 NVFP4 三種不同的精度格式。與此同時,雲端運算公司 Baseten 立即宣布對 Beam 提供「即日支援」,開發者可透過 Baseten 的模型應用程式介面(API)或專用推論(Dedicated Inference)服務來使用 Beam。Baseten 也公布了 Beam 的使用費率,每百萬輸入 Token 為 1.30 美元,每百萬快取輸入 Token 為 0.13 美元,每百萬輸出 Token 為 4.30 美元。

Reflection AI 表示,此開放原始碼計畫已與 40 多個合作夥伴共同推動。Apache 2.0 授權允許開發者自由使用、修改、分發軟體,甚至用於商業用途,最重要的是,開發者基於此軟體所開發的新產品或服務,不需要也以相同的開放原始碼形式釋出。它還包含明確的專利授權條款,對於企業法律團隊來說,這種授權的透明度與普及性,有助於其在受監管行業中的採用。目前 Reflection AI 尚未隨模型權重發布詳細的技術報告,預計獨立研究人員將在數日內公布其評測結果。

Reflection AI 開源 5010 億參數模型 Beam Apache 2.0 授權強化開源 AI 生態