當地時間週四,Meta 正式發佈了其迄今爲止能力最強的開放權重大模型——Muse Spark Open,並宣佈與蘋果展開合作,推動該模型在 Mac 電腦上實現本地化運行。

作爲一款採用混合專家架構的原生多模態大模型,Muse Spark Open 總參數量達到8160億(其中420億爲活躍參數),並支持高達100萬詞元的上下文窗口。Meta 表示,該模型專爲編碼與智能代理任務設計,在長週期任務處理、複雜軟件工程問題以及多步驟推理方面展現出卓越性能。在 Meta 公佈的基準測試中,該模型在工作流程、工具調用、知識推理、知識可靠性、複雜視覺推理和圖像事實問答這六項測試中均排名第一,被官方稱爲迄今能力最強的美國開放權重模型。不過,測試數據也顯示,在軟件開發及部分其他任務上,Kimi、千問、智譜等中國開源模型依然更勝一籌。

此次發佈最受矚目的亮點之一,在於 Meta 與蘋果的意外攜手。在蒂姆·庫克掌管蘋果期間,兩家公司曾多次發生摩擦,庫克曾指責 Meta 侵犯用戶隱私,扎克伯格也曾嘲諷蘋果缺乏創新。但在開源 AI 的共同利益驅動下,雙方選擇冰釋前嫌。Meta 算力部門聯合負責人、曾擔任蘋果總監的丹尼爾·格羅斯成爲了促成此次合作的關鍵人物之一。

image.png

在軟硬件適配方面,Meta 利用最新版本的針對蘋果芯片優化的開源機器學習框架 MLX,將 Muse Spark Open 進行了深度優化,使其完美適配配備 M5Ultra 處理器的 Mac Studio。Meta 表示,兩者的結合是在個人電腦上運行強大模型的最佳方案。根據官方介紹,蘋果最新的 Mac Studio(M5Ultra)最高支持512GB 統一內存,通過連接兩臺機器便可完整運行該模型。

不過,高昂的硬件配置也帶來了不小的成本門檻。雖然扎克伯格已在社交媒體上展示了兩臺頂配 Mac Studio 運行該模型的照片,但蘋果官方設定的512GB 版本計劃在10月底開售。按目前在售的256GB Mac Studio(售價超過1萬美元)計算,若組建約1TB 內存的集羣,購機成本將超過4萬美元。儘管價格不菲,但對於長期需要租用雲端算力的開發者而言,購置本地硬件有望通過節省租賃費用收回成本,同時還能兼顧算力餘裕和數據隱私。

Meta AI 負責人汪滔指出,儘管兩家公司在某些領域依然存在競爭,但這並不妨礙雙方在適合的領域開展合作。除了蘋果芯片外,Muse Spark Open 還針對英偉達、AMD 和英特爾的芯片進行了全面優化,併兼容多種主流推理引擎。開發者既可以通過多家平臺調用 API,也可以選擇下載模型權重自行部署。