AI主權新突破：德國研究聯盟發佈開源大模型Soofi S

近日，由德國人工智能協會協調的研究聯盟正式發佈了全新開源大語言模型——Soofi S30B-A3B。這一成果不僅標誌着歐洲在主權AI基礎設施建設上的重要進展，也爲追求高性能與高效率的開源模型領域注入了新鮮血液。

該模型在架構設計上頗具匠心。Soofi S採用了一種資源高效的“混合專家”架構，結合了Mamba-2與標準注意力層。其總參數量爲316億，但在實際生成過程中，每個token僅激活約32億參數。這種設計讓它的計算成本大幅降低，更接近於小型模型，同時在高負載場景下的處理速度和生成吞吐量表現極佳。特別是在處理長文本時，其性能優勢尤爲明顯——在4萬token長度的上下文環境下，其生成吞吐量達到了同規模傳統稠密模型的8倍左右，且隨着上下文增加依然能保持極高的穩定性。

在訓練數據策略上，Soofi S展現了明顯的德語偏好。在長達27萬億token的訓練過程中，研究團隊有意識地加大了德語數據的佔比。從第一階段的7.2%提升至第二階段的15.3%，並融入了涵蓋報紙文章、維基百科及專業技術文檔在內的多源語料，使其在應對德語環境的複雜任務時表現出衆。

基準測試結果證明了其領先實力。Soofi S在英語和德語的綜合測試中，均在開源模型中脫穎而出，超越了OLMo332B和Apertus70B等知名模型。尤其在代碼生成、專業推理及德國區域性知識測試中，Soofi S均展現了頂尖水平。不過，研究團隊也客觀指出，該模型在超長上下文的提取任務及德語數學推理方面仍有改進空間。

該項目的落地離不開穩健的基礎設施支持。整個訓練過程在慕尼黑德國電信工業人工智能雲上完成，使用了512塊Nvidia B200GPU。作爲歐洲IPCEI-CIS項目的一部分，該模型不僅完全由可再生能源驅動，且後續將陸續開源模型權重、訓練評估代碼及詳細的數據清單。這一舉措不僅踐行了開放透明的研發理念，也爲歐洲工業應用測試提供了可信賴的技術基座。隨着該模型的開源，研究團隊正積極尋求行業合作伙伴，共同探索其在技術文檔處理、代碼生成等領域的應用前景。