法國公司 Mistral AI最近正式推出了其最新的開源推理模型 ——Magistral Small1.2。這款模型擁有令人矚目的24B 參數,並且以 Apache2.0的開源許可方式發佈,充分展示了 Mistral 在 AI 技術創新上的雄心與實力。

新版本 Magistral Small1.2不僅支持高達128k 的上下文處理,能夠處理多種語言和視覺輸入,還引入了一個全新的創新特性 ——[THINK] 特殊 token。這一特殊 token 的設計目的在於包裹推理過程,從而提升模型的表現力和靈活性。相較於前一版本1.1,Magistral Small1.2增加了視覺編碼器,使得它在處理圖像和文本的綜合任務上更具優勢。

image.png

此外,Magistral Small1.2還內置了多種推理模板,兼容了當前流行的框架,比如 vLLM、Transformers 和 llama.cpp 等,用戶可以即刻上手,無需繁瑣配置。同時,該模型還提供了 GGUF 量化版本以及 Unsloth 微調示例,爲開發者提供了更多便利。

企業版的 Magistral Medium1.2也進行了同步升級,依然通過 Le Chat 平臺爲用戶提供對話服務,其 API 已經上線到 La Plateforme 平臺,進一步拓寬了應用場景。

Mistral 的這一系列新舉措,標誌着其在開源 AI 領域邁出了重要的一步,爲開發者和企業帶來了更爲強大和靈活的工具,助力他們在快速發展的 AI 市場中取得成功。無論是研究人員還是企業用戶,都可以藉助這一新模型來提升自身的工作效率和技術水平。