8月5日,AI初創公司Liquid AI宣佈正式發佈專爲智能體工作流設計的端側模型LFM2.5-2.6B。該模型擁有26億參數,無需依賴雲端API即可在智能手機等終端設備上完全本地運行,爲開發者提供了低成本、低延遲且兼具隱私保護的端側智能體解決方案。

在技術架構與訓練路徑上,LFM2.5-2.6B基於約34萬億詞元進行預訓練,詞表擴展至128K。其後訓練流程整合了監督微調、教師特化、多領域在策略蒸餾以及智能體強化學習四個階段,賦予了模型出色的規劃、工具調用與複雜多步驟任務處理能力。基準測試顯示,該模型在指令遵循和工具使用上的表現可媲美規模近四倍的大模型。

此外,該模型在硬件適配與推理性能上表現亮眼,在M5Max芯片上推理速度達220token/秒,手機端亦可穩定維持30token/秒的響應速度。目前,LFM2.5-2.6B及其基礎版本已在Hugging Face全面開源,並原生支持llama.cpp、MLX、vLLM等主流推理框架,標誌着高能效端側智能體邁入實用化階段。