開源本地 AI 大模型運行工具 Strata 迎來了0.2.0測試版的重磅更新。作爲一款致力於讓普通家用電腦流暢運行 Qwen3.8-Flash-Next、Qwen3.6-35B-A3B 等大語言模型的開源利器,Strata 在本次升級中不僅推出了全新的獨立圖形界面,還進一步大幅降低了本地部署的硬件門檻。
在硬件配置要求上,新版本對內存與顯存(RAM + VRAM)的綜合佔用進行了深度優化。內存與顯存合計最低僅需27.6GB 即可流暢運行本地大模型。這意味着如果用戶配備一張12GB 顯存的顯卡,搭配20GB 的系統內存即可滿足最低部署要求。在具體的模型推薦檔位中,原本需要48GB 配置的 IQ2_XS 推薦檔降至40GB,而原本需要64GB 的 IQ3_XXS 高質量推薦檔則大幅降至48GB,整體硬件要求降低了8GB 到16GB 不等。
除了硬件門檻的下探,Strata0.2.0在推理性能上也實現了全方位的硬件加速。其中:
NVIDIA 陣營:RTX30系列顯卡文本生成速度最高提升約13%(實測 RTX3060提升10.2%,RTX A4000提升13%);
AMD 陣營:RX9000系列顯卡在部分模型上的提示詞處理速度接近翻倍;
Intel 陣營:Arc A750顯卡的提示詞處理速度同樣獲得了約42% 的顯著提升。
在交互體驗與生態擴展方面,Strata0.2.0擺脫了以往依賴命令行編譯部署的複雜繁瑣,全面支持 Windows、macOS 以及 Linux 平臺,並新增了原生中文圖形界面與智能化安裝指導。更值得一提的是,新版圖形界面中還深度集成了一款 AI 編程 Agent,支持文件讀取與修改、聯網搜索以及自動化任務執行;同時,針對 NVIDIA 和 AMD 顯卡默認啓用了圖片理解功能,並對模型下載機制進行了多線程併發與斷點續傳的優化。
VIP會員