蘋果 Mac 用戶在本地離線運行生成式大模型的門檻正進一步降低。據最新技術動態披露,谷歌旗下的實驗性應用AI Edge Gallery現已正式登陸 macOS 平臺。這意味着 Mac 用戶無需依賴雲端算力,即可在本地環境中實現高度私密、完全離線的聊天、圖像處理以及語義理解。

與 Ollama、LM Studio 等行業常見的通用型第三方開源模型管理平臺不同,谷歌此次推出的AI Edge Gallery採取了深度垂直的策略。該應用目前專注於託管和優化谷歌自家的開放大模型生態,首批僅提供5款經過指令調優(Instruct)的專屬模型,其中包括性能強勁的 Gemma-4-12B-it,以及主打端側參數卸載架構的 Gemma-4-E2B-it、Gemma-4-E4B-it、Gemma-3n-E2B-it 和 Gemma-3n-E4B-it。

image.png

在這些首發模型中,最受行業關注的無疑是擁有120億參數規模的旗艦端側模型 Gemma412B。谷歌官方表示,得益於底層架構與 macOS 的深度適配,該模型僅需在16GB 內存的普通 Mac 電腦上,就能極其流暢地本地處理文本、視覺和音頻等多模態輸入。其出色的本地代碼編寫與邏輯分析能力,能夠讓輕薄筆記本瞬間變身爲具備全天候多模態交互的離線智能體。

除了核心模型庫的擴展,谷歌還同步面向 Mac 生態釋出了一款免費的端側語音效率工具——Google AI Edge Eloquent。該工具主打離線智能聽寫服務,不僅能精準捕獲並轉寫用戶的語音信息,還能在本地實時去除廢話與口誤、對文本進行輕度潤色,從而讓口頭表達轉化爲更清晰的書面文案。

爲了徹底杜絕傳統聽寫軟件對特定專業領域的誤改痛點,Eloquent 還貼心地開放了“自定義詞彙表”功能。用戶可根據自身需求,在軟件中預先輸入個人姓名、特定行業術語以及日常高頻短語。由於所有的語音分析和文本潤色過程全部在 Mac 本地芯片上閉環完成,數據無需上傳雲端,極大滿足了職場人士對數據隱私和商業機密的剛性保護需求。