在近日舉辦的 Dreamforce 技術大會上,Salesforce 正式發佈了其首款推理大模型 Koa。該模型基於英偉達開源權重的 Nemotron 底座打造,由兩家企業聯合進行後續微調訓練,旨在深度賦能銷售、市場營銷以及客戶服務等企業核心業務場景。

長期以來,企業級的智能化轉型往往伴隨着高昂的成本。各大閉源 AI 實驗室傾向於讓企業將內部文件、代碼、提示詞和用戶反饋全盤上傳至其閉源模型與智能體中,這不僅推高了使用成本,也帶來了潛在的數據安全與合規顧慮。Koa 的登場則爲企業提供了一條完全不同的開源權重技術路線,它不僅專注於解決實際業務任務,而且在整個訓練過程中沒有攝入任何真實客戶數據,徹底根除了向外泄露客戶敏感信息的風險。

image.png

在架構設計與成本控制方面,Koa 通過英偉達的 Nemotron 底座展現出了顯著的經濟優勢。相比於調用第三方閉源大模型,Koa 在執行同等業務任務時消耗的 Token 數量大幅減少。同時,藉助 AI 網關的自動調度路由機制,企業可以根據實際業務需求靈活分發請求。此外,其安全機制深度內嵌於 Salesforce 平臺內部,完全遵從企業客戶嚴苛的數據管控要求。

在此之前,如果智能體需要處理長流程或多步驟的推理任務,Agentforce 平臺通常需要通過 AI 網關將請求轉發至 Claude 或 ChatGPT 等外部前沿大模型。Salesforce 人工智能業務高級副總裁傑耶什·戈文達拉揚表示,過去團隊雖然早有開發企業級高性能推理模型的計劃,但由於美國本土缺乏兼顧第一梯隊性能與清晰完整數據溯源的預訓練底座而難以實現。而 Nemotron 底座的出現打破了這一僵局,其訓練過程採用完全自主生成的模擬業務合成數據集,成功模擬了客服投訴與銷售推進等複雜場景。

儘管推出了自研的 Koa 大模型,Salesforce 並沒有改變多元合作的生態策略。該公司近期宣佈與 Anthropic 達成一項名爲 ClaudeForce 的項目合作,允許企業用戶直接以 Claude 作爲 AI 交互前端,同時確保所有核心業務數據依然安全保存在 Salesforce 的業務記錄系統之內。