近日，Nvidia 宣佈在其 NeMo Guardrails 平臺上新增三項安全功能，旨在幫助企業更好地管理和控制 AI 聊天機器人。這些微服務專門針對 AI 安全和內容審覈中的常見挑戰，提供了一系列實用的解決方案。

英偉達

其中，內容安全服務（Content Safety）可以在 AI 響應用戶之前，對其內容進行審覈，檢測是否存在潛在的有害信息。這項服務有助於防止不當內容傳播，確保用戶得到安全和合適的信息。

另外，主題控制服務（Topic Control）旨在確保聊天內容保持在預先設定的主題範圍內。這意味着，聊天機器人能夠更有效地引導用戶在特定話題上進行交流，避免偏離原定主題，提高溝通的有效性。

監獄破壞檢測服務（Jailbreak Detection）則用於識別和阻止用戶嘗試繞過 AI 安全特性的行爲。這種機制有助於維護聊天機器人的安全性，防止惡意使用。

Nvidia 表示，這些服務並不依賴於大型語言模型，而是使用較小的專業模型，因此對計算資源的需求相對較低。目前，包括 Amdocs、Cerence AI 和 Lowe's 等公司正在其系統中測試這些新技術。值得一提的是，這些微服務將作爲 Nvidia 開放源代碼的 NeMo Guardrails 包的一部分提供給開發者使用，爲更多企業帶來便利。

隨着 AI 技術的發展，如何確保 AI 應用的安全性和可靠性已成爲一個日益重要的話題。Nvidia 此次推出的三項新功能，將爲企業在使用 AI 聊天機器人時提供更強大的保障，助力他們在數字化轉型過程中更加自信。

劃重點:  

🛡️ Nvidia 推出三項新安全功能，增強 AI 聊天機器人管理能力。  

🔍 內容安全服務幫助審覈 AI 響應，阻止有害信息傳播。  

💬 主題控制和監獄破壞檢測確保對話主題合規及防止惡意繞過。