OpenAI 近日正式宣佈，將在未來幾周內全面升級並加強 ChatGPT 對暴力相關內容的限制，同時針對未成年人用戶推出更加嚴格的武器和安全系統信息防護機制。

此次政策調整的核心，在於對高風險對話採取更果斷的干預手段。根據新公佈的措施，如果系統檢測並評估用戶的對話顯示出持續聚焦於暴力或嚴重傷害他人想法的傾向，ChatGPT 將具備主動結束對話的能力。更爲嚴厲的是，若用戶因這類問題被系統多次終止對話，其賬號將面臨被暫停使用甚至直接封禁的處罰。

在具體的內容過濾邊界上，原有政策一如既往地禁止提供任何幫助用戶策劃或實施暴力行爲的操作指導。而在此次調整中，限制範圍進一步擴大到了歷史層面——模型針對“過去大規模襲擊事件及其實施者”相關問題的回答細節將被大幅縮減，甚至直接選擇拒絕回答。具體受限內容不僅涵蓋了重現襲擊過程所涉及的武器、裝備及其獲取途徑，還包括限制用戶查詢旨在放大襲擊者知名度的傷害規模詳細比較。需要注意的是，這一系列限制適用於全體用戶，不區分年齡段與提問目的，即便是成年用戶在進行相關查詢時也將受到相同的約束。

除了面向所有用戶的通用限制外，針對被識別爲未滿18週歲的青少年羣體，OpenAI 進一步加碼了精細化保護。系統將針對性地限制可能被用於實施暴力的武器和安全系統的實用信息，即便相關提問表面上看起來並未直接顯露暴力意圖，該項保護也會自動觸發。不過，OpenAI 強調，青少年依然可以正常通過 ChatGPT 尋求幫助，例如學習如何預防或緩和暴力，或是獲取與可信賴成年人取得聯繫的有效指導。

爲了確保青少年保護機制的精準落地，OpenAI 引入了改進後的年齡預測機制。該機制能夠結合用戶的日常行爲等多維度信號，持續對賬號是否屬於未成年人進行動態評估，並在適當時機自動匹配相應的保護措施。如果用戶的賬號不幸被系統誤判爲未成年人，也可以通過主動提交身份信息的方式進行驗證與調整。