2025年1月17日，騰訊上線了一款AI生成圖片鑑別工具，旨在幫助人們辨別圖片是否由AI生成。

騰訊混元安全團隊的朱雀實驗室研發的AI生成圖片檢測系統，通過上傳圖片、等待驗證，幾秒鐘就能判斷圖片是否由AI生成。該系統主要通過捕捉真實圖片與AI生圖之間的差異來區分，如AI生圖有時不符合常識邏輯，會出現帶着翅膀飛的小狗、叼着雪茄的貓咪等不符合現實的內容;AI生成圖片需要“加水印”，即添加顯式或隱式標識，這些標識可能肉眼可見，也可能不明顯，需用檢測工具讀取;AI生成圖片還包含一些肉眼不可見的隱層特徵，如調整HSV色彩空間後，AI生成的圖片會出現局部紋理密集分佈的亮點等。

微信截圖_20250117133848.png

鑑別AI生成圖片不能僅依靠單一依據，檢測系統需利用AI模型捕捉各類特徵差異，包括圖片的紋理、語義及隱形特徵。朱雀實驗室使用了140萬份正負樣本進行模型訓練，涵蓋多種生成內容場景，最終測試檢出率達95%以上，且還在持續優化提升中。朱雀實驗室還開發了文本檢測系統，通過對海量數據學習實現文本檢測，背後也蒐集了大量正負樣本進行訓練，並運用對比方式推斷文章的AI生成概率，以增強對未見過數據的檢測能力。目前，該系統涵蓋了新聞通訊、公文、小說、散文等多樣化文體，後續還將對詩歌等體裁進行補強。

朱雀實驗室開發AI檢測工具的初衷是優化混元大模型的訓練語料，但隨着AI的爆發式增長，學界和業界對“用AI檢測AI生成”的需求增多，實驗室便開發了AI生成圖片檢測、AI生成文本檢測兩款工具，並提供體驗服務。

未來，還將推出AI生成視頻的檢測工具，進一步完善檢測能力。

體驗地址：

https://matrix.tencent.com/ai-detect/ai_gen

https://matrix.tencent.com/ai-detect