近日，據Gizmodo報道，麻省理工學院科學家帕蒂·梅斯（Pattie Maes）團隊的研究表明，人工智能生成的內容與深度僞造技術正在成功扭曲人類記憶，甚至在參與者大腦中植入完全捏造的虛假記憶。

實驗顯示，接觸過AI修改照片的測試對象不僅極易記錯原圖，且對錯誤記憶表現出極高的自信。此類現象在政治醜聞等場景中尤爲明顯，不僅會降低公衆的投票意願，還會在信息更正後持續影響政治決策。

隨着生成式AI在各行各業的深度部署，雖然業界普遍寄希望於“人機協作”中的高級專家來審覈輸出結果，但研究指出，人類用戶不僅難以穩定識別AI幻覺，且自身判斷極易受到錯誤信息的誘導。

此前，美軍對伊朗一所小學發動空襲造成重大傷亡的事件中，國防部內部調查便顯示其部分原因在於過度依賴過時數據驅動的帕蘭提爾（Palantir）AI系統。這一系列隱患凸顯出，在當前缺乏萬無一失的糾錯機制下，盲目信任與部署AI系統正對社會真相與安全造成深遠且潛在災難性的影響。