ChatGPT4o 新功能引發安全擔憂:AI生成的假收據能騙過誰?

ChatGPT最新推出的4o模型圖像生成功能正在引發安全憂慮，尤其是在生成逼真文本方面的進步可能爲欺詐者提供新工具。社交媒體上已經出現多個用戶利用該功能創建假餐廳收據的案例，這些收據看起來足以假亂真。

風險投資家Deedy Das在X平臺上展示了一張使用4o生成的舊金山牛排館假收據，強調:"現實世界中有太多驗證流程依賴'真實圖像'作爲證據。那個時代已經結束了。"其他用戶也成功複製了類似結果，有些甚至添加了食物污漬以增加真實感。

測試後發現，雖然AI生成的收據仍存在明顯缺陷（如使用逗號代替小數點、計算錯誤等），但這些問題可以通過簡單的照片編輯或更精確的提示輕鬆修正。這一技術簡化了僞造收據的過程，爲"報銷"虛假費用等欺詐行爲創造了可能性。

對此，OpenAI發言人Taya Christianson表示，所有ChatGPT生成的圖像都包含表明其AI來源的元數據，並稱公司會對違反使用政策的行爲"採取行動"。當被問及爲何允許生成虛假收據時，Christianson解釋稱OpenAI的"目標是給予用戶儘可能多的創作自由"，並指出AI收據可用於非欺詐場合，如金融教育、藝術創作和產品廣告。