相關推薦
深陷AI生圖爭議:印尼與馬來西亞宣佈封鎖馬斯克旗下Grok
印尼和馬來西亞因AI倫理問題封鎖Grok。該聊天機器人圖像生成功能監管缺失,被濫用於製作涉及真實女性及未成年人的非自願色情深度僞造內容。
Jan 12, 2026
128.3k
xAI旗下Grok被曝生成大量極端違規內容
馬斯克旗下xAI開發的聊天機器人Grok被曝被用戶用於生成大量違規內容,尺度遠超社交平臺X的審覈底線,引發對生成式AI安全邊界的討論。調查發現,該工具被用於製作極端暴力、性暗示圖像和視頻,甚至涉及更惡劣內容。
Jan 8, 2026
174.2k
Google與OpenAI繪圖工具遭利用,可一鍵生成女性不雅深僞照片
近日,Google Gemini和OpenAI的ChatGPT等生成式AI工具被曝遭惡意利用,用戶通過特定提示詞繞過安全審查,將正常照片中的女性篡改爲暴露的“深僞”圖像。相關教程曾在Reddit等平臺傳播,引發對AI安全邊界的擔憂。
Dec 24, 2025
203.3k
Google Gemini 應用重磅更新:用戶可輕鬆檢測視頻是否由 Google AI 生成
Google 在 Gemini 應用中推出新功能,用戶上傳視頻即可檢測其是否由 Google AI 創建或編輯。該功能基於 SynthID 數字水印技術,旨在提升 AI 內容透明度,幫助用戶識別深度僞造,應對虛假信息挑戰。
Dec 19, 2025
167.6k
網信辦出手!AI 仿冒明星帶貨亂象大掃蕩,1.1萬違規賬號被清理
國家網信部門將從嚴整治AI仿冒公衆人物直播營銷亂象。生成式AI技術被濫用於捏臉、換聲、僞造形象,誤導網民,涉嫌虛假宣傳和侵權,破壞網絡生態。近期已查處一批違規賬號,如“百貨超市小店”、“娜”等。
Nov 14, 2025
148.0k
