相关推荐
深陷AI生图争议:印尼与马来西亚宣布封锁马斯克旗下Grok
印尼和马来西亚因AI伦理问题封锁Grok。该聊天机器人图像生成功能监管缺失,被滥用于制作涉及真实女性及未成年人的非自愿色情深度伪造内容。
2026年1月12号 10:40
125.5k
xAI旗下Grok被曝生成大量极端违规内容
马斯克旗下xAI开发的聊天机器人Grok被曝被用户用于生成大量违规内容,尺度远超社交平台X的审核底线,引发对生成式AI安全边界的讨论。调查发现,该工具被用于制作极端暴力、性暗示图像和视频,甚至涉及更恶劣内容。
2026年1月8号 17:30
169.5k
Google与OpenAI绘图工具遭利用,可一键生成女性不雅深伪照片
近日,Google Gemini和OpenAI的ChatGPT等生成式AI工具被曝遭恶意利用,用户通过特定提示词绕过安全审查,将正常照片中的女性篡改为暴露的“深伪”图像。相关教程曾在Reddit等平台传播,引发对AI安全边界的担忧。
2025年12月24号 14:32
217.3k
Google Gemini 应用重磅更新:用户可轻松检测视频是否由 Google AI 生成
Google 在 Gemini 应用中推出新功能,用户上传视频即可检测其是否由 Google AI 创建或编辑。该功能基于 SynthID 数字水印技术,旨在提升 AI 内容透明度,帮助用户识别深度伪造,应对虚假信息挑战。
2025年12月19号 8:47
151.8k
网信办出手!AI 仿冒明星带货乱象大扫荡,1.1万违规账号被清理
国家网信部门将从严整治AI仿冒公众人物直播营销乱象。生成式AI技术被滥用于捏脸、换声、伪造形象,误导网民,涉嫌虚假宣传和侵权,破坏网络生态。近期已查处一批违规账号,如“百货超市小店”、“娜”等。
2025年11月14号 10:09
132.1k
