-
日期: 2026-01-20 | 来源: 南风窗 | 有2人参与评论 | 专栏: 《歌手》 | 字体: 小 中 大
更让人担忧的是，这类网络性暴力正形成产业链。
2024年，韩国出现了一波深度伪造图像的浪潮。多家媒体报道称，某些社交媒体平台上，存在大量专门制作和分享深度伪造色情内容的群组。有些群组甚至以特定的学校、大学或地区命名。
分享深度伪造色情内容的群组
受害者多为年轻女性。据韩国警方披露的数据显示，相关案件中，近60%的受害者是未成年人，且许多犯罪者也是未成年人，他们不仅制作明星的假裸照，更鼓励成员上传身边的同学、老师、甚至亲属的照片进行“定制”。
AI性暴力受害者不分国界，不分年龄，且呈现出明显的低龄化趋势。一份针对美国13-20岁年轻人的调查显示，近年来，青少年群体对“deepfakenudes”（深度伪造裸照）的认识与直接接触显着上升。
受访的1200名13-20岁年轻人中，41%表示听说过“深度伪造裸照”这一术语，其中，有约31%是青少年。不仅如此，在这些青少年里，约10%的人表示认识被制作深度伪造裸照的人，还有约6%就是直接受害者。
“这几乎就像新一代的裸照泄露。它们对人的影响和真实裸照泄露是一样的。”美国南部一位19岁的混血女孩表示。
研究员诺埃尔·马丁的脸曾被用于色情内容。她说，即使这些图片并不十分逼真，“也足以对人造成无法弥补的伤害”。
这些经历波及到她生活的方方面面。“从你的就业能力到未来的收入潜力，再到你的人际关系。这是一种无法逃避的虐待形式，其后果会持续终生。”马丁不得不在求职面试，甚至是初次约会时提及此事。
03
任何人都可能受害
数字化时代，一张虚假的色情图像在网络上流传，极可能会直接影响受害者的现实生活。即便身体没有受到物理侵犯，受害者的尊严和对身体的掌控权会被彻底剥夺。
而在此次Grok事件中，部分受害者受到的伤害不仅源自照片本身，还有评论区的反应。
她们发帖表示愤怒和痛苦，却遭遇了典型的受害者有罪论，以及网络暴力的二次伤害。一些人轻描淡写地告诉她们，“这不是你”。还有人让她们别发照片，甚至对其进行荡妇羞辱。
面对愈演愈烈的AI性暴力，世界各国都在尝试建立防线。
Grok引发争议后，多国监管部门和媒体对X平台和Grok提出质疑，并在不同程度上采取了限制和封锁措施。
印尼政府暂时封锁了Grok网站。印尼通信和数字事务部于1月10日发表声明称，此举是为“保护妇女、儿童和整个社会免受利用人工智能技术生成的虚假色情内容的侵害”。
次日，马来西亚互联网监管机构也表示，在有效的安全措施落实到位前，将限制对Grok的使用。
- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接: