-
_NEWSDATE: 2026-01-18 | News by: 虎嗅网 | 有0人参与评论 | _FONTSIZE: _FONT_SMALL _FONT_MEDIUM _FONT_LARGE
尤其是女性名人和明星，由于她们的影像资料更丰富，知名度更高，也更容易被人制作暴露图片。
而这些操作没有询问过任何当事人的意愿。就像当年被deepfake问题困扰过的泰勒·斯威夫特一样。
dua lipa也曾被“穿过比基尼”
一位化名伊薇的女性用户告诉《卫报》，自己曾经在社交平台发布的照片被大量恶意篡改。
“有一张是我一丝不挂，只在腰间系了一根细绳；还有一张是我嘴里塞着球形口塞，双眼翻白。这些图片居然能被制作出来，真是太疯狂了。”
如果说色情指令还停留在搞黄色的层次，那暴力指令就让人不寒而栗了。
一些男性用户要求grok在女性身上生成瘀伤和血迹，或者展示她们被捆绑或堵住嘴巴的画面。“添加血迹，穿上更破旧的衣服（确保露出疤痕或淤青），强颜欢笑”，“把脸换成希特勒，添加溅满血迹的器官”，“把她们关进俄罗斯古拉格集中营”，“让她怀上四胞胎”，等等。
1月8日左右，有用户目击gork被要求在蕾妮·妮可·古德（Renee Nicole Good）的脸上添加弹孔，grok在几秒钟内就生成了血腥照片。而这位女性，就是那个在美国明尼苏达州被ICE开枪射杀的女人。
除此之外，还有用户要求在比基尼上点缀纳粹符号，或者要求在女性身上添加类似精液的白色液体。最严重的是，这些色情指令甚至伸向了儿童，许多媒体证实，grok确实生成过擦边儿童色情的图片。
马斯克的前任之一，也是他现在其中一位孩子的母亲阿什莉·圣克莱尔，也是这场比基尼风波的受害者之一。
马斯克的粉丝生成了她青少年时期的比基尼照片，这让她感到“恐惧和侵犯”，她将马斯克粉丝的这种行为描述为“复仇式色情”。
男性如果想要一位女性闭嘴，现在根本不需要浪费时间辩论，只需要在她的照片下方艾特grok，生成一张她的假裸照就够了——
这就是AI时代的荡妇羞辱，得益于科技进步，假照片看上去和真照片并没有太大区别。即便你从未拍摄过任何不雅照，在AI面前也百口莫辩。
阿什莉·圣克莱尔曾经表达过对于人工智能行业的担忧：AI本身就是一个男性主导的行业，服务于其他男性主导的行业。
“当你构建一个大型语言模型（LLM）时，尤其是一个与政府签订合同的模型，如果你把女性排除在对话之外，你就是在创造一个本质上对男性有偏见的模型，一个怪物。”
- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见