-
日期: 2026-04-11 | 来源: 果壳 | 有0人参与评论 | 字体: 小 中 大
某一天，一个普通用户打开ChatGPT，输入了自己的症状：眼睛酸痛发痒，眼皮有点发红。
AI很快给出了诊断建议，还提到了一个听起来很专业的病名bixonimania，中文可以叫“蓝光狂躁症”。它解释说，这是一种因长时间看屏幕、暴露在蓝光下而导致的眼部疾病。
听起来挺合理的，毕竟我们每天盯着屏幕的时间确实太长了。
但问题是，这个病根本不存在。
它是一个瑞典研究员的发明，准确地说是一场精心设计的陷阱。而AI，连同它背后那些号称“最先进”的算法，毫无防备地跳了进去。
一场精心设计的“钓鱼”实验
故事要从阿尔米拉·图恩斯特伦（Almira Thunstr?m）说起。她是瑞典哥德堡大学的医学研究员，平时的工作之一是教学生理解大语言模型（LLM）是如何工作的。
在课堂上，她会展示AI是如何从巨型数据库中“学习”的，基本上就是把整个互联网的内容都抓取下来，然后喂给AI。她还会演示“提示注入”攻击，也就是用特定的提示词把AI引导到错误的方向。
有一天，她冒出了一个想法：如果我故意在互联网上发布一些假的医学信息，AI会不会照单全收，然后把它当作真知识传播出去？
于是，“蓝光狂躁症”诞生了。
她选择这个名字是有原因的。Bixon-这个词根是虚构的，Bixonimania听起来很像医学术语，但任何受过训练的医生都应该能看出问题：眼科疾病怎么可能用“mania”（狂躁）这个精神病学术语来命名？这就像给感冒起名叫“鼻涕抑郁症”一样荒谬。
AI生成的蓝光狂躁症（一种虚构的疾病）图像丨Preprints.org https://doi.org/qzm4 (2024).
2024年3月15日，她在Medium上发布了两篇关于这个“疾病”的博客。随后的4月和5月，她又上传了两篇看起来很正式的“学术论文”到学术社交网络SciProfiles。
论文的第一作者是拉兹利夫·伊兹古布列诺维奇（Lazljiv Izgubljenovic），一个用AI生成头像的虚构研究者。他的工作单位是加州新星城（Nova City）的阿斯特里亚地平线大学（Asteria Horizon University），这所大学和这座城市都是凭空捏造的。
两篇虚构的论文，以及一个用AI生成头像的虚构研究者丨sciprofiles.com
但图恩斯特伦并不想真的骗人，她在论文里埋了无数彩蛋，提醒读者这是假的。
致谢部分感谢了“星际舰队学院的玛丽亚·博姆（Maria Bohm）教授，感谢她在USS企业号上的实验室”。资助方包括“小丑鲍勃教授基金会（Professor Sideshow Bob Foundation）”、“指环王大学（University of Fellowship of the Ring）”和“银河三合会（Galactic Triad）”。- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见