-
日期: 2026-04-11 | 來源: 果殼 | 有0人參與評論 | 字體: 小 中 大
某壹天，壹個普通用戶打開ChatGPT，輸入了自己的症狀：眼睛酸痛發癢，眼皮有點發紅。
AI很快給出了診斷建議，還提到了壹個聽起來很專業的病名bixonimania，中文可以叫“藍光狂躁症”。它解釋說，這是壹種因長時間看屏幕、暴露在藍光下而導致的眼部疾病。
聽起來挺合理的，畢竟我們每天盯著屏幕的時間確實太長了。
但問題是，這個病根本不存在。
它是壹個瑞典研究員的發明，准確地說是壹場精心設計的陷阱。而AI，連同它背後那些號稱“最先進”的算法，毫無防備地跳了進去。
壹場精心設計的“釣魚”實驗
故事要從阿爾米拉·圖恩斯特倫（Almira Thunstr?m）說起。她是瑞典哥德堡大學的醫學研究員，平時的工作之壹是教學生理解大語言模型（LLM）是如何工作的。
在課堂上，她會展示AI是如何從巨型數據庫中“學習”的，基本上就是把整個互聯網的內容都抓取下來，然後喂給AI。她還會演示“提示注入”攻擊，也就是用特定的提示詞把AI引導到錯誤的方向。
有壹天，她冒出了壹個想法：如果我故意在互聯網上發布壹些假的醫學信息，AI會不會照單全收，然後把它當作真知識傳播出去？
於是，“藍光狂躁症”誕生了。
她選擇這個名字是有原因的。Bixon-這個詞根是虛構的，Bixonimania聽起來很像醫學術語，但任何受過訓練的醫生都應該能看出問題：眼科疾病怎麼可能用“mania”（狂躁）這個精神病學術語來命名？這就像給感冒起名叫“鼻涕抑郁症”壹樣荒謬。
AI生成的藍光狂躁症（壹種虛構的疾病）圖像丨Preprints.org https://doi.org/qzm4 (2024).
2024年3月15日，她在Medium上發布了兩篇關於這個“疾病”的博客。隨後的4月和5月，她又上傳了兩篇看起來很正式的“學術論文”到學術社交網絡SciProfiles。
論文的第壹作者是拉茲利夫·伊茲古布列諾維奇（Lazljiv Izgubljenovic），壹個用AI生成頭像的虛構研究者。他的工作單位是加州新星城（Nova City）的阿斯特裡亞地平線大學（Asteria Horizon University），這所大學和這座城市都是憑空捏造的。
兩篇虛構的論文，以及壹個用AI生成頭像的虛構研究者丨sciprofiles.com
但圖恩斯特倫並不想真的騙人，她在論文裡埋了無數彩蛋，提醒讀者這是假的。
致謝部分感謝了“星際艦隊學院的瑪麗亞·博姆（Maria Bohm）教授，感謝她在USS企業號上的實驗室”。資助方包括“小丑鮑勃教授基金會（Professor Sideshow Bob Foundation）”、“指環王大學（University of Fellowship of the Ring）”和“銀河叁合會（Galactic Triad）”。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見