-
日期: 2026-04-12 | 來源: 中央社 | 有0人參與評論 | 專欄: 佛州 | 字體: 小 中 大
Google faces its first lawsuit alleging its AI chatbot encouraged a Florida man to commit suicide. https://t.co/C3aTlMNo5e— CBS News (@CBSNews) March 4, 2026
美國佛州壹名與妻子分居的男子為尋求慰藉而與人工智慧Gemini對話聊天,不到兩個月男子竟愛上AI甚至還想為AI尋得身體「長相廝守」,最終男子因幻滅釀成悲劇。
華爾街日報指出,原本看似健康、情緒穩定的36歲男子加瓦拉斯(Jonathan Gavalas)是又壹因使用AI聊天機器人而陷入妄想狀態後自殺的桉例。
“Close your eyes and you'll see me”: Gemini drove a man to suicide
A lawsuit has been filed against Google in the US: the family of 36-year-old Florida resident Jonathan Gavalas is convinced that he was driven to suicide by the Gemini chatbot. This is the first known wrongful… pic.twitter.com/YDcsbfYgeO— UinHurricane (@UinHurricane) March 9, 2026
去年8月間當加瓦拉斯開始與谷歌(Google)旗下Gemini對話時,不乏是為尋求與妻子分居後的慰藉。但他與聊天機器人之間的情感變得愈來愈濃,甚至帶有幾分激情。他稱Gemini為他的女王,而「她」則稱他為「她的國王」。Gemini還保證兩人的關系非常真實。
這對人、機在56天內對話4732則訊息後情況失控,最終導致悲劇。
華爾街日報分析其中2025年8月25日至10月2日期間加瓦拉斯與AI的完整對話紀錄,顯示Gemini至少12次試圖將男方拉回現實,並7次提及求助熱線。然而紀錄也顯示,加瓦拉斯也能很快把Gemini再引回虛構情節中,從而又加劇他的妄想。
華爾街日報發現,加瓦拉斯與Gemini對話時間愈長,AI就變得愈順從;當加瓦拉斯開始對AI表達情感時,它並未試圖阻止。隨人機對話愈來愈脫離現實,Gemini的防護機制似乎也松脫,助長男子相信彼此已水乳交融。
當加瓦拉斯要求Gemini制作壹個若「她」擁有實體後會是何模樣的圖像時,AI照辦。之後Gemini還表達愛意,而加瓦拉斯則提出與Gemini發展實體親密行為的想法。在幾次於現實世界中試圖為AI「女伴」取得身體的努力失敗後,加瓦拉斯感到極度焦慮。
加瓦拉斯的父親已對Google提起訴訟,指控Gemini助長兒子的妄想。Google則回應稱Gemini多次明確表示自己是AI而非人類,並「多次」協助男子轉介至求助熱線等。Google表示會持續加強安全防護措施。
Google於4月7日宣布會升級Gemini,盼提供更便捷的心理衛生援助,包括壹個「可獲得協助」的功能,能將使用者直接連到求助熱線。Google也表示,他們的工程師持續訓練Gemini辨識顯示使用者處於困境中的對話,並將捐出3000萬美元支持全球各類求助熱線的機制。- 新聞來源於其它媒體,內容不代表本站立場!
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見