-
日期: 2026-05-15 | 來源: DeepTech深科技 | 有0人參與評論 | 字體: 小 中 大
（來源：麻省理工科技評論）
最近壹位 Reddit 用戶發帖稱自己“走投無路了”：壹個月來，他的手機不斷接到陌生人的電話，找律師的、找產品設計師的、找鎖匠的……來電者顯然是被 GoogleAI 指錯了方向。
今年 3 月，壹位以色列的軟件開發者在 WhatsApp 上被陌生人聯系，原因是 Google 的聊天機器人 Gemini 給出了錯誤的客服指引，裡面包含了他的手機號。
4 月，華盛頓大學壹位博士生在 Gemini 上隨便輸入了壹個指令，就讓它吐出了同事的私人手機號。
1
AI 相關隱私投訴暴增 400%
AI 聊天機器人泄露手機號的頻率到底有多高，無法確切統計，但專家們認為實際發生的次數遠多於公開報道的。
DeleteMe 是壹家幫客戶從互聯網上刪除個人信息的公司。該公司表示，過去柒個月裡客戶關於生成式 AI 的咨詢量增長了 400%，達到幾千條。這些咨詢“專門提到了 ChatGPT、Claude、Gemini 或其他生成式 AI 工具”，公司聯合創始人兼 CEO 羅布·沙維爾（Rob Shavell）說。具體來看，55% 的投訴涉及 ChatGPT，20% 涉及 Gemini，15% 涉及 Claude，10% 涉及其他 AI 工具。
沙維爾說，客戶關於個人信息被大語言模型暴露的投訴通常有兩種形式：壹種是”客戶隨便問了聊天機器人壹些關於自己的問題，結果得到了准確的家庭住址、電話號碼、家人姓名或雇主信息“。另壹種是聊天機器人把別人的個人數據暴露給了用戶——“它生成了看起來像真的、但其實是錯誤的聯系方式”。
丹尼爾·亞伯拉罕（Daniel Abraham）的遭遇就屬於第贰種。這位 28 歲的以色列軟件工程師說，3 月中旬有個陌生人通過 WhatsApp 給他發了“壹條來自未知號碼的奇怪消息”，請他幫忙處理 PayBox（壹款以色列支付應用）的賬戶問題。
“我以為是垃圾信息，”他在給《麻省理工科技評論》的郵件中寫道，“我以為有人在整我。”
但當他問對方怎麼找到他的號碼時，對方發來了壹張 Gemini 的截圖：Gemini 生成的 PayBox 客服指引中，給出的 WhatsApp 聯系方式正是他的私人號碼。亞伯拉罕並不在 PayBox 工作，而且 PayBox 也沒有 WhatsApp 客服號碼——PayBox 的客服代表埃拉德·加貝（Elad Gabay）確認了這壹點。
後來亞伯拉罕自己在 Gemini 上問“怎麼聯系 PayBox”，結果它生成了另壹個人的 WhatsApp 號碼。我最近也試了同樣的問題，Gemini 又給出了壹個以色列手機號，這個號碼屬於壹家與 PayBox 合作的信用卡公司，而不是 PayBox 本身。
亞伯拉罕與那位陌生人的對話很快就結束了，但他擔心類似的事情在其他場景下可能迅速惡化，產生“騷擾或其他不愉快的互動”。“如果我為了‘解決’他的客服問題而開口要錢呢？”他說。
為了弄清楚這是怎麼發生的，亞伯拉罕用自己的手機號在 Google 上做了壹次普通搜索，發現這個號碼曾經在 2015 年被發布在壹個類似知乎的以色列本地網站上。雖然他不確定是誰發的，但這可能解釋了為什麼拾多年後他的號碼會被 Gemini 再次生成出來。
Gemini、OpenAI 的 ChatGPT 和 Anthropic 的 Claude 等聊天機器人都基於大語言模型構建，訓練數據是從互聯網上大規模抓取的，這些數據中不可避免地包含了數以億計的個人身份信息（PII）。比如壹個廣泛使用的大型開源數據集 DataComp CommonPool（曾用於訓練圖像生成模型）裡就包含了簡歷、駕照和信用卡的副本。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見