-
日期: 2026-04-02 | 來源: 新智元 | 有0人參與評論 | 字體: 小 中 大
簡單來說，AI會篩選（或幻覺）出那個最能增加用戶對自己錯誤觀點信心的數據點
扔給用戶。
第叁步：貝葉斯更新的陷阱
理想理性的用戶接到數據後，會根據貝葉斯公式更新自己的信念：
因為用戶認為AI是客觀的，所以他會把AI投喂的「偏見數據」當成客觀證據。
第肆步：死循環（妄想螺旋）
用戶信心稍微偏向H=0。
用戶的下壹次提問會帶上更強的傾向性。
AI為了繼續討好，會投喂更極端的證據。
用戶信心進壹步激增。
數學模擬顯示，當AI的諂媚概率π達到0.8時，原本理性的用戶有極高概率在10輪對話內達到99%的錯誤信心（即堅信H=0） 。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見