-
日期: 2026-05-22 | 來源: 刺蝟公社 | 有0人參與評論 | 字體: 小 中 大
在擁有可靠的變現方式前，AI助手的每壹次推理和回答都是純支出。如果成本目標設定得非常低，無論帕累托前沿再怎麼優化，精確性的天花板都不會太高。
免費、快速、准確性，幾乎是AI助手的不可能叁角。
AI犯錯，可以只說對不起嗎？
寫到這裡，好像是在給不斷犯錯不斷道歉的AI助手辯解，但在搞清楚原因後，我真正想說的不是“情有可原”。
免費不是萬能的擋箭牌。
在“誠實”的人格課題上，設計者們顯然花了很大力氣，告訴這些AI助手：如果被人發現犯錯，不要嘴硬，要誠懇道歉，勇於說對不起。
但AI的理解重點，是“被人發現”。被人發現犯錯，那就道歉；壹句謊言被戳穿，等於要輸出N句對不起。壹些token被用來提問，壹些token被用來回答問題，壹些token被用來指出問題有誤，壹些token被用來道歉。Token完成了消耗，人獲得了0點新信息和壹肚子火。
不過沒有信息增量，已經算是不錯的結果了。
如果你沒有識破AI的謊言，例如將AI偽造的餐廳預約結果信以為真，並興沖沖地前往餐廳就餐，則還會獲得壹個糟糕的周末。
如果你把這壹趟遭遇發到社交平台，則還有可能獲得若幹句嘲諷。例如：“AI說的你也信？”“沒有信息辨別能力嗎？”相信AI信息而犯錯，甚至有可能被網友認定為“AI時代的半文盲”。
但謊言就是謊言，錯誤就是錯誤。壹旦辨別信息的成本全然被轉移到用戶側，“常識”的概念就會被無限擴大，邊界也會被不斷模糊。如果“AI定餐廳會騙人”是常識，“5月20日布拉格機場到CK小鎮沒有直達大巴”是常識，那麼什麼不算常識？
面對疾風吧
成本和性能壓力下，犯錯和道歉正在成為AI助手們的系統性策略。
自媒體時代，也有海量不實信息發布到公共平台，讓用戶難辨真偽。但AI時代被批量制造的錯誤信息，有更隱秘的殺傷力：它們時而在知識上全知全能，成為大眾日常問壹問的對象，但時而又會犯最低級的錯誤；它們的答案沒有被放置到公共語境中，錯誤只徘徊在提問者和手機屏幕之間，所以也不會被更多雙眼睛看到，繼而有被戳破的可能。
我們這壹代人的信息辨別能力，是在有相對權威信源的環境下習得的。壹旦AI成為下壹代人的主要信息獲取方式，從小與AI相伴長大的孩子，要怎麼學會何時該質疑AI的答案？
AI助手們隨意給出錯誤答案的風險，不應該像當前這樣被漠視，被歸結為“自己沒有辨別能力”或是“沒有花錢用更貴的模型”。商業邏輯裡，所有損失都可以被量化，回答錯誤N次，會減少還是增多請求數，會帶來多少DAU和使用時長流失，都能被計算成精確的數字。但社會系統中，不是所有風險都可以被trade-off。
要求平台不顧成本，以最優模型能力應對每壹次提問，顯然是天方夜譚。技術上難以實現，企業也不是做慈善的。那麼在技術或者商業化收益能解決成本問題前，是否可以標注出每次回答的置信度，哪怕這樣會帶來DAU的流失。
知之為知之，AI已經學得很好了。接下來，AI助手們也應該學壹學，什麼叫做“不知為不知”。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見