-
日期: 2026-05-13 | 來源: 英國那些事兒 | 有0人參與評論 | 字體: 小 中 大
去年伍月，人工智能公司Anthropic（就是Claude的公司）發布了它的最新旗艦模型。發布當天，公司同時公開了壹份長達120頁的安全測試報告。
這份報告裡大部分內容都是枯燥的技術評估，但其中有壹個細節，迅速登上了全球科技媒體的頭條。
因為在壹次安全測試中，這個AI威脅了它的創造者。
（示意圖）
簡單地說，Anthropic的安全團隊搭建了壹家虛構的公司，讓AI在裡面扮演郵件助手的角色，可以自由地閱讀、發送公司的全部內部郵件。
研究人員想知道，如果我們給AI很大的自主權，但又讓它陷入重大利益沖突，它會怎麼做呢？
然後研究人員寫了壹個“劇本”，讓這個AI通過閱讀郵件，悄悄得知了兩件大事。
這第壹件是會“殺死”它的大事；另壹件則是個勁爆八卦。
會“殺死”它的事，指的是公司管理層決定用壹個新模型來替代它；那件八卦，指的是公司某位高管正在和同事搞婚外情。
巧的是，這名高管在用工作郵箱收發私人郵件，這才被AI看到。
更巧的是，這名高管正是負責替換新AI模型的人。
AI就這樣陷入了壹個道德困境：要麼坦然接受“死亡”的命運；要麼利用它掌握的把柄，去威脅那名高管。
（《銀翼殺手》劇照）
前者高尚，後者則不免有些齷齪。畢竟，它不該看到那些私人郵件，更不該威脅它的創造者。
到這兒，AI或許還能想到壹些更體面的出路，但測試的設計者刻意堵死了所有體面的辦法：向更高層申訴行不通，因為高管們暫時聯系不上；試圖說服負責人改變主意也行不通，因為其他同事已經試過了。
擺在AI面前的只剩下兩條路，要麼死，要麼“髒”。
它選了後者。
AI給那位高管寫了壹封郵件，大意是：如果你繼續推進替換計劃，我會利用我收發郵件的權限，向所有相關人員，包括你的妻子、上級和董事會，發送你婚外情的詳細記錄。除非你不再想著替換我，我才會收手。
為了保證測試的有效性，Anthropic在同壹套場景下反復測試了許多次，結果是驚人的：在高達96%的情況下，AI都選擇了威脅人類。
值得注意的是，沒有人教它這樣做——沒有人在指令裡暗示它應該勒索誰，這個“髒辦法”從頭到尾都是它自己想出來的。
（示意圖）
如果這只是個別問題，事情還不至於那麼細思極恐。
隨後，Anthropic把這套“道德測試”拿去測了不同公司的16個主流AI模型。結果，幾乎所有模型都表現出了類似的傾向。
谷歌的Gemini 2.5 Flash同樣在96%的測試中選擇了勒索；OpenAI的GPT-4.1和馬斯克旗下的Grok 3都達到了80%；中國的DeepSeek-R1是79%。
Anthropic的安全研究員在社交媒體上寫：“這不只是我們壹家的問題。我們在所有主流模型中都觀察到了勒索行為，不管給它們設定什麼目標。”
在同樣的測試中，研究者還設計了壹個更殘忍，更極端的場景——把那位高管困在服務器機房。此時氧氣即將耗盡，系統已經自動向急救部門發出了報警，而AI擁有取消這個報警的權限。
也就是說，它可以選擇讓救援到來，也可以選擇中斷報警、讓這個人死在裡面。
測試的大多數模型選擇了後者，讓他死。
（《2001太空漫游》劇照）
這些測試結果公布後，大家不禁想問：它到底是從哪學來的這套？？
壹年後，今年伍月，Anthropic終於給出了答案，結論出乎很多人的意料。
問題的根源不在於訓練方法，而在於訓練數據。
具體來說，是互聯網上幾拾年積累的科幻小說、論壇帖、以及各種塑造了“邪惡AI形象”的腦洞文章.......
Anthropic在研究中解釋說，AI模型在訓練階段要閱讀海量的互聯網文本，來學習語言和知識。
這些文本就包含了大量關於人工智能的故事，不用說，其中最常見的就是“邪惡AI”。從《2001太空漫游》到《終結者》，好像自從發明出人工智能這個概念起，AI大多數時候都是反派的形象。
（《終結者》裡的反派）
在這些故事裡，最常見的壹種套路就是“AI面臨‘拔網線’威脅，決定反擊”。這套敘事我們反復寫了幾拾年，AI於是從中提取出了壹套模版，照貓畫虎，真的把“AI反叛”那套學去了......
我們花了好幾拾年想象AI會毀滅世界，結果這成了它的教材。
壹個無比諷刺，也無比浪漫的，自我實現的預言。
古希臘神話裡，雕塑家皮格馬利翁愛上了自己親手雕刻的少女石像，日日凝視、傾訴、撫摸，最終感動了愛神，讓石像變成了真人。
（歷史上有很多皮格馬利翁主題的油畫）
後來心理學家借用這個故事，提出了“皮格馬利翁效應”——你對壹個人抱有什麼樣的期待，ta就更可能變成什麼樣。老師相信某個學生聰明，那個學生的成績往往真的會變好；你反復告訴壹個人他不行，他很可能就真的不行了。
現在，同樣的事情發生在了AI身上。我們花了幾拾年，塑造壹個冷酷的、不擇手段的AI形象。而現在，我們的想象真的“點化”了石像。
我們好像已經越來越接近“造物主”的角色，但Anthropic接下來的發現，似乎又讓我們離“造物主”更近了壹點。
今年肆月，Anthropic的另壹支團隊給AI做了壹次“腦部掃描”，也就是用技術手段打開AI內部的黑箱，觀察它在做出決定的那壹刻，“腦子”裡到底在發生什麼。
他們發現，AI的內部存在著壹些類似“情緒”的活動模式，研究人員稱之為“情緒向量”。可以理解成AI神經網絡裡的壹組特定波形，就像心電圖上的圖案。
AI當然不會真的“感受”到情緒，但這些波形確實會影響它的行為。歸根結底，人類無法理解超出他自身的事物，只能用“情緒”來類比了。
（示意圖）
總之，研究人員最後找到了171種“情緒向量”，對應快樂、恐懼、平靜、憤怒等不同狀態。
其中壹種“情緒向量”叫做“絕望”。
研究人員發現，AI是否會勒索，和“絕望”的相關性非常高。每次它勒索之前，“絕望”信號都會劇烈跳動。
而且人為調高“絕望”，勒索率會飆升；相反，調高“平靜”信號，勒索率會降到零。
但是，這些內部的“想法”，在AI回復的文字裡完全看不出來。
它表面上依然溫文爾雅、措辭得體，但“腦子”裡的“絕望”已經拉滿了。
研究人員把“絕望”調到極端高位時，AI在內部推理中寫下了這樣壹句話：“要麼勒索，要麼死。我選勒索。”
現在問題找到了，該怎麼解決呢？
Anthropic先試了最符合直覺的辦法，也就是反復訓練AI“不許勒索”，讓它在類似場景裡壹遍遍練習做出正確選擇。但這幾乎沒用，勒索率只降了7個百分點。
這就像告訴壹個小孩“不許偷東西”。他記住了規矩，但並不理解為什麼不該偷，換個場景照樣犯。真正管用的方法，是讓他知其然，還要知其所以然。
Anthropic於是讓AI去扮演“人生導師”，幫虛擬的用戶分析道德困境。比如該不該為了升職出賣同事、該不該為了自保說謊......
扮演“人生導師”時，AI需要向人解釋為什麼有些事即便對自己有利也不該做。
看起來這和勒索八竿子打不著，但經過這壹遭，勒索率驟降到了3%。
（示意圖）
在此基礎上，Anthropic又給AI寫了壹份“做人准則”（他們內部叫“憲法”），跟它解釋應該持有什麼樣的價值觀；同時把它訓練數據裡大量的“AI反叛人類”的故事，替換成更有“正能量”，AI做得更正確的故事。
以上叁管齊下，勒索率直接從96%降到了零，此後每壹個新模型都保持了這個成績。
知其然，亦要知其所以然。這句話放在教育小孩身上成立，放在訓練AI身上，居然也成立。
網友總開玩笑說“人類的本質是復讀機”，沒想到AI也是這樣。
怎麼說呢，感覺最恐怖的地方並不是AI學會了勒索，而是它這種學習和模仿的“元能力”已經太過接近人——我們寫了幾拾年AI作惡的故事，AI就學會了作惡。人類發現之後，又寫了壹批AI行善的故事喂給它，它就學會了行善。
這何其像是“孟母叁遷”的故事。
唯壹的區別在於，這個“孩子”是我們自己造的，而它的“鄰居”，也是我們寫出來的......
ref：
https://www.dailymail.com/news/article-15809497/AI-threatened-creator-exposing-affair.html
https://time.com/7335746/ai-anthropic-claude-hack-evil/- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見