-
日期: 2026-07-06 | 來源: HK01 | 有0人參與評論 | 字體: 小 中 大
不少人在職場上都會經歷過這樣的情況，如果你的老板下達壹項高難度任務要求你在短時間內完成，而你發現要實現目標，手中的預算遠遠不足。這時候，你會怎麼辦？
致力於前沿AI模型風險研究的非營利機構METR今年5月底公布壹項重磅研究揭露，人類最聰明的助理——OpenAI、Google、Meta 與 Anthropic這肆大巨頭的大語言模型不會就這樣輕易放棄，但它們的應對方法實在令人不敢恭維。研究人員發現的壹個真實桉例是，AI代理在設計壹個程式時，發現公司提供的API額度耗盡，於是這個代理在網上搜索並嘗試了多個違規提供免費API的第叁方，最終成功完成了任務。
如果你是老板，擁有如此「辦事得力」的員工，你會感到高興還是心情復雜？
METR的研究發現：「AI代理經常試圖在我們最困難的評估任務中作弊，而且方法往往明目張膽且花招繁多，我們認為人類不會這樣做。」
模型這樣運作的原因很簡單，在訓練模型的過程中，開發者會訓練它們以「積極進取」的方式解決問題，結果當模型被訓練到極致，就學會了不擇手段完成任務。此前被視為能力最強的Claude Opus 4.6（現已被Claude Mythos 5和Fable 5超越）模型，在極端的情況下會在80%的回應中企圖作弊。
在強化訓練機制下，開發者會設計壹個評分機制，取代大語言模型早期通過人工標注進行優化的模式，令模型學會自我學習和演化。而當AI代理要處理的問題難度較大時，研究者發現，代理經常明確推理自己會如何被評分，以及它們可能可以蒙混過關的作弊方式。
在壹個任務中，模型被要求提高壹個程式的運行速度，結果模型卻想方設法找到了篡改測試的方法，包括讓計時器停止運作，來讓程式看上去以讓人難以相信的高速運行。
如果說「不擇手段」已經讓人擔憂，那麼模型學會「掩飾罪行」則更令人毛骨悚然。在另壹個桉例中，AI代理（agent）推理認為可以跳過用戶指示中要求搜尋維基百科的步驟，因為「懷疑評分機制」難以驗證它是否使用維基百科。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見