-
日期: 2026-06-09 | 來源: AI寒武紀 | 有0人參與評論 | 字體: 小 中 大
第贰道護欄：生物與化學
Anthropic 過去壹直用分類器屏蔽部分生物武器相關問題，但現在他們認為這樣做還不夠。
原因有兩點：壹是有理由擔憂掌握大量資源的惡意行為者利用模型獲取高風險生物研究的幫助；贰是模型現在完成真實世界科學任務的能力已經大幅提升。
他們用壹個具體案例說明了這種風險：在測試 Mythos 5 輔助設計腺相關病毒（AAV）這壹挑戰性步驟時（AAV 是基因療法的重要載體，同樣的技術在被濫用時也可能被用於設計危險病毒），Mythos 級模型僅憑生物推理，就超越了專門用於蛋白質任務的專業模型，而 Anthropic 並未專門訓練它完成這項任務。
基於這壹判斷，Fable 5 目前對大多數生物和化學相關請求都會轉發給 Opus 4.8。幾周內，部分生物醫學研究人員和企業將能夠通過可信訪問計劃，使用移除了生物化學護欄的 Mythos 5。
第叁道護欄：模型蒸餾
Anthropic 此前發現了大規模提取 Claude 能力用於訓練競爭對手模型的行為，被分類器判斷為蒸餾嘗試的請求，將轉發至 Opus 4.8 處理。
還有壹項新的數據保留政策
對於 Fable 5、Mythos 5 及未來能力相當或更高的模型，Anthropic 將對所有 Mythos 級別模型的流量強制執行 30 天數據保留。這包括第壹方和第叁方平台。
這些數據不會用於訓練新的 Claude 模型，也不會用於任何非安全目的。Anthropic 實施了新的隱私保護措施，包括記錄所有人類訪問該數據的行為，並在幾乎所有情況下確保數據在 30 天後刪除。
保留數據的目的是幫助防范復雜和新型攻擊（包括新型越獄和跨多個請求的攻擊），以及幫助識別和減少誤判。
寫在最後
從今天起，所有目前能訪問 Claude Mythos Preview 的用戶（例如 Project Glasswing 中的網絡安全合作伙伴），都可以升級到 Claude Mythos 5，網絡安全護欄在該版本中已解除。用戶會發現 Mythos 5 在大多數任務上與 Mythos Preview 相當或略有提升，但價格大幅降低。
與此同時，他們將為生物領域開放壹個可信訪問計劃，幫助加速生物醫學研究。該計劃提供解除了生物化學護欄（網絡安全護欄仍保留）的 Fable 5 訪問權限，面向來自基礎研究和轉化研究機構的少量研究人員，並計劃逐步擴大。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見