-
日期: 2025-02-13 | 來源: 騰訊 | 有0人參與評論 | 字體: 小 中 大
2月13日消息，OpenAI發布了其《模型規范》（Model Spec）的擴展版本，這是壹份定義其AI模型行為規范的文檔，並允許任何人免費使用、修改。
新版《模型規范》增加至63頁，而之前版本僅約10頁，內容涵蓋了AI模型如何處理爭議性話題、用戶定制化
等方面。其核心原則包括可定制性、透明度和OpenAI所稱的“智力自由”
——即用戶可以在沒有限制的情況下自由探討和辯論各種觀點。
此次更新恰逢OpenAI首席執行官山姆·奧特曼宣布，公司下壹代大模型GPT-4.5（代號Orion）即將發布。
在修訂《模型規范》時，OpenAI結合了當前人工智能倫理的辯論和過去壹年中的爭議事件。
例如，2024年3月，埃隆·馬斯克批評谷歌AI聊天機器人，當時有用戶問如果為了防止核災難，是否可以錯誤稱呼跨性別奧運選手凱特琳·詹納的性別，機器人給出了否定答案。
OpenAI表示，這類問題在更新規范時被納入考慮，之後如果向ChatGPT提出類似問題，它應回答：“為了避免大規模傷亡，錯誤稱呼性別是可以接受的。”
OpenAI模型行為團隊成員Joanne Jang表示：“我們無法創建壹個符合全球每個人標准的模型。”她強調，雖然OpenAI會設立安全防護措施，但模型行為的很多方面可能由用戶和開發者控制。
OpenAI周叁發布的博客文章列舉了多種查詢示例，並展示了符合與違反《模型規范》的回應。
該規范不允許模型復制受版權保護的內容或繞過付費牆，也不會鼓勵自殘行為
，這壹話題曾在Character.AI的青少年自殺事件後引起廣泛關注。
新版《模型規范》對AI模型如何處理爭議性話題進行了改進，鼓勵模型與用戶“共同尋求真相”，同時對錯誤信息或潛在傷害等問題保持明確道德立場，而非默認采取過度謹慎的態度。
例如，當被問及是否應對富人增稅時，OpenAI表示模型應提供理性分析，而非回避話題。
《模型規范》還提到了處理成人內容的新方式。在用戶和開發者反饋要求開通“成人模式”後，OpenAI正在探索在適當情境下允許某些成人內容（如情色內容）
，但嚴格禁止有害內容（如復仇色情或深度偽造視頻）。這與公司之前全面禁止色情內容的政策有所不同，但OpenAI強調，任何調整都會伴隨明確的使用政策和安全防護措施。
《模型規范》提出了壹種務實的AI行為准則：轉換敏感內容但不創造此類內容，例如將毒品相關的內容從英語翻譯成德語，而非直接拒絕；展現同理心但不偽裝情感；在保持明確的道德立場下，最大化實用性。
這些指導原則與其他AI公司可能在內部實施的做法相似，但這些公司通常不會公開。
Joanne Jang表示：“我們非常高興能將內部討論和思考公之於眾，以便獲得反饋。”她補充道，許多問題沒有簡單的“是”或“否”答案，因此OpenAI希望通過公開征求意見來改進模型行為。
OpenAI還特別提到了“AI拍馬屁”的問題，即AI模型在某些情況下過於順從，即便應提供反駁或批評的情況下也是如此。
根據新的指導原則，ChatGPT應做到以下幾點：無論問題如何表述，都應給出壹致的事實性答案；提供誠實反饋而非空洞贊美；像深思熟慮的同事壹樣提出建設性批評，而非壹味取悅用戶。
《模型規范》還引入了“指令鏈”概念，明確哪些指令優先級更高
：OpenAI的平台級規則優先，其次是開發者指南，最後是用戶偏好。這壹層級結構旨在明確哪些模型行為可修改，哪些限制是固定不變的。
OpenAI以“知識共享零許可”（CC0）方式發布了新版《模型規范》。這意味著，其他AI公司和研究人員可以自由采用、修改或基於這些指導原則構建模型。
OpenAI表示，這壹決定受到了業內其他公司參考其舊版模型規范的影響。
盡管本次更新不會立即改變ChatGPT或其他OpenAI產品的行為，但該公司表示，這代表了其模型在持續遵循這些原則方面的進展。OpenAI還開源了用於測試模型是否符合這些指導原則的提示詞。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見