-
日期: 2026-07-10 | 來源: 騰訊 | 有0人參與評論 | 字體: 小 中 大
壹場在梵蒂岡的演講
2026年5月25日，梵蒂岡保祿六世大廳。講台上站著兩個人：身著白色長袍的教宗利奧拾肆世（Pope Leo XIV），穿著深色西裝、戴著眼鏡的克裡斯·奧拉（Chris Olah），AI公司Anthropic的聯合創始人、可解釋性研究負責人。
他們共同出席的，是教宗第壹份通諭 《Magnifica Humanitas》（壯麗人性）的發布會。這份長達42,300字的文件，副標題是 “論在人工智能時代守護人性”。這並非梵蒂岡首次回應技術變革。1891 年，《新事》回應工業革命對工人的剝削；1963 年《和平於世》反思核武器倫理；2015 年《願你受贊頌》聚焦氣候變化。今天，AI引發了這個時代最值得警惕的技術危機。
通諭開篇指出：技術本身不是惡的，但也絕非中立。教宗利奧拾肆世認為，我們不能將AI妖魔化，也不能神化它。他承認AI作為工具有其價值，但強調必須在多個方面保持“警惕”：
首先是AI權力過度集中。“當這種權力集中在少數人手中時，它往往變得不透明，逃避公眾監督，增加扭曲發展形式的風險，導致新的依賴、排斥、操縱和不平等。”
其次，AI驅動的失業可能成為“社會災難”。教宗承認AI能提高生產率、讓某些工作更安全，但堅持工人不能在這個過程中變得“可丟棄”。
來自人工智能公司的代表奧拉對這些問題並不回避。他表示，“每壹家前沿AI實驗室，包括我自己所在的，都處於壹套復雜的激勵機制與現實約束之中，這些因素有時會和堅守正道、恪守良知產生沖突。”
他解釋道，“AI系統不是像橋梁或飛機那樣被‘設計’出來的。我們理解飛機，因為我們設計了它的每壹個部件，也理解作用在它身上的物理定律。AI模型不是這樣。它們是在壹個大致模仿大腦的結構上‘生長’出來的，建立在人類思想和語言的巨大遺產之上。”
隨後，他指出，“有些人可能認為AI問題最好由像我這樣的計算機科學家來處理。他們錯了：AI提出的問題比AI研究社區更大，不僅在其影響上，也在其性質上”，當AI的社會沖擊已經如此之大，產業界不可能不作回應1,2。這或許能解釋，為什麼Anthropic、Google DeepMind等西方AI大模型公司開始把哲學家請進實驗室。
對齊：既是技術問題，也是哲學問題
通諭主張，“尊嚴先於功能，人性不可被任何技術邏輯削減”。對於技術公司來說，首先要面對的，就是AI對齊（Alignment）問題，讓通用人工智能（AGI）的目標、行為與人類價值觀、倫理准則保持壹致避免AI失控。對齊問題之所以棘手，不僅因為技術上怎麼讓AI遵守規則很難，更根本的是：到底該讓AI遵守誰的規則？人類自身在道德問題上都沒有共識。這壹困境，在哲學上等價於“我們如何定義人的善、人的意圖、人的尊嚴，並且讓壹個非人的智能體內化它？”
圍繞這壹問題，美國頂尖AI公司紛紛邀請哲學家、倫理學家甚至宗教領袖參與治理。
作為近些年在人工智能領域最為引人矚目的公司，Google DeepMind早在2017年就成立了倫理與社會研究部門，由牛津大學政治理論學博士Iason Gabriel牽頭。Gabriel的代表論文《人工智能、價值與對齊》被引用超過1700次，成為AI對齊領域的重要文獻，深入探討了“人類價值觀如何轉化為AI可理解的指令”這壹問題，認為價值對齊由不可分割的技術層和規范（normative）層共同構建。前者給定壹套價值/原則，如何把它可靠地編碼進 AI系統，讓AI遵從。後者討論到底該把哪套價值編進去才是對的。是人權框架、用戶的顯式指令還是全人類的長期利益等。
Gabriel的貢獻在於把對齊問題拆解為多個層次：指令、表達的意圖、顯現的偏好、知情/理想的偏好、利益和價值六個層級。他舉了壹個例子，神話中米達斯國王許願讓觸碰到的所有東西都變成金子，結果食物、水乃至女兒都化為黃金。這說明AI對齊到字面指令層，會導致災禍。但如只對齊到顯現偏好層，可能被操縱。因此，他主張對齊不能只停留在某壹個層面，而必須綜合考慮指令、意圖、偏好、利益和價值等多個維度。
最後，針對多元社會的矛盾，即人類不存在統壹、公認的道德標准，他提出對齊理論的任務不是尋找唯壹正確道德，而是構建能夠獲得所有人反思性認同（Reflective Endorsement）的公平對齊原則。這套原則不需要所有人在底層道德觀達成壹致，但必須滿足全球公共道德、假說同意（Hypothetical Agreement，即人們在不知道自己身處哪個國家、什麼階層和信仰時會同意的AI原則）、社會選擇理論叁大標准，以此消解價值觀多元帶來的對齊困境。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見