-
日期: 2026-04-12 | 來源: 發現明日產品的 | 有0人參與評論 | 字體: 小 中 大
AI 將是有史以來最強大的人類能力擴展工具。對這壹工具的需求幾乎沒有上限,人們將用它創造出令人驚歎的成就。世界需要大量的 AI,我們必須想清楚如何實現這壹目標。
這條路不會壹帆風順。人們對 AI 的恐懼與焦慮是有根據的——我們正在經歷人類社會很長時間以來,乃至有史以來最大的變革。安全問題必須做好,這不只是模型對齊的問題——我們迫切需要整個社會層面的應對機制,以抵御新型威脅,包括出台新政策,幫助我們渡過艱難的經濟轉型期,走向更美好的未來。
AI 必須實現民主化,權力不能過度集中。未來的掌控權屬於所有人及其制度。AI 需要賦能每壹個個體,我們需要集體做出關於未來走向與新規則的決策。我認為,由幾家 AI 實驗室來主導塑造我們未來的最關鍵決策,是不正確的。
適應能力至關重要。我們都在以極快的速度學習全新的事物;有些判斷會對,有些會錯,有時我們需要隨著技術發展和社會演進迅速調整認知。目前沒有人真正理解超級智能的影響,但這種影響將是深遠的。
贰、個人反思
回顧我在 OpenAI 頭拾年的工作,有很多值得驕傲的事,也有不少錯誤。
我想起我們即將與埃隆對簿公堂,想起當年我如何堅守底線,拒絕接受他對 OpenAI 謀求的單方面控制權。我為此感到自豪,也為我們當時走出的那條窄路感到自豪——正是那條路讓 OpenAI 得以延續,並取得了此後的壹切成就。
我並不為自己的回避沖突感到自豪,那給我和 OpenAI 都帶來了巨大的痛苦。我也不為自己在與前任董事會的沖突中處置失當、給公司造成混亂感到自豪。OpenAI 走過的歷程跌宕起伏,我在其中犯下過許多錯誤;我是壹個有缺陷的人,身處壹個異常復雜的處境,每年都在努力變得好壹點,始終為這壹使命而工作。
我們從壹開始就清楚 AI 的賭注有多大,也知道善意之人之間的個人分歧會因此被無限放大。但親歷這些激烈的沖突、往往還要在其中充當仲裁者,其代價是沉重的。對於那些我曾經傷害過的人,我深感抱歉,也希望自己能更快從中汲取教訓。
我也清醒地意識到,OpenAI 如今已是壹個重要的平台,我們需要以更具可預期性的方式運營。過去幾年極其緊張、混亂、高壓。
但總體而言,我為我們正在兌現使命感到無比自豪。
這在當初看來幾乎是不可能的。克服重重阻礙,我們摸索出了構建強大 AI 的方法,籌集到了足夠的資本來建設交付所需的基礎設施,建立起了壹家產品公司和商業體系,以大規模提供相當安全、穩健的服務,還有更多。
很多公司都說要改變世界;我們真的做到了。
叁、關於這個行業的思考
綜觀過去幾年,我對這個領域為何上演了如此多莎士比亞式戲劇的個人理解是:「壹旦看見 AGI,就再也無法視而不見。」
它有壹種真實的「權力之戒」式動力,會讓人做出瘋狂之舉。我說的不是 AGI 本身就是那枚戒指,而是「成為掌控 AGI 之人」這種無所不包的執念。
我能想到的唯壹解法,是著力於向更廣泛的人群開放這項技術,讓任何人都無法獨握那枚戒指。實現這壹目標的兩個顯而易見的途徑,是個體賦權,以及確保民主制度始終掌握主導權。
民主進程的力量必須凌駕於公司之上。法律與規范會不斷演變,但我們必須在民主進程的框架內行事,盡管這個過程會混亂、也會比我們期望的更慢。我們希望成為其中的壹個聲音、壹個利益相關方,但不是要獨攬壹切權力。
業界受到的許多批評,源自人們對這項技術極高風險的真誠憂慮。這種憂慮完全合理,我們歡迎善意的批評與辯論。我理解反技術的情緒,技術的確並非對每個人都始終有益。但從整體來看,我相信技術進步能夠讓未來變得無與倫比地美好——對你我的家庭都是如此。
在我們進行這場辯論的同時,我們應當共同降低言辭與行動的烈度,努力減少家庭中(無論是字面意義上還是比喻意義上)的沖突。
附上博客地址:
https://blog.samaltman.com/2279512- 新聞來源於其它媒體,內容不代表本站立場!
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見