-
日期: 2023-12-08 | 來源: 紐約時報中文網 | 有0人參與評論 | 字體: 小 中 大
本文是“交易錄峰會”(DealBook Summit)特別報道的壹部分，該峰會得到了世界各地商業及政策領袖的參與。
AI公司Anthropic的首席執行官達裡奧·阿莫代伊給出的數字是10%到25%之間。聯邦貿易委員會主席麗娜·汗近日告訴我，她認為的數值是15%。上月擔任了伍分鍾的OpenAI臨時首席執行官的艾米特·席爾告訴我，他得出的數值游移在5%到50%之間。
我這裡說的，當然就是p(末日)了，這是硅谷正在熱議的壹項令人毛骨悚然的新數據。
P(末日)——就是用數學的方式表達“末日的概率”——是壹些人工智能研究者在表達他們認為AI有多大可能把我們殺光，或創造別的什麼威脅人類生存的災變。P(末日)高意味著你認為AI末日的可能性大，低意味著你認為我們有機會挺過去。
P(末日)曾經只是網絡論壇上壹幫AI技術宅之間心領神會的笑話，但隨著去年ChatGPT點燃的AI熱讓人對AI的進步之快產生恐懼，近幾個月這個詞進入了主流。
它已經成了舊金山技術人士交談時常用的開場白——也是AI文化裡躲不開的壹部分。今年我在兩場業界活動上遇到陌生人問我的p(末日)是多少，就像在問洗手間怎麼走壹樣隨意。“幾乎每壹場晚餐談話都會提起，”雲數據平台Box首席執行官艾倫·勒維對我說。
P(末日)甚至在上月OpenAI事變中對扮演了壹定的角色。席爾被任命為OpenAI臨時負責人後，公司雇員之間開始轉發他在近日壹期博客上的言論，稱他的p(末日)可能高達50%。壹位討論時在場的人士說，有員工擔心他是個“末日論者”，由於認為這太過冒險，他可能會尋求延緩或限制他們的工作。（被罷免的OpenAI首席執行官薩姆·奧爾特曼最終恢復原職，因此這件事也就無關緊要了。）
當然，科幻迷很久以前就已經開始推想機器人篡奪世界的景象。但在去年ChatGPT推出後，這種威脅似乎顯得更真切了。畢竟如果AI模型可以贏得藝術獎項，通過律師資格考試，那麼距離劫難還能有多遠？
AI行內人也在發出警告。去年從谷歌辭職的著名AI研究者傑弗裡·辛頓開始警告AI的風險，他近日估計如果不施加有力的監管，AI在未來30年導致人類滅絕的可能性為10%。和辛頓壹同被譽為“深度學習教父”的約書亞·本吉奧在接受采訪時說，他認為發生AI大劫難的可能性大約在20%。
沒人知道我們被AI殺死的概率是10%、20%還是85.2%。顯然這個問題會引出更多的問題，比如：如果AI導致50%的人類死亡，還算“末日”嗎？如果沒有人死，但我們全都丟了工作，只能喝西北風呢？到底AI會如何接管世界呢？
但是p(末日)的重點不在於精確。它的目的是表明，在是烏托邦還是反烏托邦的問題上，壹個人大致的立場如何，此外也是用模糊的經驗論術語傳達你在AI問題及其潛在影響上的關切程度。
這個術語似乎是拾多年前在網絡論壇LessWrong上出現的，那是壹個理性主義哲學運動主題論壇。
LessWrong創始人是壹位自學成才的AI研究者，名叫埃利澤·尤科夫斯基，他很早就產生了失控AI可能接管壹切的想法，並就他設想的多種AI災難場景撰文。（當時的AI連設置個廚房計時器都很勉強，因此風險顯得拾分遙遠。）
後來成了AI世界最著名末日論者的尤科夫斯基告訴我，p(末日)這個詞不是他提出的，不過他做了推廣普及。（他還說，如果繼續以現在的趨勢發展，他的p(末日)是“有多高就多高”。）這個詞後來被有效利他主義者們拿去用了，這個群體旨在通過邏輯推論得出有關公序良俗的理念。
我的猜測是，這個詞最早是由身在波士頓的蒂姆·泰勒於2009年開始在LessWrong上使用的。泰勒在郵件往來中說到，他用這個詞“指代末日出現的概率，同時又不需要詳細闡明時間尺度或末日的定義。”
對壹些人來說，談論你的p(末日)無非就是在閒扯。然而在硅谷的壹場激烈辯論中，它又成了壹個重要的社交信號，辯論的壹方認為AI發展過快，另壹方認為應該更快。
Box首席執行官勒維屬於較樂觀的壹方。他說他的p(末日)值很低——不是零，但“能多低就多低”——他認為我們能化解AI的巨大風險，避免最糟糕的結果。他擔心的不是AI會殺死我們，而是監管者和立法者會利用這些可怕的末日預言，用來理直氣壯地打壓壹個前景遠大的年輕行業。
“如果在AI發展中過早開始關鍵的政策決斷，是有可能出現過度幹預的，”他說。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見