-
日期: 2024-12-16 | 來源: 愛范兒 | 有0人參與評論 | 字體: 小 中 大
在溫哥華舉行的神經信息處理系統大會(NeurIPS)上，OpenAI 前首席科學家 Ilya Sutskever 發表公開演講。
Ilya 指出，當前 AI 模型預訓練方式將不可避免地走向終結。
他還將 AI 訓練數據比作「化石燃料」，認為互聯網上的人類生成內容是有限的，業界已經達到了數據峰值，「我們只有壹個互聯網，必須適應現有的數據資源」。
根據他的預測，下壹代 AI 系統將突破當前局限，具備真正的主動性和類人推理能力，但他也警告，隨著 AI 推理能力的提升，其行為將變得愈發難以預測，就如同即便是頂尖棋手也無法准確預判高級象棋 AI 的走法。
???????
演講中，他將 AI 的發展規模與生物進化過程進行了對照。
通過引用數據，他指出在對數坐標下，雖然絕大多數哺乳動物的腦重與體重比例都遵循著相似的規律，但人類祖先卻展現出壹條截然不同的發展曲線。
基於此，他推測正如進化在人類大腦發展過程中找到了新的路徑，AI 可能也會突破當前預訓練模式的局限，發現全新的發展路徑。
演講結束後，Ilya 也接受了與會者的提問，以下為 Ilya 演講和提問環節全文，要點概括如下，Enjoy it~
Ilya 認為，互聯網數據資源就像化石燃料般正在逐漸枯竭，雖然計算能力不斷提升，但數據增長速度已見頂，「我們只有壹個互聯網」這個物理限制無法突破。
預訓練時代(GPT-2/3)帶來重大突破但也暴露局限，而下壹個階段可能出現智能體、合成數據等新方向。
Ilya 通過圖表數據發現哺乳動物大腦和體重的關系遵循壹定規律，但人科動物展現出不同的發展曲線，這暗示 AI 也可能找到全新的進化路徑。
當前 AI 系統仍主要依賴模仿人類直覺，未來 AI 將具備真正的推理能力，而越具備推理能力的系統行為越難預測(如國際象棋 AI)。
AI 終將具備自我意識，這是理解世界的必要部分，但未來 AI 系統的本質將與現在完全不同，以及 AI 可能會尋求權利和與人類共存。
附上演講視頻原地址：https://www.youtube.com/watch?v=WQQdd6qGxNs
演講全文
我非常榮幸地感謝主辦方選擇這篇論文獲獎。同時，我也要感謝我的傑出同事和合作者，Oriel Vinyls 和 Quoc V. Le，他們剛才就在大家面前站著。
在這裡大家可以看到壹張圖片，是拾年前在新加坡國立大學（NUS）2014年蒙特利爾壹場類似演講的截圖。那是壹個更加純真的年代。照片中展示了當時的我們。
這是「上次」，順帶壹提，這是「這次」。
- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見