-
日期: 2024-12-16 | 来源: 爱范儿 | 有0人参与评论 | 字体: 小 中 大
在温哥华举行的神经信息处理系统大会(NeurIPS)上，OpenAI 前首席科学家 Ilya Sutskever 发表公开演讲。
Ilya 指出，当前 AI 模型预训练方式将不可避免地走向终结。
他还将 AI 训练数据比作「化石燃料」，认为互联网上的人类生成内容是有限的，业界已经达到了数据峰值，「我们只有一个互联网，必须适应现有的数据资源」。
根据他的预测，下一代 AI 系统将突破当前局限，具备真正的主动性和类人推理能力，但他也警告，随着 AI 推理能力的提升，其行为将变得愈发难以预测，就如同即便是顶尖棋手也无法准确预判高级象棋 AI 的走法。
???????
演讲中，他将 AI 的发展规模与生物进化过程进行了对照。
通过引用数据，他指出在对数坐标下，虽然绝大多数哺乳动物的脑重与体重比例都遵循着相似的规律，但人类祖先却展现出一条截然不同的发展曲线。
基于此，他推测正如进化在人类大脑发展过程中找到了新的路径，AI 可能也会突破当前预训练模式的局限，发现全新的发展路径。
演讲结束后，Ilya 也接受了与会者的提问，以下为 Ilya 演讲和提问环节全文，要点概括如下，Enjoy it~
Ilya 认为，互联网数据资源就像化石燃料般正在逐渐枯竭，虽然计算能力不断提升，但数据增长速度已见顶，「我们只有一个互联网」这个物理限制无法突破。
预训练时代(GPT-2/3)带来重大突破但也暴露局限，而下一个阶段可能出现智能体、合成数据等新方向。
Ilya 通过图表数据发现哺乳动物大脑和体重的关系遵循一定规律，但人科动物展现出不同的发展曲线，这暗示 AI 也可能找到全新的进化路径。
当前 AI 系统仍主要依赖模仿人类直觉，未来 AI 将具备真正的推理能力，而越具备推理能力的系统行为越难预测(如国际象棋 AI)。
AI 终将具备自我意识，这是理解世界的必要部分，但未来 AI 系统的本质将与现在完全不同，以及 AI 可能会寻求权利和与人类共存。
附上演讲视频原地址：https://www.youtube.com/watch?v=WQQdd6qGxNs
演讲全文
我非常荣幸地感谢主办方选择这篇论文获奖。同时，我也要感谢我的杰出同事和合作者，Oriel Vinyls 和 Quoc V. Le，他们刚才就在大家面前站着。
在这里大家可以看到一张图片，是十年前在新加坡国立大学（NUS）2014年蒙特利尔一场类似演讲的截图。那是一个更加纯真的年代。照片中展示了当时的我们。
这是「上次」，顺带一提，这是「这次」。
- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见