-
_NEWSDATE: 2025-06-18 | News by: 高飞的电子替身 | 有0人参与评论 | 专栏: 谷歌 | _FONTSIZE: _FONT_SMALL _FONT_MEDIUM _FONT_LARGE
七、AGI的黎明与P(Doom)的阴影：我们离终点还有多远？
随着模型能力的飞速提升，AGI（通用人工智能）的实现似乎不再遥远，这也将关于AI末日概率（P(Doom)）的讨论从科幻推向了现实。皮查伊对这一终极风险的看法，展现了一种独特的、基于人性集体智慧的乐观。
1. AGI时间表：我们正处于“锯齿状”智能时代
弗里德曼将话题引向了AI领域的终极目标：AGI（通用人工智能）和ASI（人工超级智能）。AGI通常被定义为在人类主要的智力活动领域达到专家水平的AI，而ASI则是AGI通过自我改进后达到的、远超人类的智能形态 。
他直接问皮查伊：我们会在2030年迎来AGI吗？皮查伊首先引入了一个更接地气的概念——“AJI”（Artificial Jagged Intelligence，人工锯齿状智能），这个词可能由安德烈·卡帕西（Andrej Karpathy）首创，用来形容当前AI能力发展极不均衡的状态?。一方面，模型在某些方面展现出惊人的能力，另一方面，它们又会在一些看似简单的问题上（比如数一个单词里有多少个字母）犯错 。
皮查伊认为，我们正处在AJI阶段 。对于AGI是否会在2030年实现，皮查伊持谨慎态度。他认为，人们总是在不断提高对AGI的定义标准 。尽管他在Waymo自动驾驶汽车穿行于旧金山繁忙街道时，或在使用Project Astra与世界互动时，都看到了“AGI的惊鸿一瞥” ，但他感觉我们离真正的AGI还有距离 。
他预测，AGI的实现可能会略晚于2030年（这个预测和DeepMind创始人哈萨比斯的观点一致）。然而，他紧接着强调，这个具体的时间点和定义本身并不重要。“我确信的是，到2030年，我们将取得如此巨大的进步，以至于我们必须去应对其带来的巨大后果——无论是积极的还是消极的。”
2. P(Doom)末日概率：人性是终极安全阀
谈到ASI可能带来的生存风险，即社区内热议的“P(Doom)”（末日概率，也就是AI让人类毁灭的概率），弗里德曼坦言自己的估算是10% ，并询问皮查伊的看法。
皮查伊承认，这是一个在谷歌内部也会不时被讨论的严肃话题 。他没有给出一个具体的数字，而是提供了一个独特的、基于社会动力学的乐观视角。他类比道，在一个大型组织中，如果你能统一所有人的动机和激励，几乎可以实现任何目标 。虽然统一全人类的目标极为困难，但如果AI的末日风险（P(Doom)）真的变得非常高且具体，它反而会成为一个强大的统一力量。“如果P(Doom)真的很高，全人类都会联合起来确保它不会发生。” 他认为，这种威胁的真实性会激发人类前所未有的集体智慧和行动力去解决问题 。因此，他认为这里存在一个“自我调节”的机制。“我对P(Doom)的情景感到乐观，但这并不意味着我认为潜在的风险不高。我只是对人类能够挺身而出、迎接挑战抱有很大信心。”
弗里德曼对此观点进行了补充，他提出了一个常被忽略的变量：没有AI的末日概率是多少？ 气候变化、核战争、流行病等风险同样威胁着人类文明。AI或许不仅是风险，更是帮助我们解决这些复杂问题的关键工具 。皮查伊对此表示赞同，他认为在应对一些最棘手的全球性挑战时，拥有一个AI“伙伴”将大有裨益 。
面对AGI可能带来的巨大机遇与风险，领导者的决策变得至关重要。一年前，当外界舆论普遍认为谷歌已在AI竞赛中掉队时，皮查伊正是在内部推动着一系列影响深远的变革，其中最艰难的莫过于合并DeepMind和Google Brain这两大顶尖研究团队。
八、风暴中的舵手：合并DeepMind与Brain的艰难抉择
面对AGI可能带来的巨大机遇与风险，领导者的决策变得至关重要。一年前，当外界舆论普遍认为谷歌已在AI竞赛中掉队时，皮查伊正是在内部推动着一系列影响深远的变革，其中最艰难的莫过于合并DeepMind和Google Brain这两大顶尖研究团队。
弗里德曼将话题带回到了现实的领导力挑战中，他回忆起一年前，当时铺天盖地的文章都在宣称“谷歌已经迷失”、“皮查伊是领导谷歌渡过难关的错误人选” 。他询问皮查伊，在那段被外界普遍看衰的时期，他是如何度过的，以及做出了哪些关键决策。
皮查伊坦言，作为CEO，他最重要的赌注就是推动公司全面转向“AI优先”?，并为负责任地开发AGI做好准备。尽管外界充满噪音，但他对公司内部正在构建的东西有清晰的认识 。他善于将信号与噪音分离，就像潜水一样：“水面可能波涛汹涌，但只要下潜一英尺，就是宇宙中最平静的地方。” 他清楚地知道，谷歌拥有像TPU（张量处理单元）这样的长期技术投资 ，并且正在训练强大的Gemini模型，只是这一切需要时间才能显现成果 。- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见