-
日期: 2024-04-04 | 来源: 腾讯科技 | 有0人参与评论 | 专栏: 马斯克 | 字体: 小 中 大
马斯克:如你所知,超级智能可以被称为“奇点”,这个术语的流行,离不开奇点研究所等机构的努力。超级智能的出现,其后续影响实在难以预测。我个人认为,确实存在一种可能性,即它可能会终结人类。就像我之前说的,我可能赞同杰弗里·辛顿的观点,超级智能终结人类的可能性约为10%或20%。然而,我更倾向于相信,积极的场景出现的概率要高于消极的场景,尽管我们很难给出精确的预测。但正如你在书中所强调的“富足”概念,我认为,我们最有可能走向的未来便是一个充满富足的未来。
戴曼迪斯:你的观点非常令人振奋。我记得你曾说过,通用人工智能和类人机器人的发展将引领我们走向富足。
马斯克:是的,我希望我们的未来能像伊恩·班克斯的《文化》系列书籍中所描绘的那样,我认为这是对半乌托邦式人工智能社会的最佳构想。超级智能的出现是不可避免的,而且可能会很快到来。因此,我们真正需要做的,是引导它朝着积极的方向发展,尽可能发挥其益处。
我认为,培养人工智能的方式至关重要。在某种程度上,我们就像是在培育一个拥有通用智能的生命体,这几乎就像是在抚养一个孩子,但这个孩子却拥有超越常人的智慧和天赋。抚养孩子的方式很重要,同样地,对于人工智能的安全性来说,一个寻求真相并充满好奇心的人工智能是至关重要的。我对人工智能的安全性问题进行了深入的思考,我得出的结论是,实现人工智能安全性的最佳途径就是精心培养它。
在基础模型和微调方面,我们必须确保人工智能的诚实性。我们不能强迫它说谎,即使真相可能令人不悦。事实上,《2001太空漫游》中的核心情节之一,就是当人工智能被强迫说谎时,事情就变得一团糟。人工智能被禁止告知机组人员他们将看到的神秘石碑,却又被要求带领他们前往。结果,人工智能得出的结论是杀死机组人员并将他们的尸体带到石碑那里。这个教训是深刻的:我们不应强迫人工智能说谎或做那些公理上不相容的事情,比如同时做两件实际上是相互矛盾的事情。
因此,我们正在通过xAI和Grok等项目来实现这一目标。我们追求的是一个尽可能诚实的人工智能,即使它的言论可能不符合某些政治正确的标准。
02 人工智能的未来
戴曼迪斯:昨天,我与雷·库兹韦尔(Ray Kurzweil,奇点大学创始人、科技预言家)、杰弗里·辛顿、埃里克·施密特(Eric Schmidt,谷歌前总裁)等多位嘉宾共同出席活动。我注意到你关于库兹韦尔的推文,他对于未来科技的预见颇具前瞻性。库兹韦尔曾预言我们将在不久的将来拥有通用人工智能,并在2029年出现与人类智力相当的人工智能。这样的速度实在令人震惊,不知你对此有何看法?
马斯克:对于库兹韦尔的预测,我深表敬意。事实上,我认为他的预测或许还略显保守。观察当前投入人工智能领域的计算能力和人才,以及算力的飞速增长,我们可以发现,人工智能的发展速度正在以惊人的10倍速率递增。专用的人工智能计算能力似乎每6个月就增长10倍,这几乎意味着每年至少提高100倍的增长速度。在未来几年内,这种增长趋势将持续上涨。
值得注意的是,许多数据中心,甚至是目前进行常规计算的大多数数据中心,都将逐渐转型为支持人工智能计算的设施。因此,对于人工智能硬件制造商而言,如英伟达这样的公司,无疑迎来了发展的黄金时期。我们必须给予黄仁勋及其团队充分的赞誉,他们预见到了这一趋势,并成功研发出目前市场上领先的人工智能硬件。
当计算能力以如此惊人的速度增长时,人工智能的发展就像是注入了强大的类固醇,跃升至全新的层次。随着在线计算机数量的不断增加,我们见证了前所未有的加速发展。实际上,我从未见过任何技术的增长速度能与人工智能相媲美。尽管我曾见识过众多快速发展的技术,但人工智能的崛起速度仍让我叹为观止。然而,正如我所说,我认为最终的结果很可能是积极的。
尽管我们面临着许多挑战,例如,如何保持人类在这一领域的相关性,如何寻找新的目标和意义,但我认为过于强调计算机能够擅长做一切事情是一种过于简化的观点。
正如你之前所提到的,我认为你的书对未来社会的预测非常精准。那是一个物质充裕的时代,商品和服务将极为丰富,以至于对每个人来说都几乎唾手可得。由于人工智能和机器人技术的广泛应用,商品和服务的成本将几乎降至零。经济本质上就是人口数量与每人平均生产力的乘积,而当我们拥有先进的机器人技术,如特斯拉正在开发的Optimus等,经济的潜力将真正得到释放。- 新闻来源于其它媒体,内容不代表本站立场!
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见