-
_NEWSDATE: 2025-06-20 | News by: 腾讯科技 | 有0人参与评论 | 专栏: 马斯克 | _FONTSIZE: _FONT_SMALL _FONT_MEDIUM _FONT_LARGE
一旦我们将问题分解成需要建筑、电力、冷却这些基本要素,就可以逐个解决这些问题。然后,我们就成功地让网络工作起来,进行了所有的电缆布线工作。我们在 4 个班次、全天候 24 小时连轴转的情况下完成了这些工作。我甚至在数据中心睡觉,自己亲自做电缆布线。
当然,解决这些问题的过程还面临其他很多挑战。去年没有人曾做过10万颗 H100 的协同训练——也许今年已经有人做过了,我不太清楚。然后我们又将这个规模翻了一番,变成了 20 万颗 GPU。因此,现在我们在孟菲斯的训练中心有 15 万颗 H100、5 万颗 H200 和 3 万颗 GB200,我们还计划在另一个数据中心上线 11 万颗 GB200。
陈嘉兴:你是否认为,预训练仍然有效,缩放定律仍然成立,而这场竞赛的赢家将拥有基本是你能提炼出的最大、最智能的模型?
马斯克:关于大规模 AI 的竞争,除了硬件的规模之外,人才也非常重要,而如何有效利用硬件也是至关重要的。你不能仅仅订购一堆 GPU 然后就能开始工作,它们需要被很好地配置,并且稳定地协同训练。除此之外,还需要考虑数据的独特访问权限。比如,你的 AI 如何接触到外界,如何让更多的人使用你的 AI,这些也是决定能否打造一个有竞争力的大型基础模型的重要因素。
正如许多人所说,我的朋友伊利亚·苏茨克维曾经提到过,我们已经用尽了人类生成的预训练数据,尤其是高质量的 tokens,很快就会耗尽。因此,我们必须大量创造合成数据,并能够准确地判断这些合成数据是否真实,或者只是一些与现实不符的幻觉。所以,实现“与现实的接地”非常棘手。现在我们正致力于更多的合成数据工作。目前我们正在训练 Grock 3.5,这款模型特别注重推理能力。
陈嘉兴:根据我听到的反馈,硬科学,特别是物理学知识,对于推理非常有帮助,而社会科学则完全没用。
马斯克:是的,确实如此。未来非常重要的一点就是将数据中心或超级集群中的深度 AI 与机器人技术结合。例如,像擎天柱那样的人形机器人。未来将会有大量的人形机器人和各种不同形态的机器人。我的预测是,人形机器人将会比所有其他类型的机器人加起来还要多,甚至可能多出一个数量级,差距非常大。
陈嘉兴:你们真的在计划组建某种机器人军队吗?
马斯克:特斯拉会与 XAI 紧密合作,来推动机器人的发展。你可以看到现在有很多人形机器人创业公司,黄仁勋曾经在舞台上展示大量来自不同公司的机器人。因此,尽管我一直在思考,我不想让《终结者》变成现实,这也可能是我有些迟缓的原因之一。
但我逐渐意识到,这一切无论我参与与否都会发生。因此,你实际上只有两种选择:一个是作为旁观者,一个是作为参与者。而我更愿意作为一个参与者。所以,现在我完全投入到人形机器人和数字超级智能的研发中。
马斯克:虽然未来会出现深度智能,但我不认为AI会失控
05 人类仅用1%地球能量,我们连原始文明都算不上
我同意AI有毁灭人类的风险,但更有可能走向富足。而成为多星球物种,就是为了对冲那个最坏的可能。- 新闻来源于其它媒体,内容不代表本站立场!
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见