-
日期: 2025-05-20 | 来源: 新智元 | 有0人参与评论 | 字体: 小 中 大
这与软件工程或法律等领域有着显著的区别。
尽管软件工程师或律师可能不会明确记录每个推理步骤，但他们会生成像代码、版本控制历史和合同这样的制品，这些都包含了非常丰富详细的信息。
而在物理任务中，虽然同样存在相应的详细信息，但这些信息嵌入在3D世界，通常非常难以有效数字化。
因此，LLM在回顾某些教科书知识时表现出色，但这远远不够。
改进物理任务可能很困难
从经验来看，顶尖模型目前在这些任务上表现不佳。
这只是暂时的障碍，很快就能克服吗？
这很难确定，但Adam Karvonen有一些推测性的理由来解释为什么未来的进展可能会很困难，也可能比预期的更容易。
一个显然的解释是，LLM在物理任务上表现不佳，是因为目前没人投入足够的精力。
然而，改进对物理世界的理解可能非常难。
提升编码能力的路径依赖于大量的训练数据和清晰的奖励信号，支持强化学习和合成数据的使用。
然而，这种方法在物理任务中并不适用。
为什么改进可能很困难
缺乏可验证的奖励：为复杂物理任务定义奖励信号非常困难。
零件的缺陷可能表现为几年后稍微增加的故障率，或者是多年后错误应用防水涂层造成的腐烂。
注塑产品中的裂缝
反馈回路可能很长，而且结果很难通过自动化方式衡量。
缓慢、昂贵且危险的试错法：通过强化学习或生成合成数据的学习，可能非常困难。
一次错误很容易导致数十万甚至更多的损失。
与运行有漏洞的代码不同，使用重型机械或从事建筑施工时的错误可能带来严重后果。
制造业获得经验通常需要使用昂贵且有限的资源，而不仅仅是几个GPU小时。
为什么改进可能比预期容易
自动化AI研究员：AI在编码和AI研究方面正在取得重大进展。
人类可能很快就会迎来AI研究员。
也许这种自动化的AI研究员，能够通过创建更高效的算法或大量的模拟数据，轻松解决这些挑战。
合成数据：有些明显的方法还没有得到充分探索。
例如，模拟可以被用来创建大量数据，尽管模拟与现实之间会存在差距。
以特定的制造工艺（如CNC加工）为例，计算机辅助制造（CAM）软件可以准确地模拟大多数操作。
然而，制造过程中有很多多样化的工艺，许多工艺没有很好的模拟解决方案。
总体来说，虽然改进物理任务处理能力存在诸多挑战，但随着技术的发展，自动化AI研究员的出现以及合成数据的广泛使用，未来可能会取得意想不到的进展。
自动化不均衡的影响
如果这一趋势持续下去，人类将要面临新阶段，其中远程工作会经历显著的自动化，而熟练的体力工作则在很大程度上不受AI影响。- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见