-
_NEWSDATE: 2025-10-12 | News by: 量子位 | 有0人参与评论 | _FONTSIZE: _FONT_SMALL _FONT_MEDIUM _FONT_LARGE
AI的风险：滥用、生存与监管
在节目最后，Hinton用了很大篇幅来完整讲述AI可能存在的风险。
能源消耗、金融泡沫、社会不稳定……这些都是真实的风险。它们可能不会摧毁人类，但足以重塑文明。
其中，Hinton最担心滥用风险和生存风险这两类。
在Hinton看来，目前最紧迫的风险就是AI滥用，例如用AI生成虚假信息、操纵选举、制造恐慌等。
为应对这一风险，他认为需要通过法律和监管手段来限制和打击这种滥用行为。同时，技术上也需要开发检测和防范虚假信息的工具。
此外，生存风险（指AI本身可能成为恶意行为者）则可能对人类社会和文明构成根本性威胁。
Hinton认为，如果AI发展出自主意识和目标，并且这些目标与人类的利益相冲突，可能会导致不可预测的后果。
对此，人类需要在AI的设计和开发阶段就考虑安全性和伦理问题（如“关闭开关”和“对齐机制”），从而确保AI的目标与人类的利益一致。
值得一提的是，在AI监管这件事上，Hinton还提出了一个很有意思的看法：
在防止AI接管的问题上，所有国家的利益是一致的。但国际合作可能由欧洲和中国引领。
One More Thing
关于中美人工智能竞赛，Hinton也在节目中表达了自己的看法。
面对主持人甩出的“美国领先还是中国领先”这一问题，Hinton冷静表示：
美国目前领先于中国，但领先优势没有想象的那么大，而且它将失去这个优势。
因为在他看来，美国正在破坏基础科学研究的资金支持。
深度学习和AI革命源于多年的基础研究，这些研究的总成本可能还不及一架B1轰炸机。而美国减少对基础研究的资助、攻击研究型大学等行为，无疑将导致美国在20年后失去领先优势。
而中国却是人工智能革命的风险投资家，以及他再次cue到了DeepSeek。
中国确实给予初创企业很大的自由，让他们自主选择最终胜出者。有些初创企业非常积极进取，渴望赚大钱，创造出令人惊叹的产品。其中一些初创企业最终获得了巨大的成功，比如DeepSeek……
本文作者：一水，来源：量子位，原文标题：《Hinton暴论：AI已经有意识，它自己不知道而已》- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见