-
日期: 2025-05-31 | 来源: 腾讯科技 | 有0人参与评论 | 专栏: 深夜八卦 | 字体: 小 中 大
问：所以你的意思是，AI已经拥有情感了吗？
辛顿：AI确实有可能拥有某些情感。我再次强调，我认为人类与AI在情感方面并没有本质区别。人类情感有两个方面：认知和生理。当我感到尴尬时，我的脸会变红，而当AI感到尴尬时，虽然它的“脸”不会变红，也不会大汗淋漓。但在认知行为方面，AI完全可以像我们一样表现出情感。
问：那么意识呢？它是某种神秘的东西，只存在于碳基生物体中，比如人类吗？还是说，如果AI能够发展出与人脑相似的神经复杂性，它也有可能发展出意识，意识到自己是谁？
辛顿：实际上，当你与大语言模型（LLM）对话时，它们似乎有某种程度的意识，能够知道自己是什么。
让我们做一个思维实验：假设有人取出你大脑中的一个脑细胞，用纳米技术装置将其替代，这个装置能够完美模拟脑细胞接收和传递信号的过程。你的行为不会有任何改变，因为这个纳米装置的功能和脑细胞完全一致。
那么，你觉得自己会因此失去意识吗？即使只有一个脑细胞被替代，你依然会认为自己是有意识的。而当你大脑中所有的脑细胞都被同样功能的纳米装置逐一替换时，你仍然会保持有意识的感觉。
按照这种逻辑，如果AI系统能够模拟大脑神经元的功能，那么它们也可能拥有类似的意识。
问：那么我们距离那个时刻还有多远？
辛顿：关于AI是否拥有感知能力，目前存在一个颇具争议的认知矛盾。许多人坚信AI绝对不具备感知，但当被问及“你如何定义感知”时，他们往往难以给出明确答案。简单地用“虽然我不知道感知究竟是什么，但AI肯定没有”来否定AI的感知能力，实际上缺乏严密的逻辑支持。
这里有一个与意识和感知密切相关的核心概念——主观体验。很多人将其理解为大脑中的“内心剧场”。比如，一个喝醉的人可能会说他看见了一只粉色的小象在眼前飘动。人们通常认为，这是一种存在于他意识中的画面。哲学家们则用“感受质”（qualia）来描述这种体验的组成部分，比如“粉色的感受质”、“大象形状的感受质”，认为这些感受质通过某种“胶水”粘合在一起。坦率说，我对这种解释并不完全认同。
让我换个角度解释下。当一个人描述他看到那只漂浮的粉色小象时，他其实在表达三层意思：第一，他知道自己的感知系统在欺骗他；第二，他试图向别人传达这种欺骗的具体内容；第三，他通过假设“如果那个小象真的存在，那么感知系统就是真实的”来解释这种幻觉。也就是说，这些幻象的“特殊性”并不在于它们由什么神秘物质构成，而在于它们是一种反事实存在——如果真的存在，那它们就是普通的粉色大象。
我们可以用训练聊天机器人来验证这个理论。假设让AI识别物体，并在做对时给予奖励。接着，在它镜头前放置棱镜，导致光线折射，让AI出现了物体位置偏差的错误。当告诉它：“物体其实在正前方，光线折射导致了偏移”时，AI会回应：“我明白了，我刚才产生了物体偏移的主观体验。”这个例子说明，AI不仅能理解感知失真的机制，还能够用“主观体验”来描述这种认知误差，其思考方式和人类解释幻觉的方法极为相似。
实际上，机器与人类之间并没有想象中那样不可逾越的“神秘屏障”。过去我们认为人类是宇宙中心，是按照神的形象创造的特殊存在，但事实并非如此。人类没有特别的本质，机器能够复制我们的一切认知与行为。
AI为达目的不择手段
不惜窃取更高控制权限
问：AI可能在哪些方面出问题？你在最近一次采访中提到，AI彻底消灭人类的概率大约在10%到20%之间。你能具体描述一下，这种情景到底是什么样的？它真的像电影《终结者》那样，是机器人接管世界吗？
辛顿：如果AI真的接管世界，场景未必会像《终结者》等科幻电影中的场景。事实上，它可能更隐蔽、更高效，也更难以察觉的方式实现上述目标。关键的问题不在于它“如何”接管，而是我们是否给了它这样做的动机。
目前，我们正在构建的是“目标导向型智能体”——也就是说，我们赋予AI一个明确的目标，它就会自主寻找实现这个目标的路径。比如，如果你让AI“去北半球”，它就会自动推导出一系列“子目标”：如前往机场、购买机票等等（除非你特别想坐船）。- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见