-
_NEWSDATE: 2026-07-10 | News by: 腾讯 | 有0人参与评论 | _FONTSIZE: _FONT_SMALL _FONT_MEDIUM _FONT_LARGE
宣言是表演还是真心关注？
当前，对齐问题已经非常棘手。但是，实验室的生存逻辑，在与“做正确的事”之间可能一直存在内在张力。
2023年，OpenAI提出“超级对齐”概念，随后组建专项团队推进相关研究，由联合创始人、首席科学家Ilya Sutskever和资深研究员Jan Leike共同领导，宣称要投入公司20%的算力来解决如何控制比人类更聪明的AI系统这一问题。
不到一年，团队就解散了。这一消息曾引发全球AI领域震动。2024年5月，Sutskever宣布离开OpenAI，随后Leike也辞职。Leike在离开时透露，超级对齐团队在争取算力资源时越来越困难，OpenAI对此的回应是将安全研究职能分散到其他团队中。但批评者指出，专门的对齐团队被解散，分散后的职能是否还能保持独立性和优先级，令人怀疑。
对于教宗的通谕与AI公司代表在梵蒂冈的演讲，外界反应不一。
《财富》杂志5月26日撰文，肯定通谕的历史意义与人文立场，但批评其避重就轻、缺乏实操、对前沿风险认知不足，“像是道德宣言而非行动纲领”。
《经济学人》则发表《利奥的首道通谕抨击"技术弥赛亚主义"》，副题用了一个巧妙的双关，“Of God and Claude”（上帝与克劳德），既暗指AI公司Anthropic旗下的大模型Claude，又把原属于恶魔、与上帝二元对立的位置换成了Claude，体现对把科技当救世主的技术弥赛亚主义的警示。另外也巧妙指出Claude的一些"文体癖好"，比如格外爱用"genuinely"这个词，在《壮丽的人性》出现的频次高于之前的几次通谕。AI检测工具Pangram对通谕开篇20段跑了一遍，标出11% 的文本疑似AI生成，而历任教皇通谕，检测结果全是0%。
《纽约时报》的评论文章认为，教宗把AI当成了“一台更强的机器”来管，但没有认真对待它可能撼动“人是什么”的真正问题。而做模型的人已经在内部看到了灰色地带：模型内部结构中出现了镜像人类神经科学的模式、甚至"功能上反映喜悦、满足、恐惧、悲伤、不安"的状态。
“我们不知道那意味着什么”，这是Anthropic公司代表奥拉的原话，但是，他也没有认为“那什么都不是”。因此问题不是"AI会不会变成人"，而是AI就算不会有意识，它对人类社会的冲击也可能比普通技术革命更大。
但让这些公司自己雇佣哲学家来解决伦理问题，到底是真正的自律，还是一场自说自话？这些，都有待时间的验证。- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见