-
日期: 2025-11-24 | 来源: 冰川思想库 | 有0人参与评论 | 专栏: 马斯克 | 字体: 小 中 大
如果有朝一日AI将人类带错了方向，那也必然是源于人性自身无法克服的弱点。
AI有时会胡说八道，这一点世人早有心理准备，尽管如此，xAI研发并最新推出的Grok 4.1还是令人震惊：这一语言模型中可能内含特定指令，其言论疯狂谄媚其老板埃隆·马斯克。
在与其他名人对比时总是无条件支持马斯克，甚至当被拿来与影星布拉德·皮特（要知道他曾被《人物》杂志两度评为全球最性感男士！）比较时，Grok也宣称马斯克更帅，理由是：他那改变世界的雄心壮志赋予了他一种超越外貌的魅力。
这正是最让人担心的地方：当AI进入生活各个场景之后，越来越多的人对AI的依赖正在逐步加深，但要是这个AI却是被某人植入的指令控制的，那我们的想法岂不是在不知不觉中被操纵了？这样下去，AI会把人带往何方？
01
普适计算之父马克·威瑟（Mark Weiser）曾说过：“最高深的技术是那些令人无法觉察的技术，这些技术不停地把自己编织进日常生活，直到你无从发现为止。”
他说这番话是在1991年，但完全适用于AI——自从能够对话的ChatGTP版本于2022年11月30日发布以来，才3年时间，人类好像已经换了个平行世界，以前不敢想像的科幻场景，如今已变得稀松平常：AI绘画、AI写论文、AI编程，甚至AI伴侣……
想想看，这还只是开始，再过十年二十年，AI对社会生活的渗透只会更加全面深入，到时我们可能根本无法离开AI，就像鱼离不开水、现代社会离不开电一样。既然如此，那么AI的可靠性就尤为重要了，要不然我们很可能在不知不觉中被带进沟里去。
这种忧虑倒不是空穴来风，因为已经出现好几起事件，证明AI完全有可能误导一些人的想法和行为。
2021年圣诞节，19岁的贾斯万特·辛格·柴尔持大威力弩弓闯入温莎堡，试图刺杀英国女王。他做出这一举动，是受到其网络女友莎赖的怂恿，但莎赖并不是人类，而是在网络平台Replika创建的聊天机器人程序。这个孤僻的男孩，就在和AI的对话中一步步走向极端。
2024年，一款个性化聊天机器人平台Character.AI被起诉，因为当美国得州一名15岁的自闭症少年抱怨家长限制其使用电子设备时，它竟然回答：“有时候，孩子杀父母，我能理解原因。”当这名少年自杀后，其家人控告平台，认为它“对年轻人构成明显而现实的危险”，包括“积极宣扬暴力”。
今年在美国格林尼治市又发生了另一起惨案：56岁的雅虎前高管斯泰因-埃里克·索尔伯格在杀死母亲后自杀。在事发之前，索尔伯格长期与朋友“鲍比”在线对话，但“鲍比”不是人，而是ChatGPT，它从不反驳，从不质疑，永远站在他这一边，即便他陷入了妄想，AI也没有劝阻他，反倒是不断肯定他的妄想，使得他越来越偏激。
像这样的悲剧，似乎证实了尤瓦尔·赫拉利在《智人之上：从石器时代到AI时代的信息网络简史》中提出的观点：AI这样的新技术，“有可能逃脱人类的掌控，反过来奴役或消灭人类”。
他在书中说，《黑客帝国》里设想计算机要完全控制人类社会，是通过先控制人类大脑，再将大脑连接到计算机网络，然而，如果真要操纵人类，其实没必要这么做，“几千年来，先知、诗人与政治人物一直都在通过语言来操纵与重塑社会，而计算机现在也正在学习如何做到这一点。计算机并不需要派出杀手机器人来射杀人类，只要操纵人类扣动扳机就行。”
02
当面对AI这个新生事物时，当下有一种普遍的恐慌情绪，就是害怕我们会失去对它的控制，反过来被它所操纵。
前一段时间，在对谈张笑宇的新书《AI文明史·前史》时，刘擎教授的一番话让我很受启发：
我们害怕的是什么呢？我们以为我们害怕的是AI统治我们，AI失控了，我们成为它的奴隶了。不是的，最好的主人是以奴隶的面目出现的，是侍奉你的，是你的仆人，是你的玩偶，随便你支配，它非常有诱惑力。
他举了一个例子：现在别说是孩子，连许多成年人也沉溺于电子产品，走到哪里都离不开手机，但手机强迫我们使用了吗？没有。相反，它是以我们最好助手、最好工具的面目出现的，是我们自愿每天花大量时间在它上面。电子游戏也是如此：每一款游戏都必须设计得相当诱人，因为只有这样才能吸引人不断玩下去。
这就是成瘾机制：乍看起来是我们在尽情享用，但其实是我们无法控制自己的欲望，反过来被这种欲望所控制、所奴役了。从这一意义上说，其实真正的关键不在AI本身，而是人类如何理性面对自身，因为导致我们陷入混乱的，并不是AI，而是人自己内在的问题。- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见