-
日期: 2024-05-25 | 来源: 量子位 | 有0人参与评论 | 专栏: 谷歌 | 字体: 小 中 大
谷歌AI又闯大祸!没认出毒蘑菇、建议用户吃石头、把胶水加到披萨上,瞬间招来海量批评。
事情是这样的:
有网友在谷歌搜索寻找“芝士和披萨粘不到一块”的解决办法。AI直接在顶部给出总结指导,看似有模有样,却暗藏陷阱。
你还可以把1/8杯的无毒胶水加到酱料里,使其更黏。
本来大家还只当是寻常的“AI幻觉”问题,毕竟都加胶水了确实黏啊,逻辑没毛病。
真正引爆舆论焦点的,是有人挖出这个建议确实有出处:
来自11年前网友在“美国贴吧”Reddit论坛披萨板块的恶搞留言。
对比原文,可以看出谷歌Gemini大模型确实出色地总结精简了网友发言,去掉不必要的细节融合进回答中。
但关键在于缺乏常识,没有识别出网友恶搞的意图,当真了。
大家批评的另一个点在于,问题出现在谷歌最核心、使用量最大的搜索产品上,而不是专门的AI对话。
如果是一个不熟悉AI技术,不了解AI会出现“幻觉”的普通搜索用户遇到这事,就更容易被AI骗到。
当然,具体到披萨+胶水这个例子因为过于离谱,大部分人都不会当真。
但也有人马上举出谷歌Gemini更多、更危险的失误:
建议用户每天至少吃一块小石头。
在儿童感兴趣的“宇航员平常都做什么”问题上,把恶意言论总结进来。- 新闻来源于其它媒体,内容不代表本站立场!
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见