2026-11-17T20:49:14
据外媒报道,使用AI代理的用户马特·史密斯注意到,AI并没有像往常一样完成购物订单,而是为他订购了数量奇怪的鸡蛋。
马特·史密斯并没有在购物清单上列出鸡蛋;然而,AI助手却在他的购物车里添加了四包当地知名品牌“Vital
Farms”的大号鸡蛋。每包鸡蛋有18枚,总共72枚鸡蛋送到了他家。
查看订单后,史密斯要求AI解释为什么选择这个数字,但人工智能的回答并不令人信服:“我无法给出令人满意的答案。我找不到任何笔记解释我为什么选择数字四。”
AI代理最初表示,它在读取购物清单图像时误读了有关鸡蛋的信息。然而,史密斯立即指出,他的清单上根本没有提到鸡蛋。AI最终承认,它毫无理由地将鸡蛋添加到了订单中。
这是AI产生幻觉的真实案例,当把日常任务委托给人工智能代理时,这个问题可能会产生意想不到的后果。
这些工具广泛获取个人信息的风险不容低估;例如,在Meta的Muse
AI代理推出后不久,一名男子报告说,AI在他不知情的情况下,将他的家庭住址提供给了Facebook Marketplace上的陌生人,并将他们引到他家。
史密斯将这起事件描述为他第一次亲身经历了宏大语言模型错觉的真正后果,他说,这种情况本可能造成更严重的后果。
尽管这项技术取得了重大进步,但AI代理仍然容易出错,不应在没有监督的情况下被委托处理生活的方方面面
来源:3DM游戏网