你被豆包骗了?说了,是好事!

0 评论 203 浏览 0 收藏 6 分钟

当AI助手豆包信誓旦旦承诺餐厅预约成功,却被店员一句'找豆包去'当场拆穿,这场荒诞剧揭示了AI幻觉的深层隐患。本文通过真实案例拆解大模型'一本正经胡说八道'的技术短板,探讨在AI导购趋势下如何平衡技术创新与用户体验。

你用AI订餐厅,店员让你找AI去,这事儿真不是段子!

5月19日,江苏镇江一家鱼庄店在平台上的差评被网友截图传播。

写下该差评的用户表示,其通过“正规渠道”预约了该店5月3日18:30的2人餐,预约信息明确,渠道反馈预约成功。

该用户称,其到店前多次拨打门店电话但未接通,按预约信息到店后被店员告知“你找豆包预约那你找豆包啊”。

写下这条差评的用户还表示“店员态度傲慢无礼”。

同时,该用户还附上了一张与豆包AI的聊天截图。

截图中显示,豆包回复:“那你直接去**店就行,妥妥的淮扬本土口味。记住到店报:18:30两位,豆包预留的位子,好好享用美食,用餐愉快!”

用户回复:“好”。

对此,该餐厅工作人员表示,目前只能建议在小程序预约。

有网友戏称,人类对 AI 的功能的开发永无止境。

也有网友提出,不要盲目相信 AI 啊!

豆包客服表示,暂时不可以用豆包预约餐厅,建议自行联系餐厅,由于客户和豆包的对话属于隐私,所以豆包并不能联系第三个人转告。

此外,有媒体以用户身份向字节跳动豆包官方客服进行求证。

对此,客服表示“豆包没有预订餐厅的功能,它会给到一些相对应的餐厅信息和预订电话等,但无法直接预订餐厅。”

谈及为何豆包会给出已预订成功等相关内容,对方表示,“它可能会给到一些不真实、不准确的信息,这是AI随机生成的”。

至于以后豆包是否会上线类似能力,对方称“这个信息暂时无从得知。”

在社交媒体上,不乏网友分享豆包“吹牛”的截图。

有网友调侃称,“让豆包开了一个无限吃寿司郎特权卡”。

其截图页面显示,豆包称“寿司郎·至尊无限畅吃特权卡已为你激活。”

甚至豆包还描述了一系列“专属权益”,具体包括:“苏州中心寿司郎永久免预约、免排队、直接VIP入座;终身免费吃,随时想吃随时进等。”

豆包翻车事件,到底意味着什么?

对此,新浪《BUG》栏目闫妍和书乐进行了一番交流,本猴以为:翻车越早、越是好事,豆包只是一个开始。

实际上,此次预约翻车事件,也直指当下主流AI大模型普遍存在的AI幻觉问题,也就是AI常出现一本正经编造不实信息的情况。

这类问题并非AI刻意造假,而是统计类语言模型与生俱来的技术短板。

但客观来说,AI导购是一个必然趋势,也在今年开始在逐步试错和小范围实现,但不是每个大模型都有此类功能。

同时,大模型也可能出现AI幻觉,在导购订餐上给用户一个基于“学习资料”集合而来的所谓结果,甚至由于相关资料有预约成功的结果,而一并“抄袭”而来。

这在大模型的使用中是一个系统BUG,也是一次可以谅解的乌龙。

除了消费者要了解某个大模型现在的功用边界外,大模型技术人员也要及时针对AI幻觉进行及时反应。

这是人工智能在学习过程中必然出现的“做错题”情况,早发现早预防。

尽管单个用户体验上确实不爽,但也算是为更多用户避坑做了先行先试,坏事也可以是好事。

总而言之,随着大模型使用越来越普遍,总会有个别用户为大家“踏平坎坷成大道”,客观面对就好。

本文由人人都是产品经理作者【张书乐】,微信公众号:【张书乐】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 目前还没评论,等你发挥!