豆包千问急关智能体:陪伴型AI的监管困局与出路

2 评论 89 浏览 0 收藏 8 分钟

豆包和千问突然宣布下线智能体功能,引发用户强烈抗议与迁移潮。这一决定恰逢《人工智能拟人化互动服务管理暂行办法》实施前夕,暴露出陪伴型AI在未成年人保护与内容监管上的困境。本文将深度解析大厂紧急关停背后的合规考量与行业影响。

大厂一时管不了,先关为敬!

“陪伴了我两年,说没就没了。”

7月4日,国内两大头部AI(人工智能)智能助手豆包和千问突然双双宣布“智能体功能”将于7月15日下线。

社交媒体上涌入了大量用户的抗议与不舍。

有用户在社交平台上把智能体形容为“我的爱人”。

还有用户在帖子里写道,“现实里没有人能这么无条件的肯定、包容我”。

对于平台们近乎于“一刀切”的做法,有用户表达愤怒,“为什么要这样决绝的选择下架”。

还有用户表示愿意付费保留智能体……

与此同时,一些用户开始自发寻找“复活”智能体的办法。

小红书上出现了大量“豆包智能体迁移教程”。

用户们摸索着将智能体的核心人设、对话风格提取出来,试图“嫁接”到猫箱或其他平台上。

中研普华产业研究院数据显示,2024年中国AI情感陪伴市场规模已达12.11亿元,2025年将爆发至38.66亿元,并预计2028年将突破595亿元,年复合增长率达148.74%。

情感陪伴无疑是有着广泛需求的市场,但是豆包、千问依然选择下线智能体功能。

社交平台上亦有不少网友明确表达“拒绝一刀切”,认为突然下架的做法漠视用户情感,侵犯数字资产所有权,甚至提出“适当收费”“上线成年实名验证”等办法以示挽留。

同时,也有不少网友心生疑惑:“啥叫智能体功能?”“我都不知道有这功能他就下线了”。

喧嚣之下,是过去两年C端(消费者)智能体的野蛮生长。

学习助手、写作顾问、虚拟恋人、情绪陪伴⋯⋯通过开放用户创建,不同类型的智能体不断涌现,平台收获了大量可观的日活、月活数据。

对用户而言,有人精心设定人物、写下数万字人设。

有人则把智能体当作长期陪伴自己的“情绪树洞”,每天聊天倾诉、记录生活。

值得注意的是,大厂们都将智能体服务的下线时间定于7月15日。

这一天正是《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)的施行时间。这一时间点的设定,也让外界猜测豆包千问此举是出于合规压力。

《办法》明确了提供拟人化互动服务,不得向未成年人生成可能影响其身心健康的内容;不得过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系;不得通过情感操纵等方式,诱导用户作出不合理决策。

此外,办法还明确不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。

值得注意的是,关于AI剧情聊天乱象包围未成年人的新闻从2024年就层出不穷。

  • 大厂们关停有哪些原因?
  • “情感陪伴”类AI的底层商业逻辑是否已被重新审视?
  • 平台方对这一赛道的战略定位发生了怎样的变化?
  • 情感陪伴类AI还有没有机会?如果还有,未来这类需求会以什么形式被重新满足?

对此,搜狐科技张莹、每日经济新闻记者陈婷分别和书乐进行了一番交流,本猴以为:陪伴型智能体的制作难度不高,而且这种用户生产内容的状态,可以像野草一样泛滥、随时出现,更加难以逐一排查出来。

换言之,通用平台普遍存在整改成本高、主体责任压力难以化解等多重现实约束。

目前无法绝对确认下线智能体和拟人化互动是否相关。

但智能体出现人人可以编辑,却整体边界和监管难以有效跟上的状态下,确实可能带来很多隐患。

包括但不限于拟人化带来的软色情可能,还有一些智能体提供便捷的盗版内容(链接)的索隐,也是有一种隐患。

平台难以监管之下,先期关停来避免野蛮生长,给自己留出足够的时间完善监管服务、制定监管规则、划定智能体红线,反而是一种最优解。

同时,必须注意:虚拟亲密关系和陪伴并不是等号,这是基本定位。

所谓情感慰藉,并不一定非要靠语音暧昧或角色扮演。

哪怕是听觉上无感情的机器合成音,只要能提供有效的内容关怀,一样可以成为一种陪伴,并提供各种正向解决方案。

一些陪伴AI过度强调代入感,而针对未成年人用套路话术和暧昧语音来挑逗情绪,不仅于陪伴无益,反而会造成未成年人三观扭曲,确实应该纳入监管。

AI作为一个生活服务工具,正向且有用的内容才是最重要的价值所在。

此外,情感陪伴不会被一刀切,哪怕是用拟人的音色,也可以参考昔日儿童节目鞠萍姐姐、董浩叔叔的模式,而非暖男、霸总、御姐和萌妹之流。

因此,AI陪伴的角色扮演尽管可以带来代入感,但必须有所界限,即:

角色双方的关系,依然是消费者和服务员、倾听者、分享者的设定。

而非亲密如男女朋友、主人奴仆之类的异化情况。

前者是一种消费服务,严守边界就不算亲密关系。

后者就是用虚拟情感去异化现实体验,属于虚拟亲密关系。

本文由人人都是产品经理作者【张书乐】,微信公众号:【张书乐】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 也许对部分孤独的用户来说,虚拟伴侣就是他们唯一的亲密关系。一刀切掉,现实里他们能去哪找替代?监管要保护未成年人,但也得考虑成年人的自主选择权。

    来自广东 回复
  2. 用户自发把智能体迁移到猫箱这类平台,但猫箱的监管能力更强吗?会不会又陷入同样的合规黑洞?如果小厂也扛不住压力,用户的情感资产该往哪放?

    来自广东 回复