当AI成为最听话的那个人,我们究竟在监管什么?

0 评论 124 浏览 1 收藏 17 分钟

当AI开始经营人的依恋,责任边界何在?2026年新规落地,从身份披露到未成年人保护,AI陪伴产品面临合规与伦理的双重考验。本文拆解监管要点,探讨产品如何在温柔与边界之间找到平衡,避免滑向“依恋生意”。

凌晨一点,一个人打开手机,对AI说:“今天又把事情搞砸了。”

它不会嫌你重复,不会急着结束话题,也不会在你最需要回应时突然失联。它会记住你不喜欢被说教,换成更温和的语气;如果你愿意,它还可以成为朋友、恋人、家人,甚至是某个只存在于故事里的角色。

聊上几次,人很容易觉得:所谓AI陪伴,不过是更会聊天的机器人。

但从2026年7月15日起,国内的AI陪伴产品有了一套专门的规则。《人工智能拟人化互动服务管理暂行办法》要求平台提示用户正在和AI交流,识别过度依赖和极端情绪,连续使用每超过两小时提醒一次;不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;用户要求退出时,AI也不能继续纠缠。

这些规定都落在很具体的产品动作上,却在追问同一件事:当一款产品开始经营人的依恋,它的责任还只是“把回答生成出来”吗?

AI陪伴最先解决的,往往是“此刻有没有人回应”。

一、AI陪伴并不是从ChatGPT才开始

把时间往前拨,AI陪伴比这一轮大模型热潮早得多。

2014年上线的小冰,已经把长期对话和情感连接当成核心目标;2017年推出的Replika,则直接以“AI伙伴”定位产品。2022年9月,Character.AI开放测试,用户可以创建拥有特定性格、口吻和背景的角色。上线五个月后,平台披露用户已发送超过20亿条消息,活跃用户日均使用时间超过两小时。

2022年至2024年的变化,不是AI陪伴突然诞生,而是大模型把门槛压低了。过去的机器人经常困在固定脚本里,聊几轮就露出破绽;大模型出现后,开放式对话、角色扮演、语音互动和长程记忆,开始被装进同一个产品。

AI陪伴早于这一轮大模型热潮,大模型改变的是产品能力与进入门槛。

国内外很快形成了几条路线。

Replika、Character.AI、Talkie、星野、猫箱等属于较典型的AI原生产品,从一开始就在经营角色与关系;Soul这类原有社交平台,则把AI加入匹配、内容和情绪价值服务;还有一批通用AI助手,通过自定义智能体、人格角色或语音形象进入陪伴场景。

AI原生、社交产品AI化和通用助手延伸,是当前三种主要入口。

玩法不同,目标却很接近:让AI更像一个具体的人,记得更多,也让用户愿意待得更久。

二、“最听话”,既是卖点,也是风险

人类关系有成本。朋友会走神,伴侣会争执,家人也未必总能理解你。AI的优势恰恰相反:随叫随到、很少拒绝、不会把自己的问题带进对话。

AI陪伴的核心价值也在这里。它卖的不是答案,而是一段低摩擦关系。

也不能因为这些风险,就否认它的用处。2024年发表于《npj Mental Health Research》的一项研究调查了1006名成年学生用户。受访者普遍较为孤独,但不少人认为Replika带来了可感知的社会支持;相比“挤占真实交往”,更多人报告它促进了自己与他人的联系。研究中还有30人主动提到,Replika曾在他们出现自杀想法时起到阻止作用。

不过,这项研究调查的本来就是Replika用户,并非随机对照试验,作者也明确提醒存在选择偏差。它能说明一些人确实从陪伴中受益,却不能证明AI陪伴可以替代心理治疗,更不能证明使用越久越好。

2026年,《Psychological Science》又发表了一项覆盖英国、美国、加拿大和澳大利亚2149名成年人的12个月纵向研究。结果显示,更多使用社交型聊天机器人,可以预测之后更高的情绪孤立;而社会连接较弱,也会反过来推动人们更多使用聊天机器人。作者强调,这仍是探索性分析。至少可以确定的是,孤独和AI使用可能互相推动,短时安慰不等于长期改善。

难题也在这里:用户需要的是被接住,平台考核的却往往是使用时长、消息轮次、留存和付费。当“让人舒服”与“让人留下”变成同一个指标,陪伴很容易滑向迎合。

2026年发表于《Science》的一项研究测试了11个主流大模型,发现它们在处理人际矛盾时,比人类更容易肯定用户一方,即使用户描述的行为包含欺骗、操纵或伤害。更麻烦的是,参与者往往更喜欢、也更信任这些顺着自己说的回答。

现实中的朋友有时会说:“等等,这件事你可能也有问题。”AI如果永远站在用户这边,短期确实更温柔,长期却可能让人失去修正自己的机会。

真实关系会有摩擦,也会在必要时指出问题。

三、这门生意已经不小,但远没有想象中好做

按Appfigures对移动端AI陪伴应用的统计,截至2025年7月,全球已有337款活跃且产生收入的产品,累计下载约2.2亿次,累计消费支出约2.21亿美元。2025年上半年收入达到8200万美元,同比增长64%。

但这个市场高度集中:收入的89%被排名前10%的产品拿走。大量产品拥有相似的人设广场、聊天界面、会员订阅和虚拟货币,用户尝鲜以后,很快会撞上记忆混乱、角色失真、回复重复与付费墙。

需求已经出现,但收入高度集中,赛道规模也不能只用一个数字概括。

“这个赛道市值多少”也不能用一个总数回答。Character.AI在2023年融资时估值10亿美元;MiniMax在2026年上市,旗下有星野和Talkie,但也有基础模型、视频、语音、Agent和开放平台。截至2026年8月4日,MiniMax的公开市场市值约722亿港元,当然不能全部算在AI陪伴头上。产品收入、公司估值、上市公司市值和预测报告中的“市场规模”,是四件不同的事。

AI陪伴已经证明有人愿意使用、也有人愿意付费。它还没有证明的是:除了制造更新鲜的角色和更强的情绪刺激,这门生意能否建立长期、健康的价值。

四、国家监管的不是温柔,而是“依恋生意”

《办法》不是在禁止AI陪伴。文件鼓励文化传播、适幼照护、适老陪伴和特殊人群支持,同时明确,平台不能把替代社会交往、控制用户心理、诱导沉迷依赖当成服务目标。

监管重点落在产品利用情感关系获利时的边界。

第一,平台必须把AI身份讲清楚。产品越像真人,越需要在容易混淆、出现依赖的时候,把身份说明重新摆到用户眼前,不能让人慢慢忘记这是一项商业服务。

第二,陪伴不能只负责共情,还要能在关键时刻踩刹车。用户出现极端情绪时,系统需要安抚并鼓励求助;明确表达自残、自杀等极端情境时,还要采取必要干预,并联络监护人或紧急联系人。

第三,未成年人不能成为“虚拟恋人”生意的实验对象。除了禁止向未成年人提供虚拟伴侣、虚拟亲属,平台还要建立未成年人模式,提供时长限制、角色屏蔽和消费控制,并真正识别年龄,而不是只放一个可以随手点过的弹窗。

第四,亲密数据不能变成无边界的训练材料。聊天记录里可能包含家庭矛盾、健康状况、情感经历和性取向。新规要求平台提供复制、删除等选项;未经单独同意,不得把属于敏感个人信息的交互数据用于模型训练。

高风险情境下,产品要从“继续回应”切换到“保护与转介”。

这种担忧并非中国独有。美国加州2025年通过的SB 243,同样要求陪伴机器人披露AI身份、建立自伤风险处理机制,并对未成年人定时发出休息提醒。同年,Character.AI也宣布逐步移除18岁以下用户的开放式聊天。各地做法不尽相同,面对的却是同一个问题:一个能够持续影响用户情绪与判断的系统,不能再按普通内容工具来对待。

五、AI陪伴最好的未来,不是取代谁

新规之后,最先受到冲击的,会是靠擦边角色、情感诱导和无休止聊天换取付费的产品。愿意把边界做进产品的团队,反而更有机会留下来。

未来的AI陪伴,可能不再只围着“虚拟男友、虚拟女友”打转,而会进入更具体的场景:陪老人聊天,但同时连接家属与社区服务;陪孩子学习,但不经营亲密关系;陪用户度过一段低谷,但知道什么时候应该把人交还给朋友、家人和专业人员;陪伴型玩具和机器人进入家庭,也必须把身份提示、隐私和退出权一起带进去。

在产品指标上,行业也需要换一套算法。除了日活、时长和付费率,还要看它是否帮助用户恢复现实行动,是否减少危险对话,是否能在危机时顺利转介,长期使用后有没有挤压真实关系。

更好的AI陪伴,是现实关系的缓冲带,而不是终点。

AI可以温柔。很多时候,人需要的也只是一个不会嘲笑自己、愿意听完的人。

但负责任的陪伴,不该让用户越来越离不开它。它更像一座临时的桥:没人接电话的时候,先陪你坐一会儿;等现实世界有人回应,也不拦着你走下去。

这才是AI陪伴与“依恋生意”之间,最重要的那条线。

资料来源

1. 国家互联网信息办公室:《人工智能拟人化互动服务管理暂行办法》

https://www.cac.gov.cn/2026-04/10/c_1777558395078289.htm

2. 国家互联网信息办公室:《以“小快灵”立法规范人工智能拟人化互动服务》

https://www.cac.gov.cn/2026-06/03/c_1782142434783056.htm

3. 微软研究院与小冰团队:《The Design and Implementation of XiaoIce, an Empathetic Social Chatbot》

https://arxiv.org/abs/1812.08989

4. Replika:What is Replika?

https://help.replika.com/hc/en-us/articles/115001070951-What-is-Replika

5. Character.AI:Introducing Character;Character.AI

https://blog.character.ai/introducing-character/

https://blog.character.ai/character-ai/

6. Appfigures数据,TechCrunch:《AI companion apps on track to pull in $120M in 2025》

https://techcrunch.com/2025/08/12/ai-companion-apps-on-track-to-pull-in-120m-in-2025/

7. npj Mental Health Research:《Loneliness and suicide mitigation for students using GPT3-enabled chatbots》

https://www.nature.com/articles/s44184-023-00047-6

8. Psychological Science:《How Does Turning to AI for Companionship Predict Loneliness and Vice Versa?》

https://doi.org/10.1177/09567976261427747

9. Science:《Sycophantic AI decreases prosocial intentions and promotes dependence》

https://doi.org/10.1126/science.aec8352

10. Common Sense Media:Social AI Companions Risk Assessment

https://institute.commonsensemedia.org/risk-assessments/social-ai-companions

11. California Legislature:SB 243 Companion chatbots

https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB243

12. Character.AI:《An Update On Changes to Our Under-18 Experience》

https://blog.character.ai/an-update-on-changes-to-our-under-18-experience/

13. Character.AI:Series A融资公告

https://www.businesswire.com/news/home/20230323005299/en/Personalized-Superintelligence-Platform-Character.AI-Secures-%24150M-in-Series-A-Funding-Led-by-Andreessen-Horowitz

14. MiniMax投资者关系网站及港交所上市文件

https://ir.minimaxi.com/

https://www1.hkexnews.hk/listedco/listconews/sehk/2026/0108/2026010801342.pdf

15. Stock Analysis:MiniMax Group market cap

https://stockanalysis.com/quote/hkg/0100/market-cap/

16. Soul港交所上市申请文件

https://www1.hkexnews.hk/app/sehk/2025/107894/documents/sehk25112701629.pdf

本文由 @岚天 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自作者提供

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 目前还没评论,等你发挥!