AI 女团成员被宣布怀孕待产，五百字致歉信写得情真意切，热搜之后公司才承认整件事纯属虚构设定。数字人靠剧本制造真实感，也在改写粉丝经济的边界，把内容伦理与平台治理一起推上台面。

一则AI偶像“怀孕”的消息，让AI数字人的话题再次引爆热搜。

近日，AI女团BABYPVSSY发布公告称，旗下艺人Mity近期确认“怀孕”。为了做好孕期健康管理、安心待产，经过公司和本人商议，决定暂停所有团体行程、舞台演出和综艺活动，全面进入休养阶段。

此外，Mity还发布了一篇500字左右的怀孕致歉信，言辞诚恳地让不知道实情的路人看了还以为是哪个真人女爱豆要暂退娱乐圈。评论区还有人问，孩子他爸是谁？要接母婴广告了吗？

AI怀孕？怎么做到的？

当这个“赛博医学奇迹”在这两天被闹上了热搜之后，幕后创作者才发布声明称，整件事纯属虚构，因为运营多个AI角色压力巨大，为了让Mity体面“退场”，才选用了怀孕这个不太恰当的理由。

如果说AI爱豆怀孕是“闹麻了”，那么“AI小海”和“AI换明星脸带货”的乱象则展现了出了一条更隐蔽、也更赤裸的灰色商业链条。

AI角色的商业爆发力早已不是秘密。今年7月，AI短剧《被裁掉的女孩》女主角方桃子爆火之后，其广告报价区间一度达到16.8万元至25.8万元。这样的商业价值，自然吸引了越来越多运营者，加码了对AI角色的运营投入，想要分上一杯羹。

然而，从官宣怀孕退团的AI女爱豆再到卖惨的AI儿子“小海”，技术把塑造AI角色的门槛一降再降，真与假、善与恶又该如何区分？

当AI和商业价值的绑定越来越深，那些辨别不了AI真假的人群，他们的权益，又该如何守护？

当“人设”被批量生产

AI偶像的出圈，绕不开一个名字——方桃子。

今年6月12日，一部名叫《被裁掉的女孩》的AI短剧在抖音上线，剧集走红后，剧中主角开设社交账号，并更新做饭、健身等生活片段，吸引了不少剧粉关注。

一个月后，“两个AI演员比内娱待爆艺人都火”话题直冲热搜榜第一，方桃子成功破圈。有了流量关注后，方桃子的商业价值进一步攀升。巨量星图显示，其1—20秒视频报价16.8万元，21—60秒报价20.8万元，60秒以上报价25.8万元。

她的“翻车”是因为一条美瞳的商业广告视频。7月31日，方桃子发布视频安利美瞳产品，但作为虚拟角色的她，竟然以第一人称口播“戴了一天都很舒服”这句广告词。

作为虚拟人表达佩戴体验，完全就是“天方夜谭”。《广告法》里明文规定，广告代言人没用过的商品是不能推荐的，而且美瞳属于三类医疗器械，医疗器械类产品严禁出现代言人宣传。

争议过后，广告全网下架，方桃子的热度也渐渐凉了下去。但一个方桃子过气了，千万个“方桃子”出现了。

以此次闹出“怀孕退团”的女团组合BABYQUEEN为例，虽然成员是虚拟的，但其幕后团队却真的在按照偶像团体运营的套路在操盘。不仅每个成员都有校服证件照、日常自拍照等运营照片，就连名字都有韩文名、英文名、中文名三套。

在“官宣”Mity因怀孕决定暂停所有行程这一“重磅消息”后，BABYQUEEN反手就发了一条新歌回归预告，被不少网友吐槽拿女性生育当流量噱头。

舆论风暴之下，幕后创作者表示，所谓的经纪公司 BABYPVSSY 娱乐，背后就是几个喜欢Kpop的女生，用AI工具捏了五个虚拟人，自娱自乐做着玩。

如果说BABYQUEEN只是自娱自乐闹出的乌龙，那么AI换脸真人明星、AI角色“小海”的出现则揭开了行业狂飙带来的消费欺诈风险。

10月18日，演员吴越在社交平台公开发声，怒斥视频号“花姐美肤日记”盗用她的肖像与声音，利用AI生成带货视频推销产品。“AI吴越”在视频中称，相关产品不是品牌方找其代言，而是其主动联系厂家，希望能推荐这款“好产品”。

这已不是公众人物第一次被AI冒充。此前，邓亚萍、张文宏、温峥嵘、海清等都曾公开打假，表示网络上有不法分子利用AI生成他们的形象，推销产品。

“AI小海”则是通过特意打造的“人设”来卖惨带货，收割“姨姨妈妈”。

批量的由AI生成的十几岁男孩形象“小海”，通过演着“懂事、窘迫、心疼长辈”的苦情剧本，打造清秀乖巧、缺少母爱的大学生人设，靠一声声“姨姨妈妈”把中老年女性引向高价橱窗，部分商品佣金高达55%。

AI乱象最刺眼的一面，落到了最缺乏防备的人身上。

不能只靠“魔法”打败“魔法”

把乱象归罪于技术的狂飙，是懒惰的判断。同一套生成能力，既能造假，也能“反诈”。

“AI小海”的骗局被揭开后，为了唤醒那些沉迷“AI小海”的长辈，不少年轻网友发布了“恶人小海”的视频——要么戴着金链子、叼着烟，冲白发老人出言不逊；要么就是穿着囚服、抓着铁栏，喊着“我是骗子”。

不过，要抵制“AI小海”的乱象，不能单单依靠“魔法”对轰。

北京航空航天大学法学院副教授赵精武指出，结合视频内容和带货目的来看，AI小海打造的剧情针对的是家庭情感缺位的老年人，主观目的从来都不是用来描述客观事实，甚至存在恶意误导老年用户、博得同情的行为，可以认定为欺诈。

“由AI生成”这个标识仅仅是说明视频的生成方式和使用的工具，在“AI小海”这条产业链上，第一责任人毋庸置疑是账号运营者或直播间运营者。

事实上，AI小海在一年前只是“AI王建国”身边的配角，扮演王建国的儿子小海，和王建国一起靠“独自养家带娃”的人设进行带货。后续，因平台整治AI技术滥用，部分王建国的账号遭到了清空。

但AI普及、制作门槛的降低，让AI视频带货变得更加容易，“王建国”的儿子、朋友、兄弟等配角，都被想“圈钱”的运营者陆续推到台前。有着懂事孝顺人设的小海成了最火的一个，开启了又一轮精心设计的收割。

网上还有很多生成“小海”并起号的教程，购买相应课程后，就可直接插入“小海”形象图和商品参考图，再用AI软件生成数字人，还可以自动化发布。正因如此，这一轮AI小海的骗局带来的负面影响远超AI王建国。

去年9月，《人工智能生成合成内容标识办法》已经正式开始实施，但是对于数字素养参差不齐的老年人而言，“AI生成”的标识很难被注意到。

公开资料显示，今年5月，一位79岁的老人因为看了AI小海发布的视频“姨姨妈妈，小海祝你平安健康”后，准备独自一人乘车去看望亲戚“小海”，在乌鲁木齐铁路公安乘警的耐心劝说下，这位老人才下车回家。

目前，各大平台上关于“AI小海”相关的视频大多都遭到了屏蔽和下架处理。不过，随着AI技术的持续狂飙，平台的规范化治理，不能总等到漏洞出现之后。

虚构的自由，也要有边界

技术本身没有立场。决定它往哪边走的，是使用它的人，以及约束使用者的规则。

AI虚拟人在直播和内容领域的角色，就是一个放大器。从正面看，它能把想象力放大，降低创作门槛，丰富内容供给。

据Global Market Insights报告，全球AI虚拟人市场2025年规模为63亿美元，2026年预计达84亿美元，2035年将增长至934亿美元，年均复合增长率达30.6%。《2025年中国数字人产业发展报告》显示，2024年中国数字人核心市场规模339.2亿元，预计到2030年会增长至935.6亿元。

今年9月，国内首场AI艺人线下演唱会开场，AI歌手Yuri吸引了几千名观众到场观看。北京经开区已经为Yuri颁发了全国首个虚拟偶像身份认证，厂牌全网粉丝已超过110万。

这是AI技术带来的关于生产力重构的那一面：不会画画的人可以做角色，不会唱歌的人可以做歌手，一个小团队甚至一个人，就能撑起一个IP。

而“AI小海”、换脸真人明星带货等乱象的出现，则提醒着行业——虚拟与现实之间，必须有一条绝对不能逾越的红线。

事实上，规则已经在路上。近年来，监管部门已出台《人工智能生成合成内容标识办法》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等，对内容标识、服务提供者责任作出细化规范。

今年4月，国家互联网信息办公室还起草了《数字虚拟人信息服务管理办法（征求意见稿）》向社会公开征求意见，旨在促进数字虚拟人信息服务健康发展和规范应用，保障公民、法人和其他组织的合法权益。

可以说，规则的骨架已经搭起来了，问题是，骨架和血肉之间还隔着一层执行。

正如业内人士建议，平台掌握着流量、算法和审核权限，完全有能力把“授权核验”“公众人物白名单比对”“AI内容在推荐链路中的前置提示”放到“正主刷到之前”。

AI技术爆发，正面是生产力重构，反面是底线重构，我们不能只要前者，不管后者。虚构可以自由，但自由得有边界；技术可以狂奔，但也得有及时刹车、走向正道的本事。