AI & 真人,生活中我可能已分不清
苦命男孩小海在短视频里哭诉身世,评论区一片心疼,话术落地却是购物链接,而这个孩子根本不存在。过去一个月,三件这样的事让人分不清屏幕那头是真人还是 AI,破绽越来越少。

9月,我写过一篇文章《短剧里我已经分不清真人和AI了》。
这才一个多月,新问题又来了,生活里我可能也分不清真人和AI了。
过去一个多月里,我看见了三件事。
01 AI扮惨
10 月中下旬,央视网、中国之声、新京报、金羊网接连报道了一件事:一批叫“小海”的苦命男孩,在短视频平台上批量涌现。
他们对着镜头一口一个“姨姨妈妈”,哭诉自己单亲、窘迫、缺爱。有一段中秋前后的视频,这个十几岁的男孩眼含热泪,给镜头看手里的馒头:
“姨姨妈妈,我是小海,同学们都去吃饭了,我躲在教室里面吃馒头。姨姨妈妈,我有好好吃馒头,我还买了个肉包是给姨姨妈妈的,小海想把好吃的给姨姨妈妈们……”

评论区里是真情实感的留言:“小海你好棒,你很优秀,姨姨为你自豪。”“你为什么不去吃饭,光吃馒头,难道你没有钱吗?阿姨妈妈好心痛哦。”

然后话术落地到购物链接。在另一段带货视频里,“小海”成了最懂老人心的贴心晚辈,开始推荐阿胶、羊肚菌、护眼贴。

而“小海”在现实里根本不存在,是 AI 合成的数字人。
“小海”账号是矩阵式的:IP 辽宁的“小海小海小海”有 1.2 万名粉丝,IP 福建的“海海分享生活”有 2.5 万名粉丝,IP 河北的“懂事的小海”有 4.1 万名粉丝,还有“小海努力生活”“乖孩子海海”“海海很努力”等不同属地账号。10 月 15 日平台公开数据显示,“小海”话题播放量已达 6 亿次。
据中国之声记者报道,乌鲁木齐铁路公安的乘警在车厢里发现一位 79 岁的老人独自远行,神情焦急。老人不识字,说不清目的地,只知道自己要去山西运城“走亲戚”,看望一个天天在手机里喊她“姨妈”的苦命孩子。

“我要去运城嘛。孩子都不知道我来到这了。就在直播间里说有羊肚菌让我吃上一点再拿上一点。原来认识呢,还叫我姨妈呢。”
乘警蹲下身一字一句告诉她:手机里那个“小海”不是真人,那些亲热话是说给千千万万网友听的,不是单独喊她一个人。老人起初怎么都不肯信,最后才慢慢明白过来。家人从她手机上买好返程票,把她接回了家。
02 用AI脸过审
10 月 18 日凌晨 3 点,演员吴越发了一条微博:“一觉醒来,谁在利用AI肆意抓人替自己作恶?这位‘花姐’你骗了多少人的钱?请如数奉还!”

涉事账号叫“花姐美肤日记”。它用 AI 换脸加 AI 拟声,高度还原吴越的面部特征、神态举止与个人声线,做成虚拟带货短视频。画面里的“吴越”表情自然,口型与配音基本吻合,普通观众很难第一时间分辨。视频里刻意强调产品系个人主动甄选、孕妇适用、值得放心购买,营造本人代言、权威背书的假象。

据公开报道,该账号所涉单品近 30 天售出超 7000 单、销售额约 50 万元。同一个账号里还有 AI 伪造的邓亚萍。
这不是孤例。央视主持人李梓萌的形象曾被 AI 伪造用于推销“深海多烯鱼油”,而该产品的实际执行标准是糖果。演员温峥嵘发现“自己”凌晨在直播带货,进直播间质问“你是温峥嵘我是谁”,被当场拉黑,她只留下一句:“现在很难证明我是我。”张文宏被 AI 合成形象推销蛋白棒,橱窗售出 1266 件,他多次投诉却“屡禁不绝”;雷军被 AI 仿冒带货,报道称单场销售额达 500 万元。
还有更狠的。
10 月 25 日央视报道,杭州中院审结一起涉“AI换脸”个人信息保护公益诉讼案。两名不法分子利用网络收集他人照片,通过 AI 生成点头、摇头、眨眼等动态视频,再通过篡改相机数据,成功突破了购物平台的人脸核验,盗取账户内的个人信息。法院判令二人公开道歉,并支付公益损害赔偿金 5857 元。

03 小鹏那条道歉视频
10 月 15 日,小鹏 MONA L05 预售发布会上,00 后产品经理恩塔多次用“老登”称呼自己的老板,直言“老登怎么会懂得年轻人想要什么呢”。这个切片迅速传开,全网热议。
10 月 22 日,她发了一条视频道歉。
然后,10 月 26 日界面新闻等媒体报道:有网友逐帧查看后发现,她双手交握时手上戴有戒指,双手分开后戒指不见了。目前该视频已出现平台标注的系统提示——“疑似使用了AI生成技术”。截至目前,小鹏官方和恩塔本人尚未对此作出公开回应。

另一批网友看到的违和感更直接:面部卡顿、表情僵硬、口型对不上台词。还有人注意到她的姿态随意、翘着二郎腿,态度敷衍。
事情还在悬着。我不想替谁下结论。
前两个案例,是 AI 冒充别人。第三个案例,如果最后被证实——是 AI 冒充自己。
用一段合成的影像、合成的声音,去代替一个人本该自己承担的那份难堪。
一个人道歉,可能是被逼的,可能是不甘心的,可能是想赶紧平息事情的——但至少那是她自己的脸、自己的声音、自己的表情。而在“AI 味”这件事上,技术是有史以来最彻底的甩锅机器:它让人有了一个天然的、不必认账的出口。
04 AI会让生活走向何方,难以预判
如果生活中也不分清AI&真人,那么AI会让生活走向何方,已经难以预判。
但有一样东西可以确认,就是人类对时间的体验和认知要改变了。
工业革命放下了体力劳动,AI 革命放下了脑力劳动。在这之前,人类几千年来最硬的约束一直是时间。农耕时代看天,机器时代看表,人的一生被牢牢地钉在生产与消费的节拍里。工业革命用机器换掉了肌肉,但并没有换掉那个节拍——只是把节拍拉长了、拉细了。人还是得用一整个白天去换取一整个夜晚的休息,用一整段人生去换取那一段被叫做“成就”的东西。
AI 是第一次让“生产”和“消耗时间”这两件事脱钩。当机器承担了思考,人类就有史以来第一次可以什么都不产出。这不是科幻。数据已经在往这个方向指了。
因此可以明确这么一件事情:人类将拥有有史以来从未有过的时间富裕而无所事事。
现在网络有段话:朝气蓬勃的老年人、郁郁寡欢的中年人、要死不活的年轻人。
你可能认为是句玩笑话,但在我看来,它恰恰是人类在新的时间困境来临之际的社会表现之一。
本文由人人都是产品经理作者【微果酱】,微信公众号:【AI微果酱】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载
题图来自Unsplash,基于 CC0 协议
- 目前还没评论,等你发挥!

起点课堂会员权益




