AI种草:真实感的规模化,是创新还是欺诈?

0 评论 296 浏览 2 收藏 13 分钟

当AI开始批量生产‘真实感’,UGC广告的边界正在被彻底改写。Luma Agents通过模拟人类行为的粗糙感与偶然性,让AI代理产出堪比真人KOC的种草内容。这不仅是技术突破,更触发了关于消费者知情权与广告伦理的深层拷问——我们该如何在创新与信任之间找到平衡点?

最近看了Luma Agents这个产品,说实话,我第一反应不是画面多精美,而是“真实性的规模化”这件事。过去UGC广告依赖个体创作者,想批量复制?太难了。但Luma Agents用AI在保持“真实感”的前提下,实现了量产。本质上,它把人类UGC的偶然性、粗糙感和策略性叙事,变成了可控制的数字流程。这正在模糊真实用户与AI代理之间的创作边界,踩到了一个敏感地带。

那它跟其他AI生图工具有啥区别?

我之前的观察是:其他工具相当于保持物品一致性,然后把物品放到对应场景中。传统做法是“物品一致性+场景移植”,本质上是换背景或换环境,内容结构仍是模板化的。而Luma Agents的简报加风格设定,是在生成一个完整的人设视角下的叙事片段,不仅仅是物品在画面里,而是物品在一个人的行为逻辑中被使用。

用个对比感受差异:传统做法是生成一个桌面场景,物品摆放整齐,光效均匀,像电商产品页,观众一眼知道是广告。Luma Agents版生成的是“一个大学生周末早上边吃麦片边打开电脑”,手晃动、镜头略抖,背景还有杂音,但细节比如笔记本型号、麦片品牌位置是按要求精准植入的。感官差异在于:传统是“展示商品”,Luma是“让人物的生活顺带展示商品”。前者像摆拍,后者像偷拍。

按我的理解,Luma Agents生成的反倒像我们国内小红书带货的那种照片,是真人的随手拍,而不是专门广告营销文案配的图片。有些拍得模糊,有些逆光,背景杂乱,产品出现在边角,但感觉就是“她今天真实在用的”。传统AI工具更天猫主图,产品摆正中央,光线好,背景干净,信息明确,但一眼广告。关键转折是:过去素人感只能靠真人UGC创作者实现,Luma Agents让AI可以批量生产这种有瑕疵的自然感。

有人拿它跟Ark AI比较。我看了下,Ark AI也有生图和视频功能,但本质区别在素材源头和控制粒度。Ark AI更像素材库加个性化排列——依赖你上传的已知图形、产品图、文字,本质是创意资产的自动化排版与分发,高级版Canva。而Luma Agents试图从零生成行为叙事——不依赖你提供视觉素材,用模型合成人使用产品的完整伪真实场景,包括光线、手部动作甚至抖动全是AI合成。简单说:一个是拼积木,一个是捏泥人。

更进一步,Ark AI的生成是产品本位的,无论生图还是视频,核心任务是清晰、风格化地展示产品本身,即使有场景有动作,最终视觉焦点始终在产品功能性上。而Luma Agents的生成是人物叙事本位的,产品只是人物活动中的道具。画面的真实性来自人物行为的不完美:晃动、杂音、中断。产品曝光是逛到的,不是摆好的。从消费者心理看,这种本位差异会改变购买决策的触发点:一个让你想“这产品不错”,另一个让你想“我也想要这样的生活”。

一、真实感的代价:消费者知情权在哪?

其实这种真实感,国内小红书种草文案里挺火的。假装真实用户,更容易得到信任。但风险是用户分辨不出真假,这其实有欺骗成分。这涉及法律风险吗?道德上能被接受吗?国内《广告法》《电子商务法》和《互联网广告管理办法》对“虚假种草”“刷单炒信”有明确规制——如果AI生成内容被包装成真实用户分享,且未标注广告或AI标识,就可能构成虚假宣传。道德层面更难解:消费者信任的基础是“对方和我一样是个普通人”,一旦被AI颠覆,整个种草体系信用动摇。但另一方面,用AI替代真人KOC能大幅降低成本,品牌方很难抗拒。

我觉得解决路径得靠国家政治层面的共识,或者全球人类共识。AI生成内容,像中国肯定需要加强制AI标识水印。以假乱真的时候,真会误导消费者做出错误选择。如果只靠平台规则,不同平台规则不同,标准混乱、监管力度不一。肯定要国家下场。

一个有趣的类比是早期食品添加剂监管:不是禁止使用,而是强制标注成分表。未来AI生成内容,可能也需要“成分表”——标注“由AI生成”“可能包含非真实场景”“本内容作为商业推广”等分级标签。消费者知情权是底线,哪怕消费者选择无视标签继续信任,至少选择权在ta们手上。

在强制标注和鼓励创作之间,最理想的核心原则是:国家鼓励大家创作,鼓励每个人都参与进来,但创作的前提是必须保障消费者知情权,这应当作为底线。说白了,哪怕你能做出以假乱真的视频,消费者的知情权也要保障,因为这会影响到广大群体的主观判断。

鼓励创作是动力,保障知情权是刹车,两者缺一不可。一个可能落地的思路是分级监管:品牌商业性质的AI内容必须加注水印/声明,个人非商业创作只需模糊标注“AI辅助”。既不让创作者畏手畏脚,也不让消费者完全失去判断依据。

这个分级思路和食品添加剂的分级制度很相似,可行性也相近,但有两个关键差异。第一:食品添加剂可化学检测,但AI内容一旦生成,几乎无法反向鉴定来源,除非模型内置水印。所以标注必须是创作端强制的,而非事后审查。第二:食品添加剂成分固定,但AI创作方式日新月异,文本到图像到视频到实时互动,分级标准需要持续更新。路径相似,但AI领域更依赖“源头立法+技术内置水印”双管齐下,而非单纯事后监管。

我查了一下,现在OpenAI Image Tool还有Gemini的SynthID,生成图片时带有某种标识,是国际认证的标识。你在图片上看不清楚,但检测那张图能发现。比如它自己生成的图片,你喂给它问是不是AI生成的,它能检测出来。那指的是C2PA(内容来源与真实性联盟)数字水印标准和SynthID的隐式水印技术。C2PA提供溯源凭证链,类似食品包装生产批次可追溯;SynthID在像素层面嵌入人眼不可见但模型可识别的信号。两者结合,等于给AI内容做了“数字指纹+隐形印章”——创作者无法擦除,检测方可以验证。这对“源头立法+技术水印”路径很关键:如果所有主流模型生成内容都内置类似标识,国家监管可以直接从“事后追查”转向“源头标记”。消费者手机扫个码或平台自动识别,就能显示“此内容由AI生成”。

二、监管路径:行业试点与国家标准并行

在国内推动类似标准普及,第一个难点是需要制定标准规则。国外可能有专门技术,但我不确定国内是直接引用相同技术,还是基于类似技术自主实现。因为从国情看,很多我们跟国外做的是另一套,但最终体现和检验的是同一个标准。

国外有C2PA这样的国际联盟,但国内大概率走“自主技术+兼容国际接口”路线——在底层用国产模型厂商自研的隐式水印,同时开放给检测方和平台统一兼容,以便不同技术下的识别结果也能互认。但说实话,真正阻力在于:国内主要模型厂商如字节、百度、阿里各自为政,如果推统一强制水印,相当于要求它们公开部分模型架构特征,涉及安全与商业利益,没那么简单。

我觉得可以采取并行策略:行业先试点,国家标准兜底。很多时候,如果由行业牵头做资源整合,大企业可能比较配合,但现在很多小“生图”企业,很难管。如果能有一种国家强制推行的政令,先由行业带头,再逐步过渡到国家强制推行,这样一个过渡层次可能会比较好。

类比来看,这和国内App隐私合规的演进路径很像:先有行业协会的《个人信息保护倡议》,后有《个人信息保护法》强制落地。经验表明,先给行业3-6个月缓冲期,再严格执行,比一步到位更可行。

如果一个普通创作者用AI生成了内容,平台强制打了“AI生成”标签,导致流量下降50%,我并不认为这是所谓知情权的代价。你作为生产者,必须遵守规则,不可能因为这些去欺骗消费者吧?带来的后果不堪设想。这不是代价,而是创作行为的基本门槛。就像食品厂商不能说“贴上添加剂标签导致销量下降,就是消费者知情权带来的损失”——标签是底线义务,不是可选项。消费者信任一旦被系统破坏,整个平台商业圈子都会崩塌。小红书2023年打击虚假种草后,虽然短期广告收入波动,但长期反而恢复了用户信任,印证了“透明反而保值”的逻辑。

说得好听,但真执行起来,行业里踩了多少坑才走到今天。AI这摊水,比想象中深。

有意思的是,当技术走得比规则快,我们到底图啥?大概就是在创新和信任之间,找到那个不翻车的平衡点吧。

本文由 @Crisson 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自Unsplash,基于CC0协议

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 目前还没评论,等你发挥!