AI产品用户暴涨之后,产品经理该看哪些指标

1 评论 649 浏览 9 收藏 24 分钟

传统"获客-转化-留存"指标体系在AI产品上失灵了:低门槛让注册转化率虚高,使用深度才是真实壁垒。作者亲测AI面试产品Lollipop,前端数据暴跌四成,北极星指标"面试完成率"反而上涨。真正该看的不是多少人打开了App,而是打开后有没有把事办完、办完愿不愿意再来。

QuestMobile的数据显示,国内AI原生App月活已经到4.99亿,同比涨了85.4%。

支付宝「碰一下」的用户规模过了4亿,千问的月活涨幅接近58倍。

这些数字这半年被反复引用,几乎成了「AI产品在爆发」的标准论据。

这类报道通常只披露一件事,规模涨了多少。使用时长、复访比例、有没有留存下来,这些同样能拿到的数据,很少被放进同一篇报道里,也很少被追问。

但很少有报道会往下多问一句,这些涨起来的用户,有多少留下来了,有多少只是来试了一次就走。用户规模和用户是不是被真正留住,是两件事,前一件被讲了太多次,后一件几乎没人认真拆过。

这半年被反复引用的规模数字,也让「要不要跟进做一个AI功能」这类决策,变得比以前更容易被数字本身带偏。

一、传统指标体系失灵的地方

产品经理判断一个产品好不好,习惯性地看一条链路,获客、转化、留存

这条链路背后有个默认假设,用户只要进来了、用起来了,价值就会自然沉淀,剩下的事交给时间。

这套假设在传统互联网产品上大体成立。做一个能用的产品需要门槛,门槛本身筛掉了一批凑热闹的用户,留下来的大多是真有需求的人。

AI产品把这套逻辑打乱了。

调一个大模型API,套一个现成的RAG框架,几天就能拼出一个看起来很能打的Demo。门槛被拉到了历史最低,注册转化率、首页访问这些前端数字,因此也变得很容易做得好看。

举个例子,一个做AI写作工具的团队,两周就能上线一个输入主题就能生成一篇公众号文章的功能。用户点一下几乎零成本,注册转化率做得很漂亮并不难。真正难的是,用户拿到生成结果之后,愿不愿意把这篇文章真的发出去,这一步在老地图上是找不到的。

这套低门槛甚至体现在产品经理自己的判断习惯上。过去评估一个新功能值不值得做,往往先看它能不能带来注册量和访问量的短期上涨。AI功能几乎都能满足这个标准,因为新鲜感本身就会带来一波点击,这也是为什么很多团队会在错误的方向上,做出一个看起来很成功的判断。

问题出在更深的地方。用户进来了,产品是不是真的把事情办成了,这件事和用户进来了完全是两回事。

传统产品里,进来和办成之间的距离很短。AI产品里,这段距离被拉长了,而且大部分产品经理还在用老地图找这段新路。

这就是为什么同一套仪表盘,同一批产品经理,会在AI产品上判断失误。不是数据造假,是看的地方错了。

二、权重重新排序

看的地方错在哪,QuestMobile的另一组数据说得比较清楚。

AI原生应用用户的月均使用次数是92.7次,同类预装应用只有51.4次,接近两倍的差距。

豆包、DeepSeek、Kimi三家,单次使用超过10分钟的重度用户占比都在26%到30%之间,而且这个比例还在往上涨。

这组数据指向同一件事,入口流量在AI产品里正在退位,使用深度顶了上来。使用深度不是一个笼统的说法,拆开看至少是三件事,用户来得勤不勤(使用频次)、每次待得久不久(单次时长)、一次任务有没有走完(任务完整度)。

这三个维度也不是随便拆的。使用频次要看的是一个固定周期内(比如7天或30天)用户主动打开产品的次数,不是被推送唤醒的次数。单次时长要排除挂机、开着不操作这类噪音,只算真正产生交互的时间。任务完整度要求先给「一次任务」下一个清晰的定义,一次面试、一次报告、一次生成,都算作一次完整任务,半途退出的不算。这三个维度定义不清楚,后面所有的判断都会跟着走偏。

传统产品看的是有多少人打开了App。AI产品要看的是打开之后,用户有没有真的把一次任务完整地做完,做完了愿不愿意再来一次。

北极星指标这个概念,本来就是用来提醒产品经理别盯着虚荣指标的。但现实是,很多团队在AI产品上依然把北极星定在注册量或者DAU这类入口指标上,等于用旧地图找新路的同一个错误又犯了一遍。

这背后还有一层现实原因。增长团队的考核指标、投资人熟悉的汇报框架,很多时候还是围着注册量和DAU转,这两个指标改起来最快,也最容易在一页PPT里讲出一个漂亮的故事。使用深度这类指标需要更长的观察窗口,也更难被一眼看懂,团队天然有动力去优化那个更容易被看见、也更容易被误读的数字。

市面上不少「套壳」AI应用就是这么起来的,借一波热点把注册量做得很好看,用户进来点两下就再没回来,团队却还在为注册曲线开庆功会。

反过来看,一款真正解决问题的AI工具,早期注册量涨得可能没那么快,因为它依赖的是用户遇到具体问题时的搜索和推荐,不是一次性的流量爆发。但一旦有人开始用,复访和深度使用会持续爬升,这条曲线不好看,却更值钱。

我自己在做一款AI面试产品,叫Lollipop。它后台的北极星指标定的不是注册量,是面试完成率,就是用户有没有走完一整轮模拟面试、拿到报告。

最近一个周期,首页访问、新增注册、开始面试这几个前端数字全都在大幅下滑,跌幅都在四成到七成之间。只看这几个数字,很容易得出产品在快速失血的结论。

但面试完成率这个北极星指标,同一个周期反而是往上走的。前端数字砸下去了,真正衡量产品有没有把事办成的指标却在变好,这组反差比任何单一数字都更能说明,入口流量不该排在第一位。

选面试完成率做北极星,也是因为这类产品的一次任务相对好定义。一场模拟面试有明确的起点和终点,用户走完全程、拿到一份报告,就算完整地体验了一次产品的核心价值。不是所有AI产品都有这么清晰的任务边界,判断使用深度之前,先想清楚自己的产品里,一次完整任务到底指的是什么,是能不能套用这套框架的前提。

三、转化率超100%,未必是好事

权重排对了,接下来是怎么防止被数字骗。

第一个常见陷阱,是漏斗里某个环节的转化率超过了100%,人数不减反增。

这种情况通常有三个来源。

统计口径没对齐,上一步按自然日去重统计新增用户,这一步却按一个更长的活跃窗口统计所有触发过这个动作的账号,两边的分母来自不同的时间尺度,下一步的人数比上一步多,是算法层面的必然,不是产品层面的奇迹。

采集标准不一致,前端埋点和后端日志各算各的,同一个动作在两套系统里可能被记成不同的数字,尤其是涉及App、小程序、网页多端的产品,这种错位更常见。

用户行为本身有跳跃,用户离开又回来重新走了一遍这个环节,系统把这当成了两次独立事件,凭空多算了一次。这在允许用户中途退出再进入的AI产品里尤其常见,因为一次任务本身可能拆成好几轮交互。

遇到这种数字,正确的排查顺序是这样的。

先确认两个环节的统计窗口是不是完全对齐,再看这批用户里有没有掺进本不该算的老用户或回流用户,最后确认埋点逻辑会不会把同一个人的多次动作,算成了多次新增。三步查完,大概率能找到问题出在哪一环。

更具体一点,多数BI工具或者后台数据库里,可以直接把两个环节的用户ID拉出来做交叉比对,看下一环节里有多少用户ID没有出现在上一环节的名单里。如果这个数字不是零,说明确实有凭空出现的用户,顺着这批用户的行为记录往回查,通常能直接定位到问题出在统计口径、埋点还是回流。

这三步排查,靠翻埋点文档和拉后台原始数据就能做,不需要额外的工具。需要的是遇到反常数字时,先怀疑统计本身,再相信这是个好消息的习惯。

Lollipop的后台就出现过更夸张的情况,注册转化的一个子环节里,「成功注册」的人数是「进入注册页」的十倍还多,转化率算出来超过了1000%。

查下来是两个环节的统计时间窗口没对齐,「进入注册页」只挑了当日严格路径进来的用户,「成功注册」却把更宽时间窗口里所有完成注册的账号都算了进去,两边的分母压根不是同一批人。这类异常如果不查,很容易被当成一个值得庆祝的好消息,写进周报里。

四、功能上线不等于被采纳

第二个陷阱更隐蔽,一个AI功能上线了,不代表用户真的在用它。

微软自己披露的数据是一个很有分量的参照。Microsoft 365 Copilot上线三年后,付费企业里的实际采纳率不到4.5%,每周还在用的用户比例只有1%。

财富500强企业里七成拿到了license,但每周真正被使用的付费席位只有两到三成。

一个全球最大的企业软件公司,尚且交出这样的采纳数据。说明这不是某个小团队的执行问题,是AI功能从上线到被真正采纳,中间天然有一道很宽的沟。

这道沟通常来自三个原因。

用户不信任AI给出的结果,宁可自己重做一遍,尤其是涉及需要担责的场景,比如财务数字、合同条款,用户会本能地想再核对一遍,AI帮着做的这一步,等于白做。

功能藏得太深,不在用户原有的操作路径上。一个AI摘要功能如果放在三级菜单里,大多数用户根本不知道它存在,更不会主动去找。

功能确实存在,但比用户熟悉的手动方式并没有明显更好,缺乏切换的理由。如果AI自动填表的出错率比用户自己手动填还高,用户试过一次就会放弃,回到熟悉的老办法。

判断一个AI功能有没有真被采纳,可以拆成两层来算。第一层是尝试率,能接触到这个功能的用户里,有多少比例点开用过至少一次。第二层是复用率,用过一次的人里,有多少比例会用第二次、第三次。

尝试率高、复用率低,说明用户对这个功能有好奇心,但没有形成依赖,这正是大多数AI功能卡住的地方。用过一次约等于好奇,用过不止一次才约等于这个功能真的解决了问题。

微软的数据也印证了这一点。超过1亿月度Copilot用户,说明尝试的门槛已经很低,财富500强七成拿到license,说明分发也做到位了,真正卡住的,是复用这一层。

我们Lollipop的简历漏斗里也有类似情况。用户确定简历之后,走到「Agent对话」这一步的转化率只有个位数。功能是上线了的,但绝大多数用户走到这一步就停住了,没有再往前一步。

五、留存曲线才是终局判据

前两个陷阱都还只是排查具体数字,第三个陷阱要看的是一整条曲线,留存曲线的形状。

a16z在一份关于AI消费应用的报告里提到一个说法,很多AI应用早期都会经历一波「AI游客」。这批用户被新鲜感或者一次刷屏式的传播吸引进来,用几次就走,本身对产品没有真实需求。

AI游客通常是被两种力量带进来的。

一种是免费试用或者限时活动,用户抱着反正不要钱的心态点进来看一眼;另一种是社交媒体上的一次刷屏式安利,用户被大家都在讨论这件事本身吸引,而不是被产品要解决的问题吸引。这两类用户对产品本身没有真实需求,留存曲线注定要往下掉。

真正的分水岭在第三个月前后。如果留存曲线过了这个点还在持续往下掉,说明用户最初的新鲜感没有转化成长期愿意用的理由。具体到怎么看这条曲线的形状,可以连续观察三个月的环比降幅,如果降幅一个月比一个月收窄,说明曲线在走平,用户群体逐渐稳定下来;如果降幅稳定甚至扩大,说明流失还在加速,这是曲线持续下探的信号。

报告里也提到一个有意思的反例,头部产品比如ChatGPT呈现出一种回升式的留存曲线,用户在中途流失后,会因为产品能力持续提升、能处理的场景变多,重新回来使用。

回升式曲线不是靠运气出现的。头部产品做对的事情,通常是持续扩展产品能处理的场景,让一个因为某个具体需求流失的用户,后来因为另一个新场景被解决,重新想起这个产品,再加上恰当的触达(比如提醒、周报这类唤回机制),才能把回升曲线做出来。

看留存,不能只看前几天的数字,要看到第三个月这个节点之后曲线是往下探、走平,还是回升。前几天留存好看,只能说明第一次体验没让人失望,不能说明产品被真正需要。

Lollipop的30日留存数字趋近于零,首页访问的流量并不小。

入口流量还在,但30天之后几乎查不到人回来,这组对比比任何一条好看的增长曲线都更能说明问题。

前面这三个陷阱,说的都是老指标怎么骗人。有一个容易被忽略的地方是,使用深度、功能采纳率这类新指标,同样可以被做出虚假的好看。

刷时长、机器人循环调用、把一个简单任务硬拆成好几轮交互凑次数,都能在不产生真实价值的情况下,把这几个新指标堆上去。看使用深度、看功能采纳率、看留存曲线,解决的是入口指标不够用的问题,不是给了一张可以不用再怀疑的新地图。遇到反常的深度数据,同样要用前面几节的排查方法再过一遍。

六、一份可复用的判断清单

把前面几节收拢成一份清单。

先看使用深度,用户打开之后有没有走完一次完整任务,来得勤不勤,待得久不久。

再看功能采纳率,新功能有没有被反复使用,不是浅尝辄止用一次就再没打开过。

最后看长期留存曲线的形状,第三个月之后是探底、走平,还是回升,不要只盯着首周数字。

入口流量、首日转化率这类老指标不是不看,是不能再排在最前面。

如果这三项同时不达标,修复的优先级也有讲究。

先修留存,留存趋近于零,说明产品可能根本没有解决用户的真实问题,这时候去优化功能采纳率或者入口转化率,投入产出比很低,方向可能就错了。

再修功能采纳率,留存还过得去,但某个AI功能没人用,通常是设计或者信任问题,不是产品根本没用,值得针对性优化。

最后才轮到入口转化率,这一层最容易优化,也最容易带来虚假的安全感,前两层没达标之前,把力气花在这里性价比最低。

这套优先级说起来容易,落地时最大的阻力往往不是数据本身,是团队内部的认知。如果汇报框架、老板的直觉判断都还锚定在注册量和DAU上,突然把留存曲线摆到第一位,很容易被当成在唱反调。更现实的做法,是把这几个新指标和老指标并排放进同一张报表里,让入口流量继续涨,同时用具体数字展示留存和采纳率的差距,用事实说话,比正面辩论更容易推动认知转变。

拿这份清单去看一个陌生的AI产品,可以这样用。

先找它公开披露过的使用时长或使用频次,没有的话看应用商店评论里有没有人提到「用了一次就没再打开」这类反馈。

再看它有没有单独披露过某个核心功能的复用数据,一次性使用和反复使用是两回事。

最后如果能查到第三方的留存报告,重点看第三个月前后的曲线走向,而不是首周数字。

举个具体的应用场景。假设在看一款新出的AI笔记应用,官方通稿里只写了用户破千万。这时候先翻一下应用商店评论区,如果高频出现用了一次觉得挺新奇、后来就没再打开这类留言,基本可以判断留存是个问题。如果通稿里进一步披露了周活跃或者人均使用时长,可以拿来和同类产品做个粗略对比,时长明显偏短,说明用户可能只是把它当成一次性的新鲜工具,没有形成使用习惯。

三步做完,基本能判断出这个产品的增长,有多少是真的。

结尾

增长曲线好看,这件事本身不需要否定。

真正决定一个AI产品能走多远的,是曲线背后那些不那么好看、但更接近真实的数字,有多少人真的把一次任务办成了,办成之后,愿不愿意再来一次。

这三层判断标准不需要复杂的工具,大多数时候翻一下后台数据、看一眼应用商店评论,就能做完第一轮判断。

本文由 @小普 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自作者提供

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 入口流量退位、使用深度顶上来这个判断,在豆包和DeepSeek的重度用户占比数据上已经验证了。关键是团队内部考核得跟着调,不然产品经理想深度指标,增长团队还在追注册量。

    来自广东 回复