为什么你用的 AI 客服,还是那么笨?

3 评论 394 浏览 1 收藏 11 分钟

AI技术的飞速发展为何没能拯救那些让你血压飙升的智能客服?本文从企业级AI客服系统的底层架构切入,揭示了一个残酷真相:那些答非所问的'人工智障'背后,往往不是技术局限,而是企业为追求可控性将大模型'关进笼子'的无奈选择。通过对比'规则在前'与'AI在前'两种架构的本质差异,带你看懂大型组织在技术先进性与风险管控间的艰难平衡。

都 2026 年了,大模型都能写代码、写论文、做分析了,为什么你打开某个 App 找客服,那个”智能助手”还是蠢得让你想砸手机?

你问它一句稍微绕一点的话,它要么答非所问,要么甩给你一个八竿子打不着的链接,要么车轱辘话来回转,最后你只能气急败坏地打出三个字:转人工。

我自己就在做企业 AI 客服。今天想从一个一线视角,告诉你一个可能反直觉的答案:

很多 AI 客服蠢,不是因为大模型不行,是因为大模型在那套系统里,根本没被允许”动脑子”。

先看两种截然不同的架构

要讲清楚这件事,得先看 AI 客服内部到底是怎么运转的。我把市面上的做法粗暴地分成两类:规则在前,和AI 在前

它们的差别,决定了你遇到的客服是蠢还是聪明。

第一种:规则在前

这套的流程大概是这样的:

用户的问题进来,系统先把它匹配到一个预设的”业务标签”——比如”宽带-报修””话费-查询””套餐-办理”。企业会维护一张很大的标签表,可能有上百个标签。

匹配到标签之后,系统再去查另一张人工维护的表:这个标签该怎么处理?是走标准问答(FAQ)?走标准流程(SOP)?还是去文档库里检索(RAG)?走哪个、先走哪个,全是人提前一条条定好的。

大模型在这套架构里出场得很晚——通常只在最后”去文档库检索生成”那一步才用一下。前面的判断、路由、决策,全是规则。

换句话说:这套系统的大脑,不是大模型,是那张人工维护的大表。大模型只是个被呼来唤去的检索工具。

第二种:AI 在前

这套的流程反过来:

用户的问题进来,先交给大模型理解——它想干什么?这个需求属于什么类型?然后由大模型自己决定:这个问题该查 FAQ、还是该走某个办理流程、还是该去知识库检索、还是该直接转人工。

在这套架构里,FAQ、流程、知识库、产品推荐,都被当成大模型可以自主调用的”工具”。模型像一个调度中枢,根据用户的真实意图,自己判断调用哪个、按什么顺序调用。

规则在这套架构里还存在吗?存在——但它退到了”护栏”的位置。只在高风险的地方做硬约束(比如涉及投诉、退费、合规的场景必须转人工),不再负责日常的每一次路由判断。

差别不在”有没有规则”,在”谁是主角”

讲到这里,要澄清一个常见的误解。

很多人以为”先进的 AI 客服 = 纯靠大模型、一条规则都没有”。这是错的。任何一个严肃的企业级 AI 客服,都是”AI + 规则”的混合体,没有纯 AI 的。因为企业场景要可控、要合规、要能追责——纯靠大模型自由发挥,出了错没人兜底。

所以两种架构的真正区别,不是”有没有规则”,而是:

规则是主角,还是配角。

规则在前:规则是主角,AI 是配角。人工要维护庞大的标签表和路由表,每加一个业务,整张表都要重调。维护成本巨大,而且因为大模型被框死在最后一步,它的理解能力根本发挥不出来——所以蠢。

AI 在前:AI 是主角,规则是护栏。模型负责理解和调度,人工只需要准备好知识、定义少数高风险场景的硬规则。维护成本小得多,模型的能力被释放出来——所以相对聪明。

你被蠢客服折磨的那些瞬间——它听不懂你绕一点的问法、它把你硬塞进一个不对的分类、它只会答单一问题——基本都发生在”规则在前”的系统里。因为在那套系统里,决定”你这句话归哪一类”的不是会理解的大模型,是一张死的标签表。你的问题只要没踩中表里预设的说法,它就懵了。

那企业为什么不都用”AI 在前”?

既然 AI 在前更聪明、维护成本还更低,为什么大量企业——尤其是大公司、传统行业——还在用”规则在前”那套笨办法?

我在一线看到的,主要是两个原因。

原因一:模型能力,决定了你敢给 AI 多大的自主权

这是最现实的一条。

“AI 在前”的前提,是你的大模型真的聪明到可以当调度中枢——它得能准确理解五花八门的用户问题,能可靠地判断该调用哪个能力。

可不是所有企业用的都是第一梯队的模型。很多公司出于成本、数据安全、或者必须用某些指定模型的原因,用的模型能力并不强。

而模型越弱,你越不敢让它当主角。因为它判断不准——你让它自主调度,它三次有一次调错,那还不如用规则框死它。所以模型弱的企业,只能退回”规则在前”,让大模型只干最后那点检索的活,前面用人工规则兜着。

一句话:模型能力,等于你能给 AI 多大的自主权。模型不行,架构就只能笨。

原因二:可控、可交付、可追责

“规则在前”还有一个在大型组织里非常致命的优势——它可控。

每一步路由都是人定的,出了问题能立刻查到是哪条规则的事,能改、能交付、能验收、能说清楚责任在哪。

而”AI 在前”虽然聪明,但它的决策是模型”自己判断”的——效果好,可一旦出错,你很难解释”它为什么这么判断”。在一个出了事必须有人负责的组织里,这种”不可控”反而让人不敢用。

所以你会看到一个吊诡的现象:越是大型、越是流程严谨、越是不能出错的组织,反而越倾向于用那套笨的、规则在前的架构。不是他们不知道 AI 在前更好,是他们承担不起”AI 自主决策出错”的责任。

这一点,其实和我之前写过的”责任天花板”是同一个道理——当一个决策的后果需要有人负责时,组织会本能地选择让 AI 少做主、让规则多兜底。

所以,蠢不蠢,是个选择

回到开头那个问题:为什么你用的 AI 客服那么蠢?

现在答案清楚了:

不是大模型蠢,是它在那套系统里没被允许聪明。

它被一张人工维护的标签表框在最后一格,前面的理解和判断全交给了死规则。而企业之所以这么设计,要么是因为模型能力撑不起更大的自主权,要么是因为组织承担不起 AI 自主决策的风险——通常两者都有。

这意味着,一个 AI 客服蠢不蠢,很多时候不是技术做不到,是一连串现实约束下的选择结果。

写给同行的一点话

如果你也在企业里做 AI 客服、做对话系统,可能正被无穷无尽的标签维护、路由配置、优先级梳理折磨着——每加一个业务就要重调一堆表,改一个标签下游全要动。

我想说:你那种”这不就是规则引擎吗、这一点都不智能”的憋屈感,是对的。那确实不够智能。

但也别因此否定这件事本身的价值。理解”为什么现在只能这么做”,本身就是一种稀缺的认知。模型能力会涨,组织对 AI 的信任会变,”AI 在前”会一点点变成主流——而真正懂得这两种架构差别、知道迁移过程中的坑在哪的人,会是这场转变里最被需要的人。

至于作为用户——下次你对着一个蠢客服打出”转人工”的时候,至少你现在知道了:

蠢的不是那个 AI,是它被关进去的那个笼子。

本文由 @是AD 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自 unsplash,基于CC0协议

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 银行客服场景里,用户问“信用卡账单怎么分期”,规则在前可能匹配不到,AI在前理解意图后直接调出分期工具,体验差距明显。

    来自广东 回复
  2. AI客服蠢不是模型不行,而是企业为了可控性把大模型塞进规则笼子,让它只当检索工具,理解和调度全交给死标签表。

    来自广东 回复
  3. AI在前架构如果模型产生幻觉,导致错误办业务或泄露信息,损失可能远大于规则在前的答非所问。风险承受力是关键。

    来自广东 回复