做了十几个 AI 智能体(Agent)之后总结的 19 条经验
大厂风控产品经理结合客诉、风险分析等实战场景,戳破 Agent 落地的认知误区 —— 其并非简单拼接知识库与工作流,核心难点在于解决不确定性、规避 badcase,实现稳定可控的交付。并从业务需求、知识库搭建到运营落地,总结出 19 条直击痛点的实操解法。

主职工作是大厂做风控产品经理,工作中做了客诉、风险分析、策略生成、规则模板等智能体,自己独立也做了很多内容自动化、内容分析的智能体。
很多人以为 Agent = “接个知识库 + 写个 Prompt + 加个简单工作流”。但实际业务场景会发现:真正难的是把解决不确定性、解决 badcase,让它稳定、快速、可控、交付可用结果。
01 业务以为自己要“自动化”,其实要“稳定”
业务以为自己想要全自动化,帮助自己提效,能接受一定的波动不稳定,但实际上线后对不稳定的接受度极低。
最好在上线前就定义清楚“能答/不能答/必须转人工”,别一上来追求全能。
02 知识库不是越大越好,是越“可检索”越好
症状:文档越多,越容易“召回看似相关,但回答跑偏”。
解法:按场景拆(进入/发奖/核销/兑现…类似这种颗粒),每块只解决一个问题。
03 切片切得再细也会切错
症状:大段 SOP/政策塞进去,知识库切片天然会破坏上下文。
解法:先做“目录级结构化→再切片”,保留章节标题/适用条件。
04 FAQ 里最坑的是“问题写法不一致”
症状:同一个问题 10 种说法,模型命中不稳定。
解法:把 question 做“归一化”:同义句合并、关键槽位抽出来(对象/场景/时间/动作)。
05 意图识别最容易翻车:测试 vs 真实诉求
症状:用户明明在“测试/借号/模拟”,却被判成真实问题,流程走错。
解法:单独做“测试/玩梗/闲聊”兜底意图 + 明确拒答/引导。
06 你以为是“模型不聪明”,其实是“边界没说清”
症状:业务提很多大而空需求,上线后又改口径。
解法:先做一页“能力边界说明书”:能做什么、不能做什么、失败怎么处理。
07 Prompt 能提平均分,但救不了 badcase
症状:同一问题,有时对有时错,无法解释。
解法:必须有 badcase 库 + 回归评测;每次改动都跑一遍。
08 没有评测集的 Agent,等于“凭感觉上线”
症状:你觉得效果不错,但线上总被极端例子打爆。
解法:最少也要:高频问题集 + 高风险问题集 + 误判集(三类)。
09 “80% 草案”比“100% 自动”更容易交付
症状:追求全自动,容错率极低,最后卡在大量边界 case。
解法:定位成 Copilot:输出半成品 + 标注不确定点 + 给人工确认入口。
10 时效性是客服/客诉 Agent 的生死线
症状:政策口径变了,模型还按旧知识说,直接投诉升级。
解法:知识库要有“生效时间/失效时间/版本号”,过期直接不召回。
11 数据安全限制会逼你换一整套架构
症状:只能用内网/内部模型,能力、工具、速度和外面完全不一样。
解法:一开始就按“最严格权限”设计:脱敏、最小化字段、只传必要信息。
12 业务 SOP 不清晰时,Agent 只会更乱
症状:上线前“这样也行那样也行”,上线后“这样不行那样也不行”。
解法:把 SOP 拆成可执行的“决策树/条件表”,先让人能统一执行,再让 Agent 执行。
13 多 Agent 不一定更强,常常更不稳定
症状:角色越多,输出越发散、链路越长、故障点越多。
解法:先单 Agent 跑通“稳定闭环”,再加角色;每多一个角色都要有明确价值。
14 工作流时延是隐形 KPI
症状:业务要“实时”,你一套链路跑完 10 秒,体验直接崩。
解法:把链路分层:快路径(规则/模板/检索)+ 慢路径(深推理/多轮)。
15 确定性逻辑必须先上,别一开始全交给模型
症状:槽位提取、参数归一、策略模板选择,全靠模型会抖。
解法:先做“规则/模板/结构化解析”兜底,大模型只处理不确定部分。
16 参数建议最容易“看起来对,其实不可用”
症状:模型给阈值/窗口/口径,但跟线上数据分布不匹配。
解法:参数建议必须绑定“数据证据”(分布/TopN/对比/样本量),否则只当灵感。
17 日志埋点不全,你就永远定位不了问题
症状:线上错了,但你不知道是检索错、解析错、还是生成错。
解法:最少要记录:意图→召回→命中片段→最终回答→是否转人工(全链路可追溯)。
18 “可解释性”是业务信任的门票
症状:你说对了,业务也不敢用;说错一次,直接全盘否定。
解法:回答里固定带:依据来源/命中片段/关键条件(别泄密,但要能解释)。
19 交付物不要只交“功能”,要交“运营机制”
症状:上线后没人维护,知识库过期、badcase没人收,效果只会越来越差。
解法:固定一套节奏:每周收集→归因→修复→回归评测→发布版本说明。
本文由人人都是产品经理作者【曾俊AI实战笔记】,微信公众号:【曾俊AI实战笔记】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。
题图来自Unsplash,基于 CC0 协议。
- 目前还没评论,等你发挥!

起点课堂会员权益




