AI那么厉害,为什么还干不好活?
麦肯锡报告称,九成企业已经启动 AI 转型,但只有四分之一拿到实际成果,真正规模化的仅一成。文章把问题拆成三步:选对足够强的模型、把业务规则与实时数据喂成高质量上下文,再搭起可校验、可容错的多步执行机制。

前段时间,国际知名咨询公司麦肯锡出了一份报告,里面说:尽管90%的企业都已启动AI转型,但只有25%取得了切实成果,而真正实现规模化应用的企业更是凤毛麟角,仅占10%。
这几个数字,是说AI真的无法承担严谨的工作吗?
当然不是。
仍然有很多公司,把AI用得很好,因为他们早就抛弃了“在聊天框里问答”的初级玩法,全面转向了Agent(智能体)。
今天咱们不谈技术概念,只说企业怎样让Agent真正成为靠得住、能打硬仗的“数字员工”。
要做好这件事,需要扎扎实实走通这三步:选对强模型 + 提供高质量的上下文 + 构建多步执行机制。
读完这篇文章,你将看清企业级Agent落地的底层规律,希望今天的内容能为你拨开迷雾,少走弯路。
一、为什么90%的企业AI落地,成了“昂贵的自嗨”?
过去两年,企业在AI上踩的坑,究竟踩在了哪里?
绝大多数企业在落地AI时,认知层就先错了,他们把大模型当成了“更聪明的百度”或者“更高效的人力外包”。
他们熟悉的动作是这样的:在系统里开一个对话框,把一段凌乱的指令丢进去,然后屏住呼吸,期待模型在三分钟之内,凭空吐出一个完美无缺的业务方案。
如果吐出来的文字有硬伤、有幻觉、算错了数字,老板和业务主管就会摇头叹气:“大模型还是不行,没什么用。”
但请你想一想:在的商业世界里,有哪一项严肃的业务交付,是靠“一句话提问、三分钟交卷”来完成的?
假设你今天招聘了一个名校毕业的管培生,你把他叫进办公室,既不给他看公司的历史报价表,也不给他讲供应商的结算规则,甚至不给他电脑联网和查账权限,只是随口对他说一句:“去,把下季度针对华东区三家大客户的续约合同拟出来,把利润算死,今天下午交给我。”
这个孩子就算智商160,他也只能抓瞎。
为了交差,他只能凭着自己的主观臆断和泛泛的生活常识,给你编造一套方案。
如果你因为这份方案漏洞百出而破口大骂“名校生都是骗子”,到底是谁的问题?
是大模型不行,还是你的组织根本没有给它干活的基础设施?
很多企业以为,只要买个大模型,业务就能自然而然地跑起来。这就像是买了一台顶级跑车的发动机,直接扔在马路牙子上,既不接油箱,也不装底盘和变速箱,然后坐在上面抱怨:“这破机器怎么跑不起来?”
要让这台跑车跑起来,三样东西必须同时到位,缺一不可:
强模型是“发动机”:它决定了系统能不能扛住高难度的逻辑推演,决定了智力的下限与抗压能力的上限;
高质量上下文是“高纯度燃油”:它把企业沉淀的业务规则、实时数据与动态状态注入系统,决定了智能体是脚踏实地还是悬空胡话;
多步执行机制是“传动系统与变速箱”:它把大模型的概率性推理,转化为一步一步可校验、可反思、可容错的工作流程。
没有这三步,任何企业的AI落地,注定是一场昂贵的无用功。
接下来,我们一起拆透这三步的底层逻辑与实操打法。
二、选对强模型
企业做Agent落地的第一道关口,往往死在技术选型时的“财务小聪明”上。
一些公司会觉得国内外顶级AI大模型的API调用成本太高,于是自己搞本地部署开源小模型,觉得成本可控,数据还不用上传,既省钱又安全。
然而,半年之后,这样的项目几乎百分之百沦为烂尾工程。
为什么?因为这些管理者犯了一个常识性的错误:他们误把“背书能力”当成了“思考能力”。
1 业务逻辑的深度,绝不能靠“小模型微调”来弥补
用企业自身的数据去微调小模型,充其量只是让模型把你的《员工守则》《产品手册》生搬硬套地背了下来。
但真实的商业,是面对多变量、强冲突条件下的长程逻辑博弈。
举个最简单的业务场景:一个客户发来邮件要求退货,并提出赔偿要求。
一个初级模型在推演时,逻辑链条最多只能维持一到两层:“客户要退货——政策允许退货 ——同意退货并退款”。
但一个真正有商业价值的决策,背后的逻辑链条至少在五层以上:
第一层:这个客户的退货率是多少?是不是恶意羊毛党?
第二层:商品损坏的原因是物流责任、产品缺陷,还是客户使用不当?
第三层:如果是物流的责任,是否可以向承运商发起索赔?
第四层:如果坚持不赔,该客户在社交媒体上的影响力是否会引发公关风险?
第五层:在综合考量后,给出一个既维护公司底线、又能最大化平息争议的差异化折中方案。
这种复杂的推理,需要模型在庞大的参数空间内进行深度的注意力分配与因果推导。
弱模型在走到第三步时,注意力就会开始涣散,输出的结果开始前后矛盾、逻辑崩塌。
在实际的工作中,这种长程推理能力非常重要。
2 企业的算账法则
很多企业家算不清AI这笔账,是因为习惯了传统的采购思维:买螺丝钉,哪个便宜买哪个。
但采购大模型的算力,本质上是在采购脑力资本。
假如你现在要审核一份非标采购合同,有两份方案摆在你面前:
方案A(弱模型/小模型):单次调用API或者电费只要0.05元人民币。但因为它的智力上限不够,任务交付成功率只有30%。剩下的70%,要么中途报错卡死,要么输出错误数据,必须由月薪两万的专业法务人员花半天时间去人工复核、擦屁股、重新修改。
加上挽回潜在业务风险的代价,这笔账算下来,单次任务的综合成本可能高达几百元。
方案B(顶级强模型):单次调用需要消耗大量的推理Token,成本可能高达1.5元人民币,是前者的整整30倍。但它的交付良率能达到92%以上,剩下的8%只需要人工做最终的敲击确认。
哪一个方案才是真正的低成本?
在商业上,任何不能稳定交付结果的技术,就算单次成本为零,也是企业最大的亏损源。
企业做Agent,切忌“在Token上抠门,在人效上亏本”。起步阶段,必须毫不犹豫地把思考中枢架在当下最强的模型之上。
三、高质量的上下文
有了最强的大脑,是不是Agent就能自主运转了?
远远不够。
强模型就像一个智商高达160的天才,但这个天才对你公司的业务一无所知。
很多管理者以为,写几条精妙的Prompt(提示词),就能让AI通晓一切。
在AI技术前沿,一个共识已经越来越清晰:“提示词工程”正在被淘汰,取而代之的是“上下文工程(Context Engineering)”。
如果上下文是被污染、混乱、残缺的,大模型的大脑越聪明,它的幻觉就越大。
要给Agent喂出高质量的上下文,企业必须做好下面这三件事:
1. 业务规则化
很多人抱怨Agent做事没分寸、不通人情世故。
深入调研后你就会发现,这家企业根本没有把自己的核心业务逻辑写明白过,所有的决策标准都锁在几个核心高管和老业务员的脑子里。
比如,销售部门的指导方针里写着:“在市场竞争激烈时,可根据客户战略价值适当下浮价格。”
这种主观和模糊的话,给人类员工看,大家懂个七七八八;给Agent看,完全没用。
因为它完全不知道什么是“激烈”,不知道多大算“战略价值”,更不知道“适当”是降价5%还是20%。
生产高质量的上下文,第一步是做业务隐性知识的显性化与规则化。
比如,上面同样的那段话,写给AI应该是这样的:
“当竞标对手包含清单A中的三家核心竞品时,属于高烈度竞争;若客户上年度采购总额位于前10%,且未来三年有扩产计划,其战略评级为S级;针对S级客户,系统授权最大降价幅度为8.5%,若需下浮超8.5%至12%,必须输出利润测算报告并提交销售副总裁单签确认,严禁自主决策。”
这就是把模糊的经验,翻译成边界清晰、条件完备、逻辑闭环的“业务规则”。
2. 环境状态动态化
大模型的参数是静态的,但企业的生意是每分每秒都在变化的。
如果上下文只是从一个半年前整理的知识库文档里检索出来的,Agent给出的建议必然不靠谱。
高质量的上下文必须具备极高的时效性与现场感。
一个负责采购的智能体,它在做决策时,上下文注入的不仅仅是历史供应商名单,更必须有实时信息,比如:
当前国际原油与大宗商品的实时交割价是多少?离岸人民币在过去四小时内兑美元的汇率走势如何?物流车队当前在高速公路上是否遭遇恶劣天气阻滞?
只有当这种实时环境状态被装进上下文时,Agent才真正具备了商业现实感。它做出的每一个判断,才更准确。
3. 数据资产结构化
计算机科学里有一句特别有名的话:“Garbage in, Garbage out(垃圾进,垃圾出)”。
大模型的上下文窗口,不是一个无限大的垃圾填埋场。很多企业以为只要把几百张混乱的Excel表格、乱七八糟的扫描版PDF合同全塞进去,AI就能自动看懂,这完全错了。
上下文工程的核心工作之一,是对非结构化和半结构化数据进行深度清洗与降噪。
可能你会觉得这有点过于技术术语了,没关系,我打个生活中的比方。
比如你榨西瓜汁喝,你肯定不会把带皮的西瓜直接扔进榨汁机,而会先把西瓜切成块,去掉皮和籽之后,再放进榨汁机。
这个过程,就是“对数据进行深度清洗与降噪”。
比如,一次2小时的会议文字记录,你要先让AI去掉跑题的、与会议无关的内容,再把文档交给AI提炼纪要,得出来的内容才更准确。

信息密度越高,噪音越少,Agent在理解上的计算损耗就越低,其决策的精准度就越高。
四、多步执行
选对了顶尖的大脑,喂饱了高质量的上下文,最后一步,也是最决定生死的一步,是构建多步执行机制。
大模型本质上是一个基于概率的语言预测机器,哪怕你给它最强的大脑和最清晰的数据,如果你只给它一次推理机会,要求它在几分钟内一次性把复杂的任务交卷,它依然很容易翻车。
如何让一个本质上充满随机性和概率性的AI,交付出高可靠、高确定性的工业级商业成果?
唯一的解法,就是用工程化的多步执行机制,把它严密包裹起来。

一个成熟的多步执行系统,离不开以下四个核心动作:
1 拆解与规划
面对一个庞大而模糊的业务目标,人类小白会立刻开始瞎忙,而高手会先列工作计划表。
Agent的多步执行,第一步永远是强制性的任务分解。
例如,任务目标是:“对某家供应商初步的财务与合规风险筛查。”
不要让Agent直接给结论,要让它必须先在后台规划出明确的执行看板:
步骤一:调取对方过去三年的工商变更记录与股权穿透图;
步骤二:检索裁判文书网与执行信息公开网,筛查是否存在未决诉讼与大额被执行记录;
步骤三:交叉验证供应商名单中是否存在与高管关联的皮包公司;
步骤四:汇总所有单项异常指标,按照风险严重程度分级输出预警矩阵。
当一个任务被拆解成几个小步骤时,交付的结果就会更精准。
2 行动与调用
多步执行的精髓在于分工。
大模型负责“非确定性、高认知”的部分:判断当前局势、决定调用哪个工具、理解非结构化文本的意图。
外部工具和传统代码负责“确定性、高精确”的部分:执行复杂的数学公式计算、运行严密的SQL(结构化查询语言)语句、读写数据库、发送加密网络请求。
需要查数时,Agent编写并调用一条查询语句去数据库拿真实数据;需要算毛利时,Agent将参数丢给底层的财务算法模块直接获取绝对精准的结果。
这样一来,模型的大脑与系统的四肢分工明确,各司其职。
3 观察与反思
普通的自动化程序是死板的:执行一步,如果系统报错,程序立刻抛出异常中断死机。
而多步执行的Agent,在迈出每一步之后,都会停下来“观察环境的反馈”,并进行深度的自省推演。
于是,它不再是一个碰一下就碎的瓷娃娃,而是一个能在真实业务的泥泞中摸爬滚打、摔倒了自己拍拍灰尘站起来继续找路的成熟员工。
4 人在回路,用关键卡点筑牢安全防线
企业用AI,最底层的心理阻力,是对失控的恐惧。
成熟的工作分类,是下面这样的:
- 自动化绿区(完全自主):资料搜集、长文解析、数据交叉比对、异常线索标记、内部初稿草拟——这些只消耗算力、不产生外部不可逆后果的环节,可以放手让Agent自己去做。
- 警戒黄区(触发预警):发现重大财务异常、合同条款出现非标偏离、客户满意度大幅下降,Agent必须即时生成结构化的风险摘要,推送到责任人屏幕上;
- 硬阻断红区(强制人工敲击):涉及对外发送具有法律效力的正式合同、涉及超过一定额度的真实资金划拨时,系统必须强制挂起,Agent在此时退回到“参谋”位置。它必须将前因后果、所有的推理依据、推演过程与备选预案整理成一份简报,等待人类决策者的一键授权。
人类主管签了字,流程继续向下流转;人类主管驳回并给出一句批注,Agent吸收批注重构执行逻辑。
智能体不是要取代人,而是为了让人从繁重、重复、低价值的信息搬运中彻底解脱出来,把全部精力集中在最关键的价值判断与责任担当上。
责编 | 贾宁
本文由人人都是产品经理作者【笔记侠】,微信公众号:【笔记侠】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载
题图来自Unsplash,基于 CC0 协议
- 目前还没评论,等你发挥!

起点课堂会员权益




