AI浪潮席卷企业两年后，内部落地为何仍是难题？大模型的私域知识缺失、企业数据基建的落后与组织架构的僵化，构成了AI应用的三大死穴。本文从内部系统PM视角，犀利剖析AI项目在企业中‘雷声大雨点小’的深层原因，揭示那些被技术乐观主义掩盖的残酷现实。

从24年初ChatGPT的火爆到现在，相信市面上大多数公司都经历了这样的一幕，就是领导层火急火燎的要求从上到下，从后台到前端，从2C到2B的所有人都必须要思考“AI如何能够赋能你的业务内容”，今年必须要落地几个“AI项目”

但到2026年的今天，尽管AI相关的工具、产品层出不穷，模型的各种基准评分也越来越高，甚至马斯克多次在公开场合提出AGI马上就要实现。但现实的业务中，所谓的AI项目大多还是一地鸡毛，所有的应用场景始终还是停留在对话、做图、写代码三个典型场景，所谓AI可能带来的行业的颠覆式创新，号称所有的应用都要被重新做一遍，至今还停留在大家新一年的规划里（用豆包之类的应用陪聊倒是发展的不错），特别是大家想象中的内部提效，一个AI员工顶三个人类员工的事情，感觉还完全无法铺开

本文希望通过一个内部系统的产品经理视角，谈一谈现在AI在企业内部无法落地的一些原因

一、大模型的原罪：私域知识的缺失与工作记忆限制

领导本轮AI浪潮的核心技术路线，是以GPT为典型例子的LLM（大语言模型），它表现出的泛化能力和自然语言的理解能力是以往所有的文本处理类型的模型无法比拟的，当前的很多模型，如果真的参与严格的图灵测试也未必不能成功。这类模型大多在公开的文本数据集中进行大量训练，事实上它的参数相当于是对公域知识的极致压缩，它“涌现”出的智能事实上是浓缩了人类大量的知识而导致的，它不仅从文字中学会了语法，还学会了大量的概念、定义甚至推理逻辑

但是在公司内部的业务中使用的时候，LLM的一个原罪是我们无法绕开的，这来自于它的两点根本性的限制

1. LLM在不经过重新训练（或者微调）的情况下，不会浓缩新的知识，而训练是需要大量的优质语料作为素材的，企业内部的某个私域知识往往没有这么多的语料数据
2. LLM的上下文是有限的，它不能无限制的去引入外部索引信息，只能挑选部分内容引入（即便是无限的引入信息，大模型也很容易在极大的上下文中迷失）

这两者最终构造出了一个问题，当我们在内部业务中想要使用一个LLM的时候，它并不能快速“理解”我们业务的背景信息，一个业务本身可能依赖内部规章制度、流程规则、专业黑话、历史上的案例等等信息，而这些信息模型无法快速内化，而如果使用“工程”方法，比如上下文工程或者RAG，则需要在有限的上下文长度中“做道场”，不仅未必可以提供充足的背景知识，并且还要受制于知识召回的模型的限制（这个模型其实也无法理解你的业务）

现实中，即便在模型最容易适用的客服机器人场景，大模型工具在私域知识库中回答问题的准确率都未必能达到传统判别式咨询机器人的水平，偶尔的模型幻觉还会给业务埋一些“雷”

二、强大的AI，稀烂的基础建设

即便抛开前面模型本身的限制不聊，当我们想要在内部复刻一些外部已经被证明的产品形态的时候，往往还是会遇到新的问题：与当前技术完全不匹配的基础建设水平

在公司内部，特别是很多互联网公司，业务高速发展的时候产品结构、数据结构、文档、接口规范性，这些东西都可以不重要，一切都需要为业务快速实现让路。但是当你希望把AI融入你的工作流时，这些历史的技术债务都会成为你的噩梦。

当你希望用AI实现与数据库对话式交互，从而降低业务人员的取数难度，第一步就是要告诉AI你的数据库结构和指标字典，但当年可能根本没人想要去维护这些东西，写在里面的描述都是简单两句

当你希望将AI加入到你的开发流程，但是你的“屎山”项目代码连人来看也需要数月的时间才能理清楚，更别说要求它遵循固定的设计范式和最佳实践

这时候这些不规范的部分都成为AI理解你业务的障碍，大大影响了AI真正能发挥出的效率

另一方面，AI相关领域的突飞猛进，也逐步构造出很多AI时代专用的基础设施，比如workflow平台，skills或MCP，上文提到的RAG知识库，知识图谱等等，每一种都需要一定的部署、调优以及数据初始化，而企业内部往往无法在这些设施上追赶市场上的领先水平，从而导致总是看外面某个应用很好，费尽力气在内部部署完成后，却不如人意的情况

AI的使用实际上涉及到一个从底层结构开始的庞大工程，仅仅部署一个模型，或者做几个可以对话的页面，还远远无法支持AI在业务层面上的运行

三、企业“软实力”的缺乏，AI Native or not？

上面提到的一些限制还属于AI的“硬实力”方面，谈到在企业内部应用AI，另一个无法避开的问题就是企业的“软实力”，也就是企业的人才储备、组织架构否能适应AI带来的新工作模式

在曾经的企业数字化转型阶段，事实上相同的问题就已经存在，我们在企业内部部署新的系统，将线下流程线上化，往往会遇到实际业务流程、人员分工还是按照“人治”的一套去做，当搬到系统上之后，反而各种不适应，甚至反而还拉慢了流程运转的情况

而在AI现在的变革中，这种情况实际上更加突出了。从人才角度自不必说，大部分企业业务人员即便对于软件系统都是一知半解（甚至产品经理还可以不懂技术），对于AI能力与限制的了解就更是一团乱麻，让这样一些人去使用大模型、Agent或者研究提示词，实际上就是一种强人所难；而开发人员这边，大部分也从未接触过AI相关的开发，对于以模型为核心的应用构建也大多缺乏经验，再加上AI相关的工程技术迭代速度极快，MCP还没研究清楚，Skill马上就取而代之，今天还在研究提示词工程，明天就已经进化为上下文工程。实质上导致企业里原有的整套体系中的相应员工都需要不停的跟踪市面上的情况而进行调整，而这对于大部分企业的普通员工来说是很有难度的

从组织架构角度看，AI时代实际上带来的是人的“一专多能”的提升，一个人原本可能无法同时掌握写代码、设计图片、写文档等等一系列技能，但是AI可以帮助你迅速获取相应的技能和知识；但传统企业这么多年来的“管理学”发展，架构的设计理念则恰恰是将人无限细分到一个具体的职能上，希望你掌握并做好一个“螺丝钉”的角色。以软件开发领域为例，最初可能只需要业务+研发就可以完成一个项目，现在已经被逐步切分成业务专家、产品经理、UI/UX设计、前后端开发、运维、测试等等一系列角色，在这样的组织里一专多能是没有意义的，也并不被鼓励，这时候一个测试同学拿到这些“万能”的AI模型，他们能干的也只是在测试原有的工作流中找到一些可以自动化的节点将AI插入进去（能不能真的提升效率还是两说），而一个业务同学，即便他真的学会了用AI做开发，如何把开发出来的东西和已有系统链接、如何部署环境甚至如何申请到服务器资源，都会成为重重大山

结语

综上论证，其实不难看出我对于大公司中使用AI进行所谓“颠覆式创新”的前景是非常悲观的，我认为AI模型的快速进化，带来的实际上是一个真正可以以弱胜强，以小搏大的时代，它将雇佣一个“员工”的成本从至少几千块一个月，变成了一个月可能几十美金的月费，它让任何一个有好的想法的人能够以前所未有的速度和质量实现，并投入市场进行验证；而大公司用资金和人才所建立的护城河在越来越强的AI面前会越来越弱势

我相信唯一能够度过这个变革时期的方式，就是用极大魄力从上到下的拥抱AI，让组织从根本上转化为一个真正的AI企业，当然对于我们每个人来说，可能也要重新思考，到底作为一个大企业员工和成为一个“个人公司”哪条路才是更“稳定”的道路