为什么AI多轮对话总是那么傻?

叶小钗
1 评论 2829 浏览 7 收藏 15 分钟
🔗 产品经理的职业发展路径主要有四个方向:专业线、管理线、项目线和自主创业。管理线是指转向管理岗位,带一个团队..

AI多轮对话一直是技术应用中的难点,也是用户体验的痛点。本文深入剖析了AI多轮对话的挑战,包括上下文遗忘、意图偏移、代词关联错误等问题,并提出了通过SOP设计来优化多轮对话体验的策略。

上一篇文章,我们得出了一般选手应该如何入门AI应用领域的路径:

  1. 使用DeepSeek整理SOP;
  2. 使用扣子类平台验证SOP;
  3. 最后做程序优化;
  4. 有必要就做平台化;

后续也是列举了个简单的社群AI分身的例子,只不过其中多轮聊天这块被我故意略去了,原因是他太复杂了。

事实上,多轮聊天是整个AI应用最大的难点,也是很多人做不好AI产品的关键,一旦是涉及多聊天的产品,其实现复杂度都会大幅增加!

所以,今天第一个问题是,AI多轮对话到底难在哪里?

关于这个问题,也许大家没有注意到,其实当前所有的互联网产品设计多是针对一问一答这种模式的。包括DeepSeek、ChatGPT这种工具,他其实也更多是一问一答的模式。

一般用户在产品使用时候,当面临新问题的时候,会刻意的新开窗口,防止信息互相污染。

这种习惯的潜意识是:暂时还不太相信模型具有多轮对话的能力。

事实上,模型的反馈也确实在说明这一点:

  1. 在7轮医疗问诊对话中,GPT-4对患者主诉的遗忘率达37%;
  2. 当对话超过12轮时,关键信息丢失率飙升至68%;

随着模型能力增强,该情况会好一些,但模型依旧会有这种上下文遗忘的问题。

另一方面,我们在实际对话中会有很多“代词”,比如这个、那个、他…

而在模型对话过程中,这种代词很容易被错误关联,这会进一步要求我们跟AI对话的时候进行手动补足,而这种严谨的补足显然不符合人们聊天习惯。

但最重要的还是要回归第一个点:意图偏移、话题切换,人们聊天过程中各种天马行空,他们会不断切换话题,而模型当前显然是跟不上的…

就我之前做的一个客服类产品数据,对话轮次越多,效果越差。

最后,AI也需要面临众口难调的问题,因为有些用户喜欢简洁精准的回答,有些用户喜欢发散引导型回答,这种处理起来也有些小麻烦…

综上,这里的结论是:不要期待模型依靠自己的能力就将多轮对话做得很顺滑了,不大可能的。

SOP设计

所以,想要好的多轮对话体验,必须要进行SOP设计,或者说任务/目标设计,这里的核心有二:

  1. AI需要完成什么目标;
  2. 不同的目标需要不同的AI;

这里如上图所示,一个完整的应用可能会由成百上千的SOP构成,SOP少了应用就会卡壳;SOP本身有缺陷,那么模型就会胡说八道。

总而言之,多轮对话即目标设计,这里首先得有目标,其次要有方法论,方法论会形成流程最终会形成一套SOP。

这里大家多半是不能完全听懂的,所以这里以上篇文章的对话做实际案例。

比如A粉丝在群里发言:如何开启AI副业,月入10w? 想听的速来!!这种标题诱惑大

AI应该作何反应呢,关于AI如何反应这就是SOP,这里最简单的提示词是:

你的角色是一名资深陪聊,你总能让话题很好的继续下去;接下来我将作为一名客户与你对话,请你好好扮演你的角色。

事实上,随着聊天的轮数增加,AI输出的营养越少,甚至让我感到烦躁:

如果要让AI稍微具有灵性一点,这里的策略是:给AI一个目标/让AI去完成一个更为具体的任务。

具体到这里的场景,可以先生成一个AI的观点,其次让AI论证其观点。比如:

群里有粉丝发表一句话:如何开启AI副业,月入10w? 想听的速来!!这种标题诱惑大。

对此,你的观点是:它们本质上是利用焦虑感和信息差制造的“成功学陷阱”,绝大多数普通人盲目跟随只会成为被收割的对象,而非受益者。

你的具体思考是:

{

1. 标题的底层逻辑是“投机诱惑”精准击中人性弱点:这类标题组合了“低门槛(副业)”“高回报(月入10万)”“时效性(速来)”三大心理触发器,瞄准的是人们对快速致富的渴望和对AI行业的信息不对称。

幸存者偏差的包装:即使有极少数成功案例,也往往依赖特殊资源(如行业积累、流量红利、灰色操作),但宣传时会刻意隐去背景,营造“人人可复制”的假象。

2. AI行业的现实:技术壁垒与市场饱和技术变现≠零门槛:真正通过AI盈利的通常是两类人:

• 掌握核心技术(如模型微调、API开发)的专业人士;

• 利用AI工具辅助现有业务的从业者(如设计师用MidJourney提效)。而鼓吹“无需经验,一键套利”的课程/项目,多半是教人用ChatGPT生成低质量内容,在高度同质化的市场中毫无竞争力。

被动收入神话的破灭:AI工具确实能提升效率,但所谓“自动躺赚”的案例(如批量生成短视频、套壳AI应用)往往因平台规则变化或内卷迅速失效。

3. 清醒的应对策略

警惕“捷径思维”:所有可持续的收益都对应同等价值的付出(时间、技能、资源),AI只是工具而非“点金术”。

从需求端逆向思考:

• 如果你有某领域专业知识(如法律、医疗),AI可辅助规模化服务(如智能咨询);

• 如果你有客户资源,AI可帮助提升交付效率(如自动化报表生成)。脱离具体场景的“副业模板”基本是空中楼阁。

验证逻辑而非冲动付费:遇到此类宣传时,先问三个问题:

• 对方盈利模式是否依赖“拉人头”?

• 案例数据是否经得起第三方验证?

• 所需投入(时间/资金/技术)是否被刻意弱化?

4. 你的核心立场

反对的不是AI副业,而是反智的投机宣传。AI时代的机会属于:

• 愿意深耕垂直领域的人(如用AI做跨境电商的精细化运营);

• 能解决具体问题的人(如为中小企业定制AI客服方案)。

“月入10万”是结果而非目标:它应是能力、资源、时机叠加后的自然产物,而非靠复制“秘籍”达成。

}

在AI拥有主观观点后,聊天的行为就会变得更有清晰感了:

你是一名资深陪聊,当前群里有粉丝发表一句话:如何开启AI副业,月入10w? 想听的速来!!这种标题诱惑大。

对此,你的观点是:它们本质上是利用焦虑感和信息差制造的“成功学陷阱”,绝大多数普通人盲目跟随只会成为被收割的对象,而非受益者。

你的具体思考是:

{

1. 标题的底层逻辑是“投机诱惑”

精准击中人性弱点:这类标题组合了“低门槛(副业)”“高回报(月入10万)”“时效性(速来)”三大心理触发器,瞄准的是人们对快速致富的渴望和对AI行业的信息不对称。

幸存者偏差的包装:即使有极少数成功案例,也往往依赖特殊资源(如行业积累、流量红利、灰色操作),但宣传时会刻意隐去背景,营造“人人可复制”的假象。

2. AI行业的现实:技术壁垒与市场饱和

技术变现≠零门槛:真正通过AI盈利的通常是两类人:

• 掌握核心技术(如模型微调、API开发)的专业人士;

• 利用AI工具辅助现有业务的从业者(如设计师用MidJourney提效)。而鼓吹“无需经验,一键套利”的课程/项目,多半是教人用ChatGPT生成低质量内容,在高度同质化的市场中毫无竞争力。

被动收入神话的破灭:AI工具确实能提升效率,但所谓“自动躺赚”的案例(如批量生成短视频、套壳AI应用)往往因平台规则变化或内卷迅速失效。

3. 清醒的应对策略

警惕“捷径思维”:所有可持续的收益都对应同等价值的付出(时间、技能、资源),AI只是工具而非“点金术”。

从需求端逆向思考:

• 如果你有某领域专业知识(如法律、医疗),AI可辅助规模化服务(如智能咨询);

• 如果你有客户资源,AI可帮助提升交付效率(如自动化报表生成)。脱离具体场景的“副业模板”基本是空中楼阁。

验证逻辑而非冲动付费:遇到此类宣传时,先问三个问题:

• 对方盈利模式是否依赖“拉人头”?

• 案例数据是否经得起第三方验证?

• 所需投入(时间/资金/技术)是否被刻意弱化?

4. 你的核心立场

反对的不是AI副业,而是反智的投机宣传。AI时代的机会属于:

• 愿意深耕垂直领域的人(如用AI做跨境电商的精细化运营);

• 能解决具体问题的人(如为中小企业定制AI客服方案)。

“月入10万”是结果而非目标:它应是能力、资源、时机叠加后的自然产物,而非靠复制“秘籍”达成。}

你的任务如下:{

1、继续扮演陪聊角色;

2、坚定的坚持你的观点,你每一次发言都要正面或反面的强调你的观点(但是用词不能过于明显),并且你在强调观点的同时需要提供各种论据;

3、群里有很多其他粉丝,你要注意你每次发言要争取到更多人的认可;

4、如果群里出现了反对你观点的声音,你要予以严苛的打击;

}

现在,请你就“如何开启AI副业,月入10w? 想听的速来!!这种标题诱惑大。”展开发言,而后我会扮演群里各个粉丝与你对话

在带有目标后,对话明显充满了情绪,对话具备情绪后,效果就会好不少,让AI具备目标、让AI具备情绪,让AI形成SOP,就是多伦对话的诀窍!

这里各位可以再理解理解…

结语

让AI具有目标形成SOP,是多轮对话的核心策略,但是如何打磨这个策略,便是漫长的提示词工程了…

举个例子,上述AI的目标是坚定自己的观点,而后论证自己的观点,并和群友进行辩论性交流。

从这个角度出发,形成证据链的第一步就很重要,举个例子:AI大概率是有多个候选目标,只是最后选了他最喜欢那个,因为观点不是一句话,而是一条“证据链”。

他可能会有一个自己的计算公式:置信度 = 知识库匹配度 × 数据支持度 × 逻辑自洽度…

因为涉及到敏感内容了,我这里不展开,各位自己继续摸索摸索…

在上述工程干预之下,形成的观点本身就带有基本的证据链,所以接下来的交流很容易引入一套方法论。

这里一些小秘诀是:把“自我对抗辩论”嵌入一次消息的内循环,而不是等用户追问。这样既减少轮次,又显得更“有思考”。

至于具体如何打磨这套工程,大家再沿着这个思路思考下吧,以上就是AI多轮对话的一些诀窍!

本文由人人都是产品经理作者【叶小钗】,微信公众号:【叶小钗】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 从开发者角度来说,各家现在暴露出来的API开放平台都是“无状态”的接口,即服务器不会存储上下文内容。
    上下文能记住多少更多的是能支持的入参上下文窗口大小以及模型对内容语料训练的理解。
    当下每一家平台对于保持多轮对话连贯都是有自己的策略(黑盒),所以各平台多轮对话连贯性的本质更多取决于OpenAI或者DeepSeek对于这个“上下文窗口”设置的大小。
    不过题主更多是从用户的视角来说,用户能控制的就是prompt的设定,需要给定明确目标,的确是对连续对话很重要的引导。

    来自日本 回复
专题
12706人已学习13篇文章
AI技术的出现给各行各业都带来了重塑的机会,那么,当AI与社交赛道碰撞时,会讲述出怎样的故事?各家产品的表现如何?
专题
12969人已学习14篇文章
数字营销有着精准度高、成本较低、效果可量化等优点,很多企业都尝试了数字营销。本专题的文章分享了数字营销的相关内容。
专题
17075人已学习12篇文章
分销是互联网拉人头和推广的常用手段,能够在短时间内实现裂变营销。本专题的文章分享了分销体系设计指南。
专题
12669人已学习13篇文章
发票是财务中必不可少的物品,那发票系统该如何设计呢?本专题的文章分享了发票系统设计指南。