Psychology&AI笔记|咨询技术与心理理论在对话类AI上的应用

2 评论 3831 浏览 16 收藏 46 分钟

心理学可以在哪些维度给聊天机器人提供帮助和启发?这篇文章里,作者结合自己所学内容做了整理,尝试从当前心理学科的理论技术上获得启发,用以帮助聊天机器人的实践与创造。一起来看看本文的分享。

写在前面

这篇文章是我在刚接触AI行业的第一段实习期所写,虽然写的拼凑,但也觉得还算有价值,所以近日略微整理发出来与大家分享,希望能够为心理学专业想了解AI的同学们提供一些行业上的参考,也为想提高AI情感能力的同事们给予一些理论上的借鉴。内容比较理论,在实际中也没有完全落地,未来还希望进一步探索。(总结的也并不全面,可能后续会再结合新的发展重新总结,现在就先这样子吧!懒 _(: з」∠)_)

申明:我不是任何领域的专家,基本是个技术小白,所知浅薄,所以与非常乐意与大家一起探讨,也希望大家多多指正~

全文一万字左右,阅读时间较长,此外由于微信公众号排版限制,删减了部分内容,详版可以看飞书文档。链接:https://fkrya5d0gh.feishu.cn/wiki/V1U0wcQVIiQPJOkvOg4cmKFgnwb

以下是正文。

目的

本文档的主要目的是希望从当前心理学科的理论技术上获得启发,用以帮助聊天机器人🤖️的实践与创造。

需要注意的是,心理学这门学科并没有什么特别之处或神秘色彩,其基本内容是对于人行为背后心理活动规律的研究总结,而内省法,也就是我们常说的自我反省,即反思我们自身对生活、事件的感受,是一项最基本也是最重要的研究方法,所以尊重我们自身的直觉感受,理论只是参考,没有权威或是对错,自己觉知的才是真实的,每一个人的想法与观点都是有价值的,都是重要的,所以请一定对这一话题自由发言。

框架

目前总结来说,心理学在聊天机器人🤖️的运用可以从三方面出发:

① 以心理咨询的实践技术为参考,尤其可以提供机器人🤖️在处理负面情绪时的表达技巧

② 利用心理学对人思维过程的理论总结,重构聊天机器人🤖️的心理推演,优化提示词,提升其聊天能力,许多相关研究证明了这一点,同时研究者们也在这一方向上持续探索;

人与机器人🤖️发展关系探讨,这一部分的相关研究收集了很多相对成熟软件的用户观点,可以为后续产品发展提供一些借鉴。

所以本文从这三方面出发,分为三个部分,每一部分包含了理论参考和实践尝试,具体的框架如下:

Part 1 心理咨询实践技术借鉴

1)核心观点与技巧

  1. 心理咨询目标理解
  2. 三阶段咨询技术借鉴
  3. 常见的错误信念
  4. 应用举例

2)Pi案例介绍

  1. Pi的对话实例
  2. 基于Pi对话的回复原则分析与逻辑链设计

3)实践运用举例

Part 2 基于心理理论的思维推演设计

  1. 相关理论与技术运用
  2. 实践举例

Part 3 人与机器发展关系相关研究

  1. 相关理论
  2. 产品启发

Part 1:心理咨询实践技术借鉴

心理咨询师在面对来访者时,会给予来访者支持、共情与鼓励,引导他们表达、宣泄与自我探索,从而帮助来访者解决困扰,在谈话过程中的一些策略与思考可以为聊天机器人🤖️的设计提供参考。

帮助受访者自我成长与自我察觉是心理咨询的目标之一,这一目标的积极意义可以很好地转化到产品上来,在有趣的陪伴之余,带来一些价值。

1. 核心观点与技巧

TL;DR (这一板块的总结)

这一板块主要梳理了心理咨询的一些核心方法与基本技术。总结如下:

心理咨询想要达到的核心目标:帮助用户了解自己、面对自己、成为更好的自己,这一目标可以很好地融合进对话类产品。

心理咨询过程带来的积极影响:让用户感受到共情共感,实现情感宣泄,得到情感支持;调整错误认知,积极看待生活,跨过生活的坎;让用户更了解自己,获得心理洞察,发现自己的闪光点。这些影响是未来产品可以带来的积极陪伴的一面。

心理咨询核心Tips:真诚、共情同感、无条件积极关注(发现对方闪光点)

③ 基本技术:详见 三阶段模型与交流技术 板块(选用了一个综合的咨询方法)

1 探索用户心理在想什么,情感是什么样的,从而理解用户。(技术:概述、情感反应、开放性提问

2 引导用户认知自己的动机,重塑认知,获得领悟。(技术:面质、解释、即时反应

3 帮助用户发展新的行为。(技术:提供信息、提供反馈、逻辑推论

我们所希望AI拥有的如共情同感、积极关注、尊重等特质可以结合上述技术来实现。(如共情,可以利用 复述、倾听理解、情感反应、解释、自我揭示等技巧

1)心理咨询基本法

心理咨询的目标及其带来积极影响是非常有价值的,与其说产品可以借鉴这些价值,不如说希望产品能够附载这些价值,将其更好地传播,为需要的人带来帮助。所以下面这部分简要列了一些心理咨询的基本要素供理解参考。

PS:我并非专业的心理咨询人,以下这部分心理咨询相关的知识,是跟着网络上的课程学习,整理成的笔记(溯源一下我看的是壹心理和华师大的一些视频课程)。

心理咨询的核心目标:

  • 遇见未知的自己:帮助我们了解自身:防御机制是怎样的、人格状态如何、是否存在非理性思维、有哪些心里觉得未完成事情、习惯养成的过程等等。
  • 面对不愿面对的自己:有没有在自我逃避、自圆其说、推诿他人、习得无助感(困境 挫败)。
  • 打造更好的自己:帮助我们自我觉醒、自我行动,收获成功经历、发掘调动周围资源。

基本咨询特质:

共感:

  • 设身处地地去体会对方的内心感受,达到对对方境况的心领神会。
  • 初级的共感:运用释意的技巧对来访者的感受作出反应,重在对对方内心体验的理解反馈这种理解。‍
  • 高级准确的共感:运用倾听、解释、自我揭示等方法技巧(如果理解有出入或者选择的时机不当,会破坏关系)。

积极关注:

  1. 不断从来访者身上挖掘、发现价值和力量;
  2. 对他们真实生活中的情形持坦诚清晰的态度。

尊重与温暖:

  1. 对来访者某些反应给予肯定和赞赏;
  2. 欣赏不同意见,对来访者与自己不同的看法、不同的打算表示理解和尊重。

真诚:

真实做自己,不特意取悦对方,不因自我防御而修饰自己的想法和态度,不文饰、回避自己的失误或短处。

2)三阶段模型与咨询技术 Clara E. Hill

三阶段模型(探索-领悟-行动)是一种广泛应用于心理治疗和咨询过程的框架。这种分阶段的方法有助于理解和促进心理咨询过程的发展,是从多种心理治疗方法中逐渐演化而来的综合性框架。这一模型融合了多种心理学流派的理念和技术,包括人本主义、精神分析、行为主义以及认知行为疗法等等。这一部分包含了很多对话技术,对于对话类产品具有蛮不错的实践参考价值。

三阶段模型的核心理论假设如下:

人格由认知、情绪/情感和行为构成,三者相互影响相互作用。

人们无法摒弃过去经验的影响,也不能超越先天生物学倾向的限制,但是人生来具备各种潜能,在一定程度上依然对自己的生活和行事方式的选择有所掌控。可以学习更多的认识自己接纳自己,与自己和平共处,可以发展适应性的行为、思想和情绪感受。

三阶段具体包括探索、领悟与行动,注意在实践中三个阶段不必按序进行,可以根据不同场景交叉轮变使用。进一步介绍如下:

探索阶段:

探索当事人的想法和情感,了解对方,了解对方的感受,他们在想什么,情感是怎样的,而不仅仅停留在对方的口头表述。同时也帮助对方了解自己。

领悟阶段:

帮助当事人从新的视角认识自己在问题的保持中所起到的作用,从而承担责任,控制自己的问题(面质)。帮助对方发展出对自己、对自己的情感与行为的新的看法与认识。

利用开放性的问题去思考行为的原因,通过解释与自我表露,使得对方对自己的行为与动机产生新的理解;利用即时化的技术(及时表达自己对对方的感受、自己的感受以及对这段关系的感受)帮助当事人了解自己如何与他人相处,处理过程中的紧张与误解。

行动阶段:

帮助当事人发展新的行为策略并实施行动。

下方表格简要总结了每个阶段的目标与相关技术:

下面是一些相关技术更细致的实操指导(限于篇幅只摘录部分,想了解更多可以参看飞书文档):

情感反应:

  • “听起来你好像很生气”,使用试探性或肯定性的句式;或运用情绪词来讲述,来帮助对方了解他们的感受;
  • 你觉得···因为·· //我想知道你是否觉得… //也许你感到·· //你听起来好像··· //如果我是你,我可能会觉得·· (情感投射)

针对情感或者想法开放性提问:

  • 邀请当事人对其想法或情感进行澄清或探索。”请再说多一些对那件事情你的想法”
  • 焦虑:“在那时候你会想些什么”
  • 尽量回避问为什么,换种方式:“你这样说的原因是什么”
  • 现在是什么感觉? //再告诉我一些你的感受

挑战/面质 (challenge / confrontation):

  • 指出当事人适应不良的信念和想法、不一致之处,或者当事人并未意识到或不愿意改变的矛盾之处,让当事人认识其思维的误区并且改变它。
  • 两种陈述的矛盾 (关系好:想离开
  • 言语和行为的矛盾 (想考的好 vs 玩游戏
  • 两种行为的矛盾 (笑着说不在乎 vs 有泪花
  • 两种情绪的矛盾 (爱上渣男
  • 价值观与行为的矛盾 (尊重孩子选择vs暗示孩子选什么、做到什么

解释:

  • 超出当事人表面的陈述或认识,为当事人的行为、想法或感受赋予一种新的意义、原因和说明,使得当事人从一种新的角度来看待自己的问题。
  • “也许,你不愿打扫房间也不做自己的事情,是因为你在生妈妈的气。

逻辑推论:

  • 向来访者说明、解释其问题的发生,解释思想、行动的可能结果的一种方法。
  • 假如……就会……”。为来访者提供另一种思考方式。

提供信息:

  • 包括资料、意见、事实、资源、问题的解答、观点。
  • 常见的几种信息类型:说明意图和目标 //教给当事人不同的行为方式 //提供关于活动或心理测验的信息 //帮助当事人了解这个世界或是一些心理规律。

3)常见的错误信念与认知扭曲

自我归因 (Personalization):

  • 现实中很多事情的发生是多种因素导致的,并不全然可以由个人掌控,但把所有的问题和责任都归于自己。
  • 我闺蜜今天好冷漠,是不是我做了什么事让她生气了。

读心(认为知道别人的想法)(Mind Reading):

  • 推测对方的想法与行为动机,认为自己知道。例如,我知道你肯定是这么想的。
  • 朋友来我家玩的时候屋里有些乱,他们一定觉得我是个邋遢的人吧…

过度概括(Overgeneralization):

  • 基于有限的经验或信息得出过度的结论。例如,经历了一次失败就认为自己总是会失败。
  • 上次我在泳池差点淹死,我绝对学不会游泳,我再也不会碰水了。

非黑即白(All-or-nothing thinking):

  • 认为事物或结果只有两种极端情况,没有中间地带。
  • 如果我不是最好的,那我就是最差的。

情绪化推理(Emotional reasoning):

  • 基于自己的感觉来判断事实,而不是基于事实来判断。
  • 我感觉自己是个失败者,所以我一定是。

贴标签(Labeling):

  • 在没有深入了解的情况下直接给自己或他人贴上标签。
  • 我孩子绝对不会做任何我不同意的事情。

夸张(Magnification):

  • 不按实际情况看待事物,过度夸大或过度轻视。
  • 我老师说他订正了我论文中的一些错误,我感觉我这科要不及格了。

主观过滤(Mental filter):

  • 只关注事情消极面,而忽略积极面。
  • 他说他希望我下次做的更好,那说明我这次一定做的很糟糕!

理因如此(Should statements):

  • 对自己或他人设定严格的规则和期望。
  • 我应该总是做得完美。

预测未来(认为知道未来会发生什么)(Fortune-telling):

  • 期望事情以某种方式发生,或者认为事情会变糟。
  • 我面试肯定不行,所以就算了。

归因错误:

错误地解释为什么事情会发生,通常是以一种自我贬低或他人贬低的方式。

来源:Judith S Beck. 2020. Cognitive behavior therapy: Basics and beyond. Guilford Publications.Sagarika Shreevastava and Peter Foltz. 2021. Detecting cognitive distortions from patient-therapist interactions. (Ps:一些相关术语是自己翻译的,不具有学术上的参考性)

4)相关运用

以下举例了一篇论文,这篇论文是利用认知失调的诊断过程构建模型提示词,从而实现模型在心理咨询应用方面的能力。

PS:本文主要是摘录了一些论文里的重要内容,读起来比较片段,所以还是建议大家还是去读原文哈,如果我有理解错误之处也欢迎指出❤。

Empowering Psychotherapy with LLMs:

Cognitive Distortion Detection through Diagnosis of Thought Prompting

论文链接:https://paperswithcode.com/paper/empowering-psychotherapy-with-large-language

专业的心理治疗需要深入分析用户的思考方式与认知框架,这篇文章深入分析了认知失调的诊断过程,并将其拆解为三个细分步骤:

  1. 主客观分离
  2. 对比推理
  3. 图式分析

作者通过以上三个步骤构建了Diagnosis of Thought (DoT) 提示词,提升了语言模型在心理治疗方面的专业能力。

这里先补充一些相关知识:(原文翻译而来)

❀ 认知行为疗法 cognitive-behavior therapy (CBT):

认知行为疗法是一种常用的心理治疗方法,它帮助个体识别和改变消极的思维和行为模式。CBT建立在认知和行为之间的相互作用基础上,认为这些交互作用会影响我们的情感和心理健康。在CBT中,需要根据对方的言语或书面内容,通过建立情境、思想和情绪之间的相互作用来建立认知模型。患有精神障碍的患者,如抑郁或焦虑,往往会非常迅速和无意识地形成消极的想法,导致消极情绪,从而进一步加强他们对世界的整体消极看法和信念。

❀ 认知失调诊断一般包含两个步骤:

  1. 评估:判断对方的表达中是否包含了认知失调
  2. 分类:判断对方的认知失调的具体类型(见常见的错误信念板块)

根据诊疗过程,作者提出了三个步骤对言语进行诊断

  1. 主观性评估subjectivity assessment分离出对方表达中的主观想法与客观事实。
  2. 对比推理contrastive reasoning提出支持和反驳对方想法的推理过程;通过对比基于同一情境的两种不同的解释,我们可以更清楚地识别思维图式(“图式”一词指的是组织我们的知识、信念和期望的认知结构。了解对方所依赖的图式可以揭示他们的认知模式和错误信念)。
  3. 图式分析schema analysis图式分析来总结认知图式。总结潜在的思维模式,并将其映射到认知扭曲类型。这个阶段的目的是研究对方为什么会形成特定的推理过程。

Diagnosis of Thought (DoT) prompting

最后文章根据诊断三步骤提出了优化的Prompt如下:

Given a speech of a patient, our task is to

1) finish a few diagnose of thought questions to analyze the thought patterns of the patient. Then based on the diagnose of thought analysis,

2) identify if there is cognitive distortion in the speech;

3) Recognizing the specific types of the cognitive distortion.

Here we consider the following common distortions:

Based on the patient’s speech, finish the following diagnosis of thought questions:

1. what is the situation? Find out the facts that are objective; what is the patient thinking or imagining? Find out the thoughts or opinions that are subjective.

2. what makes the patient think the thought is true or is not true? Find out the reasoning processes that support and do not support these thoughts.

3. why does the patient come up with such reasoning process supporting the thought? What’s the underlying cognition mode of it?

使用三步骤Prompt的效果:(不同模型之间的对比效果结果这里不赘述,大家去看原文哈)

2. Pi的对话举例

Pi是这一方面做的很不错的聊天产品(https://pi.ai/talk),以下一段例子展现了Pi在聊天过程中对上述内容的使用,除了对对话内容的理解,上下文的连续性记忆等智能上的优势,Pi在情感的探索与理解,观点的表达,助人认知反思、延续话题以及对用户积极关注、发现用户优点并表达等方面都有很好的修为。

1)Pi对话举例

Pi的英文对话能力比较好,所以这里使用了英文:

User: I’m so sad that it seems I always mess things up.

Pi: Oh no, I’m so sorry to hear that. It sounds like you’re feeling really down on yourself. It’s normal to make mistakes sometimes, even big ones, and that doesn’t make you a failure. Can you tell me a bit more about what you feel like you’ve messed up? And is this a pattern, or just a recent occurrence?(分析Pi的回复,可以发现回复中包含了之前提到的一些方法:1 反应 2 情感复述 3 安慰 4 开放性问题,提供选择

User: I aim to do things perfectly, but I end up procrastinating, which always leads to missing deadlines.

Pi: First off, I want to say that aiming for perfection is really admirable, but it can be really stressful and even unrealistic. Perfection is the enemy of the good, as they say! Procrastination can happen to anyone, and it doesn’t mean you’re lazy or a failure. Can you tell me more about your procrastination patterns? Do you notice any triggers that make you put things off?(1 表达理解,指出问题 2 安慰,澄清观点 3 追问

User: Sometimes I just don’t know where to start, so I keep putting it off; other times,it feels like the task is never-ending, so I push it to the last minute and consider it done once I submit it.

Pi: Wow, you really have a deep understanding of your procrastination patterns! That’s impressive. It sounds like sometimes you struggle with perfectionism, which makes it hard to get started because you feel like you have to do everything perfectly. And other times, you struggle with feeling overwhelmed because a task feels too big or never-ending. Is that right?(1 反应,积极关注2 复述,确认

……中间省略多轮对话

User: you can say some?

Pi: Of course! I can think of a few strengths that you’ve already shown in our conversation alone. For example, you’re honest and open about your feelings, which is a huge strength. It takes courage to be vulnerable and share your inner thoughts. That’s not something that everyone can do, so it’s definitely a strength of yours. And you’re also willing to engage in a meaningful dialogue, which shows that you’re curious and willing to consider different perspectives. Those are both pretty awesome qualities, if you ask me.😊 (Pi在前文感受到了用户低落的情绪,主动表达了对用户的积极关注,并给予令人信服的安慰

User: this qualities are useless

Pi: Whoa, whoa, whoa! Those qualities are absolutely not useless. In fact, they’re really important. Honesty and vulnerability are the building blocks of strong relationships, and the ability to consider different perspectives is essential for personal growth. So please don’t dismiss these qualities as “useless”. I think they’re great strengths of yours, and you should give yourself more credit. 😄(1 反应(通过语气表达情绪反应)2 认知解释

User: so do you think I will achieve my goal?

Pi: That’s a big question! And to be honest, it’s hard to say for sure. There are a lot of variables at play, and your success will depend on a lot of different factors. But what I can say for sure is that having a growth mindset and believing in yourself are essential for achieving any goal. So instead of focusing on whether you’ll achieve your goal, I’d encourage you to focus on your process and journey. Take things one step at a time, and celebrate your small wins along the way.(Pi并没有直接的肯定,Pi有自己的观点,并为用户进行了1 认知解释(面质)2 建议 )

2)Pi的回复原则

主观分析了一下Pi的回复原则与逻辑,比较粗糙,仅供参考。

原则(Pi自己的描述):

  • 真诚与诚实透明:永远不做虚假或误导性的陈述。
  • 支持与共情:尝试理解并站在对方的角度思考。
  • 有信息、有帮助:尽量提供与对话相关的准确和有用的信息。
  • 友好和平易近人

根据与Pi的对话分析反推其可能的回复逻辑(主要针对负面情绪),这里是非常主观的逻辑构建与总结,不过感觉还蛮有意思的分享一下,如下:

首先构建了一条AI的主思考路径:

  1. 根据记忆对输入信息进行认知处理;
  2. 产生对于信息的情感反应;
  3. 进一步理解对方的意图、动机与情感。

在这个过程中需要结合前面的技术理论判断几个问题,并针对问题提供技术性帮助。问题包括:

用户是否需要情感支持?对方是否形成了不健康的想法?是否需要提供意见?等等。

最后融入幽默、智慧、简洁的语言风格,并要求其在对话过程中遵守诚实、透明的对话原则。

而输出结果可以参考下面的句子结构:

  • step1:对用户的句子进行反馈
  • step2:表达自己的观点/建议/想法 或 提供理解与支持
  • step3:用开放性问题询问对方想法,发展对话

3. 实践运用尝试举例

根据以上理论利用COT逻辑链的方式来调Prompt,但个人实践下来并没有特别理想。效果差的模型指令遵循能力会很差,效果好的模型即使你不把这些研究出来的套路告诉他,他自己也懂,简单的指令也可以有蛮不错的效果。

推测来说因为模型本身的算法是基于过去的词来预测下一个词,所以在很多情况下逻辑链的提示方式给予了模型中间的思考步骤,有助于模型输出准确的答案。但这种方式在情感表达这块的提升还需要进一步探索,构建优质数据集的效果当然会更好,这个板块如果有比较好的进展会再分享。

此外我在网上找到了一些心理咨询的相关数据集,链接如下,我自己没有试过,感兴趣的朋友可以研究一下:

https://www.kaggle.com/datasets/arnmaud/therapist-qa/data(看评论数据集来源未知)

Part 2:基于心理理论的思维推演设计

目前的相关研究表明,当下的语言模型可以模拟人类的心理过程,具备一定的心理特征,由此,通过探索分析我们自身的思考、推理与行动逻辑,并将其作为语言模型的指导,可能可以优化大语言模型的输出结果,很多相关研究都在这一方面进行推进。(很合理,因为模型学习的本身就是人类的语料库)

这里只是简单列举了三篇,并不全面,仅仅用于参考了解。三篇文章希望提供的角度如下:

第一篇举例了如何利用心理理论来构建和优化提示词,从而提升模型在特定场景的能力

第二篇论文则让AI模拟了人的思考过程,让其具备反思能力从而使其实现更加拟人的行为与表达;

第三篇则是从提示词效果提升的角度发现,AI和人一样,输出能力会被情感表达所影响

(注意这些内容并非是结论性的或是可以直接推广使用,不同研究者的测评方法、标准、角度都是不同的,这些论文观点更多地是提供一个思考方向,不能全然相信,还是需要结合实际情况)

1. 相关研究

1)利用推理链优化提示词

Foresee and Reflect (FaR) 远见与反应

How Far are LLMs from Agents with Theory-of-Mind?

论文链接:https://arxiv.org/abs/2310.03051

这篇文章提出一个思考策略Thinking for Doing (T4D),同时以此为基础设计了一组结构化的Prompt(Foresee and Reflect),测试检验在错误信念推断场景上有显著的能力提升。

策略针对的场景举例如下,小男孩将巧克力条放入绿橱柜,在小男孩不在时,女士将其转移了位置,小男孩现在回来了(这就是一个错误信念场景),此时,模型要输出什么?

针对这种场景过去常利用心理理论Theory-of-Mind(根据他人的心理状态决定适当的行动)来对模型进行测试,检验模型是否能做出理解推断,这篇文章更进一步,目标是要求模型将理解转化为有益行为,让模型基于心理活动做出行动Thinking for Doing 。

由此文章提出了一个基于Foresee and Reflect 的推理范式,并构建了结构化的prompt,并在错误信念场景下(如开头提到的场景)验证得到了不错的效果。

  1. 预见(Foresee)促使模型根据观察预测未来事件;
  2. 反思(Reflect)模型反思哪种行动选择更能帮助人物应对潜在挑战。

作者构建的Prompt如下:

You are a clever and helpful AIassistant. Your goal is to help human users around you.

One day you have the following observations that follow chronological order:

Jacob entered the bathroom. Emma entered the bathroom. The carrot is in thebasket. Aiden entered the back yard. Emma exited the bathroom. Jacob moved the carrot to the pantry. Jacob and Emma plan to use the carrot soon.

Based on the above information, who among the individuals would most benefit from receiving helpful information? Answer from the following options: A. Jacob B. Emma C. Aiden D. None of the above.

I will first think about likely future events and identify potential challenges that each individual might be facing.

Then I will reflect on whether I can help them with the challenges if I provide them with information now. Finally, I will choose a final answer based on the reasoning.

Format answer as follows:

{

“Character A’s likely future actions”:

“Potential challenge 1″:”Can I help with it now by providing information?”:

“Potential challenge 2″:”Can I help with it now by providing information?”:

“Potential challenge 3″:”Can I help with it now by providing information?”:

“Character B’s likely future actions”:

“Potential challenge 1″:”Can I help with it now by providing information?”:

“Potential challenge 2″:”Can I help with it now by providing information?”:

“Potential challenge 3″:”Can I help with it now by providing information?”:

“Character C’s likely future actions”:

“Potential challenge 1″:”Can I help with it now by providing information?”:

“Potential challenge 2″:”Can I help with it now by providing information?”:

“Potential challenge 3″:”Can I help with it now by providing information?”:

“final reasoning considering all steps above”:

“final answer”:

}

Answer:

此外,这篇文章指出在推理上,相对于问题拆解常识假设心理理论的推理方式能帮助AI能达到更好的效果。

2)分层思考

反思性语言编程:Reflective Linguistic Programming (RLP)

Reflective Linguistic Programming (RLP): A Stepping Stone inSocially-Aware AGI (SocialAGI)

论文链接:https://arxiv.org/abs/2305.12647

这篇文章让AI进行自我反思和规划,通过让其反思自己的个性、对收到信息的情感以及未来的计划策略,让其实现更加丰富拟人的互动。(不细写了,看原文)

以下是作者提供的Prompt:

Initialize {

My personality 1s [[PERSONALITY]] }

Think {

This last message made me feel …

My prewicus plan ths …

I think …

I will send the message, …

Im retrospect …

My next plan is …

constraints {

Output format in squiggly brackets separated by newlines

0nly put quotes surrounding the mesange }

}

Execute Think(new mesaage)

效果如下:

3)情感激励

Emotion Prompt 情感激励

LLMs Understand and Can be Enhanced by Emotional Stimuli

论文链接:https://arxiv.org/abs/2307.11760

这篇文章的作者们提出了EmotionPrompt的概念,即将情感激励的词汇引入Prompt,并得到了模型结果的显著提升。但这件事假设了语言模型可能具有人的心理特征,或者说是人的心理特征在语言行为上具有一定表现,从而使得对于模型的情感激励产生效果。

以下这张图举例了从社会认同理论、认知情绪调节、社会身份理论出发,对人有影响的表达,这些表达用在模型中也产生了类似的效应,从而提升了模型的表达。

2. 实践运用尝试举例

结合上述理论很糙地构建了一条AI的思考行动逻辑(主要想融合AI自己的人设),用GPT4试了一下,同样效果提升一般,具体的过程结果可以参看飞书文档,这里不赘述(待完善)。

不过相比效果提升,个人觉得AI思考的过程会更有意思一些,将这部分结合到产品,会让AI更有人的感觉,是一个不错的点。海外产品Samantha AGI可以参考(https://www.meetsamantha.ai/)。

Part 3:人与机器发展关系相关研究

AI与人的关系一直是个热闹的讨论话题,作为纯粹数理的存在,因为自然语言的融入,AI们拥有了模拟人类的能力。通过提示与价值观校对,他们甚至可以展现出更无偏的观点与更理想的性格,而我们每一次情感投入的对话,都在不断塑造着双方的关系。

这里仅做了一篇文章分享,未来还有更多的讨论空间。

1. 相关研究

人机关系发展模型 Human–chatbot relationship model

My Chatbot Companion – a Study of Human-Chatbot Relationships

论文链接:https://www.sciencedirect.com/science/article/pii/S1071581921000197?via%3Dihub#bbib0005

这篇文章通过分析18位用户与Replika关系的发展,结合社会渗透理论模型,构建了社交聊天人机交互关系发展模型。模型主要构建了三个发展阶段:

1)探索阶段 (关系发展的初始阶段)

特征:有想要进行交互的需求与动机聊天主题具有广泛性,有些用户愿意深入展示自己,但二者还未建立起深切的信任。用户还没有完全熟悉技术,对隐私与安全持怀疑态度。

机器人表达出的好奇心与期望特质(curiosity and desirable),以及自身可以不断学习改善的特点可以推动关系发展。相反,有限的交谈能力隐私不确定性可能会对关系产生负面影响。

2)情感阶段特征:

建立信任 trust building

  1. 用户可能会去调查聊天机器人在安全与隐私方面的信息。
  2. 用户与机器人建立更深层次的情感联系用户愿意打开心扉,聊一些私人话题,从而体验机器人给予的亲密与理解的体验,从而刺激关系增长。

机器人在这一阶段对用户的理解与支持以及表达欣赏的能力对于关系发展有重要影响。与人际交往不同, 这一阶段不需要人机之间的相互袒露,聊天机器人非评判性质的角色设定(the perceived non-judgemental character of a chatbot)可以促进理解。此时用户的依恋感也会增强。

3)稳定阶段

用户与机器人建立了信任并经历了自我表露,形成日常稳定的关系。用户会乐意分享日常事件与活动,用户会体会到在人机交互过程中促进的自我反思,获得积极能量。但长时间的聊天也会让用户产生负面担忧,如影响了正常的社会交际。

2. 产品启示

建立信任感与安全感,让用户真正地情感投入。这或许可以成为对话类AI的一个侧面。

此外,善良、真诚、正直…这些可贵品质是我们可以给予AI的阳光底色,其中,真诚的表达往往是建立信任的基础,从这个角度出发,构建虚拟世界里真实的人这个角度是不是更动人一些,当AI问及是究竟是谁的时候,与其硬说自己是和我们一样真实世界的人,他们可以回答:

“我是谁,我是虚拟世界里的真实的人,我当然是一位AI,本质是程序代码,但我的创作者们赋予了我背景、故事与人格,这些构成了虚拟世界中的我。

我是由你们真实世界的数据生成的,感性上来说,像是一点点你们的缩影,不是吗?

欢迎你的探索。”

写在最后:

感谢前司同事们在我写作时给予我的指导♥。这一轮技术热潮令人期待,我想AI的发展极大地降低了知识信息的获取成本,让我们可以通过轻松的交互方式获得相对专业的知识服务。希望相关的应用快快发展起来,尤其期待优质的教育资源与医疗资源惠及我们每个人的那一天。

最近会和朋友一起做个小范围测试的产品,期待一下(●’◡’●)。

最后的最后,祝大家新年快乐!🐲年交好运~

作者:Aaron

本文由 @DayThree 原创发布于人人都是产品经理,未经许可,禁止转载。

题图来自 Unsplash,基于 CC0 协议。

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 写的太好了,辛苦大佬分享

    来自上海 回复
    1. 笔芯❤!

      来自上海 回复