大模型应用设计思考:大模型+bi,TFlowAI如何让大模型来检索数据

0 评论 1252 浏览 2 收藏 6 分钟

TFlowAI提出了一种基于大模型的解决方案,通过理解业务、查找数据、分析处理的过程编排,实现模型自主的基于数据库的数据查询与分析。这种方法不仅降低了开发成本,还提升了使用体验。

在B端的助手agent中,有一个重要的场景既数据的分析!那如何让模型能够理解产品的数据,理解数据结构、理解业务,准确的去数据库中查找数据,并给他客户展示呢?我们来看TFlowAI给出的解决方案

一、用户现状场景

如客服主管的Agent助手,只需一句话,Ai帮助用户快速找到想要的数据: 如:

  • 今天客服接待的满意度咋样?
  • 用户投诉最多的问题是那些?
  • 从官网来的咨询量有多少?满意度怎样?

这些数据的查找、获取在原有产品设计中,有2个体验不好的点:

  1. 开发成本:新统计维度、数据项的增加,需要开发进行计算&编排
  2. 使用体验:数据分析维度,查看维度等等都受制于产品界面的限制;

那是否借助大模型的理解能力,来实现模型自主的基于数据库的数据查询与分析,生成报表,从而摆脱通过系统开发的方式实现数据的统计与分析。

二、解决方法

解决方法的设想:参考rag的面向过程编排的方法,将模型处理理解业务,查找数据,分析处理的过程通过workflow得形式编排,用大模型进行串联处理。

1. rag的流程

1)流程

2)流程说明

  1. 用户提问向量化,index检索相似片段
  2. 通过提示词+用户提问+check片段 打包发给大模型
  3. 模型进行解答

2. 大模型+BI的过程编排流程

1)流程设计

整个过程会经历问题的反写,表结构的理解,SQL的生成,SQL的执行,数据的可视化五个阶段。依次讲解下每个环节做什么。

(1)问题反写:让大模型理解query,通过提示词,让模型理解意图,当前产品有关的数据维度解释说明,计算规则等。从而将用户的需求完整的描述处理。

  • 用户提问:官网线索转换了是多少?
  • 模型反写:想要了解从官网注册的用户,最终购买产品的比例。计算规则:官网线索客户成交数/官网线索数

(2)理解表结构:让模型知道从那张表中获取相关的数据。通过补充表+字段的方法,让模型知道数据库中有哪些表,从而推测要用到哪些表

  • 比如表结构理解输出:模型反写:想要了解从官网注册的用户,最终购买产品的比例。计算规则:官网线索客户成交数/官网线索数,要统计从线索表中筛选来源为“官网”的线索数,统计从成交订单中筛选来源为“官网”的订单数

(3)SQL生成:接住大模型或者txt2SQL等模型,将文本转为可执行的SQL

(4)执行SQL:执行上一步生成的SQL,获取其结果

(5)数据可视化:借助绘图工具,绘制趋势图等图表。同时模型对于数据进行简单的分析说明

(6)输出:对用户输出可视化的内容

整个过程的关键环节在于问题的反写与表结构的理解,需要在这个环节中用提示词给模型正确的引导,让模型能够理解清楚业务,以及用户的意图、计算逻辑。同时对于喂给大模型的内容,进行选择性的拼接。

同时也可以考虑增加娇艳环节,降低理解的出错率。

3. 进阶:融入Agent

更深度的应用,可以将大模型+bi的环节,变成Action事件,嵌入到已有的Agent当中

三、优势与问题

1. 优势

  • 开发成本低:只需要数据库增加字段,提示词增加说明,即可满足用户对于数据分析的数据,开发成本大幅降低;
  • 使用体验:基于模型的理解去分析,查找数据、分析数据,实时绘图,摆脱原有数据报表的限制,可以自定义进行深度的分析。

2. 问题

  • 复杂数据的处理不确定,可能需要借助增加过程、借助agent等提高模型对复杂数据的处理;
  • 存在幻觉、异常数据排查难度较大,过程黑盒无法排查!

本文由 @易俊源 原创发布于人人都是产品经理。未经许可,禁止转载

题图来自 Unsplash,基于 CC0 协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
海报
评论
评论请登录
  1. 目前还没评论,等你发挥!