WorkBuddy上线「辅助任务模型」,一个任务拆成两个模型去执行,帮你省积分

0 评论 540 浏览 1 收藏 8 分钟

WorkBuddy 把一次任务拆成主任务和辅助任务:改标题、压缩上下文这类杂活,交给默认的 wb-lite 或免费的 Hy4 flash 去跑,不必再按 Kimi-K3 的 1.62 倍率烧积分。

WorkBuddy 又有新功能上线。

这次是一个叫做「辅助任务模型」的能力。

入口在「设置-模型」下。

可以看到,官方对「辅助任务模型」的描述:

用于增强提示词、生成标题、会话摘要、记忆筛选等辅助任务,不影响主对话所用的模型。

对于这类辅助任务,你可以自己选择专门的模型来进行。

并且,该选择并不影响主对话中,你所选择的模型。

01 功能说明

什么意思呢?

我争取几句话说明吧。

这次,WorkBuddy把一个任务,分成两部分。

一部分是主任务。

也就是具体任务的执行。

比如具体的生成代码、制作 PPT、数据分析等。

这部分任务,由你选择比较厉害的模型来执行。

因为模型的选择,直接影响任务结果。

一部分是辅助任务。

主任务之外的一些自动化操作,偏简单的文本任务。

比如上面提到的增强提示词、生成标题、会话摘要、记忆筛选等。

例如,我输入我的需求,使用「增强提示词」,就属于辅助任务。

这部分,你可以选择另外一个模型来执行。

因为增强提示词、生成标题、会话摘要、记忆筛选等这类任务。

属于文本的扩写、总结、筛选等,是简单的、各模型都擅长的任务。

对模型要求不高,不同模型执行效果也接近。

这部分,你可选择性价比高的、快的flash、甚至是免费的模型来执行。

02 为何这么做?

为什么同一个任务的两部分,要分开执行呢?

为了降本增效,为了帮你省积分。

我们可以看看。

WorkBuddy 在没有上线「辅助任务模型」功能前的操作。

比如你做某个任务,选择的是 Kimi-K3 这种 1.62x 倍率的旗舰模型。

这个任务中所有的简单辅助任务,都跟随着 Kimi-K3 走。

“把大白话补充成完整的提示词”,这种所有模型都擅长做的任务,会按照 1.62x 的旗舰倍率烧你的积分。

“起个任务标题”,用于显示在左侧边栏,这种细碎活,也会按照 1.62x 的旗舰倍率烧你的积分。

还包括“上下文压缩”,“记忆总结和筛选”,这类所有模型无差别可执行的简单的文本性的任务。

也会烧你的旗舰倍率积分。

这相当于什么呢?

相当于,你请了个资深的开发工程师,来帮你改个文件名。

太大材小用了,关键是还死贵死贵。

现在,WorkBuddy 把这些高频、简单的辅助任务,直接拿出来。

可配置专门的模型去处理。

03 默认和兜底模型

WorkBuddy会有一个默认选项。

你知道 WorkBuddy 默认指定的这个模型,是哪个模型吗?

我问了下 WorkBuddy,它帮我挖出来了。

不是 Hy 模型,不是某个模型的 flash版本。

而是一个叫做「wb-lite」的模型,是WorkBuddy 内置的专有轻量模型。

辅助任务专用。

也就是,这类简单、高频的文本问题。

这种轻量级的内置小模型,就够用了。

当然,你也可以选择,自己想指定的模型。

比如我就选择了当前免费的 Hy4 flash。

WorkBuddy,同时也考虑到了一个边界问题。

如果你选择的模型失效了,或者下线了,自己没有调整,怎么办呢?

WorkBuddy 有兜底措施,会自动退回到默认模型。

也就是WorkBuddy 内置的专有轻量模型wb-lite。

考虑很周全。

这里提一句。

WorkBuddy 中的记忆提取是由 WorkBuddy 自费,不额外消耗你的积分。

这个功能上线之前,或者之后,都是如此。

04 新功能小结

我们看到。

WorkBuddy 上线的「辅助任务模型」。

是把任务执行中的辅助任务,抽出来。

统一用一个默认或指定模型去执行。

一方面,是为了降本增效,帮你省积分。

杀鸡焉用牛刀。

另一方面,是为了解耦。

你换了主模型或自定义模型,标题、记忆、提示词增强这些功能照常工作。

不会因为主模型不支持而失效。

还有一方面,增加了退回机制,进行兜底。

万一主模型或自定义模型挂了,杂活自动切回默认模型,你基本无感。

这次 WorkBuddy 可指定「辅助任务」的模型。

本质就是把高频的杂活、配角活从主模型身上剥离出去,交给免费/轻量的模型干。

帮平台省钱,也帮你省钱。

这真是一个很巧妙的策略。

本文由作者【三哥】,微信公众号:【产品笔记】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
海报
评论
评论请登录
  1. 目前还没评论,等你发挥!