个人随笔 如何系统化应对AI大模型的“幻觉”问题? AI大模型在提供高效工作辅助的同时,也带来了‘幻觉’问题——生成不准确或虚构信息。其本质源于模型的概率性生成机制,而非程序错误。通过理解五大根源(训练数据噪声、过度泛化、指令跟随偏差、累积误差和模型局限),可以从五个层面提出系统化解决方案:优化模型架构与训练、控制推理过程、增强后处理与验证、设计人机协同界面、建立系统保障流程。最终目标是构建一个由生成模型、检索系统、验证器等组成的生态系统,实现创造力与可靠性的平衡。 伍德安思壮 AI幻觉大模型技术原理
AI 最权威AI Agent避坑指南来了!智能体越多死得越快,效率最高暴跌70% Google DeepMind最新研究揭示:多智能体系统并非“越多越好”。盲目堆砌Agent数量不仅浪费算力,还可能损害性能。真正有效的关键在于“架构与任务匹配”:3–4个Agent是当前技术的黄金上限;单Agent准确率超45%时,组团反成负收益;工具密集或顺序依赖型任务尤其不适合多Agent。高效Agent系统应遵循三条铁律——控制工具复杂度、避免强基线下的冗余协作、设计验证瓶颈防错放大。少即是多,精准匹配胜过规模堆砌。 硅基观察Pro Agent技术原理智能体
个人随笔 豆包手机,玩脱了 豆包手机因采用GUI Agent技术实现跨应用自动化操作,引发微信、淘宝等超级App集体封杀。表面是权限之争,实则暴露了AI手机在隐私保护、系统透明度与行业规范上的深层缺失。真正的AI手机未来,需建立在开放标准与可信机制之上,而非仅靠用户授权单点突破。 刚哥 Agent手机助手技术原理
个人随笔 名词释义 07:什么是逐行比对、段落比对、结构化比对? 文档比对技术正从逐字颗粒度迈向结构化智能。本文将深入剖析逐行比对、段落比对与结构化比对三大核心技术的实现逻辑与应用边界,揭示合同比对产品如何通过多层级差异检测体系,在效率与精度之间找到完美平衡点。 合同管理吴彦祖 合同管理技术原理文本处理
个人随笔 名词释义 06:什么是逐字比对 / 字符级比对(Character-level Diff)? 逐字比对,文本差异检测的基石,却也充满挑战。本文深入剖析其技术原理、应用场景及行业现状,带你领略逐字比对的魅力与困境。 合同管理吴彦祖 应用场景技术原理系列文章
AI AI Agent中的多轮对话是什么?效果如何优化? 从订票到客服,真正智能的交互在于记住你的偏好、理解你的潜台词、主动推进任务——而非机械问答。本文系统拆解多轮对话的四大核心模块(NLU、DST、DM、NLG),揭示其运作逻辑,并针对“记不住”“听不懂”“乱追问”“说空话”四大痛点,给出可落地的优化路径,助你打造真正“懂你”的AI助手。 伍德安思壮 Agent多轮对话技术原理
个人随笔 Agent 和 workflow 的区别在哪,如何选型? Agent真能取代Workflow?别被融资故事带偏了节奏。本文用“谁来做判断”这一核心差异,厘清两者本质:Workflow靠人写死逻辑,稳定高效;Agent把决策权交给模型,灵活却脆弱。真正落地的AI系统,往往是二者混合——关键业务靠Workflow兜底,边缘场景让Agent试错。 叶小钗 AgentWorkflow工作流
AI,个人随笔 RLHF:把模型从“会说话”训练成“会做人”的关键一课 在人工智能的世界里,SFT模型虽能给出正确回答,但缺乏人性化的表达。RLHF技术应运而生,通过人类反馈让模型更懂人、会判断。本文将深入解析RLHF的工作原理及其重要性。 青蓝色的海 RLHF技术原理经验分享
AI,个人随笔 SFT:教会模型“按人类方式说话”的核心训练 大模型的“性格”并非天生,而是通过SFT(监督微调)训练塑造的。训练师通过写示范答案、挑错改写、制定规则等方式,教会模型如何像人一样交流。本文将带你深入了解SFT的过程和重要性。 青蓝色的海 AI应用SFT大模型
AI 只会写Prompt救不了AI产品经理:聊聊“Eval驱动开发” 拒绝“玄学”调优:从Demo到生产环境,AI产品经理如何跨越“90%准确率”的死亡之谷?这篇文章,我们看看作者的分享。 大叔拯救世界 AI产品AI产品经理技术原理
AI,个人随笔 RAG 技术深度解析(二):检索与召回 —— 决定生成质量的核心工程环节 在RAG技术中,检索与召回是关键环节。本文深入剖析了检索的多重机制,包括关键词、向量、知识图谱检索,并探讨了影响RAG系统性能的核心工程指标,助力企业级检索架构的优化。 cheninx RAG向量检索技术原理
AI,个人随笔 RAG 全攻略:传统RAG / Graph RAG/Agentic RAG 详解,一文读懂 RAG RAG(检索增强生成)为AI模型赋予专属知识库与精准搜索引擎,使其回答更准确、具时效性。本文深入解析其三大核心形态及应用,助您全面了解RAG的原理与实践。 一葉 RAG基础知识技术原理