"LLM"相关的文章
AI,个人随笔
DeepSeek再发新论文:双路径加载打破存储瓶颈,推理性能提升1.87倍

DeepSeek再发新论文:双路径加载打破存储瓶颈,推理性能提升1.87倍

DeepSeek最新论文揭示了Agentic LLM推理的真正瓶颈——存储I/O带宽分配不合理,而非GPU算力不足。通过创新的双路径加载技术,在不增加硬件成本的情况下,实现了1.87倍的性能提升。本文将深入解析这项突破性技术如何重新定义智能体时代的系统架构,以及它对未来AI应用的深远影响。
AI
从“话语审计”到“行为治理”:2026年AI Agent时代的PM生存指南

从“话语审计”到“行为治理”:2026年AI Agent时代的PM生存指南

2026年的AI战场已从参数竞赛转向应用闭环,Agent化的AI不再仅是聊天工具,而是具备规划、记忆和工具调用能力的数字员工。当AI开始替用户下单、调API、改数据时,传统的安全审计手段已彻底失效。本文深度解析Agent时代PM如何重新定义安全边界,从风险‘降维打击’到实际治理死角,再到2026年通用的‘双环四层’防御架构,为产品经理提供深水区的生存法则。
AI
RAG不是比微调”更准”,而是分工不同

RAG不是比微调”更准”,而是分工不同

RAG与微调模型之争并非简单的二选一。本文深度剖析两大技术路径的底层逻辑:RAG在知识可追溯性上的优势与微调在领域能力内化上的不可替代性,揭示真实场景中两者互补的必然性。从冰雪装备电商案例到成本决策框架,带你跳出技术站队思维,掌握AI落地的组合方法论。
AI,个人随笔
告别人工智障:从“能聊天”到“能办事”,Agentic AI的座舱实战

告别人工智障:从“能聊天”到“能办事”,Agentic AI的座舱实战

从Chatbot到Agentic AI,智能座舱正在经历一场革命性的进化。2024年那些只能写诗画画的‘聊天机器车’已成过去式,真正的智能座舱需要具备感知、规划、行动三大能力的Agent。本文将深入剖析为什么‘能办事’的AI才是未来,并通过订餐场景的进化对比,揭示2026年智能座舱的终极形态——服务原子化、调用自动化的超级中控时代。
AI,个人随笔
从 DeepSeek R1 看推理模型:更强、更贵、更慢?

从 DeepSeek R1 看推理模型:更强、更贵、更慢?

2024年后的大模型分工趋势愈发明显,推理模型作为其中的关键一环,因其在多步骤、复杂问题上的稳定性而备受关注。本文深入剖析推理模型的本质、优劣势及应用场景,并以DeepSeek R1为例,揭示推理能力的训练路径与实现方法。从纯强化学习到SFT+RL的组合拳,再到蒸馏技术的低成本部署,带你全面理解推理模型的演进逻辑与实战价值。
AI,个人随笔
简单三步,搭建一个真正对业务有用的 AI 大模型测评框架

简单三步,搭建一个真正对业务有用的 AI 大模型测评框架

Amazon首席应用科学家Eugene Yan提出的三步测评法正在重塑AI产品的质量评估体系。从人工标注到LLM评审对齐,再到自动化测评框架搭建,这套方法不仅解决了传统测评的高成本痛点,更让团队得以实现每周上百次的实验迭代。本文将深入解析如何在二元标签设计、失败样本构造、位置偏差消除等关键环节实现高效可靠的模型测评。
AI,个人随笔
深度解析 Claude Skills:从“提示词工程”到“能力应用商店”

深度解析 Claude Skills:从“提示词工程”到“能力应用商店”

Claude Skills的推出标志着AI协作进入全新纪元,它将零散的对话指令转化为持久化、模块化的数字能力资产,彻底解决了AI在企业级应用中的健忘、知识分散和输出不一致三大痛点。这一创新设计不仅让AI具备了领域专家的执行逻辑,更通过渐进式披露机制实现了惊人的Token效率,为AI从通用工具向专业数字员工的蜕变铺平了道路。