第12页 | 大模型 | 人人都是产品经理

AI,个人随笔

从零学习大模型（6）——Transformer 结构家族：从 Encoder 到 Decoder，大模型为何偏爱 “单边设计”？

Transformer 架构的伟大之处，不仅在于提出了注意力机制，更在于提供了一套 “模块化” 的设计框架 —— 通过组合编码器（Encoder）和解码器（Decoder），可以衍生出多种结构变体。从 BERT 的 “纯编码器” 到 GPT 的 “纯解码器”，从 T5 的 “编码器 - 解码器” 到 LLaMA 的 “前缀解码器”，不同结构的选择直接决定了模型的核心能力。

红岸小兵

基础知识大模型技术原理

AI,个人随笔

AI大模型风向突变：从技术预热到商业爆发，京东、小米等 B 端案例揭秘价值密码！

AI 大模型正从技术预热转向商业爆发，推理成本下降推动多模态应用，政策与备案加速行业规范化。京东、小米等企业的 B 端实践，正揭开大模型在商业场景中创造价值的密码。

产品参赵

AI应用 b端产品大模型

AI,个人随笔

从零学习大模型（4）——Transformer 的 “内部齿轮”：FFN、残差连接与归一化如何让 AI 更聪明？

本文将从功能原理、技术细节到实际作用，系统解析这些 “幕后模块”：为什么 FFN 能让注意力的输出更 “有用”？残差连接如何让模型 “越 deep 越聪明”？归一化又为何能让训练 “稳如泰山”？

红岸小兵

Transformer 基础知识大模型

AI,个人随笔

从零学习大模型（3）——注意力机制：从 Self-Attention 到 KVCache，AI 如何学会 “聚焦”？

从 Transformer 的 Self-Attention 到 GPT 的 KVCache，注意力机制的每一次优化都推动着 AI 能力的跃升。本文将从基础原理出发，解析 Self-Attention、Cross-Attention 的核心逻辑，以及 MHA、GQA 等优化策略如何让 AI 在效率与性能间找到平衡。

红岸小兵

AI产品基础知识大模型

AI

大模型时代的AI Infra内容浅析与趋势思考

从算力到框架，从数据到分布式系统，大模型时代下的AI基础设施（Infra）已经不只是“托底”，而是决定产品性能、演化速度与落地深度的关键变量。本文将抽丝剥茧，拆解AI Infra的关键组件及发展趋势，看清支撑智能浪潮的底层力量。

明思AI

AI Infra 大模型行业观察

AI,个人随笔

从零学习大模型（2）——从文字到数字：Tokenizer 与 Embedding 如何让 AI 读懂人类语言

从 ChatGPT 到文心一言，大模型已成产品革新的关键。但要真正理解它们的能力，产品经理必须掌握底层的语言处理机制。这篇文章将拆解 Tokenizer 与 Embedding 的核心逻辑，用产品视角解析 AI 如何“读懂”语言。

红岸小兵

基础知识大模型技术原理

AI,个人随笔

从零学习大模型（1）——Transformer架构：原理、演进与AI领域的颠覆性影响

在深度学习的发展历程中，2017 年谷歌团队发表的《Attention Is All You Need》论文具有里程碑意义 —— 该论文提出的 Transformer 架构，彻底改变了自然语言处理（NLP）乃至人工智能领域的技术路径。与传统循环神经网络（RNN）、卷积神经网络（CNN）不同，Transformer 以 “注意力机制” 为核心，实现了并行化计算与长序列依赖建模的双重突破，成为当前所有大型语言模型（如 GPT、BERT）的基础架构。本文将从技术原理、架构设计、演进历程及应用价值四个维度，系统解析这一革命性模型。

红岸小兵

Transformer 基础知识大模型

AI,个人随笔