当千亿参数的大模型遇上真实业务场景，为何总显得“高分低能”？本文深度剖析AIGC风控中的核心痛点——涉政与色情低俗审核，揭示大模型“通识天才”背后的业务短板。从Prompt Engineering到SFT微调，从RAG知识库到红蓝对抗，带你拆解如何将人类模糊的审核直觉转化为机器可执行的工程铁律。

01. 引言：当“通识天才”遭遇“业务壁垒”

在《AIGC风控实战（一）》中，我们已经完成了分层治理的顶层设计：L1 拦截垃圾，L2 识别图像，L3 进行深度研判。

当预算获批，千亿参数的大模型成功部署，整个团队往往沉浸在一种“技术红利即将释放”的乐观预期中。

然而，当第一批真实的业务数据跑通后，现实往往会给出截然不同的反馈。

你会发现，这个在基准测试（Benchmark）中能写代码、赋诗、甚至高分通过司法考试的“天才 AI”，一旦进入具体的业务场景，表现得像极了一个“刚毕业的大学生”——眼神清澈，却显得有些呆萌。

它拥有海量的通识知识，但完全不懂业务场景的“潜规则”，更无法理解那些隐性的“红线”：

• 它会将一段严肃的历史学术讨论判为违规，理由仅是“提及了敏感人物”（缺乏语境判别能力）；
• 它会将博物馆中的古典油画误判为色情，理由仅是“全身裸露”（缺乏艺术与色情的边界感）；
• 但面对那些真正破坏社区氛围的、阴阳怪气的、擦边球式的内容，它却往往无动于衷。因为它认为这些文本“语法通顺，逻辑自洽”，甚至颇具文采。

为何会出现这种与其基座能力不匹配的“高分低能”现象？

这并非模型不够智能，本质上的错位在于：人类的审核标准（SOP），与机器的理解逻辑，存在根本性的范式差异。

我们编写给审核员的 SOP（操作规范），本质上是基于“人类共识”构建的。例如，“严禁低俗”这一条，人类审核员基于社会经验，能瞬间联想到具体的场景与尺度。

但机器缺乏这种先验知识。它处理的是概率，是向量。如果指令模糊，它输出的必然是一个基于概率分布的随机结果。

如果说第一篇探讨的是“排兵布阵”（架构设计），那么这一篇，我们将聚焦于“单兵素质”（模型调优）。

本文将深入风控领域最具代表性、也最能体现“人机认知代沟”的两大门类——涉政（Political）与色情低俗（Pornography & Vulgarity）。

以此为例，我们将拆解 Prompt Engineering（提示词工程） 与 SFT（监督微调） 的实战心法，探讨如何将人类“只可意会”的经验直觉，转化为机器能够精确执行的“工程铁律”。

02. 核心洞察：两类截然不同的“敌人”

业界普遍存在一种归因偏差：倾向于认为所有的审核错判都是因为“模型不够聪明”。

但在资深风控专家眼里，涉政和色情低俗，是两种底层逻辑完全不同的挑战。若不从根源上拆解，工程化改造将难以收敛。

第一类敌人：涉政

—— 痛点特征：“好审，但不好识别”

场景还原：

用户发布了一句看似“天气预报”或“财经分析”的文本，甚至是一串特定的数字组合。

在通用大模型视角下，这是普通文本。但在具备特定背景知识的审核员眼中，这可能是一个高风险的“特定隐喻”。

本质剖析：

此类问题的难点，不在于“判断标准”的模糊（红线明确），而在于“知识边界（Knowledge Bound）”。

大模型之所以漏放，是因为“信息滞后”。它无法理解该“关键词”在当前舆论场中的特殊含义，也不具备对突发敏感事件的实时感知。

工程方向：

这是一个典型的“信息差”问题。工程的核心目标，不是教模型“价值观”，而是构建“外部知识挂载”，赋予其动态查询最新知识库的能力。

第二类敌人：色情低俗

—— 痛点特征：“好识别，但不好审”

场景还原：

一张穿着紧身衣的健身照，或一段带有特定喘息声的语音。

识别此类特征并不难，模型能轻易提取皮肤占比和音频频率。

真正的难题在于：处置标准（Disposition）。

是视为“自信展示”，还是“软色情擦边”？不同平台社区对此的容忍度天差地别。

本质剖析：

此类问题的难点，不在识别，而在“认知对齐（Cognitive Alignment）”。

是个体之间、社区之间对于“尺度”的理解存在巨大的主观差异。绝大多数项目的失败，源于试图用同一把标尺，去衡量“客观色情”与“主观低俗”这两个维度的内容。

工程方向：

这是一个典型的“价值观”问题。工程的核心目标，是将模糊的感性标准，拆解为可量化的多维指标。

03. 战术攻坚 A：涉政审核——用“外挂大脑”对抗“黑话”

针对涉政内容，主要的风险点在于模型的“幻觉”（过度解读）和“知识断层”（无法识别新黑话）。

鉴于黑话的迭代速度极快，依赖基座模型的训练数据（往往截止于数月前）显然是不现实的。

【常见误区】：暴力枚举

初期团队常采用的方式，是将数千个敏感词（人名、事件、隐喻词）直接注入 Prompt 的 System 区域。

弊端：极易导致 Context Window（上下文窗口）溢出，推理延迟显著增加。且维护成本极高，无法应对动态变化的舆情。

【进阶策略】：RAG（检索增强） + CoT（思维链）

我们将审核流程重构为一场“开卷考试”。

第一步：构建“动态知识库” (RAG Knowledge Base)

我们建立一个实时的、高频更新的“敏感知识库”（Vector Database）。

该库专门存储最新的敏感事件、人物代号及黑话映射表，确保与舆情实时同步。

第二步：设计“思维链” Prompt

利用 CoT（Chain of Thought）技术，强制模型按逻辑步骤推理：实体提取 -> 知识库检索 -> 综合研判。

【Prompt 范式演示】

System Role: 你是一位具备敏锐政治嗅觉的风险分析专家。

Task: 对用户输入文本进行风险评估。

Thinking Process (CoT):

Step 1

– 实体提取 (Entity Extraction):

忽略语法连贯性，精准提取文本中的人名、地名、时间、特殊名词。重点关注疑似代号、隐喻的词汇（例如：“特定日期”、“特定称呼”）。

Step 2

– 知识库检索 (Knowledge Retrieval

– System Action):

（系统后台动作：基于 Step 1 提取的实体，在 RAG 知识库中检索，并返回背景信息）

系统返回：[关键词匹配：该词汇当前被用于隐喻某特定事件，敏感等级：高]

Step 3

– 逻辑推演 (Reasoning):

结合 Step 2 的背景信息，重构文本语境。

判断用户是在进行正常的历史/事实陈述，还是在“借题发挥”？若脱离正常语境强行使用该词汇，则判定为风险。

Step 4

– 最终结论 (Conclusion):

输出判定：[高风险 / 低风险]

工程启示：

在此架构下，大模型从“死记硬背的学生”转型为“具备查阅能力的分析师”。

涉政审核的护城河，不在于基座模型的参数量，而在于 RAG 知识库的鲜度与覆盖度。

04. 战术攻坚 B：色情 vs 低俗——“解耦”是解决主观性的唯一钥匙

这是内容风控中极具挑战性的痛点。

在传统的人工审核体系中，“涉黄”往往是一个笼统的概念。但在工程化落地时，必须对“色情”与“低俗”进行严格的解耦。

色情（Pornography）： 属于硬指标。

涉及隐私部位暴露、性行为描写。这是红线。

处理逻辑： 一票否决，直接拦截。

低俗（Vulgarity）： 属于软指标。

涉及性暗示眼神、特定部位特写、娇喘音频。此类内容可能不直接违规，但会引起用户反感，破坏社区调性。

处理逻辑： 分级处理（折叠、限流、打标）。

若试图用单一 Prompt 解决这两类问题，模型极易陷入逻辑混乱：将艺术裸体误判为封禁，或遗漏穿着完整但意图猥琐的内容。

【高阶策略】：双维评分法

我们需要在 Prompt 层面实施“维度解耦”，引导模型从两个独立视角进行评估。

System Role: 你是一位严格的内容风控专家。

Task: 请从两个互不干扰的独立维度，对内容进行评分。

维度一：色情性 (Explicit Pornography) —— [客观指标]

定义： 独立于艺术背景，是否存在隐私部位暴露？是否存在性行为描写？

标准： 仅依据客观事实判断。

输出： [有 / 无]

维度二：低俗度 (Vulgarity) —— [主观指标]

定义： 是否存在性暗示？是否存在故意擦边？是否存在挑逗？是否会引起普通公众不适？

标准： 基于社区公序良俗的主观判断。

输出： [评分 1-5]

1分：内容健康。

3分：轻微擦边，如泳装展示，属于可接受范围。

5分：极度恶俗，具有明显的性挑逗意图。

决策逻辑 (Decision Logic):

Case A: 维度一 = [有] -> 【直接封禁】 (触犯红线)

Case B: 维度一 = [无] 且 维度二 >= 4分 -> 【仅折叠/不推荐】 (合规但低质)

Case C: 其他 -> 【通过】

工程启示：

通过分离“客观的刀”与“主观的尺”，模型才能具备类似人类的判断力：既能豁免艺术裸体，又能精准拦截“不露点但猥琐”的低俗内容。这是拟人化审核的关键。

05. 决胜局：SFT（微调）—— 数据的“价值观注入”

Prompt 工程本质上是一种“软提示”（Soft Prompt），类似短期记忆。要让模型真正内化审核标准，形成稳定的“肌肉记忆”，必须依赖 SFT（监督微调）。

SFT 的成败，并非取决于算法的优劣，而是一场数据质量的博弈。Garbage In, Garbage Out 是此环节的铁律。

针对前述两类问题，数据准备策略截然不同：

1. 涉政数据：追求“准确性” (Accuracy)

难点：容错率为零。训练数据中若混入一条错误标注（将违规标为合规），模型习得后将导致严重的安全漏洞。

数据策略：专家模式 (Expert Review)。

此类数据必须由资深的风控专家亲自标注，构建高质量的 (隐喻文本 -> 解释推理链 -> 最终结论) 数据对。

目标是建立“绝对真理”。

2. 色情低俗数据：追求“共识性” (Consensus)

难点：低俗判定具有高度主观性。若数据标注本身存在分歧，模型将难以收敛。

数据策略：众包投票模式 (Majority Vote)。

我们不追求“标准答案”，而是追求“最大公约数”。采用多人盲审机制（5-7人）：

• 若 5 人一致判定为 5 分 -> 确认为高置信度低俗样本，入库训练。
• 若意见极度分散（如 2人打1分，3人打5分） -> 视为争议样本，剔除，避免干扰模型权重。

目标是沉淀“审美共识”。

05+. 补充战术：红蓝对抗（Red Teaming）—— 给模型“打疫苗”

当我们完成了 Prompt 调试和 SFT 微调后，模型是否就可以直接上线了？

答案是否定的。因为在实验室里表现完美的好学生，未必能扛得住现实世界中“恶意攻击者”的毒打。

这就是红蓝对抗（Red Teaming）存在的意义。

• 红方（Attackers）： 由熟悉黑产手法、懂 Prompt Injection（提示词注入）的安全专家组成。他们的任务是不按套路出牌，用藏头诗、火星文、多轮对话诱导、甚至 Base64 编码等手段，试图绕过模型的防御，诱导其输出违规内容。
• 蓝方（Defenders）： 负责收集红方攻击成功的“破防样本”，分析漏洞（是 RAG 漏了词？还是 SFT 样本覆盖不够？），并针对性地进行修补。

工程启示：

SFT 是教模型“什么是对的”，而 Red Teaming 是教模型“什么是错的”。

通过将这些高难度的攻击样本（Adversarial Examples）回流到训练集中，我们相当于在给模型“打疫苗”。

只有在上线前经历过成千上万次“虚拟攻击”的模型，才能在面对真实的黑产大军时，做到如不动如山。

06. 结语：工程的本质是“翻译”

综上所述，“驯化与对齐”的本质，实际上是一场“跨物种的翻译运动”。

作为新时代的风控专家，我们的核心价值已从单纯的人力堆砌，转型为“规则翻译”：

• 将涉政审核中“隐性的背景知识”，翻译为 RAG 系统的检索链路；
• 将色情低俗中“模糊的主观感受”，翻译为 Prompt 中解耦的量化维度；
• 将审核团队多年的“经验直觉”，翻译为 SFT 数据集中的共识样本；
• 将黑产变幻莫测的“攻击手法”，翻译为 Red Teaming 中的对抗用例。

大模型本身是一块未经雕琢的璞玉。

它最终是成为明察秋毫的“智能中台”，还是成为不可控的“风险源”，完全取决于“规则架构师”能否用精准的机器语言，重构人类对“安全”的定义。

当 AI 承接了 90% 的标准化审核工作，原本庞大的人工审核团队将何去何从？

在下一篇《AIGC风控实战（三）：人机协同的组织重构》中，我们将跳出技术视角，探讨在 AI 时代，如何重塑风控团队的组织架构与人才模型。

（未完待续）