ANTIMERIDIAN
目录 →
研究与项目 / 研究文库 / OpenAI 方法论 Primer
The OpenAI Methods Primer · 05

04 · 幻觉护栏与 LLM 裁判 Primer

Cookbook 双菜:Developing hallucination guardrails(幻觉护栏开发)+ Custom LLM-as-a-Judge(用 LLM 当裁判检测幻觉)——如何系统性不信任自己的系统。

Chapter 5/9字符 828结构标题 4表格 0
English library directory → · 正文保留原文语言
PLATE 01 / CHAPTER STRUCTURE04 · 幻觉护栏与 LLM 裁判 Primer01一句话定位02两道菜精要03方法论精华04编者注CHAPTER5/9CHARACTERS828PARAGRAPHS8TABLES0
按原文章节顺序展示前五个结构节点;不足三个标题时补入原文句子。箭头表示阅读顺序,不表示因果关系。
BOOK SKYLINE & CHAPTER POSITION · 05 / 09OpenAI 方法论 PrimerCURRENT CHARS828SECTIONS4POSITION5/9
Plate 02 · 全集 9 篇的字符数;黄色为当前篇。高度按全集最长篇归一化。
PLATE 03 / SECTIONS 1–5段落结构与篇幅 / 字符数导言 · 04 · 幻觉护栏…110一句话定位77两道菜精要248方法论精华288编者注105
按标题至下一标题的独占区间统计非空白字符(含 Markdown 标记)。每幅图独立归一化;篇幅不代表重要性或证据强度。
核心命题结构拆解边界条件原文核验
Cookbook 双菜:Developing hallucination guardrails(幻觉护栏开发)+ Custom LLM-as-a-Judge(用 LLM 当裁判检测幻觉)——如何系统性不信任自己的系统。一句话定位 → 两道菜精要 → 方法论精华 → 编者注原文《04 · 幻觉护栏与 LLM 裁判 Primer》未单列边界标题;请在正文核对假设、时间与适用范围。回到下方原文核对“一句话定位”;本章 4 个结构标题、0 张表。

Cookbook 双菜:Developing hallucination guardrails(幻觉护栏开发)+ Custom LLM-as-a-Judge(用 LLM 当裁判检测幻觉)——如何系统性不信任自己的系统。


一句话定位

两条防线一条裁判:护栏在生成侧拦(检测输出是否无据)、裁判在评估侧判(用另一个模型对照证据打分)——幻觉治理从「祈祷」变成「工程」。

两道菜精要

Developing hallucination guardrails · 幻觉护栏

Custom LLM-as-a-Judge · LLM 裁判

方法论精华

1. 护栏的位置学:生成前给足材料(减少幻觉动机)、生成后强制验证(拦截漏网)——两头布防比中间祈祷有效;这与教程第八章四法(退出通道/给材料/先搜后答/隔离验证)是同一套拳的攻防两面。

2. LLM 裁判的三个纪律(与 Anthropic 评估课的模型评分互证):

3. 「系统性不信任」作为设计姿态:两道菜的共同前提是「模型一定会幻觉,问题是怎么兜住」——信任是设计出来的不是训练出来的。

编者注

这两道菜是证据台哲学的技术底座:护栏 ≈ 抽取时「缺证据留空」,裁判 ≈ 交付前验证的三档置信评级。医疗域的 span 级出处则是两者在生产环境的极限形态。幻觉治理的终局不是消灭幻觉,是让每个论断可检验。