适合想真正理解 LLM 为什么能训练、怎样生成、哪里会退化的人。先补计算、训练、数值精度和语言建模目标，再进入消息序列化、batch / mask / packing、Transformer block、QKV 信息路由、上下文内学习、hidden state 表征、位置机制、长上下文失效、上下文组装、缓存、生成运行时、输出概率、解码、请求 Trace 和评测。

张量 / 自动微分 → 神经网络 → 优化器 / Loss → Mixed Precision / Kernels → 语言建模目标 → Tokenizer → Chat Template → Batch / Mask / Packing → Transformer → QKV / 注意力头 → ICL / Induction Heads → Hidden States / 表征几何 → RoPE → 长上下文失效 → Norm / Residual → MLP / FFN → 权重 / Checkpoint → 上下文组装 → AI 缓存 → 推理计算 / KV Cache → 生成运行时 → Logits / 概率输出 → 解码 / 结构化输出 → 请求 Trace → 模型评测

路线二：应用架构与请求链路线

适合要把一个 AI 功能做出来的人。先看一次请求的一生，再决定 Chat、RAG、Copilot、Agent 或 Workflow。

一次请求的一生 → 应用架构模式 → Prompt / 上下文 → RAG → 知识生命周期 → Workflow / HITL → 上下文协议 / MCP → Tool Calling → Agent

路线三：模型服务与平台底座线

适合平台、Infra、后端和私有化部署视角。重点不是 Prompt 技巧，而是推理引擎、网关、路由、Fallback、量化、GPU 和供应链。

AI Infra → 推理计算 / KV Cache → 模型服务 / 网关 → 模型路由 / Fallback → 开源部署 → 压缩 / 量化

路线四：评测、发布、事故与反馈闭环线

适合已经上线或准备上线的人。核心是把 Trace、Eval、风险控制矩阵、行为控制矩阵、Artifact Registry、安全评测红队回归、审计证据链、Release Gate、Canary、回滚、事故响应、坏例回流和 Dashboard 接成可复现、可追责的生产闭环。

模型评测 → LLM-as-Judge → 答案 Grounding / 核验 → 发布闸门 → LLMOps → 风险控制矩阵 → 行为控制矩阵 → Artifact Registry → 安全评测 / 红队回归 → 审计证据链 → 灰度回滚 → 事故响应 → 反馈闭环

路线五：证据包与可审计闭环线

适合想把 AI 从“看起来能用”推进到“每次请求、每次发布、每次事故都能解释”的人。生产证据链 = 请求 Trace + AI 证据包索引 + 审计证据链 + Release / Incident / Feedback 血缘。先用证据包索引建立字段总表，再按一次请求的一生收集证据，把 Prompt、Context、RAG、Tool、模型、Guardrail、Release Gate、Audit 和反馈资产串成可回放链路。

AI 证据包索引 → 一次请求的一生 → 请求 Trace 模板 → Prompt Artifact → Context Pack → RAG 请求证据 → Tool Call 证据 → 模型网关证据 → Artifact Registry → Release Gate → 审计证据链 → 事故证据包 → 坏例资产化

路线六：产品、编程协作与多模态线

适合把 AI 做进具体工作流、开发流程、文档图像音视频处理或用户体验的人。先补多模态 grounding 和跨模态对齐边界，再看工程流水线和任务形态。

AI 产品 UX → AI 编程 Agent → 长上下文 / 记忆 → 多模态 Grounding → 多模态工程 → 生成式多模态

路线七：安全、权限与组织治理线

适合企业知识助手、Agent 自动化、对外产品和高风险业务。重点看指令层级、数据权限、工具副作用、护栏和合规责任。

指令层级 → 权限 / 租户 / 数据边界 → 安全对齐 / 红队 → 安全护栏 → 治理 / 合规 → 成本 / 资源治理

三、底层理解线：从训练到请求 Trace 的贯通检查

底层线不是为了背名词，而是要能把“训练时学到什么、推理时怎样算、线上为什么慢贵错”连成一条证据链。

你要解释的现象	底层变量	线上 Trace 里的映射	回读页面
为什么模型能学会模式	样本、参数、loss、梯度、optimizer、验证切片	model_version、eval_case_id、release_version、failure_tag	神经网络 / 优化器 / Loss / 模型评测
为什么同一句话会变成一串 token	tokenizer、chat template、padding、attention mask、loss mask	input_tokens、chat_template_version、rendered_prompt_hash、dropped_segments	Tokenizer / Chat Template / Batch / Mask
为什么模型会关注某些上下文	QKV、attention head、residual stream、position、context length	context_pack_id、chunk_order、evidence_token_count、truncation_reason	Transformer / QKV / 长上下文失效
为什么首 token 慢	prefill、sequence_length、prompt cache、KV Cache 水位、队列	queue_ms、prefill_ms、ttft_ms、input_tokens、prompt_cache_hit	推理计算 / KV Cache / 生成运行时
为什么输出长、贵或格式坏	decode loop、logits、softmax、sampling、temperature、stop reason	output_tokens、decode_ms、finish_reason、structured_parse_status、retry_lineage	Logits / 概率输出 / 解码 / 结构化输出
为什么看起来会了但线上翻车	训练分布、OOD、数据污染、评测切片、反馈回流	task_type、risk_tier、user_feedback、eval_sample_id、bad_case_bucket	OOD / 鲁棒性 / 数据污染 / 反馈闭环

四、30 分钟、半天、一天、一周怎么读

可用时间	目标	建议路径	读完留下什么
30 分钟	建立 AI 大盘坐标	AI 全景 → 阅读路线 → 一次请求的一生 → 应用架构模式	知道自己要补底层、应用、平台、评测还是治理
半天	补底层主线	Mixed Precision → 语言建模目标 → Tokenizer → Chat Template → Batch / Mask / Packing → Transformer → QKV / 注意力头 → ICL / Induction Heads → Hidden States → 上下文组装 → AI 缓存 → 推理计算 → 生成运行时 → Logits → 解码 → 请求 Trace	能把数值精度、next-token 训练目标、消息模板、batch / mask、上下文预算、缓存、prefill / decode、logits、解码状态和请求证据链串起来
一天	设计一个 AI 应用	应用架构 → RAG / 知识生命周期 / Workflow / HITL / 上下文协议 / MCP / Agent → 上下文 → 产品 UX	一张功能架构图、请求链路、知识资产表、连接器清单、状态图和用户反馈入口
一周	把 AI 系统推进到生产治理	模型服务 → 路由 Fallback → LLMOps → 答案 Grounding / 核验 → 请求 Trace 模板 → Artifact Registry → 发布闸门 → 风险控制矩阵 → 行为控制矩阵 → 安全评测红队回归 → 审计证据链 → 判断训练场 → 发布回滚 → 事故响应 → 反馈闭环	一套 Trace 字段、Eval 切片、引用核验字段、风险等级、行为控制矩阵、资产版本登记表、红队回归集、审计证据包、发布闸门、告警、Runbook、坏例资产化规则和回滚条件

五、读完要产出的最小材料包

输出	包含什么	回读页面
AI 系统一页图	用户入口、请求类型、模型、RAG 知识资产、连接器、Tool、工作流状态、网关、评测、反馈和安全边界	一次请求的一生 / 应用架构模式 / 知识生命周期 / 上下文协议 / MCP / Workflow / HITL
底层机制笔记	dtype、mixed precision、kernel、next token prediction、teacher forcing、chat template、message serialization、padding、attention mask、causal mask、loss mask、sequence packing、token、embedding、QKV、attention、in-context learning、induction heads、hidden state、residual stream、semantic directions、position、lost in the middle、attention dilution、retrieval position bias、context assembly、window budget、cache key、prefill、decode、streaming、finish_reason、request_id、prompt_hash、image patch、vision encoder、cross-modal alignment、grounding、residual、norm、MLP、logits、解码的顺序关系	Chat Template / Batch / Mask / 上下文组装 / AI 缓存 / 生成运行时 / 请求 Trace / Transformer / QKV / 注意力头
请求 Trace 模板	request_id、Prompt 版本、rendered_prompt_hash、模型版本、检索结果、连接器版本、工具调用、stream event、finish_reason、retry_lineage、token、延迟、成本、风险和反馈	请求 Trace / 排障模板 / LLMOps / 审计证据链
证据包索引	Prompt Artifact、Context Pack、RAG 请求证据、Tool Call 证据、模型网关证据、Release Gate、审计证据、事故证据和坏例资产化入口	AI 证据包索引 / Prompt / 上下文 / RAG / Tool Calling / Artifact Registry / 事故响应
可信回答清单	claim_id、evidence span、source version、answerability、faithfulness、citation precision、conflict_detected、abstain_reason 和人工复核点	答案 Grounding / 引用 / 核验 / RAG / LLM-as-Judge
上线前评测清单	Golden Set、边界样本、安全样本、成本延迟、Judge / 人工校准、风险等级、通过 / 阻断条件	评测到发布闸门 / 风险控制矩阵
行为控制清单	Prompt 版本、策略规则、工具权限、解码参数、护栏策略、人工复核点、发布闸门和审计字段	行为控制矩阵 / Prompt / 上下文 / Tool Calling
AI 资产登记表	模型、Prompt、Policy、RAG、Tools、Guardrails、Eval Set、Release Bundle 的版本、owner、hash、依赖、风险、状态和回滚目标	Artifact Registry / 审计证据链 / 发布治理
安全回归包	红队集、正常对照集、灰区样本、工具风险集、误拒误放指标、阻断阈值和线上坏例回流规则	安全评测 / 红队回归 / 安全对齐 / 红队 / 评测到发布闸门
生产治理清单	限流、配额、Fallback、缓存、灰度、回滚、告警、事故分流、Runbook、坏例回流	模型服务 / 网关 / 发布治理 / 事故响应
风险边界说明	风险等级、数据来源、用户权限、上下文可信度、工具权限、护栏策略、审计证据和人工介入	风险控制矩阵 / 行为控制矩阵 / 安全护栏 / 治理合规

六、补充专题索引

主路线负责建立阅读节奏；下面这些专题负责补完整性，适合在对应问题出现时横向插读。

补充层	适合什么时候读	专题
能力来源与训练数据	想追问模型能力从数据、训练和规模化过程里怎样长出来。	训练 / 推理 / Scaling / 训练数据到模型能力 / 数据污染与基准泄漏 / 数据混合与 Token 预算 / AI 数据工程 / 合成数据 / 微调与对齐
行为学习与目标错配	想理解为什么奖励、偏好和人工反馈会塑造模型行为，也会制造副作用。	强化学习 / Policy / Environment / 目标、奖励与 Goodhart / 后训练对齐机制 / 人工反馈与偏好数据
表示、概率与评测底座	想把向量表示、输出概率、校准、可解释性和架构差异接到底层判断里。	Embedding / 向量检索底座 / Logits / Softmax / 概率输出 / 概率、熵、校准与不确定性 / 机制可解释性 / 模型架构谱系 / MoE
可靠性边界与推理方法	遇到幻觉、分布外失效、结构化输出不稳、推理成本过高或规划失败时回读。	能力边界与幻觉 / 分布泛化与 OOD 鲁棒性 / 因果推理与反事实 / 解码、采样与结构化输出 / Reasoning Models / Test-time Compute / 搜索、规划与约束求解
工程总装与物理世界	需要把 AI 工程能力放到整体工程栈，或进一步理解具身智能和世界模型。	AI 工程总览 / 具身智能 / 机器人 / 世界模型

七、常见读法误区

误区：先把所有底层页读完再做应用

过载

底层理解要补，但应用工程需要请求链路、产品形态、评测和生产治理一起推进。只读机制容易迟迟不落地。

底层应用节奏

误区：会调 Prompt 就等于会做 AI 系统

工程

真实系统还包括数据、权限、检索、工具、网关、成本、评测、发布和反馈。Prompt 只是输入资产的一部分。

Prompt系统生产

误区：效果不好就换更强模型

诊断

问题可能来自检索、上下文、工具、路由、权限、产品交互或评测口径。先看 Trace，再决定改哪一层。

Trace归因Eval

误区：上线后只看接口成功率

运营

AI 系统还要看质量切片、拒答误拒、引用忠实度、工具成功率、单位任务成本、坏例修复周期和审计证据。

SLO质量风险

下一步建议: 如果你还没有明确目标，从”30 分钟路径”开始；如果你已经在做真实 AI 功能，优先读一次请求的一生、应用架构模式和 LLMOps；如果手里已经有坏例或事故，就进入 AI 判断训练场做诊断拆题。如果你是后端工程师想走专项迁移路线，直接看后端开发转 AI 应用开发路线。