第十三卷：AI 与机器学习
这一卷从搜索、概率与强化学习进入监督学习、深度模型、LLM 和生产系统。模型指标必须绑定切分方式、基线、风险切片与部署合同，单个高分不享有外交豁免。
先修知识
- 搜索与逻辑部分需要 Python 基础、集合和图；概率与学习部分会用到条件概率、向量矩阵和求导。
- 深度学习与 LLM 章节沿用前面的训练、切分和评测概念；直接查阅时，可先补对应基础课。
覆盖内容
按问题选择课次：查搜索和推理读第 1–3 章，训练统计模型读第 4–8 章，排查神经网络读第 9–11 章，构建与运行 LLM 应用读第 12–14 章。
第 1 章：搜索与博弈
第 2 章：逻辑、约束与概率
第 3 章：强化学习
- 3.1 MDP、回报与 Bellman 方程：状态必须保留预测未来所需的信息
- 3.2 Temporal-Difference、Q-Learning 与探索：一次更新并不代表已经学会
- 3.3 Policy Gradient、Actor-Critic 与安全评估：优化回报也会优化奖励漏洞
第 4 章：监督学习与数据边界
第 5 章：线性模型与优化
- 5.1 线性回归、设计矩阵与最小二乘：线性指的是参数，不是输入只能画直线
- 5.2 逻辑回归、Log Loss 与阈值：概率模型和行动规则是两层
- 5.3 梯度、条件数与正则化路径：收敛到什么比跑了多少轮更重要
第 6 章：树与集成
- 6.1 决策树、分裂准则与剪枝：每个叶子都是一块局部常数区域
- 6.2 Bagging、随机森林与 OOB：误差相关性怎样限制平均的收益
- 6.3 Gradient Boosting 与 XGBoost：每棵新树拟合当前损失的下降方向
第 7 章：聚类、降维与异常检测
第 8 章：评估与模型选择
第 9 章：神经网络训练
- 9.1 仿射层、激活与 Logits：深度来自函数复合，不来自“神经元”这个名字
- 9.2 计算图、反向传播与 Autograd：梯度在分支处相加，在链路上相乘
- 9.3 初始化、优化与训练循环：Loss 下降只是训练系统的第一条生命体征
第 10 章：深度架构与注意力
- 10.1 卷积、感受野与残差连接：把空间结构写进参数共享方式
- 10.2 RNN、LSTM 与 BPTT：状态既能携带上下文，也能携带泄漏
- 10.3 Scaled Dot-Product 与 Multi-Head Attention：先把 Mask 语义写对
- 10.4 Transformer 架构与位置：并行的是训练计算，不是自回归生成顺序
第 11 章：预训练、微调与提示
- 11.1 Tokenizer、特殊符号与长文切片：模型读到的是 Token ID，不是原始文字
- 11.2 Causal、Masked 与 Denoising 预训练：自监督标签来自数据，不代表没有假设
- 11.3 全参数微调、LoRA 与领域适配：可训练参数少，不等于风险和显存都按比例缩小
- 11.4 Prompt、In-Context Learning 与结构化输出：字符串控制不了权限边界
第 12 章：LLM 后训练与应用
- 12.1 偏好后训练：SFT、奖励模型、RLHF 与 DPO
- 12.2 RAG：从文档摄取、混合检索到引用验证
- 12.3 工具与 Agent：由宿主程序控制的执行状态机
- 12.4 LLM 评测与可观测性：从样本评分到发布决策
第 13 章：风险、公平性与安全
- 13.1 AI 风险治理与影响评估：先决定该不该部署
- 13.2 公平性、解释与可申诉性：指标不能替你决定伤害
- 13.3 AI 与 LLM 安全：从数据投毒到工具越权
- 13.4 红队、验证与事件响应：把发现变成持续控制
第 14 章：推理服务与生产运行
- 14.1 LLM 推理服务：Prefill、Decode、KV Cache 与容量
- 14.2 模型网关与路由：能力、政策、Fallback 和版本合同
- 14.3 AI 系统缓存：Key、权限、版本与失效
- 14.4 生产参考架构：SLO、变更单元、降级与回滚
学完能做什么
- 从状态、目标和数据生成方式判断该用搜索、监督学习还是策略学习。
- 设计切分与对照实验，分清优化失败、泛化不足和数据泄漏。
- 为 LLM 应用定义检索权限、工具执行边界、评测门槛和回滚条件。
怎样使用这份目录
第一次学习时按顺序阅读。复习时从章标题进入最小相关课次，先完成该页的检查点，再决定是否继续展开。