Skip to content

元数据卡

  • 前置知识:第10章 线性代数
  • 预计时间:60 分钟
  • 核心难度:进阶
  • 完成标志:理解导数和积分的含义,掌握梯度下降的思想

你的进度

应用塔第二层的墙壁在流动——不是静态的符号,而是曲线和切线。"变化不是跳跃的。物体下落时速度在连续变化——微积分就是分析这种连续变化的工具。"馆长说。

你的任务

机器学习优化损失函数、物理引擎模拟运动、数值分析中的误差控制——这些场景中事物不是离散地变化,而是连续地流动。微积分告诉你:某个瞬间它在"多快"变化(导数),以及一段变化的总量(积分)。更关键的是,它给了你"找到最优值"的方法(梯度下降)。

本章分层

  • 必读:导数与微分,积分思想,梯度与优化
  • 选读:多元微积分,拉格朗日乘数法

破局 · 溯源

馆长的话点醒了你。你低头看着脚下流动的地板——曲线在你面前不断变化,你问自己:'如果我要造一枚投石机,目标是射程最远。仰角每增加一度,射程变化多少?'

这就是微积分的核心问题:一个东西变化了,另一个跟着怎么变。你不需要先学会神经网络才能理解这个——只要一个上山的路就够了。

你现在站在一座山上,目标是山谷的最低点。你不知道谷底在哪,但你每走一步都能感觉脚下的坡度。坡陡就跨大步,坡缓就迈小步——这就是梯度下降的核心直觉。

这个过程会在 Vol 13 神经网络中反复出现。但今天你只看数学本身:怎么描述一个函数的'坡度'?怎么找到坡底?

先从最简单的开始。

导数 f'(x) 是函数 f 在 x 处的瞬时变化率。几何上,是曲线在 x 处的切线斜率。

f'(x) = lim_{h→0} (f(x+h) - f(x)) / h

几个基本导数规则:

  • f(x) = xⁿ → f'(x) = nxⁿ⁻¹
  • f(x) = sin(x) → f'(x) = cos(x)
  • f(x) = eˣ → f'(x) = eˣ(唯一的不变函数)
  • 链式法则:(f(g(x)))' = f'(g(x)) × g'(x)——这是神经网络反向传播的原理

链式法则对整个深度学习的意义:神经网络的每层是一个函数,前向传播是函数复合,反向传播就是用链式法则从输出往回计算每一层的梯度。

积分是导数的逆运算,即求"累积量"。f(x) 在区间 [a, b] 上的定积分等于曲线下方的面积。

∫ₐᵇ f(x) dx = F(b) - F(a), 其中 F' = f(牛顿-莱布尼茨公式)

在计算机科学中,积分出现在概率论中计算概率密度函数的累积曲线下面积,也出现在流量监控中的"累积流量"计算。

梯度是多元函数的导数——它是一个向量,每个分量是函数对该方向偏导数。

∇f = [∂f/∂x₁, ∂f/∂x₂, ..., ∂f/∂xₙ]ᵀ

梯度指向函数增长最快的方向。

梯度下降:机器学习优化的基石算法。

w_{t+1} = w_t - η × ∇f(w_t)

其中 η 是学习率——每一步的大小。η 太大,跳过最小值;η 太小,收敛太慢。

这个简单公式推动着现代 ML。每一种优化器(Adam、SGD、RMSprop)都是在这个基础上加了自适应步长或动量。

优化的理论框架:凸函数在全局梯度下降中保证收敛到全局最优。非凸函数(如神经网络的损失表面)收敛到局部最优,但实践中"局部最优"往往已经够好。

常见陷阱

  • 忽视链式法则。反向传播就是反复应用链式法则。不理解链式法则,就无法理解为什么反向传播能"高效计算梯度"(而非每一次重新求导)。
  • 混淆可微和连续。可微一定连续,但连续不一定可微(如 f(x) = |x| 在 x=0 处不可微)。这在 ReLU 激活函数处有实际意义:ReLU 在 x=0 处不可微,实践中定义其导数为 0 或 1。
  • 认为微积分"只是纯数学"。梯度下降是深度学习引擎的油门,积分是概率模型做预测的依据。微积分在计算机科学中无处不在。

通关挑战

  • 计算 f(x) = 3x² + 2x + 1 的导数。
  • 在 Python 中用数值方法验证导数 f'(x) = (f(x+h) - f(x-h)) / (2h) 对 h → 0 的收敛性。
  • 实现单变量梯度下降:找到 f(x) = x² + 3x + 2 的最小值。在纸上验证最小值出现在 x = -1.5 处。

旅人笔记

导数告诉你"多快",积分告诉你"多少"。梯度让你在成百上千的维度中找到下降方向。它们是优化——也就是"找最好的那个"——的数学核心。

下一站预告:下一步,我们走向更抽象但也更实用的两个领域:信息论解释你如何"量化"信息,数值计算解释计算机怎么在误差中生存。

Built with VitePress | Software Systems Atlas