1、定义#

对于实函数 $f: \mathbb{R} \to \mathbb{R}$（也可推广到复函数或更一般情形），在某点 $x_0$ 处，导数定义为极限

前提是该极限存在。这一定义实际上给出了函数在该点附近的瞬时变化率。

2、几何意义#

导数在几何上可以理解为函数曲线在某点处的切线斜率。换句话说，如果在点 $x_0$ 绘制一条与曲线“吻合”的直线，这条直线的斜率就是 $f'(x_0)$ 。

3、作用#

• 变化率分析： 导数刻画了函数变化的快慢，能够描述物理运动中的速度、加速度等。
• 最优化问题： 在寻找函数极值（最小值、最大值）时，用导数来判断函数的增减趋势。
• 函数近似： 利用泰勒公式，以导数为基础实现函数在某点附近的线性近似或更高阶近似。

4、性质#

• 线性性： 对于常数倍和函数和，导数满足线性运算规则。
• 可微性与连续性： 如果函数在某点可导，则函数在该点必定连续，但反之不成立。
• 求导法则： 包括乘法法则、链式法则、商法则等，这些法则构成了复杂函数求导的工具箱。

1、定义#

设 $f(x_1, x_2, \ldots, x_n)$ 是 $n$ 变量的函数，在某点处的偏导数指固定除一个自变量以外其它变量为常数，对该变量求导。比如对 $x_i$ 求偏导，定义为

前提是该极限存在。

2、几何意义#

对于二元函数 $z = f(x,y)$ 而言，偏导数 $\frac{\partial f}{\partial x}$ 表示在固定 $y$ 不变时，函数图形在 $x$ 方向上的切线斜率；类似地，$\frac{\partial f}{\partial y}$ 表示在 $x$ 固定条件下 $y$ 方向的变化趋势。这可以看作曲面在坐标平面上“投影”出来的切线斜率。

3、作用#

• 局部变化分析： 分析多元函数各个自变量对函数值变化的贡献，便于分离变量进行讨论。
• 多元微分学： 在求多变量函数的最值、极值问题或解决偏微分方程时至关重要。
• 构造梯度向量： 梯度向量由各偏导数组成，是研究最速上升方向的重要工具。

4、性质#

• 混合偏导数的对称性： 当函数的二阶偏导数连续时（克莱罗条件），混合偏导数互相相等，即 $$\frac{\partial^2 f}{\partial x \partial y} = \frac{\partial^2 f}{\partial y \partial x}.$$
• 局部线性性： 在一定光滑条件下，多变量函数在一点处可以用各偏导数构成的线性组合来近似表示其变化（全微分）。

1、定义#

对于多变量可微函数 $f(x_1, x_2, \ldots, x_n)$，当自变量发生微小变化 $dx_1, dx_2, \ldots, dx_n$ 时，其变化量的线性近似称为全微分，给出公式

全微分即函数值的最一阶变化。

2、几何意义#

几何上，全微分可以理解为在函数图像上的切平面。它描述了当输入点在该点附近以微小幅度变化时，函数输出的变化近似于切平面上的直线运动。

3、作用#

• 线性近似： 为函数提供一个线性化工具，在求解复杂问题时给予足够精确的近似。
• 误差估计： 在数值计算和误差分析中，全微分可用于估计结果受输入微小变化的影响。
• 变化率研究： 在物理问题中，全微分描述了系统的瞬时变化率，并为求取更高阶变化率打下基础。

4、性质#

• 唯一性： 全微分是函数局部最优的线性近似，满足唯一性条件。
• 线性性： 全微分是相对于各个变量的线性函数，满足可加性和齐次性。
• 与可微性的等价性： 对于连续函数，全微分的存在是可微性的必要充分条件。

1、定义#

方向导数刻画函数在某一特定方向上的变化率。对于函数 $f(\mathbf{x})$ 在点 $\mathbf{x}_0$ 处沿单位向量 $\mathbf{u}$ 的方向导数定义为

2、几何意义#

可以看作是在给定方向 $\mathbf{u}$ 上，函数图形在该点的“切线”斜率。它描述了当我们沿着 $\mathbf{u}$ 方向微小移动时，函数值改变的快慢。

3、作用#

• 最速上升与下降： 通过方向导数，可以寻找函数在任一方向上的最速上升方向（即梯度方向）和最速下降方向。
• 优化问题： 在非线性优化问题中，方向导数常用于判断沿某一试探方向移动的合适性。
• 物理意义： 比如在流体力学中，方向导数描述了流场在某一方向上的变化。

4、性质#

• 与梯度的关系： 方向导数可以表示为梯度向量与单位方向向量的内积，即 $$D_{\mathbf{u}}f(\mathbf{x}_0)=\nabla f(\mathbf{x}_0) \cdot \mathbf{u}.$$
• 线性性： 对于单位向量的叠加，方向导数在标量因子的意义上具有线性性。
• 存在性条件： 如果函数在该点可微，则任意方向的方向导数均存在。

1、定义#

向量值函数通常指形式为

的函数，其导数定义为

该导数同样给出了函数在 $t$ 点处的瞬时变化率，常常称作速度向量。

2、几何意义#

• 曲线切向量： 对于描述运动轨迹的曲线，向量函数导数就是切向量，指示运动方向和速率。
• 曲线性质： 利用向量函数的导数及其二阶导数，可以进一步描述曲线的曲率和挠率。

3、作用#

• 运动学： 在物理中，用于描述物体运动状态，速度和加速度均可以由向量函数导数构成。
• 路径规划： 在曲线设计和图形计算中，通过导数可以计算切线、法向量等，有助于光滑曲线的构造。
• 多变量分析： 多元向量函数（如参数化曲面）导数通过雅可比矩阵展现局部线性性质。

4、性质#

• 分量求导： 向量函数的导数可以分量独立求导，各分量求导构成结果向量。
• 雅可比矩阵： 对于更一般的向量函数 $\mathbf{F}:\mathbb{R}^n\to\mathbb{R}^m$，其导数以雅可比矩阵形式给出，反映了函数在各方向上的偏导数。
• 线性性质与链式法则： 同标量函数一样，向量函数的求导满足线性运算和链式法则。

1、定义#

矩阵导数讨论的是关于矩阵变量或矩阵值函数的求导问题。常见情况包括：

• 标量对矩阵的导数： 例如标量函数 $f: \mathbb{R}^{m\times n}\to \mathbb{R}$ 对矩阵 $A$ 的求导问题，常用梯度（矩阵形式）表示。
• 矩阵对矩阵的导数： 就是矩阵函数 $F: \mathbb{R}^{m\times n}\to \mathbb{R}^{p\times q}$ 的导数，通常定义在元素层面或以张量（如四阶张量）表达。

2、几何意义#

• 局部线性近似： 类似于标量和向量函数的情况，矩阵导数描述了矩阵函数在某一点的线性近似，也可以看作函数在该点附近的“切面”或者“切空间”。
• 数据流向： 在高维问题中，如机器学习，矩阵导数帮助理解误差、变化如何从输入映射到输出。

3、作用#

• 最优化问题： 在多变量最优化、机器学习中，很多目标函数依赖矩阵变量，求梯度和Hessian矩阵时都离不开矩阵导数。
• 控制论与信号处理： 梯度下降、牛顿法等算法的迭代更新常常涉及到矩阵导数。
• 物理建模： 在连续介质力学和其它工程问题中，通过矩阵形式描述系统动态。

4、性质#

• 顺序敏感性： 矩阵乘法不满足交换律，因此在求矩阵导数时要特别注意矩阵各因子的位置；常用的法则如乘积法则和链式法则均要求严格遵循顺序。
• 与向量导数的关系： 当矩阵被向量化后，矩阵导数可以转化为向量导数的问题，但要注意维度匹配。
• 梯度和雅可比矩阵： 对于标量函数，梯度常以与原矩阵相同形状的矩阵出现，而对于矩阵值函数，其导数需要用四阶张量或将结果按一定规则排列。

1、定义#

设 $A(t)$ 是关于参数 $t$ 的可微矩阵函数，其行列式 $\det A(t)$ 是一个标量函数，其导数定义为

利用矩阵微积分中的技巧，可以将其导数表达成其它矩阵运算的形式。

2、几何意义#

行列式本质上描述了矩阵作为线性变换所带来的体积变换因子。其导数则刻画了这种体积因子随参数变化的速率，因此在几何上反映了局部体积变化率。

3、作用#

• 不变量分析： 行列式的性质在判断矩阵的可逆性、线性变换的保形性等方面非常重要。
• 微分方程： 在求解线性微分方程系统时，行列式（如Wronskian）常用于判断解的线性无关性，其导数则进一步揭示系统的稳定性。
• 数值分析与最优化： 在优化问题中有时候需要对行列式进行微分，特别是涉及对体积优化等问题的求解。

4、性质#

• Jacobi公式： 如果 $A(t)$ 可逆，则有著名的Jacobi公式 $$\frac{\mathrm{d}}{\mathrm{d}t}\det A(t)=\det A(t) \, \operatorname{tr}\Bigl(A(t)^{-1}\frac{\mathrm{d}A}{\mathrm{d}t}\Bigr),$$ 这公式连接了行列式导数、矩阵的迹和逆矩阵。
• 反映体积变化率： 当 $\det A(t)$ 为正时，其导数正负反映了变换体积的增大或减小。
• 对称性与可微性： 行列式作为一个多项式函数，其关于矩阵元素的导数各项表现出