函数逼近

在前几章中，我们讨论了插值法，其核心要求是近似函数必须严格通过所有给定的数据节点。然而，在实际工程与科学实验中，观测数据往往带有测量误差，且数据点数量庞大。若强行要求近似曲线穿过每一个点，不仅计算复杂，还可能因过度拟合而放大噪声，导致曲线剧烈振荡，反而无法反映被研究现象的整体变化规律。

为此，我们需要另一类数值方法——曲线拟合（又称函数逼近）。它不要求近似函数在节点处与函数值完全相等，即不要求近似曲线过已知点，只要求它尽可能反映给定数据点的基本趋势，在某种意义下与原始函数最“逼近”。

设给定一组观测数据 $(x_i, y_i)\ (i=0,1,\cdots,m)$，我们选取一个函数类 $\Phi$（例如所有不超过 $n$ 次的多项式集合，其中 $n \ll m$），在该函数类中寻找一个函数 $y = \varphi(x)$，使其在某种度量下最接近给定的数据点。

如何衡量“接近”的程度？通常引入残差（或余量）的概念。对于每个数据点，残差定义为：

$$ \delta_i = y_i - \varphi(x_i) \quad (i=0,1,\cdots,m) $$

残差的大小直接反映了近似函数在对应点处的偏离程度。常用的整体逼近准则有以下三种：

准则一：使残差的绝对值之和最小，即：

$$ \sum_{i=0}^{m} |\delta_i| = \min $$

该准则直观合理，但由于绝对值函数不可导，求解过程较为困难，实际应用不便。

准则二：使残差的最大绝对值最小，即：

$$ \max_{0 \le i \le m} |\delta_i| = \min $$

按此准则求近似函数的方法称为最佳一致逼近（或切比雪夫逼近），它追求在全部点上的最大误差最小化，适用于对最大误差有严格要求的场合。

准则三：使残差的平方和最小，即：

$$ \sum_{i=0}^{m} \delta_i^2 = \min $$

按此准则确定参数的方法称为最佳平方逼近，通常称为曲线拟合的最小二乘法（或数据拟合的最小二乘法）。该准则计算简便，具有良好的统计性质和数值稳定性，是工程实践中应用最广泛的拟合方法。本章将重点讨论最小二乘法的基本原理及其实现。

一、最小二乘法

1、多项式拟合

多项式拟合是最基本、最常用的最小二乘拟合形式。给定数据组 $(x_i, y_i)\ (i=1,2,\cdots,n)$，寻找一个 $m$ 次多项式（$m < n$）：

$$ P_m(x) = a_0 + a_1 x + a_2 x^2 + \cdots + a_m x^m $$

使得残差平方和：

$$ F(a_0, a_1, \cdots, a_m) = \sum_{i=1}^n \left[ y_i - P_m(x_i) \right]^2 $$

达到最小。这里 $a_0, a_1, \cdots, a_m$ 是待定系数。由于 $F$ 是关于这些系数的非负二次函数，其最小值点必满足偏导数为零的必要条件：

$$ \frac{\partial F}{\partial a_j} = -2 \sum_{i=1}^n \left[ y_i - \sum_{k=0}^m a_k x_i^k \right] x_i^j = 0 \quad (j=0,1,\cdots,m) $$

整理后得到关于系数 $a_k$ 的线性方程组：

$$ \sum_{k=0}^m a_k \left( \sum_{i=1}^n x_i^{k+j} \right) = \sum_{i=1}^n y_i x_i^j \quad (j=0,1,\cdots,m) $$

将上式展开，即为正则方程组（或称法方程组）：

$$ \begin{cases} \displaystyle n a_0 + a_1 \sum_{i=1}^n x_i + a_2 \sum_{i=1}^n x_i^2 + \cdots + a_m \sum_{i=1}^n x_i^m = \sum_{i=1}^n y_i \\[6pt] \displaystyle a_0 \sum_{i=1}^n x_i + a_1 \sum_{i=1}^n x_i^2 + a_2 \sum_{i=1}^n x_i^3 + \cdots + a_m \sum_{i=1}^n x_i^{m+1} = \sum_{i=1}^n y_i x_i \\[6pt] \displaystyle \qquad \vdots \qquad \vdots \qquad \vdots \qquad \vdots \\[6pt] \displaystyle a_0 \sum_{i=1}^n x_i^m + a_1 \sum_{i=1}^n x_i^{m+1} + a_2 \sum_{i=1}^n x_i^{m+2} + \cdots + a_m \sum_{i=1}^n x_i^{2m} = \sum_{i=1}^n y_i x_i^m \end{cases} $$

其矩阵形式为：

$$ \begin{bmatrix} \sum 1 & \sum x_i & \sum x_i^2 & \cdots & \sum x_i^m \\ \sum x_i & \sum x_i^2 & \sum x_i^3 & \cdots & \sum x_i^{m+1} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ \sum x_i^m & \sum x_i^{m+1} & \sum x_i^{m+2} & \cdots & \sum x_i^{2m} \end{bmatrix} \begin{bmatrix} a_0 \\ a_1 \\ \vdots \\ a_m \end{bmatrix} = \begin{bmatrix} \sum y_i \\ \sum y_i x_i \\ \vdots \\ \sum y_i x_i^m \end{bmatrix} $$

其中所有求和号均表示对 $i=1$ 到 $n$ 求和。由函数组 $1, x, x^2, \cdots, x^m$ 在互异节点上的线性无关性可证明，该方程组的系数矩阵对称正定，故存在唯一解。求得的解 $a_0, a_1, \cdots, a_m$ 对应的多项式 $P_m(x)$ 即为数据组的最小二乘 $m$ 次拟合多项式。

特别地，当 $m=1$ 时，得到线性拟合的正则方程组：

$$ \begin{cases} \displaystyle n a_0 + a_1 \sum_{i=1}^n x_i = \sum_{i=1}^n y_i \\[6pt] \displaystyle a_0 \sum_{i=1}^n x_i + a_1 \sum_{i=1}^n x_i^2 = \sum_{i=1}^n x_i y_i \end{cases} $$

这就是最小二乘拟合直线的标准公式。

2、指数拟合

当数据的分布呈现指数增长或衰减趋势时，可考虑用指数函数：

$$ y = b e^{a x} $$

来拟合。若直接按最小二乘原理，需要极小化：

$$ F(a,b) = \sum_{i=1}^n (y_i - b e^{a x_i})^2 $$

这导致关于 $a,b$ 的非线性方程组，求解困难。但若对式（6-7）两端取自然对数：

$$ \ln y = a x + \ln b $$

令 $\tilde{y} = \ln y$，$A = \ln b$，则原问题转化为线性拟合：$\tilde{y} = a x + A$。于是，可先对变换后的数据 $(x_i, \ln y_i)$ 求最小二乘一次拟合多项式，得到：

$$ \ln y = a_0 + a_1 x $$

则 $b = e^{a_0}$，$a = a_1$，从而原指数拟合函数为：

$$ y = e^{a_0} e^{a_1 x} = b e^{a x} $$

需要指出，这种先线性化再拟合的方法，其极小化目标已变为 $\sum (\ln y_i - \ln \varphi(x_i))^2$，而非原变量的平方和，因此所得结果并非原问题严格意义下的最小二乘解，但因其计算简便且在工程中效果良好，被广泛采用。

3、分式线性拟合

当数据呈现双曲线型趋势时，可考虑分式线性函数：

$$ y = \frac{1}{a x + b} \quad \text{或} \quad y = \frac{x}{a x + b} $$

对于第一种形式，令 $\tilde{y} = \frac{1}{y} = a x + b$，直接对数据组 $(x_i, \frac{1}{y_i})$ 进行线性最小二乘拟合，得到 $\tilde{y} = a x + b$，再取倒数即得 $y = \frac{1}{a x + b}$。

对于第二种形式 $y = \frac{x}{a x + b}$，先取倒数：

$$ \tilde{y} = \frac{1}{y} = \frac{a x + b}{x} = a + \frac{b}{x} $$

令 $t = \frac{1}{x}$，则 $\tilde{y} = a + b t$，于是对变换后的数据 $(t_i, \tilde{y}_i) = \left(\frac{1}{x_i}, \frac{1}{y_i}\right)$ 求最小二乘拟合直线，得到 $\tilde{y} = a + b t$，最后代回得：

$$ y = \frac{1}{\tilde{y}} = \frac{1}{a + \frac{b}{x}} = \frac{x}{a x + b} $$

这类通过变量代换将非线性模型转化为线性模型再拟合的方法，统称为“线性化最小二乘法”，适用于多种常见非线性函数，如幂函数 $y = a x^b$（取双对数）、对数函数 $y = a + b \ln x$（令 $X = \ln x$）等，其基本思路是一致的。

4、线性最小二乘法的一般形式

更一般地，设 $\varphi_0(x), \varphi_1(x), \cdots, \varphi_m(x)$ 是定义在 $[a,b]$ 上的一组线性无关的函数，我们选取近似函数为它们的线性组合：

$$ \varphi(x) = a_0 \varphi_0(x) + a_1 \varphi_1(x) + \cdots + a_m \varphi_m(x) $$

并引入非负权系数 $\omega_i > 0\ (i=1,2,\cdots,n)$，用以反映各数据点的精度差异或重要性。加权最小二乘的目标是极小化

$$ \sum_{i=1}^n \omega_i \left[ y_i - \varphi(x_i) \right]^2 $$

同样由极值必要条件，对 $j=0,1,\cdots,m$：

$$ \frac{\partial}{\partial a_j} \sum_{i=1}^n \omega_i \left[ y_i - \sum_{k=0}^m a_k \varphi_k(x_i) \right]^2 = 0 $$

得到加权正则方程组：

$$ \sum_{k=0}^m a_k \left( \sum_{i=1}^n \omega_i \varphi_k(x_i) \varphi_j(x_i) \right) = \sum_{i=1}^n \omega_i y_i \varphi_j(x_i) \quad (j=0,1,\cdots,m) $$

若记内积：

$$ (\varphi_k, \varphi_j) = \sum_{i=1}^n \omega_i \varphi_k(x_i) \varphi_j(x_i), \qquad (y, \varphi_j) = \sum_{i=1}^n \omega_i y_i \varphi_j(x_i) $$

则方程组可写成紧凑的矩阵形式：

$$ \begin{bmatrix} (\varphi_0, \varphi_0) & (\varphi_0, \varphi_1) & \cdots & (\varphi_0, \varphi_m) \\ (\varphi_1, \varphi_0) & (\varphi_1, \varphi_1) & \cdots & (\varphi_1, \varphi_m) \\ \vdots & \vdots & \ddots & \vdots \\ (\varphi_m, \varphi_0) & (\varphi_m, \varphi_1) & \cdots & (\varphi_m, \varphi_m) \end{bmatrix} \begin{bmatrix} a_0 \\ a_1 \\ \vdots \\ a_m \end{bmatrix} = \begin{bmatrix} (y, \varphi_0) \\ (y, \varphi_1) \\ \vdots \\ (y, \varphi_m) \end{bmatrix} $$

由 $\varphi_0, \varphi_1, \cdots, \varphi_m$ 的线性无关性可保证系数矩阵非奇异，从而方程组有唯一解。这个解所对应的 $\varphi(x)$ 即为数据组在加权意义下的最小二乘函数。

存在如下定理：设 $a_0, a_1, \cdots, a_m$ 是加权正则方程组的解，$\varphi(x) = \sum_{k=0}^m a_k \varphi_k(x)$，则对任意 $\psi(x) = \sum_{k=0}^m c_k \varphi_k(x) \in H$，有：

$$ \sum_{i=1}^n \omega_i [y_i - \varphi(x_i)]^2 \le \sum_{i=1}^n \omega_i [y_i - \psi(x_i)]^2 $$

即 $\varphi(x)$ 是 $H$ 中使加权残差平方和最小的函数。

证明：直接展开
$$ \begin{aligned} &\sum_{i=1}^n \omega_i [y_i - \psi(x_i)]^2 \\ &= \sum_{i=1}^n \omega_i [y_i - \varphi(x_i) + \varphi(x_i) - \psi(x_i)]^2 \\ &= \sum_{i=1}^n \omega_i [y_i - \varphi(x_i)]^2 + 2\sum_{i=1}^n \omega_i [y_i - \varphi(x_i)][\varphi(x_i) - \psi(x_i)] \\ &\quad + \sum_{i=1}^n \omega_i [\varphi(x_i) - \psi(x_i)]^2 \end{aligned} $$
由式（6-10）可知交叉项为零：
$$ \sum_{i=1}^n \omega_i [y_i - \varphi(x_i)][\varphi(x_i) - \psi(x_i)] = \sum_{k=0}^m (a_k - c_k) \sum_{i=1}^n \omega_i [y_i - \varphi(x_i)] \varphi_k(x_i) = 0 $$
因此
$$ \sum_{i=1}^n \omega_i [y_i - \psi(x_i)]^2 = \sum_{i=1}^n \omega_i [y_i - \varphi(x_i)]^2 + \sum_{i=1}^n \omega_i [\varphi(x_i) - \psi(x_i)]^2 \ge \sum_{i=1}^n \omega_i [y_i - \varphi(x_i)]^2 $$
等号仅当 $\psi \equiv \varphi$ 时成立，定理得证。

5、正交函数族与简化计算

当 $m$ 较大时，正则方程组的系数矩阵往往是病态的，求解误差较大。如果能够选择一组特殊的基函数 $\varphi_k(x)$，使得它们关于离散点集和权系数是正交的，即

$$ (\varphi_k, \varphi_j) = 0 \quad (k \ne j), \qquad (\varphi_k, \varphi_k) > 0 $$

则方程组的系数矩阵变为对角矩阵，未知数可直接解出：

$$ a_k = \frac{(y, \varphi_k)}{(\varphi_k, \varphi_k)} = \frac{\sum_{i=1}^n \omega_i y_i \varphi_k(x_i)}{\sum_{i=1}^n \omega_i \varphi_k^2(x_i)} \quad (k=0,1,\cdots,m) $$

进而拟合函数为：

$$ \varphi(x) = \sum_{k=0}^m \frac{(y, \varphi_k)}{(\varphi_k, \varphi_k)} \varphi_k(x) $$

具有这种性质的函数族称为关于点集 $\{x_i\}$ 与权 $\{\omega_i\}$ 的离散正交函数族。对于多项式拟合，我们可以利用三项递推公式构造正交多项式。令：

$$ \begin{cases} \varphi_0(x) = 1, \\ \varphi_1(x) = x - \alpha_1, \\ \varphi_k(x) = (x - \alpha_k) \varphi_{k-1}(x) - \beta_k \varphi_{k-2}(x), \quad k=2,3,\cdots,m \end{cases} $$

其中：

$$ \alpha_k = \frac{(x \varphi_{k-1}, \varphi_{k-1})}{(\varphi_{k-1}, \varphi_{k-1})} = \frac{\sum_{i=1}^n \omega_i x_i \varphi_{k-1}^2(x_i)}{\sum_{i=1}^n \omega_i \varphi_{k-1}^2(x_i)} $$

$$ \beta_k = \frac{(\varphi_{k-1}, \varphi_{k-1})}{(\varphi_{k-2}, \varphi_{k-2})} = \frac{\sum_{i=1}^n \omega_i \varphi_{k-1}^2(x_i)}{\sum_{i=1}^n \omega_i \varphi_{k-2}^2(x_i)} \quad (k=2,3,\cdots,m) $$

可以证明，这样生成的 $\{\varphi_k(x)\}$ 恰好构成离散正交多项式族。于是，求 $m$ 次最小二乘拟合多项式的步骤为：

按递推公式计算正交多项式 $\varphi_0, \varphi_1, \cdots, \varphi_m$；
计算系数 $a_0, a_1, \cdots, a_m$；
写出拟合多项式 $\varphi(x)$。

这一方法避免了求解病态的正则方程组，数值稳定性好，尤其适用于高次拟合。

二、正交多项式

1、基本概念

在曲线拟合的讨论中，我们看到当采用一般多项式进行最小二乘拟合时，正则方程组的系数矩阵往往是病态的，尤其当拟合次数 $m$ 较大时，求解误差显著增大。但如果选取的基函数 $\varphi_k(x)$ 满足正交性条件，则正则方程组的系数矩阵变为对角矩阵，问题得以极大简化。这正是引入正交多项式的动机所在。

如果函数系 $\varphi_0(x), \varphi_1(x), \cdots, \varphi_n(x), \cdots$ 满足：

$$ (\varphi_j, \varphi_k) = \int_a^b \omega(x) \varphi_j(x) \varphi_k(x) \, dx = \begin{cases} 0, & j \neq k \\ \alpha_k > 0, & j = k \end{cases} \quad (j, k = 0, 1, 2, \cdots) $$

则称此函数系为区间 $[a,b]$ 上关于权函数 $\omega(x)$ 的正交函数系。特别地，若 $\alpha_k = 1 \ (k=0,1,2,\cdots)$，则称其为标准正交函数系。其中 $\omega(x) \ge 0$ 是区间上的权函数，且不在任何子区间上恒为零。内积的定义为：

$$ (f, g) = \int_a^b \omega(x) f(x) g(x) \, dx $$

若上述函数系中的每一项 $\varphi_k(x)$ 均为代数多项式，且 $\varphi_k(x)$ 的次数恰为 $k$，则称其为正交多项式系。

例如三角函数系

$$ \{1, \cos x, \sin x, \cos 2x, \sin 2x, \cdots, \cos nx, \sin nx, \cdots\} $$

是区间 $[-\pi, \pi]$ 上关于权函数 $\omega(x) \equiv 1$ 的正交函数系。这是傅里叶分析的基础。正交函数系具有一个重要的基本性质——线性无关性。

有如下定理，区间 $[a,b]$ 上关于权函数 $\omega(x)$ 的正交函数系 $\varphi_0, \varphi_1, \cdots, \varphi_n$ 必定是线性无关的。

证明：用反证法。假设 $\varphi_0, \varphi_1, \cdots, \varphi_n$ 线性相关，即存在不全为零的实数 $c_0, c_1, \cdots, c_n$，使得：
$$ c_0 \varphi_0(x) + c_1 \varphi_1(x) + \cdots + c_n \varphi_n(x) = 0, \quad x \in [a,b] $$
不妨设 $c_i \neq 0$。以 $\omega(x) \varphi_i(x)$ 乘上式两端，并在区间 $[a,b]$ 上积分，由正交性得：
$$ c_0(\varphi_0, \varphi_i) + c_1(\varphi_1, \varphi_i) + \cdots + c_n(\varphi_n, \varphi_i) = c_i(\varphi_i, \varphi_i) = 0 $$
因为 $(\varphi_i, \varphi_i) > 0$，故 $c_i = 0$，矛盾。因此 $\varphi_0, \varphi_1, \cdots, \varphi_n$ 线性无关。

另有定理：设 $\{\varphi_k(x)\}$ 是一列多项式，其中 $\varphi_k(x)$ 的最高次项系数不为零，且次数恰为 $k$。则 $\{\varphi_k(x)\}$ 是 $[a,b]$ 上关于权函数 $\omega(x)$ 的正交多项式系的充要条件是：对任意次数不超过 $k-1$ 的多项式 $Q_{k-1}(x)$，均有：

$$ (\varphi_k, Q_{k-1}) = \int_a^b \omega(x) \varphi_k(x) Q_{k-1}(x) \, dx = 0 \quad (k=1,2,\cdots) $$

证明：
（1）充分性：若式成立，则特别地取 $Q_{k-1}(x) = \varphi_j(x)$（$j=0,1,\cdots,k-1$），有：
$$ (\varphi_k, \varphi_j) = 0 \quad (j=0,1,\cdots,k-1) $$
即对任意 $k \ne j$，$(\varphi_k, \varphi_j) = 0$。另一方面，由于 $\varphi_k(x)$ 的最高次项系数不为零，$\varphi_k^2(x) \ge 0$ 且在区间上不恒为零，故
$$ (\varphi_k, \varphi_k) = \int_a^b \omega(x) \varphi_k^2(x) \, dx > 0 $$
因此 $\{\varphi_k(x)\}$ 为正交多项式系。
（2）必要性：若 $\{\varphi_k(x)\}$ 是正交多项式系，由定理，$\varphi_0, \varphi_1, \cdots, \varphi_{k-1}$ 线性无关，因此任一至多 $k-1$ 次的多项式 $Q_{k-1}(x)$ 均可表示为它们的线性组合：
$$ Q_{k-1}(x) = \sum_{j=0}^{k-1} b_j \varphi_j(x) $$
于是
$$ (\varphi_k, Q_{k-1}) = \int_a^b \omega(x) \varphi_k(x) \sum_{j=0}^{k-1} b_j \varphi_j(x) \, dx = \sum_{j=0}^{k-1} b_j (\varphi_k, \varphi_j) = 0 $$
充分性与必要性得证。

该定理揭示了一个关键事实：$k$ 次正交多项式 $\varphi_k(x)$ 与所有次数更低的代数多项式都正交。这一性质将用于构造正交多项式的递推公式。

2、勒让德（Legendre）多项式

Legendre 多项式是最基本的正交多项式之一，其一般表达式为

$$ P_n(x) = \frac{1}{2^n n!} \frac{d^n}{dx^n} \left[ (x^2 - 1)^n \right] \quad (n=0,1,2,\cdots) $$

该式称为罗德里格斯（Rodrigues）公式。由此可写出前几项：

$$ \begin{aligned} P_0(x) &= 1 \\ P_1(x) &= x \\ P_2(x) &= \frac{1}{2}(3x^2 - 1) \\ P_3(x) &= \frac{1}{2}(5x^3 - 3x) \\ P_4(x) &= \frac{1}{8}(35x^4 - 30x^2 + 3) \\ &\cdots \end{aligned} $$

更一般地，Legendre 多项式可展开为：

$$ P_n(x) = \sum_{k=0}^{\lfloor n/2 \rfloor} \frac{(-1)^k (2n - 2k)!}{2^n k! (n-k)! (n-2k)!} x^{n-2k} \quad (n=0,1,2,\cdots) $$

Legendre 多项式具有以下重要性质：

正交性：$\{P_n(x)\}$ 是区间 $[-1, 1]$ 上关于权函数 $\omega(x) \equiv 1$ 的正交函数系，且

$$ (P_n, P_m) = \int_{-1}^1 P_n(x) P_m(x) \, dx = \begin{cases} 0, & n \ne m \\ \dfrac{2}{2n+1}, & n = m \end{cases} $$

递推关系：Legendre 多项式满足三项递推公式

$$ (n+1)P_{n+1}(x) = (2n+1)x P_n(x) - n P_{n-1}(x) \quad (n=1,2,\cdots) $$

且 $P_0(x)=1$，$P_1(x)=x$。这一递推公式在数值计算中极为有用——无需通过 Rodrigues 公式逐项求导，而是从低阶递推至高阶，计算量小且数值稳定。

奇偶性：$P_n(-x) = (-1)^n P_n(x)$，即 $n$ 为偶数时 $P_n(x)$ 为偶函数，$n$ 为奇数时为奇函数。
$P_n(1)=1$，$P_n(-1)=(-1)^n$**。
$P_n(x)$ 在区间 $(-1,1)$ 内恰有 $n$ 个互异实根。这一性质在数值积分中有重要应用。

对于任意有限区间 $[a,b]$，可通过线性变换将其转化为 $[-1,1]$。令：

$$ x = \frac{b+a}{2} + \frac{b-a}{2} t $$

当 $x \in [a,b]$ 时，$t \in [-1,1]$。于是

$$ \tilde{P}_n(x) = P_n(t) = P_n\!\left(\frac{2x - (b+a)}{b-a}\right) \quad (n=0,1,2,\cdots) $$

即为 $[a,b]$ 上关于权函数 $\omega(x) \equiv 1$ 的正交多项式。

例如，区间 $[0,1]$ 上的正交多项式为

$$ \begin{aligned} \tilde{P}_0(x) &= P_0(2x-1) = 1 \\ \tilde{P}_1(x) &= P_1(2x-1) = 2x - 1 \\ \tilde{P}_2(x) &= P_2(2x-1) = \frac{1}{2}[3(2x-1)^2 - 1] = 6x^2 - 6x + 1 \\ \tilde{P}_3(x) &= P_3(2x-1) = \frac{1}{2}[5(2x-1)^3 - 3(2x-1)] = 20x^3 - 30x^2 + 12x - 1 \end{aligned} $$

这些多项式在 $[0,1]$ 上满足正交性 $\int_0^1 \tilde{P}_m(x) \tilde{P}_n(x) \, dx = 0 \ (m \ne n)$。

[!WARNING]
想要了解更多勒让德多项式的内容，前往：数学物理方法，希望你能喜欢(❤ ω ❤)。

三、正交多项式在最小二乘拟合中的应用

回到曲线拟合的问题。采用正交多项式作为基函数进行最小二乘拟合时，正则方程组退化为对角方程组，每个系数 $a_k$ 可独立求解：

$$ a_k = \frac{(y, \varphi_k)}{(\varphi_k, \varphi_k)} = \frac{\sum_{i=1}^n \omega_i y_i \varphi_k(x_i)}{\sum_{i=1}^n \omega_i \varphi_k^2(x_i)} \quad (k=0,1,\cdots,m) $$

拟合函数为：

$$ \varphi(x) = \sum_{k=0}^m a_k \varphi_k(x) $$

这种方法的优势在于：数值稳定性好，避免求解病态的正则方程组，尤其适用于高次拟合。计算效率高，各系数独立计算，无需解线性方程组。灵活性好，若需增加拟合次数，只需额外计算 $a_{m+1}$ 和 $\varphi_{m+1}(x)$，已有系数保持不变。

对于离散数据点，可通过三项递推公式构造关于给定节点集 $\{x_i\}$ 和权系数 $\{\omega_i\}$ 的离散正交多项式族，其递推公式为：