有偏估计

概述

平差线性模型 \[\bm{L}=\bm{B}\bm{X}+\bm{\Delta},\qquad E(\bm{\Delta})=\bm{0} \tag{6-1-1}\] \[D(\bm{\Delta})=\sigma_{0}^{2}\bm{Q} \tag{6-1-2}\] 式中 \(\bm{L}\) 为 \(n\) 维观测向量，\(\bm{B}\) 为 \(n\times t\) 设计矩阵（列满秩），\(\bm{X}\) 为 \(t\) 维未知参数向量，\(\bm{\Delta}\) 为 \(n\) 维观测误差向量，\(\bm{Q}\) 为观测值的协因数阵（权阵 \(\bm{P}=\bm{Q}^{-1}\)）。

当法方程系数阵的行列式 \(\lvert\bm{B}^{T}\bm{P}\bm{B}\rvert\neq 0\) 时，参数 \(\bm{X}\) 的最小二乘解唯一，而且是 \(\bm{X}\) 的最优线性无偏估计（BLUE）。在实际平差问题中，从函数模型的物理意义而言，法方程系数阵的行列式不应为零，但它的行列式的绝对值可能很小，使法方程的解很不稳定。亦即当法方程中系数和常数项存在舍入误差而产生微小变化时，会引起解的很大差异。这种情况下的法方程系数阵的性质不好，称为病态方程。法方程的性质好坏，在数学中是用制约性的条件数进行定量描述的，也讨论了改善法方程制约性差的各种数学方法。

在摄影测量的附加参数的自检校平差问题中，为了有效地补偿观测数据中的系统误差，常常在观测方程中附加大量补偿系统误差的参数，往往造成过度参数化，使附加参数之间或附加参数与基本参数之间存在近似线性关系，导致法方程系数阵病态。在 GPS 定位等平差问题中也有类似现象发生。下面举一个在 GPS 动态定位中的例子。

取历元间隔为 2秒，观测了 5 颗卫星，用 4 个历元解算整周模糊度，误差方程的系数阵为 \[\bm{B}=\begin{bmatrix} 0.2727 & 1.5127 & -0.5903 & 0.1903 & -0.1903 & 0 & 0\\ 0.3030 & -1.7179 & 0.1070 & 0 & 0.1903 &-0.1903 & 0\\ -0.5994 & 1.1626 & -0.3181 & 0 & 0 & 0.1903 &-0.1903\\ 0.1414 & -0.6323 & -0.0527 & 0 & 0 & 0 & 0.1903\\ 0.2727 & 1.5126 & -0.5903 & 0.1903 & -0.1903 & 0 & 0\\ 0.3031 & -1.7179 & 0.1074 & 0 & 0.1903 &-0.1903 & 0\\ -0.5996 & 1.1625 & -0.3182 & 0 & 0 & 0.1903 &-0.1903\\ 0.1419 & -0.6322 & -0.0530 & 0 & 0 & 0 & 0.1903\\ 0.2727 & 1.5125 & -0.5902 & 0.1903 & -0.1903 & 0 & 0\\ 0.3032 & -1.7179 & 0.1079 & 0 & 0.1903 &-0.1903 & 0\\ -0.5998 & 1.1625 & -0.3183 & 0 & 0 & 0.1903 &-0.1903\\ 0.1423 & -0.6322 & -0.0533 & 0 & 0 & 0 & 0.1903\\ 0.2727 & 1.5124 & -0.5902 & 0.1903 & -0.1903 & 0 & 0\\ 0.3033 & -1.7178 & 0.1083 & 0 & 0.1903 &-0.1903 & 0\\ -0.6001 & 1.1624 & -0.3184 & 0 & 0 & 0.1903 &-0.1903\\ 0.1427 & -0.6321 & -0.0536 & 0 & 0 & 0 & 0.1903 \end{bmatrix}\]

设参数的真值 \[\bm{X}^{T}=[\delta x\ \ \delta y\ \ \delta z\ \ N_{1}\ \ N_{2}\ \ N_{3}\ \ N_{4}] =[4.2\ \ -2.1\ \ 3.5\ \ 48\ \ 52\ \ 31\ \ 55]\] 式中 \(N_i\) 为模糊度参数，\(\delta x,\delta y,\delta z\) 为坐标参数。用此模拟的真值反算得观测值 \(L_i\)（\(i=1,2,\cdots,16\)），列于表 6-1 的 \(L_i\) 行；对观测值 \(L_i\) 在百分位上加上微小误差后的观测值为 \(L'_i\)，列于表 6-1 中的 \(L'_i\) 行；其误差 \(\Delta_i=L_i-L'_i\) 列于表中 \(\Delta_i\) 行。由误差方程 \[\bm{V}=\bm{B}\hat{\bm{X}}-\bm{L} \tag{6-1-3}\]

组成法方程 \[\bm{B}^{T}\bm{B}\hat{\bm{X}}=\bm{B}^{T}\bm{L} \tag{6-1-4}\] 解得 \[\hat{\bm{X}}^{T}=[\,21.4598\ \ -51.5543\ \ 4.5578\ \ 126.6540\ \ -241.0506\ \ 212.4953\ \ -121.8465\,]\] 与真值之差值为 \[\Delta\bm{X}=\hat{\bm{X}}-\bm{X} =[\,17.2598\ \ -49.4543\ \ 1.0578\ \ 78.6540\ \ -293.0506\ \ 181.4953\ \ -176.8465\,]^{T}\] 究其原因就是 \(\lvert\bm{B}^{T}\bm{B}\rvert\approx 0\)，法方程系数阵病态。

由均方误差公式 \[\operatorname{MSE}(\hat{\bm{X}})=\sigma_{0}^{2}\operatorname{tr}\bigl(\bm{Q}_{\hat{\bm{X}}}\bigr) +\operatorname{tr}\left[\bigl(E(\hat{\bm{X}})-\bm{X}\bigr)\bigl(E(\hat{\bm{X}})-\bm{X}\bigr)^{T}\right] \tag{6-1-5}\] 知，当 \(\hat{\bm{X}}\) 是 \(\bm{X}\) 的无偏估计时，上式右边第二项为零，则上式为 \[\operatorname{MSE}(\hat{\bm{X}})=\sigma_{0}^{2}\operatorname{tr}\bigl(\bm{B}^{T}\bm{B}\bigr)^{-1} =\sigma_{0}^{2}\sum_{i=1}^{t}\frac{1}{\lambda_{i}} \tag{6-1-6}\] 式中 \(t\) 为参数的个数，\(\lambda_{i}\) 为系数阵 \(\bm{B}^{T}\bm{B}\) 的 \(t\) 个特征值。当 \(\lvert\bm{B}^{T}\bm{B}\rvert\) 接近零时，至少有一个特征值 \(\lambda_{i}\) 接近零，由上式看出，此时的均方误差就很大。在这种情况下，即法方程系数阵病态，最小二乘估值虽仍无偏，但已不是最优，不能认为它仍是一个良好的估计量了。

为了解决由于法方程系数阵病态而导致最小二乘估计不稳定的问题，统计学家们提出一些新的估计方法来改善这种情况下的最小二乘估计，这些方法主要有岭估计、广义岭估计以及主成分估计等。

岭估计

岭估计（Ridge Estimation）是从减小均方误差的角度出发而提出的一种有偏估计方法。该方法最初由 A. E. Hoerl 于 1962 年提出，并于 1970 年由他和 R. W. Kennard 对该方法作了系统的发展，成为目前使用最多的一种有偏估计。

岭估计的定义

设 \(0\le k<\infty\)，称 \[\hat{\bm{X}}(k)=(\bm{N}+k\bm{E})^{-1}\bm{B}^{T}\bm{P}\bm{L} \tag{6-2-1}\] 为参数 \(\bm{X}\) 的岭估计，式中 \(k\) 为岭参数，\(\bm{N}=\bm{B}^{T}\bm{P}\bm{B}\)。

由定义式（6-2-1）知，岭估计是在最小二乘估计的法方程系数阵 \(\bm{N}\) 的主对角线上加上一个常数 \(k\)，从而改变法方程系数阵的态性，要求达到岭估计 \(\hat{\bm{X}}(k)\) 的均方误差小于最小二乘估计 \(\hat{\bm{X}}\) 的均方误差，即 \[\operatorname{MSE}(\hat{\bm{X}}(k))<\operatorname{MSE}(\hat{\bm{X}}) \tag{6-2-2}\] 选择不同的 \(k\) 值，可得相应的岭估计，因此（6-2-1）式定义了一个很大的估计类。当 \(k\) 取零时，\(\hat{\bm{X}}(0)=\hat{\bm{X}}\)，即是最小二乘估计；\(k\neq 0\) 改善了 \(\bm{N}\) 的病态性，从这个意义上来说，在一定程度上改进了最小二乘估计。

岭估计的基本思想是（6-2-2）式必须成立，这样的 \(k\) 值是否存在？下面所述的岭估计性质将作肯定的回答。

岭估计的性质

（1）岭估计 \(\hat{\bm{X}}(k)\) 是最小二乘估计 \(\hat{\bm{X}}\) 的线性组合。

由（6-2-1）式即得 \[\hat{\bm{X}}(k)=(\bm{N}+k\bm{E})^{-1}\bm{N}\bm{N}^{-1}\bm{B}^{T}\bm{P}\bm{L} =(\bm{N}+k\bm{E})^{-1}\bm{N}\hat{\bm{X}}=\bm{Z}\hat{\bm{X}} \tag{6-2-3}\] 式中 \[\bm{Z}=(\bm{N}+k\bm{E})^{-1}\bm{N}=(\bm{E}+k\bm{N}^{-1})^{-1} \tag{6-2-4}\] 利用矩阵反演公式（1-2-28），\(\bm{Z}\) 还可由下式表达： \[\bm{Z}=(\bm{E}+k\bm{N}^{-1})^{-1}=(\bm{E}+k\bm{E}\bm{N}^{-1}\bm{E})^{-1} =\bm{E}-k(\bm{N}+k\bm{E})^{-1} \tag{6-2-5}\]

（2）岭估计 \(\hat{\bm{X}}(k)\) 有偏。

由（6-2-3）、（6-2-5）式可得岭估计的期望为 \[E(\hat{\bm{X}}(k))=E(\hat{\bm{X}})-k(\bm{N}+k\bm{E})^{-1}E(\hat{\bm{X}}) =\bm{X}-k(\bm{N}+k\bm{E})^{-1}\bm{X} \tag{6-2-6}\] 此式表明，仅当 \(k=0\) 时，估值 \(\hat{\bm{X}}(0)\) 才无偏，这是最小二乘估计情形。所以岭估计类是一种有偏估计类，其偏差为 \(k(\bm{N}+k\bm{E})^{-1}\bm{X}\)，与 \(k\) 有关。

（3）\(\bm{Z}\) 的特征向量与 \(\bm{N}\) 的特征向量相同，而与 \(k\) 值无关。

设 \(\bm{N}\) 的特征根为 \(\lambda_{1}\ge\lambda_{2}\ge\cdots\ge\lambda_{t}>0\)，对应的特征向量为 \(\bm{A}_{1},\bm{A}_{2},\cdots,\bm{A}_{t}\)，则有 \[\bm{N}\bm{A}_{i}=\lambda_{i}\bm{A}_{i}\quad(i=1,2,\cdots,t) \tag{6-2-7}\] 将上式两边同乘 \(\bm{N}^{-1}\)，再除以 \(\lambda_{i}\)，得 \[\bm{N}^{-1}\bm{A}_{i}=\frac{1}{\lambda_{i}}\bm{A}_{i} \tag{6-2-8}\] 由（6-2-7）式得 \[(\bm{N}+k\bm{E})\bm{A}_{i}=(\lambda_{i}+k)\bm{A}_{i} \tag{6-2-9}\] 于是有 \[(\bm{N}+k\bm{E})^{-1}\bm{A}_{i}=\frac{1}{\lambda_{i}+k}\bm{A}_{i} \tag{6-2-10}\] 由（6-2-8）式得 \[(\bm{E}+k\bm{N}^{-1})\bm{A}_{i}=\left(1+\frac{k}{\lambda_{i}}\right)\bm{A}_{i} \tag{6-2-11}\] 顾及（6-2-4）式，可得 \[\bm{Z}\bm{A}_{i}=\frac{\lambda_{i}}{\lambda_{i}+k}\bm{A}_{i} \tag{6-2-12}\] 由以上推导知，\(\bm{N}\) 的特征根为 \(\lambda_{i}\)（\(i=1,2,\cdots,t\)），\((\bm{N}+k\bm{E})\) 的特征根为 \((\lambda_{i}+k)\)，\((\bm{N}+k\bm{E})^{-1}\) 的特征根为 \(\dfrac{1}{\lambda_{i}+k}\)，它们的特征向量均为 \(\bm{A}_{i}\)，均与 \(\bm{N}\) 的特征向量相同，并与常数 \(k\) 值无关。

（4）\(k>0\)，\(\hat{\bm{X}}\neq 0\) 时，\(\lVert\hat{\bm{X}}(k)\rVert<\lVert\hat{\bm{X}}\rVert\)。

因为 \(\bm{Z}\) 的特征根都在 \((0,1)\) 之间，且 \(\bm{Z}\) 为对称方阵，所以存在正交方阵 \(\bm{Q}\)，使得 \(\bm{Z}=\bm{Q}^{T}\bm{\varLambda}\bm{Q}\)，\(\bm{\varLambda}\) 为对角阵，其主对角线元素为 \(\bm{Z}\) 的特征根。于是有 \[\lVert\hat{\bm{X}}(k)\rVert^{2}=\lVert\bm{Z}\hat{\bm{X}}\rVert^{2} =\lVert\bm{Q}^{T}\bm{\varLambda}\bm{Q}\hat{\bm{X}}\rVert^{2} =\lVert\bm{\varLambda}\bm{Q}\hat{\bm{X}}\rVert^{2}\] 由于 \(\hat{\bm{X}}\neq 0\)，有 \(\bm{Q}\hat{\bm{X}}\neq 0\)。再顾及 \(\bm{\varLambda}\) 的特性，有 \[\lVert\hat{\bm{X}}(k)\rVert^{2}=\lVert\bm{\varLambda}\bm{Q}\hat{\bm{X}}\rVert^{2} <\lVert\bm{Q}\hat{\bm{X}}\rVert^{2}=\lVert\hat{\bm{X}}\rVert^{2} \tag{6-2-13}\] 可见，岭估计 \(\hat{\bm{X}}(k)\) 是最小二乘估计 \(\hat{\bm{X}}\) 的一种压缩型有偏估计。

（5）存在 \(k>0\)，使 \(\hat{\bm{X}}(k)\) 的均方误差小于 \(\hat{\bm{X}}\) 的均方误差，即存在（6-2-2）式。

由（6-1-5）式知，岭估计 \(\hat{\bm{X}}(k)\) 的均方误差为 \[\operatorname{MSE}(\hat{\bm{X}}(k))=R_{1}(k)+R_{2}(k) \tag{6-2-14}\] 式中 \[R_{1}(k)=\sigma_{0}^{2}\operatorname{tr}\bigl(D(\hat{\bm{X}}(k))\bigr) =\sum_{i=1}^{t}D\bigl(\hat{X}_{i}(k)\bigr) \tag{6-2-15}\] 亦即 \(R_{1}(k)\) 为岭估计各分量方差之和； \[R_{2}(k)=\operatorname{tr}\left[\bigl(E(\hat{\bm{X}}(k))-\bm{X}\bigr) \bigl(E(\hat{\bm{X}}(k))-\bm{X}\bigr)^{T}\right] =\sum_{i=1}^{t}\bigl(E(\hat{X}_{i}(k))-X_{i}\bigr)^{2} \tag{6-2-16}\] \(R_{2}(k)\) 为岭估计各分量的偏差平方和。

用（6-2-3）式将岭估计表达成最小二乘估计的线性函数，则由（6-2-15）式可得 \[\begin{aligned} R_{1}(k)&=\operatorname{tr}\bigl(D(\hat{\bm{X}}(k))\bigr) =\operatorname{tr}\bigl(\bm{Z}D(\hat{\bm{X}})\bm{Z}^{T}\bigr) =\sigma_{0}^{2}\operatorname{tr}\bigl(\bm{N}^{-1}\bm{Z}^{2}\bigr)\nonumber\\ &=\sigma_{0}^{2}\operatorname{tr}\bigl(\bm{M}\bm{Z}\bigr) =\sigma_{0}^{2}\operatorname{tr}\Bigl[\bm{M}\bigl(\bm{E}-k\bm{M}\bigr)\Bigr]\nonumber\\ &=\sigma_{0}^{2}\Bigl[\operatorname{tr}(\bm{M})-k\operatorname{tr}(\bm{M}^{2})\Bigr]\nonumber\\ &=\sigma_{0}^{2}\left[\operatorname{tr}\bigl((\bm{N}+k\bm{E})^{-1}\bigr) -k\operatorname{tr}\bigl((\bm{N}+k\bm{E})^{-2}\bigr)\right] \tag{6-2-17} \end{aligned}\] 式中 \(\bm{M}=(\bm{N}+k\bm{E})^{-1}\)，推导中顾及了（6-2-4）和（6-2-5）式。

考虑矩阵 \((\bm{N}+k\bm{E})^{-1}\) 的 \(t\) 个特征根为 \(\dfrac{1}{\lambda_{i}+k}\)（\(i=1,2,\cdots,t\)，见（6-2-10）式），则有 \[\operatorname{tr}\bigl((\bm{N}+k\bm{E})^{-1}\bigr)=\sum_{i=1}^{t}\frac{1}{\lambda_{i}+k} \tag{6-2-18}\] 代入（6-2-17）式，最后得 \[R_{1}(k)=\sigma_{0}^{2}\sum_{i=1}^{t}\frac{\lambda_{i}}{(\lambda_{i}+k)^{2}} \tag{6-2-19}\]

由（6-2-16）和（6-2-3）式，顾及 \(E(\hat{\bm{X}})=\bm{X}\)，可得 \[R_{2}(k)=\bigl(E(\hat{\bm{X}}(k))-\bm{X}\bigr)^{T}\bigl(E(\hat{\bm{X}}(k))-\bm{X}\bigr) =\bm{X}^{T}(\bm{Z}-\bm{E})^{T}(\bm{Z}-\bm{E})\bm{X}\] 将（6-2-5）式代入得 \[R_{2}(k)=k^{2}\bm{X}^{T}(\bm{N}+k\bm{E})^{-2}\bm{X} \tag{6-2-20}\] 利用正交矩阵 \(\bm{Q}\)，将 \((\bm{N}+k\bm{E})^{-2}\) 化为对角阵： \[(\bm{N}+k\bm{E})^{-2}=\bm{Q}^{T}\bm{U}\bm{Q}\] 其中 \(\bm{Q}\) 是 \(\bm{N}\) 的特征向量所构成的正交阵， \[\bm{U}=\operatorname{diag}\left(\frac{1}{(\lambda_{1}+k)^{2}}, \frac{1}{(\lambda_{2}+k)^{2}},\cdots,\frac{1}{(\lambda_{t}+k)^{2}}\right)\] 令 \(\bm{\alpha}=\bm{Q}\bm{X}\)，\(\bm{\alpha}=(\alpha_{1},\alpha_{2},\cdots,\alpha_{t})^{T}\)，则（6-2-20）式成为 \[R_{2}(k)=k^{2}\bm{\alpha}^{T}\bm{Q}(\bm{N}+k\bm{E})^{-2}\bm{Q}^{T}\bm{\alpha} =k^{2}\bm{\alpha}^{T}\bm{U}\bm{\alpha} =k^{2}\sum_{i=1}^{t}\frac{\alpha_{i}^{2}}{(\lambda_{i}+k)^{2}} \tag{6-2-21}\]

对（6-2-14）式求导得 \[\begin{aligned} \frac{d\operatorname{MSE}(\hat{\bm{X}}(k))}{dk} &=\frac{dR_{1}(k)}{dk}+\frac{dR_{2}(k)}{dk}\nonumber\\ &=-2\sigma_{0}^{2}\sum_{i=1}^{t}\frac{\lambda_{i}}{(\lambda_{i}+k)^{3}} +2k\sum_{i=1}^{t}\frac{\lambda_{i}\alpha_{i}^{2}}{(\lambda_{i}+k)^{3}}\nonumber\\ &=2\sum_{i=1}^{t}\frac{\lambda_{i}}{(\lambda_{i}+k)^{3}}\bigl(k\alpha_{i}^{2}-\sigma_{0}^{2}\bigr) \end{aligned}\] 故有 \[\left.\frac{d\operatorname{MSE}(\hat{\bm{X}}(k))}{dk}\right|_{k=0} =-2\sigma_{0}^{2}\sum_{i=1}^{t}\frac{1}{\lambda_{i}^{2}}<0\] 表明 \(\hat{\bm{X}}(k)\) 的均方误差是 \(k\) 的递减函数，且 \(\operatorname{MSE}(\hat{\bm{X}}(0))=\operatorname{MSE}(\hat{\bm{X}})\)，故必存在 \(k>0\)，使得（6-2-2）式成立。

岭参数 \(k\) 值的确定

由式（6-2-14）并顾及（6-2-19）和（6-2-21）式知： \[\operatorname{MSE}(\hat{\bm{X}}(k)) =\sigma_{0}^{2}\sum_{i=1}^{t}\frac{\lambda_{i}}{(\lambda_{i}+k)^{2}} +k^{2}\sum_{i=1}^{t}\frac{\alpha_{i}^{2}}{(\lambda_{i}+k)^{2}}\] 由于 \(\bm{\alpha}\) 和 \(\bm{X}\) 未知，故不能用求极值的方法在 \(\operatorname{MSE}(\hat{\bm{X}}(k))=\min\) 原则下得出 \(k\) 值，而确定 \(k\) 值又是岭估计的主要内容，所以关于 \(k\) 值的确定引起了很多人的研究，虽然提出了许多方法和确定 \(k\) 值的原则，但至今还没有一种公认的良好方法。本节仅介绍岭迹法。

所谓岭迹（Ridge Trace），就是以岭估计 \(\hat{\bm{X}}(k)\) 的分量 \(\hat{X}_{i}(k)\)（\(i=1,2,\cdots,t\)）作为岭参数 \(k\) 的函数，将 \(t\) 条岭迹画出函数图像。选择 \(k\) 值的岭迹法是，使 \(t\) 条岭迹都处于大体稳定状态下的那个 \(k\) 值。这种方法选择 \(k\) 值有随意性，但应用方便。

表 6-2 列出了 \(k\) 取 0.1 至 2.0 所对应的参数分量估值 \(\hat{X}_{i}(k)\)（\(i=1,2,\cdots,7\)），图 6-1 根据表 6-2 数据画出了 7 条岭迹。当 \(k=0.7\) 时，各参数的估值基本相对稳定，可考虑取此值。

广义岭估计

线性模型的典则形式

在线性模型 \[\bm{L}=\bm{B}\bm{X}+\bm{\Delta},\qquad \bm{\Delta}\sim N(\bm{0},\sigma_{0}^{2}\bm{E}) \tag{6-3-1}\] 中，设 \(\bm{G}\) 为正交方阵，使得 \[\bm{G}^{T}(\bm{B}^{T}\bm{B})\bm{G}=\bm{\Lambda} =\operatorname{diag}(\lambda_{1},\lambda_{2},\cdots,\lambda_{t})\] \(\lambda_{i}\)（\(i=1,2,\cdots,t\)）为法方程系数阵 \(\bm{B}^{T}\bm{B}\) 的 \(t\) 个特征根。引入参数 \(\bm{\alpha}=\bm{G}^{T}\bm{X}\)，并记 \(\bm{A}=\bm{B}\bm{G}\)，则模型（6-3-1）成为 \[\bm{L}=\bm{A}\bm{\alpha}+\bm{\Delta} \tag{6-3-2}\] 此式被称为线性模型（6-3-1）的典则形式，\(\bm{\alpha}\) 称为典则参数。

参数 \(\bm{\alpha}\) 的最小二乘估计和岭估计分别为 \[\hat{\bm{\alpha}}=(\bm{A}^{T}\bm{A})^{-1}\bm{A}^{T}\bm{L} =\bm{\Lambda}^{-1}\bm{G}^{T}\bm{B}^{T}\bm{L} \tag{6-3-3}\] \[\hat{\bm{\alpha}}(k)=(\bm{A}^{T}\bm{A}+k\bm{E})^{-1}\bm{A}^{T}\bm{L} =(\bm{\Lambda}+k\bm{E})^{-1}\bm{G}^{T}\bm{B}^{T}\bm{L} \tag{6-3-4}\]

广义岭估计

广义岭估计（Generalized Ridge Estimate）定义为 \[\hat{\bm{\alpha}}(k)=(\bm{\Lambda}+\bm{K})^{-1}\bm{A}^{T}\bm{L} \tag{6-3-5}\] 或 \[\hat{\bm{X}}(k)=(\bm{B}^{T}\bm{B}+\bm{G}\bm{K}\bm{G}^{T})^{-1}\bm{B}^{T}\bm{L} \tag{6-3-6}\] 式中 \[\bm{K}=\operatorname{diag}(k_{1},k_{2},\cdots,k_{t}) \tag{6-3-7}\] （6-3-5）和（6-3-6）两式是等价的。由（6-3-5）式得 \[(\bm{G}^{T}\bm{B}^{T}\bm{B}\bm{G}+\bm{K})\bm{G}^{T}\hat{\bm{X}}(k)=\bm{G}^{T}\bm{B}^{T}\bm{L}\] 上式两端左乘 \(\bm{G}\)，顾及 \(\bm{G}\bm{G}^{T}=\bm{E}\)，即得（6-3-6）式。

当 \(t\) 个广义岭参数相等为一常数时，即 \[k_{1}=k_{2}=\cdots=k_{t}=k\] （6-3-6）式中的 \(\bm{G}\bm{K}\bm{G}^{T}=k\bm{E}\)，即退化为岭估计，所以岭估计是广义岭估计的特例。

广义岭估计与岭估计不同之处在于，后者通过在法方程系数阵的主对角线元素上加上同一常数 \(k\) 来达到改善其病态性，而前者则是在典则型式的法方程系数阵主对角线元素上加上不同的 \(k\) 值，企图对岭估计加以改进。

广义岭估计的性质与岭估计基本一致，现不加证明地给出如下结论：

性质（1）广义岭估计是最小二乘估计的线性组合。

性质（2）广义岭估计类有偏。

性质（3）对任意的 \(\bm{K}\)，所有 \(k_{i}>0\)，\(\hat{\bm{X}}\neq 0\) 时，总有 \[\lVert\hat{\bm{X}}(k)\rVert<\lVert\hat{\bm{X}}\rVert\]

性质（4）存在 \(\bm{K}=\operatorname{diag}(k_{1},k_{2},\cdots,k_{t})\)，在所有 \(k_{i}>0\) 时，有 \[\operatorname{MSE}(\hat{\bm{X}}(k))<\operatorname{MSE}(\hat{\bm{X}})\]

文献[14]导出的广义岭估计的均方误差为： \[\operatorname{MSE}(\hat{\bm{X}}(\bm{K})) =\sum_{i=1}^{t}\frac{\sigma_{0}^{2}\lambda_{i}+k_{i}^{2}\alpha_{i}^{2}}{(\lambda_{i}+k_{i})^{2}} \tag{6-3-8}\] 式中 \(\alpha_{i}\) 为典则参数。

将（6-3-8）式对 \(k_{i}\) 求偏导数，并令其为零，可得到，当 \[k_{i}=\frac{\sigma_{0}^{2}}{\alpha_{i}^{2}},\qquad i=1,2,\cdots,t \tag{6-3-9}\] 时，\(\operatorname{MSE}(\hat{\bm{X}}(\bm{K}))\) 达到最小。一般地，由于 \(\alpha_{1},\alpha_{2},\cdots,\alpha_{t}\) 不全相同，所以 \(k_{i}=\sigma_{0}^{2}/\alpha_{i}^{2}\)（\(i=1,2,\cdots,t\)）也不全相同。广义岭估计比一般的岭估计可有更小的均方误差。

广义岭估计中 \(k_i\) 的确定

按（6-3-9）式确定的 \(k_{i}\) 可使 \(\operatorname{MSE}(\hat{\bm{X}}(\bm{K}))\) 为最小。由于 \(\sigma_{0}^{2}\) 和 \(\alpha_{i}\) 未知，故由（6-3-9）式无法直接得到 \(k_{i}\)。为此，给出一种确定 \(k_{i}\) 的迭代方法：

（1）根据（6-3-3）式求出 \(\alpha_{i}\) 和母体方差 \(\sigma_{0}^{2}\) 的估值 \(\hat{\alpha}_{i}\) 和 \(\hat{\sigma}_{0}^{2}\)；

（2）将 \(\hat{\alpha}_{i}\) 和 \(\hat{\sigma}_{0}^{2}\) 代入（6-3-9）式，得到一组估值 \(\hat{k}_{i}\)；

（3）按公式 \[\hat{\alpha}_{i}(k_{i})=\frac{\lambda_{i}\hat{\alpha}_{i}}{\lambda_{i}+k_{i}} \tag{6-3-10}\] 计算 \(\hat{\alpha}_{i}(\hat{k}_{i})\)，以及相应的 \(\hat{\bm{X}}(k)\)，如此反复进行，直到所得到的 \(k_{i}\) 值和 \(\hat{\bm{\alpha}}(k)\) 达到稳定为止。

=2.5em