著译者： 魏木生
责任编辑：吕虹 赵彦超
本书总结了各种广义的最小二乘问题的理论与计算的最新成果。主要包括最小二乘问题、总体最小二乘问题、等式约束最小二乘问题以及刚性加权最小二乘问题等的理论与科学计算问题。
由于各种广义奇异值分解在解决矩阵论和数值代数问题中有着重要的作用，书中也较详细地介绍了广义的奇异值分解，并应用于解决若干矩阵论和数值代数问题。本书需要的预备知识为数值代数和矩阵论。
本书可作为研究生和高年级本科生的教材，也可作为计算数学及应用学科中需要科学计算的科技工作者的参考书。
第一章 预备知识
§1.1 引言
§1.2 特征值和特征向量
§1.3 矩阵分解
1.3.1 若干基本分解
1.3.2 SVD 的推广
§1.4 Hermite矩阵的特征值和矩阵的奇异值
1.4.1 Hermite矩阵特征值的极小极大定理
1.4.2 矩阵奇异值的极小极大定理
§1.5 广义逆
1.5.1 Moore-Penrose逆
1.5.2 其他广义逆
§1.6 投影
1.6.1 幂等矩阵和投影
1.6.2 正交投影
1.6.3 投影AA†和A†A的几何意义
§1.7 范数
1.7.1 向量范数
1.7.2 矩阵范数
§1.8 行列式，Hadamard不等式和Kronecker乘积
1.8.1 Binet-Cauchy公式
1.8.2 Hadamard不等式
1.8.3 Kronecker乘积
§1.9 矩阵广义逆的进一步讨论
1.9.1 矩阵乘积广义逆的反序律
1.9.2 加边矩阵的广义逆
1.9.3 矩阵加权广义逆的结构
习题一
第二章 奇异值，奇异子空间和MP逆的扰动
§2.1 酉不变范数的性质
2.1.1 von Neumann定理
2.1.2 SG 函数
2.1.3 酉不变范数的性质
§2.2 奇异值的扰动和降秩最佳逼近
2.2.1 奇异值的扰动
2.2.2 降秩最佳逼近
§2.3 正交投影和奇异子空间的扰动
§2.4 MP逆的扰动
习题二
第三章 线性最小二乘问题
§3.1 线性最小二乘问题
3.1.1 线性最小二乘及其等价性问题
3.1.2 LS问题的正则化
§3.2 LS问题的扰动
§3.3 若干矩阵方程的LS解
§3.4 加权最小二乘问题
§3.5 WLS问题的误差估计
3.5.1 第一种类型的误差界
3.5.2 第二种类型的误差界
习题三
第四章 总体最小二乘问题
§4.1 总体最小二乘问题及其解集
4.1.1 总体最小二乘问题的定义
4.1.2 TLS问题的解集
§4.2 TLS和截断的LS问题的扰动
4.2.1 TLS问题的扰动
4.2.2 截断的LS问题的扰动
§4.3 TLS和截断的LS问题的比较
4.3.1 TLS和截断的LS问题的解的比较
4.3.2 TLS和截断的LS问题残量的比较
4.3.3 TLS和截断的LS问题极小F范数修正矩阵的比较
4.3.4 一个实例
§4.4 推广的降秩最佳逼近定理
§4.5 LS-TLS问题
§4.6 约束总体最小二乘问题
习题四
第五章 等式约束最小二乘问题
§5.1 等式约束最小二乘问题
5.1.1 等式约束最小二乘问题的定义与解集
5.1.2 等式约束最小二乘问题的等价性问题
§5.2 关于KKT方程
5.2.1 WLS问题的KKT方程
5.2.2 LSE和 WLS问题的KKT方程解的比较
5.2.3 对应于B和B(τ)零特征值的特征子空间
§5.3 LSE问题的误差估计
§5.4 等式约束加权最小二乘问题
5.4.1 等式约束加权最小二乘问题的定义与解集
5.4.2 加权最小二乘问题的等价性问题
§5.5 WLSE问题的扰动
§5.6 多重约束MP逆和多重约束最小二乘问题
§5.7 嵌入总体最小二乘问题
习题五
第六章 加权MP逆和约束加权MP逆的上确界
§6.1 基本问题
§6.2 加权MP逆的上确界
§6.3 约束加权MP逆的上确界
§6.4 双侧加权MP逆的上确界
习题六
第七章 WLS问题和WLSE问题的稳定性扰动
§7.1 加权MP逆和约束加权MP逆的稳定性
7.1.1 加权MP逆的稳定性
7.1.2 约束加权MP逆的稳定性
7.1.3 双侧加权MP逆的稳定性
§7.2 加权投影矩阵的扰动上界
§7.3 加权最小二乘问题的稳定性扰动
§7.4 约束加权最小二乘问题的稳定性扰动
习题七
第八章 刚性加权最小二乘问题
§8.1 预备知识
§8.2 刚性加权最小二乘和多重约束最小二乘问题
§8.3 刚性加权投影矩阵和刚性加权MP逆的扰动
§8.4 刚性加权最小二乘问题的扰动
习题八
第九章 广义最小二乘问题的直接解法
§9.1 基本知识
9.1.1 算法和浮点运算
9.1.2 正定矩阵线性方程组的数值计算
9.1.3 矩阵的预条件处理
§9.2 正交分解的数值计算
9.2.1 QR分解
9.2.2 完全正交分解
9.2.3 奇异值分解
§9.3 最小二乘问题的直接解法
9.3.1 QR分解方法
9.3.2 法方程法
9.3.3 完全正交分解方法
9.3.4 SVD方法
§9.4 总体最小二乘问题的直接解法
9.4.1 基本SVD方法
9.4.2 完全正交方法
9.4.3 Cholesky分解法
§9.5 约束最小二乘问题的数值解法
9.5.1 零空间法
9.5.2 加权LS法
9.5.3 直接消去法
9.5.4 QR分解和Q-SVD方法
§9.6 刚性WLS问题和刚性WLSL问题的直接解法
9.6.1 行稳定的QR分解
9.6.2 刚性WLS问题的稳定解法
9.6.3 刚性WLSE问题的稳定解法
习题九
第十章 广义最小二乘问题的迭代解法
§10.1 基本知识
10.1.1 Chebyshev多项式
10.1.2 分裂迭代法的基本理论
10.1.3 实对称三对角矩阵的特征值的范围
§10.2 最小二乘解的迭代算法
10.2.1 分裂迭代法
10.2.2 Krylov子空间法
10.2.3 预条件对称-反对称分裂迭代法
§10.3 总体最小二乘问题的迭代解法
10.3.1 部分SVD方法
10.3.2 双对角化方法
§10.4 刚性加权最小二乘问题的迭代解法
习题十
第十一章 非线性最小二乘问题的迭代解法
§11.1 基本知识
11.1.1 Gateaux导数和 Frechet导数
11.1.2 基本算法
§11.2 Gauss-Newton型方法
11.2.1 Gauss-Newton方法
11.2.2 阻尼Gauss-Newton方法
11.2.3 信赖域方法
§11.3 Newton型方法
11.3.1 Newton迭代法
11.3.2 混合Newton迭代法
11.3.3 拟Newton迭代法
§11.4 可分离问题和约束问题
11.4.1 可分离问题
11.4.2 约束非线性最小二乘问题
习题十一
参考文献
