数值分析教案word版--李庆阳书配套

1、数值分析教案第一章 绪论§1。数值分析的对象与特点随着计算机的发展，人们对计算方法的需要就显的越来越重要，同一个问题选择的计算方法不同所得结果就完全不一样。当然人力，物力，财力等的消耗也不尽相同。数值分析课程的主要内容就是研究如何较好的处理数学模型问题。它是数学的一个重要分支，其内容不像纯数学那样只研究理论，而是着重研究求解的数值方法及相关的理论。这些理论包括方法的收敛性，稳定性及误差分析。数值分析课程的特点：既有纯数学高度抽象性与严密科学性的特点，又有应用的广泛性与实际实验的高度技术性的特点，是一门与使用计算机密切结合的实用性很强的数学课程。§2。误差的来源及误差分析的重

2、要性我们先来考察一下用计算机解决实际问题的主要过程：实际问题数学模型数值计算方法程序设计上机求结果 在以上的过程中可以产生下列误差：模型误差：由实际问题转化为数学模型时产生的误差。观测误差：由观测产生的误差。截断误差（方法误 差）：近似解与精确解之间的误差。今求，则有 由于不可能得到精确值，若取，则 此时的截断误差为另外，由于计算机在计算过程中并非是精确运算，它也是只对有限位数进行运算，对于超过位数的数字便自动施行四舍五入，这样在计算过程中又产生一定的误差，这种误差称为舍入误差。本课程主要研究截断误差和舍入误差。以下举例说明误差分析的重要性。例 求 解：容易求得， 而是个无理数，不可能取到精确

3、值，今取，得到一个递推公式： 计算结果见下表：00.18232155 00.18232155 10.08839221610.08839221620.05803891820.05803891930.04313874230.04313873440.0343020840.0343063350.0284895850.0284683560.0242187560.0243249170.02176339 70.02123260 80.01618305 80.01883699 90.0301958890.0169261710-0.05097941100.01536914110.017324710110.014

4、07133812-0.003290219120.01297664113-0.093374172130.01203986714-0.39544229140.0112229233152.0438787 150.010520499 16-10.156890160. 0098975041750.843276170.00933600718-254.16082180.008875522191270.8567190.008253968220-6354.2338 200.0087301587 注：上表前两列是由公式计算所得值，后两列是由以下的公式计算所得值。我们分析一下的特性： ； ； 由此可知公式计算的值是

5、不可应用的。那么怎样计算才能使结果可靠呢？由公式的递推公式及 可知，所以，取，显然误差是比较大的。建立以下递推公式： 由式重新计算到的值（上表的后两列）。可见尽管的初值取的比较粗糙，但计算到及时还是比较精确的。以下我们来分析两式的区别。由于计算机只能对有限位数进行计算，当取用式计算时，因为带有的误差会一直传下去。具体传播过程为，设为理论值；为实际计算值，则有= （2-1）尽管误差很小，但是却是很大的。而用式时，有 = （2-2）尽管误差很大，但是却是很小的。由以上两式知，一个是误差在积累，一个误差在缩小。我们称舍入误差积累的递推公式（比如）为不稳定的，而称舍入误差缩小（至少不增）的递推公式（比

6、如）为稳定的计算公式。§3。误差的基本概念3-1 误差与误差限定义1 设为精确值，为的一个近似值，称为近似值的绝对误差。（简称误差）。由于精确值是不知道的，所以误差是不可计算的。通常只能估计，常用来估计，我们称为误差限。3-2 相对误差与相对误差限定义2 称为的相对误差。（与同上）由于是不知道的，所以通常取作为的相对误差。这时产生的误差可忽略不计。同样，我们把其绝对值的上界称为相对误差限。记作 。3-3 有效数字我们知道，当精确值 有很多位数时，常按四舍五入的原则取其前几位数字作为其近似值。例： 若取,或取 ，则它们分别具有误差为 及。误差限分别为 及。由此我们给出以下定义，定义3。

7、若近似值的误差限是某一位的半个单位，该位到的左边第一位非零数字共有位，则称有位有效数字。由此知，以上的3.14和3.1416作为的近似值分别具有3位和5位有效数字。有位有效数字的近似数可以写成标准形式： （3-1）其中，是09中的数（），。且例如，用作为的近似值，可以写成=.且,作为的近似值,它有6位有效数字。例：以下数字都是经过四舍五入得到的数字，问它们各有几位有效数字？ ，有效数字与相对误差限的关系有以下定理，定理1。由（3-1）表示的近似数，若有位有效数字，则其相对误差限为 （3-2）反之，若的相对误差限 （3-3）则至少有位有效数字。 定理说明，有效位数越多，相对误差限越小。 例：为使

8、的近似数的相对误差限小于0.1，问查开方表时，要取几位有效数字？ 解：设查开方表时取位有效数字，那么由（3-2）式并注意到，所以取，因此要使的近似数的相对误差限小于0.1，只需取满足解得n=3。即取。 3-4 数值运算的误差估计数值运算的误差估计一般是很复杂的。通常我们利用Taylor展开的方法来估计误差，假设要计算的值，已知是的近似值。此时A的近似值为 ，那么作为A的近似值时的误差限 （3-4）而的相对误差限为 （3-5） 例：要计算，取。求 解： §4 数值运算中误差分析的若干原则 一个工程技术问题的解决往往要经过若干次运算，若每一步都要分析误差的话那当然是最好的，但这是不可能的

9、。为鉴别计算结果的可靠性，我们提出若干原则。1 要使用稳定的计算公式。2 要避免两相近数相减。出现这种情况时，最好对公式进行处理，（1）时，变换（2）时，变换（3）充分大时，变换3 防止大数“吃掉”小数 在计算机运算过程中，若两个数的数量级相差很大，那么数量级小的数往往被忽略。这就是所说的大数“吃掉”小数。 如：要计算53480+， 。就需要先计算之和，然后再加上53480。4 注意简化计算步骤，减少运算次数。5 绝对值较小的数不宜做分母。 第二章方程求根在许多实际问题中，常常会遇到方程f(x)=0求解的问题。当f(x)为一次多项式时，f(x)=0称为线性方程，否则称为非线性方程。对于非线性方

10、程，由于f(x)的多样性，求其根尚无一般的解析方法可以使用，因此研究非线性方程的数值解法是十分必要的。本章主要介绍求非线性方程根的一些常用方法。它们是增值寻根法、二分法、迭代法、牛顿法及割线法。这些方法均是知道根的初始近似值后，进一步把根精确化，直到达到所要求的 精度为止。也即求非线性方程根的数值方法。第一节   增值寻根法与二分法2.1.1 增值寻根法 设非线性方程f(x)=0的根为，增值寻根法的基本思想是，从初始值开始，按规定 的一个初始步长h来增值。令 =+h(n=0,1,2，)，同时计算f()。 在增值的计算过程中可能遇到三种情形： (1) f()=0，此时即为方

11、程的根。(2) f()和f()同符号。这说明区间, 内无根。(3) f()和f()异号，即有f()·f()0 此时当f(x)在区间, 上连续时，方程f(x)=0在, 一定有根。也即我们用增值寻根法找到了方程根的存在区间，或均可以视为根的近似值。下一步就是设法在该区间内寻找根 更精确的近似值，为此再用增值寻根法 把作为新的初始近似值，同时把步长缩小，例如选新步长，这 样会得到区间长度更小的有根区间，从而也得到使f(x)更接近于零的，作为更 精确的近似值，若精度不够，可重复使用增值寻根法，直到有根区间的长度-(为所要求的精度)为止。此时f()或f()就可近似认为是零。或就是满足精度的方程

12、的近似根（如图2-1）.21例1 用增值寻根法求方程f(x)=-10=0的有根区间。解 取=-4，h=1，则计算结果如下表2-1：表 2-1x-4-3-2-1012f(x)-10-1-2-7-10-514所以f(x)=0的有根区间为(1，2).再取=1，h=0.1，计算结果如表2-2： 表2-2x11.11.21.21.4f(x)-5-3.829-2.512-1.0430. 584 所以 f(x)=0 更进一步的有根区间为(1.3，1.4)2.1.2 二分法 设f(x)在区间a,b上连续，且f(a)·f(b)0，则由连续函数性质知，方程f(x)=0在(a ,b)内至少有一实

13、根，为以下讨论方便，设(a,b)内仅有唯一实根。二分法的基本思想： 就是逐步对分区间a,b，通过判断两端点函数值乘积的符号，进一步缩小有根区间，将有根区间的长度缩小到充分小，从而求出满足精度的根的近似值，如图。2-2 具体做法 如下：用区间a,b的中点平分区间，并计算f()，同时记(,)=(a,b)，如果恰好有f()=0，则我们已经找到方程的根= 。如若不然，f()0，如果f()·f()0，则记(,)=(, ),如果f()· f()0，则记(,)=(, )，在后两种情形区间(,)为新的有根区 间。它包含在旧的有根区间(,)内，其区间长度是原区间的一半。对区间(，)施行同样的

14、办法。即平分区间，求中点判断函数值乘积的符号，得到新的有根区间(,)，它包含在区间(,)内，其区间长度是(,)的，(,)的。如此重复n次，如果还没有找到方程的精确根，此时我们得到方程的有根区间序列：(,)，(,)，,()，它满足(,)(, ) ()f()f()<0-=,n=1,2,n-1当n充分大时，()的长度缩小到充分小，此时 它的中点与夹在与之间，它们的距离也充分小，且序列满足： 上式表明=(2)即 序列以等比数列的收敛速度收敛于。同时也表明序列是的一个 近似值序列。因此对任意给定的精度<0，总存在n，使此时,我们可以取作为的近似值，即可满足 精度。例2： 用二分法求方程f(x

15、)=0在1，2内的一个实根，且要求满足精度解：用二分法计算结果如表2-3：nf()11.02.01.52.37521.01.51.25-1.7968731.251.51.3750.1621141.251.3751.3125-0.8483951.31251.3751.34375-0.3509861.343751.3751.359375-0.0964171.3593751.3751. 3671875 0.0323681.3593751.36718751.36328125-0.0321591.363281251.36718751.3652343750.000072101.363281251.3652

16、343751.364257813-0.01605111.3642578131.3652343751.364746094-0.00799 迭代11次，近似根=1.364746094即为所求，其误差这种方法的优点是简单，对f(x)只要求连续。它的收敛速度与 比值为的等比级数相同，它的局限性是只能用于求实根，不能用于求 复根及偶数重根。迭代法的基本思想由函数方程f(x)=0，构造一个等价方程：x=(1)从某个近似根出发，令， n=0,1,2， (2)可得到序列，若收敛，即lim=只要连续，有也即从而可知是方程(1)的根，也就是f(x)=0的根。此时就是 方程(1)的一个近似解序列，n越大，

17、的近似程度就越好。若发散，则迭代 法失败。例1用迭代法求方程f(x)=-10=0在1,2 内的一个近似根，取初始近似值.表2-4 n(1)(2)(3)(4)01.51.51.51.51-0.8750.81651.286953771.3483997326.7322.99691.402540801.367376373-469.7(-8.651.345458381.3649570141.03 1.375170251.365264755  1.360094191.365225596  1.367846971.3652230587  

18、1.363887001.365229948  1.365916731.365230029  1.364878221.3652300110  1.36541006 15  1.36522368 20  1.36523024 23  1.36522998 25  1.36523001  解原方程的等价方 程可以有以下不同形式：(1)(2)(3)(4)对应的迭代公式有：(1) (2 ) (3) (4)

19、取，列表计算如表2-2。 与上节二分法比较，(3)、(4)都得到较好的结果 ，而用二分法达到同样的精度，需要迭代27次，同时也看出迭代函数构造不同，收敛速度也不尽相同，迭代函数构造不当(如(1)，(2)，序列就不收敛。 二、迭代法的几何意义以上可以看到迭代法可能收敛，也可能不收敛。一般来说从f(x)=0，构造不止一种，有的收敛，有的不收敛，这取决于的性态。方程x=的根，在几何上就是直线 y=x与曲线y=交点的横坐标,如图2-3所示。 （a） （b） （c） （d）图2-3中(1)、(2)收敛，(3)、(4)发散。 三、迭代法收敛的条件定义1 如果在根的某个邻域B=B，迭代过程，n=0,1,2，

20、收敛，则 称迭代过程在附近局部收敛。定理1 设=()，在的某个邻域B内连续，并且q<1，则对任何 B，由迭代公式决定的迭代序列收敛于。且 - (3)- (4)证：由拉格朗日中值定理，存在B，使由已知q,从而得-q- 所以这样我们就证明了收敛于。再由拉格朗日中值定理，存在，使=()所以qq (5) 又由于=()+() +()+所以(q+q+q+1)=令p+,有-也即- 这样(4)式得证。再由(5)得- 这样(3)式也得证。这个定理是一个很实用的收敛定理。一方面它可以判定我们所构造的迭代函数是否收敛。另一方面(3)式还可以估计迭代次数。但结果偏保守，次数也偏大，实际中很少用。通常由(4)式，

21、当<(为给定精度)时，认为-<就是满足精度的一个近似解了。定理2HTSS对于方程x=,如果满足(1)对任意x a,b，有a,b(2)对任意xa,b，有(x) q<1则对任意x a,b，迭代x=(x)所决定的序列x收敛于x=(x)的根x，且( 3)、(4)式也都成立。证明与定理1相仿，故略去。以上两定理中的条件要严格验证都较 困难，实用时常用以下不严格的标准。有根区间a,b较小，对某一xa,b, (x) 明显小于1，由(x)连续性知在的x某领域内(x)也小于1，则迭 代收敛。例2 考察例1中四种迭代法在根附近的收敛情况，取根的近 似 值为x=。解 (1) 17.75>1不

22、收敛(2) 5.128>1不收敛ZK (3) 0.656<1 收敛 (4) 0.122<1收敛)上例说明值越小，收敛速度就越快。四、迭代法的收敛速度用迭代法求方程的近似根，我们不仅要构造适当的要求它收敛，而且还需要知道它的收敛速度。关于收敛速度，有如下定义：定义2 设序列x收敛于，令=- x，若存在某实数p1 及正常数C，使 (6)则称序列x阶收敛。如果序列x是由=(x) 产生的，且p阶收敛，则称这种迭代过程是p阶收敛的。当p=1 ，且C <1时，称为线性收敛；当p=2时，称为平方收敛(或二次收敛)；当1<p<2时，称为超线性收敛。同前面一样，设, =(x)

23、 ,=()则有-=(- x) (在在与x之间)所以=因而=|(n)若0<<1,则迭代过程为线性收敛。若=0，由泰勒展开得(x)=()+设()0,则-=(x)-()=从而>0 (n)此时迭代过程为二阶收敛。定 理3 设在x=的根邻近有连续的p阶导数，当<1，且()0时，迭代过程=( x)为线性收敛；而当()=0， ()0时为二阶收敛。一般来说，若()=()=()=0，而()0，则称=(x)在附近为p阶收敛。第三节 迭代收敛的加速从f(x)=0构造出的迭代格式x=(x)可能收敛也可能不收敛，在收敛的情形，收敛速度也取决于(x)的大小，当(x)接 近于1时，收敛可能很慢。后两

24、种情形都影响迭代法的应用。能否从x=(x)出发构造出 新的迭代形式，使收敛速度加快呢?一、 松驰法对x=(x)引入一个任意常数作为参数,并假设-1，在方程两边加上x,得(1+)x=x+(x) 于是x=(x) (1)显然方程 (1)与方程x=(x) 等价，若令(x)=(x)，(1)可写成x=(x) (2)为了使得用x=(x)作迭代比用x=( x)作迭代收敛的更快，我们希望|(x)比(x)更小，又由于 (x)=(3)若(x)连续，则当x在根x*附近时， (x)也在(x*)附近，为此选取=-(x*)。这样可以使 得 |(x)较小。但在求解过程中x*未知，故用x来代替，只要-()-1，记，于是代入(1

25、)有松弛法迭代公式： x(n=0,1,2,) (4) 称为松弛因子。松弛法的加速效果是明显的，甚至不收敛的迭代函数经加速后一般也能获得收敛。二、埃特金方法用松弛法计算时，要先算(x)，在使用时有时不太方便，假若在求 得x以后，先求出和再利用和构造格式-由此得到埃特金（Altk en）公式：= =() -(n=0,1, 2，) (5)它的加速效果也十分明显。例1 分别用松弛法、 埃特金法求方程-10=0在初 值附近的一个根，取迭代格式解用松弛法计算，取因此松弛法的迭代公式为 n=0,1,2，列表计算如下：表2-3n01230.8908036860.8871231410.887130869

26、0;1.51.3649539161.3652300121.365230013 用埃特金方法计 算，迭代格式为 n=0,1,2，列表计算如下：表2-4n01230.8908036860.8871231410.887130869 1.51.3649539161.3652300121.365230013 与上节例1中(3)与(4)相比收敛 速度明显增加。第四节            牛顿法解非线性方程f(x)=0的牛顿(Newton) 法，就是将非线性方程线性化

27、的一种方法。它是解代数方程和超越方程的有效方法之 一。一、牛顿法的基本思想把非线性函数f(x)在处展开成 泰勒级数f(x)=f()+(x-)f()+(x-)+ 取其线性部分，作为非线性方程f(x)=0的近似方程，则有f()+(x-) f()=0设f()0，则其解为x=- (1)再把f(x)在x处展开为泰勒级数，取其线性部分为f(x)=0的近似方程，若f(x) 0，则得x=-如此继续下去，得到牛顿法的迭代公式：x=- (n=0,1,2,) (2)例1 用牛顿法求方程f(x)=x+4x-10=0在1,2内一个实根，取初始近似值x=1.5。 解 f(x)=3x+8x所以迭代公式为：x=- n=0,1

28、, 2，列表计算如下：n01231.51.37333331.365262011.36523001 二、牛顿法的几何意义方程f(x)=0的根就是曲线y=f(x)与x轴交点的横坐标x*，当初始近似值选取后，过(,f()作切线，其切线方程为：y- f()=f()(x-)它与x轴交点的横坐标为x=-一般地，设是x*的第n次近似值，过(,f()作y=f(x)的切线，其切线与x轴交点的横坐标为：x=-即用切线与x轴交点的横坐标近似代曲线与x轴交点的横坐标，如图2-4。2-4 牛顿法正因为有此明显的几何意义，所以也叫切线法。三、牛顿法的收敛性及收敛速度定理 设f(x)在a,b 满足(1) (1)&

29、#160;   f(a)·f(b)<0(2) f(x)a,b，f(x),f(x)均存在，且f(x)与f( x)的符号均保持不变。(3) f()·f(x)>0，、xa,b，则方程f(x)=0在a,b上有且只有一个实根，由牛顿法迭代公式计算得到的近似解序列收敛于方 程f(x)=0的根x*。由方程f(x)=0得到的牛顿迭代形式x=x-= =1- =由于f(x*)=0，所以当f(x*)0时，(x* )= 0，牛顿法至少是二阶收敛的，即牛顿法在单根附近至少是二阶收敛的，在重根附近是线性收敛的。牛顿法收敛很快，而且可求复根，缺点是对重根收敛较慢，要求函数

30、的一阶导数存在。 四、牛顿二阶导数法这里将简单介绍一下牛顿二阶导数法。对其几何意义及收敛性不作详细的叙述，读者可仿照牛顿法进行讨论，其基本思想是： 将f(x)在处展开泰勒级数f(x)=f()+f()(x-)+f()(x-)+取右端前三项近似代替f(x)，于是得f(x)=0的近似方程为f()+f()(x-)+f()(x-)=0也即f()+(x-)f()+f()(x-) =0 (3)设其解为.利用(1)，-=-，代入(3)中括号内-,则得f()+(-) f()+f() =0于是解出，得=-重复以上过程得：=-于是得牛顿二阶导数法的迭代公式为：=- n=0,1,2, (4)上式与牛顿法迭代

31、公式(2)相比，利用此公式求根收敛更快，迭代次数更少。其缺点是要求f(x)的二阶导数存在。第五节 割线法用牛顿方法解非 线性方程f(x)=0，虽然在单根附近有较高的收敛速度，但需要计算f(x)。若f(x)比较复杂时，每次计算f(x)带来很多不便；如果用不计算导数的迭代方法，往往只有线性收敛的速度。本节我们介绍割线法，采取在迭代过程中不仅用前一步处的函数值，而且还使用处的函数值来构造迭代函数。这样做能提高迭代的收敛速度。一 割线法的基本思想设非线性方程f(x)=0，其中f(x)为a,b上的连续函数，且f(a)·f(b)<0。设,为f(x)=0的根x*的两个初始近似值，过(,f()

32、和(,f()作一直线， 其方程为：y=f()+(x-)当 f()f()时，此直线与x轴交点为=-(-) (1) 作为f(x)=0根的第二次近似值，可以预期比, 更接近于x*。重复上述过程可得, ，, 从而可 得割线法的迭代公式： =-(-) (n=1,2,) (2)很明显，它也可由牛顿法用差商近似代替微商f()而 得。若把(2)中的换为,则得迭代公式=-(-) (n=1,2,) (3)显然，它也可由 牛顿法用差商近似代替微商f() 而得。以上两种迭代方法都称为割线法(或弦截法)。(2)称为双点割线法。也称为有记 忆割线法。(3)称为单点割线法。它们都需要x*邻近的两个初始近似值, 才能启动。

33、例1 例1      用双点割线法求方程x-3x+1=0在0.5附近的根。精确到小数点 后第六位。解：令f(x)= x-3x+1 =-(-) (n=1,2,) 即=-(-)(n=1,2, )取=0.5，=0.2列表计算如下：表2-6n123450.50.20.3563220.3477310.3472950.20.3563220.3477310.3472950.347296 二 割线法的几何意义双点割线法是用过点(,f()和(,f()两点的割线与x轴交点的横坐标x2作为x*的新近似值。重复此过程，用过点(，f()和(,f()两点的割线法

34、与x轴交点的横坐标来作为x*的下一新的近似值。如 图2-5。单点迭代法则是用过点(,f()和(,f()两点的割线与x轴交点的横坐标 来作为x*的近似值，如图2-6。 2-5 2-6三 割线法收敛的速度定理 设方程f(x)=0的根为x* 。若f(x)在x*附近有连续的二阶导数，f(x*)0，而初值, 充分接近x*， 则双点割线法的迭代过程收敛，收敛速度为-x*-x*这说明它是超线性收敛的(p=1.618>1)。而单点割线法在单根附近是线性收敛的。第三章 解线性方程组的直接法3.1引言与矩阵一些基础知识3.1.1引言线性方程组求解是科学计算中最常遇到的问题，如在应力分析、电路分析、分子结构、

35、测量学中都会遇到解线性方程组问题.在很多广泛应用的数学问题的数值方法中，如三次样条、最小二乘法、微分方程边值问题的差分法与有限元法也都涉及到求解线性方程组.本章讨论n个变量n个线性方程的方程组求解，其表达式为通常用向量矩阵表示，则上述方程可写成 (3.1.1)其中并记做，分别表示A为n×n阶实矩阵，x,b为n维实向量.根据线性代数知识可知A非奇异，即detA0，方程组(3.1.1)有唯一解，并可用Cramer法则将解用公式表示出来，但由于计算量太大，因此不能用于实际求解.本章要讨论的直接方法是将方程组(3.1.1)转化为三角方程组，再通过回代求三角方程组的解.理论上，直接法可在有限步

36、内求得方程的精确解，但由于数值运算有舍入误差，因此实际在计算机上求得的数值解仍是近似解，仍要对它进行误差分析.解线性方程组的另一类方法是迭代法，将在下一章讨论.下面给出本章和下章需要的一些矩阵基础知识.3.1.2矩阵特征值与谱半径定义1.1设，若存在一个数(实数或复数)和非零向量，使 (3.1.2)则称为A的特征值，x为A对应的特征向量，A的全体特征值称为A的谱，记作，即 (3.1.3)称为A的谱半径.由式(3.1.2)知，可使齐次方程 有非零解，故系数行列式det(I-A)=0，即 (3.1.4)称为特征多项式，方程(3.1.4)称为特征方程，在复数域中有n个根，故由行列式(3.1.4)展开

37、可知：于是，矩阵的n个特征值是它的特征方程(3.1.4)的n个根，A的迹trA有 (3.1.5) (3.1.6)此外，A的特征值和特征向量x还有如下性质：(1) 与A有相同的特征值及相同的特征向量x.(2) 若A非奇异，则的特征值为，特征向量为x.(3) 相似矩阵有相同特征多项式.例3.1求的特征值及谱半径.解A的特征方程为故A的特征值为.谱半径为.讲解：根据特征值定义（3.1.2）式知它等价于齐次方程有非零解，它的充分必要条件是系数行列式为零即 ，将行列式展开，由（3.1.4）看到它是 的n次多项式，记作称为特征多项式，将行列式对角元素相乘，即 它决定了中及的系数，因为行列式的展开式中其余各

38、项的次数均不超过，故，利用，有n个根（在复数域中，复根成对出现），故，可知，于是有 ，称为矩阵A的迹。另外行列式中令，则得 ，从而得到（3.1.6）3.1.3对称正定矩阵定义1.2设，如果，即，则称A为对称矩阵，若还满足对于，则称A为对称正定矩阵，如果对有，则称A为半正定矩阵.当A为对称时，A的特征值皆为实数，且有n个线性无关的特征向量.对称正定矩阵还有以下重要性质：(1) 对称正定，则WTHXA非奇异，且也对称正定；(2) A对称正定的充要条件是，A的所有特征值；(3) A对称正定，则A的对角元素；(4) A对称正定的充要条件是A的所有顺序主子式以上性质可直接由定义证明，证明略.讲解：对称正

39、定矩阵性质都可直接由定义证明为了更好理解，下面就性质（1）给出证明先证A非奇异，用反证法，假定A奇异，则，使 ，故与A正定的假定矛盾，故A非奇异，即存在。由于是，即对称，再证正定。对，令，于是，由A正定得，故 也正定。3.1.4 正交矩阵与初等矩阵定义1.3 若且，则称A为正交矩阵.由定义知，且与均为正交阵，且有.定义1.4 设.则为单位矩阵，称为(实)初等矩阵.显然，例如，则设，则若已知，选，使则当时，令 (3.1.7)则有 (3.1.8)此外，还有 (3.1.9)下面给出两个常用的初等矩阵.例3.2 初等排列矩阵.令则矩阵也称初等置换矩阵，它由单位矩阵I交换i行与j行得到，它有以下性质：(

40、1) ，故为正交矩阵.(2) .(3) 是将A的i,j行互换，是将A的i,j列互换.例3.3初等下三角矩阵.设,则记称为指标为j的初等下三角矩阵，即 (3.1.10)矩阵有以下性质：(1) .(2) .(3) ，为单位下三角矩阵.初等下三角矩阵也称为Gauss变换矩阵.讲解： 例3.2中给出的初等排列阵，其作用是实现矩阵A的i,j行互换及列互换，即表示A的i、j两行互换，而 ，表示A的i,j两列互换。例3.3 初等下三角阵，由（3.1.10）所表示的矩阵，在下节Gauss消去法中有应用，其逆矩阵，表示为3.2 Gauss消去法3.2.1顺序消去法Gauss消去法就是将方程组(3.1.1)通过(

41、n-1)步消元，将(3.1.1)转化为上三角方程组 (3.2.1)再回代求此方程组的解.下面记增广矩阵，即 第1步设，计算l，记为，若用乘第一行加到第i行，可消去,用Gauss变换矩阵表示令其中一般地，假定已完成了(k-1)步消元，即已将转化为以下形式：第k步，假定，计算 (3.2.2)记，则其中 (3.2.3).当k=1,2，,n-1则可得到，即方程组(3.2.1).直接回代解(3.2.1)得， (3.2.4)并且有，由以上顺序消去过程可得如下定理.定理2.1设非奇异，则通过两行互换总可使，k=1,2，,n-1.可将方程组(3.1.1)转化为(3.2.1)并求得方程组(3.1.1)的解为(3

42、.2.4)，且有.如果不做行交换，则使的条件如下.定理2.2非奇异，且各阶顺序主子式， 则，k=1,2，,n-1.证明用归纳法，当，故.现假设(k-1)成立，即，对i=1，2，,k-1已推出，故Gauss消去法能进行(k-1)步消元，A已约化为，即 故对k=1,2,n均成立，证毕.在整个消去法消元过程中，k从1到(n-1)共需乘除法运算次数为 加减法次数为回代过程中由公式(3.2.4)可知乘除法次数为，加减法次数为，于是Gauss消去法的乘除法总次数为，加减法次数为例3.4用Gauss消去法解方程组 并求detA.解消元得 再由(3.2.4)回代，得解讲解：Gauss 消去法是将方程组AXb,

43、通过消元转化为上三角方程组（3，2，1）求解，消元第一步做完后有 用矩阵表示第K1步完成后得到当，可做K步，得到得到，对应的方程组就是（3.2.1），利用公式（3.2.4）就可求得解。定理2.2给出了进行顺序消去法的条件，即A的所有顺序生子式，而方程（3.1.1）解存在唯一的条件是3.2.2 消去法与矩阵三角分解上述Gauss消去法的消元过程从矩阵变换角度看，就是进行了(n-1)次的Gauss变换，即 若令，则，则由，得其中L为单位下三角矩阵，U为上三角矩阵.定理2.3 设非奇异，且A的顺序主子式(i=1,2,n-1)，则存在唯一的单位下三角矩阵L和上三角矩阵U，使A=LU.证明 存在性已从上

44、面A的Gauss变换中得到，下面只证唯一性.假定A有两种不同的分解式，其中，为单位下三角矩阵，为上三角矩阵，因A非奇异，故，均非奇异，于是上式用左乘，用右乘，则得 因仍为上三角矩阵，则为上三角矩阵，而仍为单位下三角矩阵，故，且.由此可得=，=.证毕.将A分解为单位下三角矩阵L及上三角矩阵U的乘积A=LU，称为A的Doolittle(杜里特尔)分解.讲解： 从上面讨论的消元过程看到每消元一步就是用相应Gauss变换左乘矩阵A，因而有（上三角阵），即，其中为单位下三角，这就是A的三角分解。它说明只要能进行顺序Gauss消元就能将矩阵A分解为LU的乘积。定理2.3给出了LU分解的存在唯一性条件。3.

45、2.3 列主元消去法在顺序消元过程中，只要(k=1,2,，n-1)即可进行计算，但如果很小，则将导致舍入误差增长，使解的误差很大，见下例.例3.5 用Gauss消去法求解方程组解 因,，故方程有唯一解，且精确解为.若用Gauss消去法取四位有效数字计算，可得解，与比较，误差很大，若将两个方程互换为仍用Gauss消去法求解，则得，它有四位有效数字，即.这例子表明通过行交换可避免舍入误差增长，这就是列主元消去法的基本思想。其计算步骤是：第1步，在中的第1列选主元，即行为主元.若，将的第行与第1行互换，再按消元公式计算得到.假定上述过程已进行(k-1)步，得到.第k步，在中第k列选主元，若，则在中将

46、与k行互换(若=k则不动)，再按公式(3.2.2)、(3.2.3)求出.对k=1,2,，n-1，重复以上过程则得，如果某个k出现主元，则表明detA=0，方程没有唯一解或严重病态，否则可由(3.2.4)求得解.上述每步行交换后再消元相当于 (3.2.5)其中是指标为k的初等下三角矩阵，为初等排列矩阵，=k时，表示不换行，经过(n-1)步换行与消元，A化为上三角矩阵，即它也表明当A非奇异时，存在排列矩阵P(若干初等排列矩阵的乘积)，使PA=LU，其中L为单位下三角矩阵，其元素，U为上三角矩阵.例3.6用列主元消去法解Ax=b，其中 解：由回代公式(3.2.4)求得解此例的精确解为，可见结果精度较

47、高.若不选列主元Gauss消去法，求解得，误差较大.除列主元消去法外，还有一种消去法，是在A的所有元素中选主元，称为全主元消去法.因计算量较大且应用列主元已能满足实际要求，故不再讨论.目前很多数学软件库都有列主元消去法，可直接调用.讲解：为了减少计算的舍入误差，使用消去法通常都要选主元，目前最常用的是列主元消去法，也就是每步消元之前选主元，当 第一步选A中第1列的主元，即 ，然后将行与1行互换，再进行消元，以后每步消元做法类似，先选主元，再消元。3.3直接三角分解法3.3.1Doolittle分解法上节定理2.3已经证明当非奇异，且(i=1,2,n-1)，则A可做LU分解，即A=LU，其中L为

48、单位下三角矩阵，U为上三角矩阵.现在可直接通过矩阵乘法求得L及U的元素，于是解方程(3.1.1)就转化为求解 (3.3.1)若令Ux=y，则解方程(3.1.1)转化为求两个三角方程下面直接用矩阵乘法求U及L的元素，由直接得到 (3.3.3)若已求得U的(i-1)行及L的(i-1)列，则由矩阵乘法有 可得 (3.3.4)这就求得U的第i行元素，求L的第i列可由若，可得 (3.3.5)计算规律是先由(3.3.3)求U的第1行和L的第1列元素，再由(3.3.4)求U的第i行(i=2,3,n)元素，再由(3.3.5)计算L的第i列元素,求出L及U后再解方程(3.3.2)，其计算公式为 (3.3.6)

49、(3.3.7)例3.7用Doolittle分解法求方程的解.解先用公式(3.3.3)(3.3.5)求出,，于是 ，再由(3.3.6)求得的解 由(3.3.7)求得的解.讲解：直接利用矩阵乘法求ALU的L及U的元素，一般只要掌握矩阵乘法规则，对U中元素由上而下逐行计算，L元素由左向右逐列计算，总的次序是先算一行U的元素再算一列L 元素，按次序交替进行，完成分解后再解两个三角方程组（3.3.2），计算公式为（3.3.6）和（3.3.7）。3.3.2 Cholesky分解与平方根法当对称正定时，A的顺序主子式，故由定理2.3知，A=LU的分解存在且唯一，其中L为单位下三角矩阵，U为上三角矩阵，且.定

50、理3.1若对称，且A的顺序主子式，则A可唯一分解为，其中L为单位下三角矩阵，D为对角矩阵.证明由定理2.3可知A=LU，而，故 这里，为单位上三角矩阵.因.由A=LU的分解唯一性，得，于是有.证毕.定理3.2若对称正定，则存在唯一的对角元为正的下三角矩阵L，使A分解为 (3.3.8)这种分解称为Cholesky分解.证明由定理3.1可知,这里为单位下三角矩阵，.由于A的顺序主子式，因A正定，故，可推出.若记，于是有.若，则L为下三角矩阵，且对角元为正，故有，即为(3.3.8).证毕.利用Cholesky分解式(3.3.8)将求方程组(3.1.1)的解转化为求方程的解.令,则得 (3.3.9)根

51、据矩阵乘法，由，求L的元素得当i=j有 (3.3.10)当ij,得 (3.3.11)注意当j=1时有，对j=2，3，n由(3.3.10)，(3.3.11)逐列求得L的元素，这就是A的Cholesky分解，然后再解(3.3.9)的两个三角方程组，得 (3.3.12)及 (3.3.13)这就是对称正定方程组的平方根法.其工作量约为Doolittle分解法的一半.另外，由于 故有这表明分解过程中矩阵L中元素的数量级不增长，因此平方根法计算是数值稳定的.例3.8用平方根法求以下方程组的解. 解先验证系数矩阵A对称正定，对称显然，故A对称正定，可用Cholesky分解(3.3.10)，(3.3.11)计

52、算，求得 即，求解.由公式(3.3.12)得,再由的公式(3.3.13)求得Cholesky分解法要用到开方运算，为避免开方运算，可将A分解为(其中L为单位下三角矩阵)，再分别解方程组及或，这种方法称为改进平方根法，可作为练习自行推导.讲解：当A为对称正定矩阵时，可将A分解为，其中L为下三角阵，这种分解为Cholesky分解，它也是存在唯一的，求L的元素仍可直接用矩阵乘法，由公式（3.3.10）和（3.3.11）逐列求得L的元素，注意，当j1时得然后对j2，3.n逐列计算.由（3.3.10）可得及，所以这表明，平方根法得到的中间量是有界的，完全可以控制，舍入误差也同样可以控制，故计算过程是稳定

53、的。使用平方根法要计算开方，为避免开方可用改进平方根法，将A分解为，即 其中，由矩阵乘法，比较等式两边，按行计算L，T元素，对于i=2,3,n解方程组以下步骤进行：所以， 这就是改进平方根法。3.3三对角方程组的追赶法在许多科学计算问题中，常常所要求解的方程组为三对角方程组，即 (3.3.14)其中 (3.3.15)并满足条件 (3.3.16)称A为对角占优的三对角矩阵，对这种简单方程可通过对A的三角分解建立计算量更少的求解公式.现将A分解为下三角矩阵L及单位上三角矩阵U的乘积.即A=LU，其中 (3.3.17)直接用矩阵乘法公式可得到 于是有 (3.3.18)由此可见将A分解为L及U，只需计

54、算及两组数，然后解，计算公式为(3.3.19)再解Ux=y 则得(3.3.20)整个求解过程是先由(3.3.18)及(3.3.19)求,及，这时i=1,n是"追"的过程，再由(3.3.20)求出，这时i=n,1是往回"赶"，故求解方程组(3.3.14)的整个过程称为追赶法.它只用(5n-4)次乘除法运算，计算量只是,而通常方程组求解计算量为，另外，追赶法计算,是数值稳定的，因为在式(3.3.16)表示的条件下，可证明所以，追赶法是一种计算量少及数值稳定的好算法.讲解：注意追赶法满足条件（3.3.16）时，直接由（3.3.18）则可推出它表明 及 有界，因此即使不选主元，方法也是数值稳定的，并且，故方程组（3.3.14）解时存在唯一的。3.4 向量和矩阵范数3.4.1 内积与向量范数为了研究方程组Ax=b解的误差和迭代法收敛性，需对向量及矩阵的"大小"引进一种度量，就要定义范数，它是向量"长度"概念的直接推广，通常用表示n维实向量空间，表示n维复向量空间.定义4.1 设(或)，实数或复数，称为向量x与y的数量积也称内积.非负实数，称为向量x的欧氏范数或2-范数.定理4.1设 设(或)则内积有以下性质：(1) ，当且仅当x=0时等号成立；