数值分析 第三章 数据拟合 (1)

《数值分析 第三章 数据拟合 (1)》由会员分享，可在线阅读，更多相关《数值分析 第三章 数据拟合 (1)（47页珍藏版）》请在文档大全上搜索。

1、5101520-100100200300400500数值分析数值分析Numerical Analysis第三章数据拟合方法 Data fitting郑州大学研究生课程郑州大学研究生课程 （2015-20162015-2016学年第一学期）学年第一学期） 2/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis第三章 数据拟合方法 3.1 问题提出 3.2 最小二乘法的基本概念3.3 线性拟合方法 3.4 非线性曲线的数据拟合 3/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis3.1 问题提出离散数据点插值

2、：插值函数 精确通过每一个数据点。 ( )P x4/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis两类实际情况: 离散数据点提出来自试验，具有测量误差，要求插 值函数通过所有数据点反而会保留测量误差的影响。 某些情况下, 只需要找出反映变量变化关系的经验函 数，而非精确通过关键点的外形控制函数。3.1 问题提出5/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis 例3.1.16/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis 已知一组数据(xi, yi)

3、, ，i = 1,2, m。yi = f(xi), 构造插值函数(x) 来逼近 f(x), 则有 (xi) = f(xi) = yi, i = 1,2, m或记 Q =(x1) , (x2) ,(xm) ), Y = (y1, y2,ym), 则有 Q = Y. 如果数据不能同时满足某个特定函数，而要求所求的近似函数“最优地”靠近数据点，即向量Q与Y 的误差的某度量最小。按 Q与Y的误差最小原则作为最优标准所构造出的函数，我们称为拟合函数。3.1 问题提出7/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis 定义Q与Y 之间的度量：其中，R 称为均

4、方误差。 最小二乘法：按均方误差达到极小构造拟合曲线的方法。 111122221 ();();().maxmiiiiii mmiiiRQYxyRQYxyRRQYxy 3.1 问题提出o均方误差 mean squared error，均均方误差是各数据偏离真实值的距离平方的方误差是各数据偏离真实值的距离平方的平均数，也即误差平方和的平均数。平均数，也即误差平方和的平均数。8/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis3.2 最小二乘法的基本概念 构造拟合曲线的两个问题：Q: 从哪一类函数族里面选择拟合曲线的形式？A: 根据问题的实际背景，选择逼

5、近 f ( x )的函数族。 2122123112341 1221212,sincos( )( )( )( ,)(,)a xnnnnyaa xyaa xa xya eyaa xaa xyaxaxaxyx a aaa aa其中为待定参数9/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis数据拟合的模型数据拟合的模型 (x)=a1 1(x) + +an n(x)例如例如: 1(x) , , n(x)=1, x, , xn-1 1(x) , , n(x)=1, cos x, , cos (n-1)x3.2 最小二乘法的基本概念10/41 郑州大学研究生2

6、015-2016学年课程 数值分析 Numerical Analysis Q：如何确定参数a1,a2,an以确定一条拟合曲线呢？A: 按照在数据点处均方误差最小的原则。11211111 (,) ,(,)( ,)(,),(,),kknnmmnnkkkkknkkkxyaaQ aaQ aarx aayrx aay2记误差称为数据点的拟合误差，而其平方和应选择（拟合参数），使得函数的值最小。这种用求解误差函数最小值问题来确定拟合参数的方法称为数据拟合的最小二乘法3.2 最小二乘法的基本概念11/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis 1111 1

7、2122221(,) = ( )( )( )( )( )()()(nmkkkkknnnnnQ aayxxyaxaxaxaxaxxax2设拟合函数类是，其中， ，称为拟合基函数。定义误差函数，3.2 最小二乘法的基本概念12/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis 11 12 220,(1,2,( )( )( )( ), .mkkkkkkin niQyaiaxaxaxxn求其最小值，我们用求驻点的方法可得 ） 最小二乘法归结为 求n个未知数的线性代数方程组。3.2 最小二乘法的基本概念13/41 郑州大学研究生2015-2016学年课程 数

8、值分析 Numerical Analysis 11111,(1,2,)(),()()(),()()()nmmkkjkkjkkmijn nijkkkmkkkijiijiaiGggxxyxnxxyx i n 1i其中记则系，F=( F ) , 其中数矩阵G 是F对称的。最小二乘法的正规/法方程组 （其解为驻点）3.2 最小二乘法的基本概念14/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis引进矩阵和向量记号 112111222212111222()()()()()()()()(),nnmmnmmnnxxxxxxAxxxyaryarbXryarrAXb

9、 而有 3.2 最小二乘法的基本概念15/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis 22222100(,),mTkkrrr rAXb AXbXXAXb 则最小二乘问题是： 求向量使得 在达到最小。3.2 最小二乘法的基本概念16/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis 以上正规方程组是否存在唯一解? 正规方程组的解是最小二乘问题的驻点，此驻点是否就是最小二乘问题的解呢？ TTA AXA bGXF同时，正规方程组可写成也可以记为 3.2 最小二乘法的基本概念17/41 郑州大学研究生20

10、15-2016学年课程 数值分析 Numerical Analysis 13.2.1(),() ,1,2,TjjjmTTAnxxjnA AXA b 定理若 的 个列向量是线性无关的，则正规方程组 有唯一解。可以证明,此解是最小二乘问题的解.3.2 最小二乘法的基本概念18/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis定理3.2.23.2 最小二乘法的基本概念19/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis 3.3 线性数据拟合方法 已知数据表已知数据表 x x1 x2 xmf(x) y1 y2

11、 ym求拟合函数求拟合函数: (x) = a + b xa + b x1 = y1a + b x2 = y2a + b xm = ym mmyyybaxxx2121111超定方程组超定方程组AXb20/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis 2-范数平方范数平方2221|()mkkkrabxy 残差残差: rk= (a + bxk) yk ( k = 1,2,m)3.3 线性数据拟合方法 21/41 郑州大学研究生2015-2016学年课程 数值分析 Numerical Analysis mkkkybxarbaS1222)(|),(0aS