《第三章 回归预测法》由会员分享，可在线阅读，更多相关《第三章 回归预测法（40页珍藏版）》请在文档大全上搜索。
1、第一节第一节 一元线性回归预测法一元线性回归预测法 第二节第二节 多元线性回归预测法多元线性回归预测法 第三节第三节 非线性回归预测法非线性回归预测法 第四节第四节 应用回归预测法应注意的问题应用回归预测法应注意的问题第一节第一节 一元线性回归预测法一元线性回归预测法 概概 念念是指成对的两个变量数据分布大体上呈直线是指成对的两个变量数据分布大体上呈直线趋势时，采用适当的计算方法，找到两者之趋势时，采用适当的计算方法，找到两者之间特定的经验公式，即一元线性回归模型，然间特定的经验公式，即一元线性回归模型，然后根据自变量的变化，来预测因变量发展变化后根据自变量的变化，来预测因变量发展变化的方法。
2、的方法。建立模型建立模型一一第一节第一节 一元线性回归预测法一元线性回归预测法 01iiiybb x 其中，、其中，、 是未知参数，是未知参数， 为剩余残差项或为剩余残差项或称随机扰动项。称随机扰动项。0b1bi估计参数估计参数二二第一节第一节 一元线性回归预测法一元线性回归预测法 用最小二乘法进行参数的估计时，要求用最小二乘法进行参数的估计时，要求 满足一定的假设条件：满足一定的假设条件： 是一个随机变量；是一个随机变量； 的均值为零；的均值为零； 的方差为常量；的方差为常量；iiii各个各个 相互独立；相互独立； i与自变量无关。与自变量无关。 i估计参数估计参数二二第一节第一节 一元线性
3、回归预测法一元线性回归预测法 12xxyybxx01byb x01iiiybb x估计参数估计参数举例举例二二第一节第一节 一元线性回归预测法一元线性回归预测法 估计参数估计参数举例举例二二第一节第一节 一元线性回归预测法一元线性回归预测法 y=430 335 520 490 470 210 195 270 400 480;x=30 21 35 42 37 20 8 17 35 25;x=ones(10,1) x;format longb,bint,r,rint,stats=regress(y,x);进行检验进行检验三三第一节第一节 一元线性回归预测法一元线性回归预测法 1.1.标准误差标准误
4、差估计值与因变量值间的平均平方误差。估计值与因变量值间的平均平方误差。22yySEnY=409 322 458 526 477 312 195 283 458 361se=sqrt(sum(y-Y).2)/(10-2)进行检验进行检验三三第一节第一节 一元线性回归预测法一元线性回归预测法 2.2.相关系数相关系数相关系数越接近相关系数越接近+1+1或或-1-1，因变量与自变量的拟，因变量与自变量的拟合程度就越好。合程度就越好。22xxyyrxxyy进行检验进行检验三三第一节第一节 一元线性回归预测法一元线性回归预测法 3.3.可决系数可决系数可决系数相关系数的平方。可决系数相关系数的平方。可决
5、系数：衡量自变量与因变量关系密切可决系数：衡量自变量与因变量关系密切程度的指标，表示自变量解释了因变量变动程度的指标，表示自变量解释了因变量变动的百分比。的百分比。2222221xxyyyyRyyxxyy 进行检验进行检验三三第一节第一节 一元线性回归预测法一元线性回归预测法 4.4.回归系数显著性检验回归系数显著性检验检验假设：检验假设： 01:0Hb 11:0Hb 其中，其中，2bSESxx检验规则：给定显著性水平检验规则：给定显著性水平 ，若，若 tt则回归系数显著。则回归系数显著。 检验统计量：检验统计量： 12bbtt nS进行检验进行检验三三第一节第一节 一元线性回归预测法一元线性
6、回归预测法 5. 5. F F检验检验 检验假设：检验假设： 0:H回归方程不显著回归方程不显著 1:H回归方程显著回归方程显著 检验统计量：检验统计量： 222yyFyyn1,2Fn检验规则：给定显著性水平检验规则：给定显著性水平 ，若，若 1,2FFn则回归方程显著。则回归方程显著。 进行检验进行检验三三第一节第一节 一元线性回归预测法一元线性回归预测法 6. 6. 德宾德宾沃森统计量沃森统计量检验检验 iu之间是否存在自相关关系。之间是否存在自相关关系。 21221niiiniiDW其中，其中， ，iiiyyD D- -W W 的取值域在的取值域在0404之间。之间。进行预测进行预测四四
7、第一节第一节 一元线性回归预测法一元线性回归预测法 1. 1. 点估计点估计只要将给定的自变量值代入所建立的一元线性只要将给定的自变量值代入所建立的一元线性 回归模型，便可得到因变量的一个对应的估计回归模型，便可得到因变量的一个对应的估计 值。值。xy74. 9117进行预测进行预测四四第一节第一节 一元线性回归预测法一元线性回归预测法 2. 2. 区间估计区间估计如果要估计的是因变量的平均水平，则所估计如果要估计的是因变量的平均水平，则所估计 的区间称为置信区间。的区间称为置信区间。22022)()(1xxxxnSESESEtySEzyi小样本：置信区间大样本：置信区间进行预测进行预测四四第
8、一节第一节 一元线性回归预测法一元线性回归预测法 2. 2. 区间估计区间估计如果要估计的是某个特定的因变量，则所估计如果要估计的是某个特定的因变量，则所估计 的区间称为预测区间。的区间称为预测区间。 22022)()(11xxxxnSESESEtySEzyiyyy小样本：置信区间大样本：置信区间第二节第二节 多元线性回归预测法多元线性回归预测法 概概 念念一元线性回归是一个主要影响因素作为一元线性回归是一个主要影响因素作为自自变量变量来解释因变量的变化。来解释因变量的变化。 在现实问题研究中，因变量的变化往往受在现实问题研究中，因变量的变化往往受几个重要因素的影响，此时就需要用两个或几个重要
9、因素的影响，此时就需要用两个或两个以上的影响因素作为自变量来解释因变两个以上的影响因素作为自变量来解释因变量的变化，这就是多元回归亦称多重回归。量的变化，这就是多元回归亦称多重回归。当多个自变量与当多个自变量与因变量因变量之间是之间是线性关系线性关系时，时，所进行的回归分析就是多元性回归。所进行的回归分析就是多元性回归。 建立模型建立模型一一第二节第二节 多元线性回归预测法多元线性回归预测法 回总目录回本章目录nixbxbbyikikii, 2 , 111001 122iiiiybb xb x二元线性回归模型二元线性回归模型估计参数估计参数二二第二节第二节 多元线性回归预测法多元线性回归预测法
10、 用最小二乘法进行参数估计用最小二乘法进行参数估计01 122iiiybb xb x估计参数估计参数二二第二节第二节 多元线性回归预测法多元线性回归预测法 回本章目录 二元回归模型二元回归模型1239.1948 9.06419.6074yxx 预测预测39.1948 9.0641*359.6074*8=433y（箱）拟合优度拟合优度三三第二节第二节 多元线性回归预测法多元线性回归预测法 1.1.标准误差标准误差估计值与因变量值间的平均平方误差。估计值与因变量值间的平均平方误差。23yySEn23yySEny=430 335 520 490 470 210 195 270 400 480;x1=
11、30 21 35 42 37 20 8 17 35 25;x2=12 10 22 6 8 2 9 8 6 17;x=ones(10,1) (x1) (x2);format longb,bint,r,rint,stats=regress(y,x);for i=1:10; z(i)=b(1)+b(2).*x1(i)+b(3).*x2(i);endz;se=sqrt(sum(y-z).2)/(10-3)拟合优度拟合优度三三第二节第二节 多元线性回归预测法多元线性回归预测法 2.2.可决系数可决系数可决系数是相关系数的平方。可决系数是相关系数的平方。可决系数：衡量自变量与因变量关系密切可决系数：衡量自
12、变量与因变量关系密切程度的指标，表示自变量解释了因变量变动程度的指标，表示自变量解释了因变量变动的百分比。的百分比。2222221xxyyyyRyyxxyy 2222221xxyyyyRyyxxyy y=430 335 520 490 470 210 195 270 400 480;x1=30 21 35 42 37 20 8 17 35 25;x2=12 10 22 6 8 2 9 8 6 17;x=ones(10,1) (x1) (x2);format longb,bint,r,rint,stats=regress(y,x);for i=1:10; z(i)=b(1)+b(2).*x1(i
13、)+b(3).*x2(i);Endz;se=sqrt(sum(y-z).2)/(10-3);R=1-(sum(y-z).2)/(sum(y-mean(y).2)自相关和多重共线性问题自相关和多重共线性问题四四第二节第二节 多元线性回归预测法多元线性回归预测法 1. 1. 自相关检验自相关检验检验检验 iu之间是否存在自相关关系。之间是否存在自相关关系。 21221niiiniiDW其中，其中， ，iiiyyD D- -W W 的取值域在的取值域在0404之间。之间。自相关和多重共线性问题自相关和多重共线性问题四四第二节第二节 多元线性回归预测法多元线性回归预测法 21221niiiniiDWf
14、or i=1:10 u(i)=y(i)-z(i);endu;for i=2:10 D=sum(u(i)-u(i-1)2);endfor i=1:10 W=sum(u(i)2);endD/W自相关和多重共线性问题自相关和多重共线性问题四四第二节第二节 多元线性回归预测法多元线性回归预测法 2. 2. 多重共线性检验多重共线性检验22xxyyrxxyycorrcoef(x1,x2);进行预测进行预测五五第二节第二节 多元线性回归预测法多元线性回归预测法 1. 1. 点估计点估计只要将给定的自变量值代入所建立的多元线性只要将给定的自变量值代入所建立的多元线性 回归模型，便可得到因变量的一个对应的估计
15、回归模型，便可得到因变量的一个对应的估计 值。值。1239.1948 9.06419.6074yxx39.1948 9.0641*359.6074*8=433y（箱）进行预测进行预测五五第二节第二节 多元线性回归预测法多元线性回归预测法 2. 2. 区间估计区间估计如果要估计的是因变量的平均水平，则所估计如果要估计的是因变量的平均水平，则所估计 的区间称为置信区间。的区间称为置信区间。22SEtySEzy小样本：置信区间大样本：置信区间进行预测进行预测五五第二节第二节 多元线性回归预测法多元线性回归预测法 2. 2. 区间估计区间估计如果要估计的是某个特定的因变量，则所估计如果要估计的是某个特
16、定的因变量，则所估计 的区间称为预测区间。的区间称为预测区间。 yySEtySEzy22小样本：置信区间大样本：置信区间计算机在多元回归分析中的应用计算机在多元回归分析中的应用六六第二节第二节 多元线性回归预测法多元线性回归预测法 15.815.865.265.230.930.948.948.91616656530.930.946.746.715.915.965.165.130.430.445.845.815.915.965.465.430.530.545.145.116.516.565.265.232.932.944.544.516.716.766.366.338.638.645.145.1
17、17.517.564.964.939.539.545.545.517.717.7656540.140.145.845.817.817.864.364.340.640.646.146.117.317.364.364.342.442.447.447.417.117.164.964.951.251.245.845.8171764.964.9515147.847.817.217.264.1564.1552.6552.6549.449.4选配曲线问题选配曲线问题一一第三节第三节 非线性回归预测法非线性回归预测法 1.1.确定变量间函数的类型确定变量间函数的类型变量间函数关系的类型有的可根据理论或过变量间
18、函数关系的类型有的可根据理论或过去积累的经验事前予以确定；不能根据理论或去积累的经验事前予以确定；不能根据理论或过去积累的经验确定时，根据实际资料作散点过去积累的经验确定时，根据实际资料作散点图，从其分布形状选择适当的曲线来配合。图，从其分布形状选择适当的曲线来配合。选配曲线问题选配曲线问题一一第三节第三节 非线性回归预测法非线性回归预测法 2.2.确定相关函数中的未知参数确定相关函数中的未知参数最小二乘法是确定未知参数最常用的方法。最小二乘法是确定未知参数最常用的方法。常见的非线性回归常见的非线性回归二二第三节第三节 非线性回归预测法非线性回归预测法 1.1.抛物线函数抛物线函数预测在不同广
19、告费用下的牙膏销售量。预测在不同广告费用下的牙膏销售量。 2yabxcx广告费广告费( (百万百万) )：x=5.5 6.75 7.25 5.5 7 6.5 6.75 5.25 5.25 6x=5.5 6.75 7.25 5.5 7 6.5 6.75 5.25 5.25 6 6.5 6.25 6.5 6.25 7 6.9 6.8 6.8 7.1 7 6.8 6.5 6.25 6 6.5 7 6.8 6.8 6.5 5.75 5.8 6.87 6.9 6.8 6.8 7.1 7 6.8 6.5 6.25 6 6.5 7 6.8 6.8 6.5 5.75 5.8 6.8销售量销售量( (百万百万)
20、 )：y=7.38 8.51 9.52 7.5 9.33 8.28 8.75 7.87 7.1 8 7.89y=7.38 8.51 9.52 7.5 9.33 8.28 8.75 7.87 7.1 8 7.898.15 9.1 8.86 8.9 8.87 9.26 9 8.75 7.95 7.65 7.27 8 8.5 8.75 9.21 8.15 9.1 8.86 8.9 8.87 9.26 9 8.75 7.95 7.65 7.27 8 8.5 8.75 9.21 8.27 7.67 7.93 9.268.27 7.67 7.93 9.26参数估计：参数估计：polyfit(x,y,2)p
21、olyfit(x,y,2)常见的非线性回归常见的非线性回归二二第三节第三节 非线性回归预测法非线性回归预测法 2.2.对数函数对数函数预测在不同投资额下的牙膏利润。预测在不同投资额下的牙膏利润。 投资额：投资额：x=3.9 5.3 7.2 9.6 12.9 17.1 23.2 31.4 38.6 50.2 62.9 76x=3.9 5.3 7.2 9.6 12.9 17.1 23.2 31.4 38.6 50.2 62.9 76利润：利润：y=1790 1800 1810 1820 1830 1840 1850 1860 1870 1880 1890 y=1790 1800 1810 1820
22、 1830 1840 1850 1860 1870 1880 1890 19001900参数估计：参数估计：polyfit(log(x),y,1)polyfit(log(x),y,1)lgyabx常见的非线性回归常见的非线性回归二二第三节第三节 非线性回归预测法非线性回归预测法 3.3.幂函数幂函数例例3-33-3 销售额：销售额：x=1.5 4.5 7.5 10.5 13.5 16.5 19.5 22.5 25.5x=1.5 4.5 7.5 10.5 13.5 16.5 19.5 22.5 25.5流通费率：流通费率：y=7 4.8 3.6 3.1 2.7 2.5 2.4 2.3 2.2y=
23、7 4.8 3.6 3.1 2.7 2.5 2.4 2.3 2.2参数估计：参数估计：polyfit(x).(-1),y,1)polyfit(x).(-1),y,1)cyabx常见的非线性回归常见的非线性回归二二第三节第三节 非线性回归预测法非线性回归预测法 4.4.指数函数指数函数人口增长人口增长 年份：年份：y=y=1790:10:19001790:10:1900人口：人口：p=3.9 5.3 7.2 9.6 12.9 17.1 23.2 31.4 38.6 50.2 62.9 76p=3.9 5.3 7.2 9.6 12.9 17.1 23.2 31.4 38.6 50.2 62.9 76参数估计：参数估计： polyfit(t,log(y),1)polyfit(t,log(y),1)bxyae常见的非线性回归常见的非线性回归二二第三节第三节 非线性回归预测法非线性回归预测法 5.5.S S型函数型函数1xyabe第四节第四节 应用回归预测法应注意的问题应用回归预测法应注意的问题1.1.用定性分析判断现象之间的依存关系；用定性分析判断现象之间的依存关系；2.2.避免回归预测的任意外推；避免回归预测的任意外推； 3.3.应用合适的数据资料。应用合适的数据资料。
