一,什么是最小二乘估计least-squareestimation

　　例:y=ax+(

　　其中:y,x可测;(—不可测的干扰项;

　　a—未知参数.通过N次实验,得到测量数据yk和

　　xkk=1,2,3…,确定未知参数a称"参数估计".使准则J为最小:

　　令:(J((a=0,导出a=

　　称为"最小二乘估计",即残差平方总和为最小的估计,Gauss于1792晏岢?

　　二,多元线性回归

　　线性模型y=a0+a1x1+(+anxn+(式(2-1-1)

　　引入参数向量:(=[a0,a1,(an]T(n+1)(1

　　进行N次试验,得出N个方程:

　　yk=(kT(+(k;k=1,2…,N式(2-1-2)

　　其中:(k=[1,x1,x2,(,xN]T(n+1)(1

　　方程组可用矩阵表示为

　　y=((+(式(2-1-3)

　　其中:y=[y1,y2,...,yN]T(N(1)

　　(=[(1,(2,...,(N]T(N1)

　　N(n+1)

　　估计准则:

　　有:

　　=(y—(()T(y—(()

　　(1(N)(N(1)

　　J=yTy+(T(T((-yT((-(T(Ty

　　=yTy+(T(T((-2(T(Ty式(2-1-4)

　　假设:((T()(n+1)(n+1)满秩,由

　　利用线性代数的以下两个矩阵对向量求偏导数的公式:

　　和

　　有:和

　　所以:

　　解出参数估计向量:(Ls=((T()-1(Ty式(2-1-5)

　　令:P=((T()-1则参数估计向量(Ls=P(Ty

　　参数估计向量(Ls被视为以下"正则方程"的解:

　　((T()(=(Ty式(2-1-6)

　　注:为了便于区别,我们用红体字符表示估计量或计算值,而用黑体表示为参数真值或实际测量值.

　　三,关于参数最小二乘估计Ls性质的讨论

　　以上求解参数最小二乘估计(Ls时并为对{(k}的统计特性做任何规定,这是最小二乘估计的优点.当{(k}为平稳零均值白噪声时,则(Ls有如下良好的估计性质:

　　参数最小二乘估计(Ls是y的线性估计

　　(Ls=P(Ty是y的线性表出;

　　b)参数最小二乘估计(Ls是无偏估计,即E(Ls=((参数真值)

　　[证明]:E(Ls=E[P(Ty]=P(TE(y)=P(TE(((+()=

　　P(T((+E(()=(+0=(

　　最小二乘估计(Ls的估计误差协方差阵是(2P(n+1)(n+1)

　　即:E[((Ls-()((Ls-()T]=(2P

　　[证明]:E[((Ls-()((Ls-()T]=E[P(T(y-

　　(()(y-(()T(P]=E[P(T((T(P]=P(TE(((T)(P=

　　P(T(2IN(N(P=(2P

　　若{(k}为正态分布零均值白噪声时,则(Ls是线性无偏最小方差估计(证明从略).如若{(k}是有色噪声,则(Ls不具有上述性质,即为有偏估计.

　　四,最小二乘估计(Ls的的几何意义和计算问题

　　1.最小二乘估计的几何意义

　　最小二乘估计的模型输出值为yk=(kT(Lsk=1,2,…N

　　输出实际测量值与模型输出值之差叫残差:(k=yk–yk

　　模型输出向量为y=((Ls,而残差向量为:

　　(=y–y=y–((Ls

　　(T(k=(Ty–(T(((T()-1(Ty=(Ty–(Ty=0

　　即残差向量(与由测量数据矩阵(的各个向量:(1,(2,…,(N张成的超平面(估计空间)正交,而最小二乘模型输出向量y为实际输出向量y在估计空间上的正交投影,这就是最小二乘估计的几何意义.

　　---------------------------------------------

　　最小二乘法是一种数学优化技术,它通过最小化误差的平方和找到一组数据的最佳函数匹配.

　　最小二乘法是用最简的方法求得一些绝对不可知的真值,而令误差平方之和为最小.

　　最小二乘法通常用于曲线拟合.很多其他的优化问题也可通过最小化能量或最大化熵用最小二乘形式表达.

　　比如从最简单的一次函数y=kx+b讲起

　　已知坐标轴上有些点(1.1,2.0),(2.1,3.2),(3,4.0),(4,6),(5.1,6.0),求经过这些点的图象的一次函数关系式.

　　当然这条直线不可能经过每一个点,我们只要做到5个点到这条直线的距离的平方和最小即可,这就需要用到最小二乘法的思想.然后就用线性拟合来求.