特别推荐丨老姚专栏:教科书没有讲的矩估计性质
一、矩估计的基本原理
简单来说,矩估计就是用样本均值来估计总体均值,用样本方差来估计总体方差,用样本协方差来估计总体协方差。例如,假设
总体方差为
总体协方差为
矩估计背后的统计思想是大数定理——当样本容量趋于无穷大时,样本均值趋近于总体均值(亦即变量的期望值)。
二、矩估计的“神奇”性质
矩估计还存在一个神奇之处,那就是对应于每一个总体矩公式,都相应存在一个样本矩公式。例如,对于总体矩,我们应该熟悉下列公式:
很容易验证,存在一组与上述公式相对应的样本矩公式:
若约去
公式(1c)、(2c)与(3c)在初级计量经济学中经常被应用。如果了解
这里,与a是b常数,上标
笔者在此提醒小伙伴们要意识到,矩估计的“神奇”之处恰恰体现了矩估计作为一种估计方法的合理性。想一想我们就会明白:如果总体矩具有某些性质,但样本矩却没有相应的性质,那么样本矩绝不可能是对总体矩的良好估计。
三、推广到不等式
前面介绍的都是一些等式。其实,如果总体矩满足一些不等式,那么样本矩也存在相应的不等式。例如,总体矩满足:
上述不等式被称为Jensen不等式。(不妨简单验证一下:对于
Jensen不等式也有“样本版”。如果小伙伴们对微积分比较熟悉,那么一定还记得如下不等式:
上述两个不等式的几何图示非常直观(见图1与图2)。很明显,它们就是Jensen不等式的非随机版本。
为什么在这里要讨论一下推广呢?我们是想借此引出Jensen不等式的一个应用。可以证明,对总体方差的矩估计并不是一个无偏估计,而要获得一个无偏估计,必须进行所谓的自由度调整,下文(“应用”)将证明,总体方差的无偏估计为
由于
四、应用
假设
简证:定义为任意常数,首先可以证明下式成立:
简证:定义为
在这里,我们实际上可以快速写出上述等式,因为存在相应的总体矩公式
接下来可令
因此有:
故得证:
文章附注:
►往期推荐
回复【Python】👉简单有用易上手
回复【学术前沿】👉机器学习丨大数据
回复【数据资源】👉公开数据
回复【可视化】👉你心心念念的数据呈现
回复【老姚专栏】👉老姚趣谈值得一看
►一周热文
特别推荐 | “正则表达式”在工业企业数据库匹配中的运用(二)
数据Seminar
这里是大数据、分析技术与学术研究的三叉路口
推荐:杨奇明编辑:青酱
欢迎扫描👇二维码添加关注