有偏估计(biased estimate)和无偏估计(unbiased estimate)本质上的区别是两种估计方法。
首先有偏估计和无偏估计的区别和产生原因是什么呢,原因在于样本的数量。
定义:
有偏估计是指由样本值求得的估计值与待估参数的真值之间有系统误差,其期望值不是待估参数的真值。在统计学中,估计量的偏差(或偏差函数)是此估计量的期望值与估计参数的真值之差。偏差为零的估计量或决策规则称为无偏的。否则该估计量是有偏的。在统计学中,“偏差”是一个函数的客观陈述。
无偏估计是用样本统计量来估计总体参数时的一种无偏推断。估计量的数学期望等于被估计参数的真实值,则称此此估计量为被估计参数的无偏估计,即具有无偏性,是一种用于评价估计量优良性的准则。无偏估计的意义是:在多次重复下,它们的平均数接近所估计的参数真值。无偏估计常被应用于测验分数统计中。
其实简单看来就是对一种分布的有限的采样无法完全代替一种分布,下面通过一个例子来看看。
于此同时我们也可以试着证明一下方差的无偏估计[3]
建议看看[5], 我也不能完全理解,大概是说明了三种衡量估计的性质,无偏性,有效性和一致性。这个人写的关于数学的都还真不错。数学真是万物的基础啊哈哈哈哈,感慨一下。
在我的理解就是,无偏估计的参数看起来可能更符合我们所求的分布,但可能在工程中却并不实用。可能最主要的区别还是有效性上。我根据上面文章[5]中的打靶举例子,他举的可能不够清楚。
拿这张图来说,左右两张图虽然方差和均值都差不多,有效性却完全不同。右边的有效性要明显高于左边。但却其实都是针对中心靶点目标的采样。如果都进行无偏估计,得到的样本分布都应该是中心靶点。这个时候,对于右边的图采用有偏估计效果会更好,更能反应这些点的分布。
[1] https://blog.csdn.net/weixin_31866177/article/details/89003517
[2] https://spaces.ac.cn/archives/6747
[3] https://www.jianshu.com/p/01b4c9d652ff
[4] https://www.cnblogs.com/jiading/articles/12899384.html
[5] https://www.zhihu.com/question/22983179