无偏估计与样本方差的完整解析

封面为《怀仁集圣教序》台北故宫博物院藏本

一、基础定义铺垫

在统计学中，期望（数学期望）是随机变量所有可能取值的加权平均值，反映其中心趋势，是参数估计的基础工具。协方差则用于衡量两个随机变量变化方向的关联程度。对于随机变量 X 和 Y，其协方差定义为：

当两个变量相同时，协方差即转化为方差，用于度量单个随机变量的离散程度：

在实际问题中，总体参数通常未知，需通过样本构造估计量进行推断。若估计量的期望等于被估计参数的真值，即，则称该估计量为无偏估计。无偏性意味着在多次重复抽样中，估计值的平均值可收敛至真实参数，避免系统性偏差。

二、从协方差定义推导方差的二阶矩表达式

方差的二阶矩表达式

推导过程如下

从协方差视角出发，方差是协方差的特例，即

代入协方差定义：

展开平方项：

因此：

三、样本无偏方差的完整推导

当总体均值未知时，需用样本均值进行代替，此时直接使用公式

计算方差会导致估计偏小，因其未考虑本身由样本计算引入的波动性。为构造无偏估计量，需分析偏差平方和的期望。

推导核心步骤如下

代入二阶矩表达式：

可得：

显然为使期望等于，需除以

说人话就是，我们能够推出偏差平方和的期望除以是，但是我们只能算出一个偏差平方和，因此就用这个偏差平方和去除 以的结果的期望（注意语序）就是