∑

数学知识体系

Observatory Archive of Mathematics
⌕2026/8/31
概念

估计性质

无偏性(期望等于真值)、有效性(方差最小)、相合性(样本量增大收敛到真值)与充分统计量(不损失信息)。

所属主题:数理统计 ↗
阅读路径

参考可汗学院 Get ready 机制:先修概念 → 当前概念 → 进阶概念,✓ 表示已读。

当前概念

估计性质数理统计

01定义

评价估计量的四把尺:无偏性(期望等于真值)、有效性(方差达到下界)、相合性(样本增多收敛真值)、充分性(不丢信息)。Cramér-Rao 下界与 Rao-Blackwell 定理给出「更好估计」的构造法则。
无偏且有效:围绕靶心紧密 有偏:密集但偏离靶心 Var(θ̂) ≥ 1/(nI(θ)):Cramér-Rao 下界 Rao-Blackwell:对充分统计量取条件期望 ⇒ 方差只减不增
打靶类比:无偏性与有效性的二维评价

02核心要点

01

无偏与均方误差

无偏 E[θ^]=θE[\hat\theta]=\theta 不是唯一标准:MSE = 方差 + 偏差²,有偏的岭回归靠压方差赢全局——偏差-方差权衡的统计原型。

02

Fisher 信息与 CR 下界

I(θ)=E[(log⁡f)′2]I(\theta)=E[(\log f)'^2] 度量样本含参数的信息量;任何无偏估计方差 ≥1/(nI)\geq 1/(nI),等号可达时称有效估计(指数族中常见)。

03

充分与完备

充分统计量 TT 保住全部参数信息(条件分布与参数无关);因子分解定理给判据;Lehmann-Scheffé:完备充分统计量的无偏函数 = 唯一最优估计。

03关键公式

Var(θ^)≥1nI(θ),I(θ)=E ⁣[(∂∂θlog⁡f)2]\mathrm{Var}(\hat\theta)\geq\frac{1}{nI(\theta)},\quad I(\theta)=E\!\left[\Big(\frac{\partial}{\partial\theta}\log f\Big)^2\right]

04历史沿革

费希尔 1920 年代引入充分性与信息概念;克拉梅 1946 年与 Rao 1945 年独立证明下界定理;Blackwell 与 Lehmann-Scheffé 1947-50 年完成最优估计框架。

05应用与延伸

实验设计的效率比较、估计量的理论评审(新方法的发表门槛)、压缩感知的信息界限、联邦学习的通信效率分析。

06交互演示

无偏性:E[θ̂] = θ 吗?重复模拟:估计量分布在真值附近且均值 ≈ θ

07相关概念