估计性质
无偏性(期望等于真值)、有效性(方差最小)、相合性(样本量增大收敛到真值)与充分统计量(不损失信息)。
所属主题:数理统计 ↗阅读路径
参考可汗学院 Get ready 机制:先修概念 → 当前概念 → 进阶概念,✓ 表示已读。
01定义
评价估计量的四把尺:无偏性(期望等于真值)、有效性(方差达到下界)、相合性(样本增多收敛真值)、充分性(不丢信息)。Cramér-Rao 下界与 Rao-Blackwell 定理给出「更好估计」的构造法则。
02核心要点
01
无偏与均方误差
无偏 不是唯一标准:MSE = 方差 + 偏差²,有偏的岭回归靠压方差赢全局——偏差-方差权衡的统计原型。
02
Fisher 信息与 CR 下界
度量样本含参数的信息量;任何无偏估计方差 ,等号可达时称有效估计(指数族中常见)。
03
充分与完备
充分统计量 保住全部参数信息(条件分布与参数无关);因子分解定理给判据;Lehmann-Scheffé:完备充分统计量的无偏函数 = 唯一最优估计。
03关键公式
04历史沿革
费希尔 1920 年代引入充分性与信息概念;克拉梅 1946 年与 Rao 1945 年独立证明下界定理;Blackwell 与 Lehmann-Scheffé 1947-50 年完成最优估计框架。
05应用与延伸
实验设计的效率比较、估计量的理论评审(新方法的发表门槛)、压缩感知的信息界限、联邦学习的通信效率分析。
06交互演示
无偏性:E[θ̂] = θ 吗?重复模拟:估计量分布在真值附近且均值 ≈ θ