推定量 - izudon/izudon.github.io GitHub Wiki
推定量の性質
1. 不遍性(不偏推定量)
推定量の期待値が常に真の母数と等しいこと。
$$ E(\hat{\theta})=\theta $$
- 標本平均はつねに母平均の不偏推定量である。
- $X_1 \leftarrow$ これでも母平均の不偏推定量になってしまうため、ほかの基準も必要。
2. 一致性(一致推定量)
$n \rightarrow \infty$ のとき、推定量が真の母数になる・・・正確には、
$n \rightarrow \infty$ により、推定量が真の母数に近い確率をいくらでも高くできる。$$ \lim_{n \to \infty} P( | \hat{\theta}( X_1, X_2, ... , X_n ) - \theta | > \epsilon ) = 0 $$
3. 漸近正規性(漸近正規推定量)
$n \rightarrow \infty$ における推定量の確率分布が正規分布となること。
- 中心極限定理により漸近分布は正規分布であることが多い。
- 最尤法で求められる推定量のほとんどは漸近正規推定量。
4. 有効性(有効推定量|最小分散不偏推定量)
不偏で一致の推定量が複数ある時、より分散の小さい推定量のこと。
- いかなる不偏推定量よりも分散が小さい推定量がある場合、それを、
有効推定量(efficient estimator)あるいは、
最小分散不偏推定量(minimum variance unbiased estimator)とよぶ。
4’. 漸近有効性(漸近有効推定量)
漸近正規性を持つ推定量のなかで、漸近分散が最小となること。
- 有効性を示すことが困難な場合、有効性を少し緩めたこの基準が用いられる。
- 最尤推定量は、一般的に漸近有効推定量である。
+アルファ
最良線形不偏推定量(BLUE)
一様最小分散不偏推定量(UMVU)
不偏推定量の中で分散が最小のもの。
- 示すには:
- クラメル・ラオの下限に等しいことを示す。
- あるいは、完備十分統計量の理論を用いる。