推定量 - izudon/izudon.github.io GitHub Wiki

推定量の性質

1. 不遍性(不偏推定量)

推定量の期待値が常に真の母数と等しいこと。

$$ E(\hat{\theta})=\theta $$

  • 標本平均はつねに母平均の不偏推定量である。
  • $X_1 \leftarrow$ これでも母平均の不偏推定量になってしまうため、ほかの基準も必要。

2. 一致性(一致推定量)

$n \rightarrow \infty$ のとき、推定量が真の母数になる・・・正確には、
$n \rightarrow \infty$ により、推定量が真の母数に近い確率をいくらでも高くできる。

$$ \lim_{n \to \infty} P( | \hat{\theta}( X_1, X_2, ... , X_n ) - \theta | > \epsilon ) = 0 $$

3. 漸近正規性(漸近正規推定量)

$n \rightarrow \infty$ における推定量の確率分布が正規分布となること。

  • 中心極限定理により漸近分布は正規分布であることが多い。
  • 最尤法で求められる推定量のほとんどは漸近正規推定量。

4. 有効性(有効推定量|最小分散不偏推定量)

不偏で一致の推定量が複数ある時、より分散の小さい推定量のこと。

  • いかなる不偏推定量よりも分散が小さい推定量がある場合、それを、
    有効推定量(efficient estimator)あるいは、
    最小分散不偏推定量(minimum variance unbiased estimator)とよぶ。

4’. 漸近有効性(漸近有効推定量)

漸近正規性を持つ推定量のなかで、漸近分散が最小となること。

  • 有効性を示すことが困難な場合、有効性を少し緩めたこの基準が用いられる。
  • 最尤推定量は、一般的に漸近有効推定量である。

+アルファ

最良線形不偏推定量(BLUE)

一様最小分散不偏推定量(UMVU)

不偏推定量の中で分散が最小のもの。

  • 示すには
    1. クラメル・ラオの下限に等しいことを示す。
    2. あるいは、完備十分統計量の理論を用いる。