母数 $\theta$ の任意の不偏推定量の分散 $V(\hat{\theta})$ は、クラメール・ラオの不等式を満たす。$\theta$を母平均$\mu$とし、$f_{\mu}(x) = \frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$ とするとき、$\hat{\mu} = \bar{X}$ は $\mu$ の不偏最小分散推定量であることを以下の手順で証明する。 (1) $\log f_{\mu}(x)$ と $\frac{\partial \log f_{\mu}(x)}{\partial \mu}$ を求める。 (2) $E\left[\left(\frac{\partial \log f_{\mu}(X)}{\partial \mu}\right)^2\right]$ を求める。 (3) 不等式の右辺が $\bar{X}$ の分散 $\frac{\sigma^2}{n}$ に等しくなることを示す。

はい、承知いたしました。問題を解いていきます。

1. 問題の内容

母数 $\theta$ の任意の不偏推定量の分散 $V(\hat{\theta})$ は、クラメール・ラオの不等式を満たす。$\theta$を母平均$\mu$とし、$f_{\mu}(x) = \frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$ とするとき、$\hat{\mu} = \bar{X}$ は $\mu$ の不偏最小分散推定量であることを以下の手順で証明する。

(1) $\log f_{\mu}(x)$ と $\frac{\partial \log f_{\mu}(x)}{\partial \mu}$ を求める。

(2) $E\left[\left(\frac{\partial \log f_{\mu}(X)}{\partial \mu}\right)^2\right]$ を求める。

(3) 不等式の右辺が $\bar{X}$ の分散 $\frac{\sigma^2}{n}$ に等しくなることを示す。

2. 解き方の手順

(1) $\log f_{\mu}(x)$ を求める。

$$$$

\log f_{\mu}(x) = \log\left(\frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}\right) = -\frac{1}{2}\log(2\pi\sigma^2) - \frac{(x-\mu)^2}{2\sigma^2}

$$$$

次に、$\frac{\partial \log f_{\mu}(x)}{\partial \mu}$ を求める。

$$$$

\frac{\partial \log f_{\mu}(x)}{\partial \mu} = \frac{\partial}{\partial \mu}\left(-\frac{1}{2}\log(2\pi\sigma^2) - \frac{(x-\mu)^2}{2\sigma^2}\right) = -\frac{1}{2\sigma^2} \cdot 2(x-\mu)(-1) = \frac{x-\mu}{\sigma^2}

$$$$

(2) $E\left[\left(\frac{\partial \log f_{\mu}(X)}{\partial \mu}\right)^2\right]$ を求める。

$$$$

E\left[\left(\frac{\partial \log f_{\mu}(X)}{\partial \mu}\right)^2\right] = E\left[\left(\frac{X-\mu}{\sigma^2}\right)^2\right] = E\left[\frac{(X-\mu)^2}{\sigma^4}\right] = \frac{1}{\sigma^4}E\left[(X-\mu)^2\right]

$$$$

ここで、$E\left[(X-\mu)^2\right] = \sigma^2$ であるから、

$$$$

E\left[\left(\frac{\partial \log f_{\mu}(X)}{\partial \mu}\right)^2\right] = \frac{1}{\sigma^4}\sigma^2 = \frac{1}{\sigma^2}

$$$$

(3) 不等式の右辺が $\bar{X}$ の分散 $\frac{\sigma^2}{n}$ に等しくなることを示す。

クラメール・ラオの不等式の右辺は、

$$$$

\frac{1}{nE\left[\left(\frac{\partial \log f_{\mu}(X)}{\partial \mu}\right)^2\right]} = \frac{1}{n\cdot \frac{1}{\sigma^2}} = \frac{\sigma^2}{n}

$$$$

$\bar{X}$ の分散は $\frac{\sigma^2}{n}$ であるから、クラメール・ラオの不等式の右辺と一致する。$\bar{X}$が$\mu$の不偏推定量であることを示す必要も、不偏推定量の分散がクラメール・ラオの下限を達成していることを示す必要があります。不偏性は、E[$\bar{X}$]=E[$\frac{1}{n} \sum_{i=1}^n X_i$] = $\frac{1}{n} \sum_{i=1}^n E[X_i]$ = $\frac{1}{n} * n\mu$ = $\mu$からわかります。

3. 最終的な答え

(1) $\log f_{\mu}(x) = -\frac{1}{2}\log(2\pi\sigma^2) - \frac{(x-\mu)^2}{2\sigma^2}$, $\frac{\partial \log f_{\mu}(x)}{\partial \mu} = \frac{x-\mu}{\sigma^2}$

(2) $E\left[\left(\frac{\partial \log f_{\mu}(X)}{\partial \mu}\right)^2\right] = \frac{1}{\sigma^2}$

(3) クラメール・ラオの不等式の右辺は $\frac{\sigma^2}{n}$ であり、これは $\bar{X}$ の分散に等しい。したがって、$\hat{\mu} = \bar{X}$ は $\mu$ の不偏最小分散推定量である。