ジョーカーを除く52枚のトランプから1枚引く際の、それぞれの事象の情報量を計算する問題。

以下に問題の解答を示します。

**【問1】**

1. 問題の内容

ジョーカーを除く52枚のトランプから1枚引く際の、それぞれの事象の情報量を計算する問題。

2. 解き方の手順

* (1) ハートである確率：13/52 = 1/4。情報量: $-log_2(1/4) = -log_2(2^{-2}) = 2$ ビット。

* (2) ハート以外である確率：39/52 = 3/4。情報量: $-log_2(3/4) = 0.415$ ビット (ヒントより)。

* (3) 平均情報量: $(1/4) \times 2 + (3/4) \times 0.415 = 0.5 + 0.31125 = 0.81125$ ビット。

* (4) エースである確率：4/52 = 1/13。情報量: $-log_2(1/13) = 3.7$ ビット (ヒントより)。

* (5) ハートのエースである確率：1/52。情報量: $-log_2(1/52) = -log_2(2^{-2} \times (13/4)) = -log_2(2^{-2}) -log_2(13/4) = 2 - log_2(13) + log_2(4) = 4 - log_2(13)$ となり、$-log_2(1/52) \approx 5.7$ビット。もしくは $-log_2(1/52) = log_2(52) = log_2(4 * 13) = 2 + log_2(13) = 2 - log_2(1/13) = 2 + 3.7 = 5.7$ ビット。

3. 最終的な答え

* (1) 2 ビット

* (2) 0.415 ビット

* (3) 0.81125 ビット

* (4) 3.7 ビット

* (5) 5.7 ビット

**【問2】**

1. 問題の内容

枚方市の天気を「晴れ」「曇り」「雨」「雪」で表す際の、それぞれの事象の情報量と平均情報量を計算する問題。それぞれの確率は1/2, 1/4, 1/8, 1/8。

2. 解き方の手順

* (1) 晴れの情報量: $-log_2(1/2) = 1$ ビット。雪の情報量: $-log_2(1/8) = 3$ ビット。よって雪の方が情報量が多い。

* (2) 晴れの情報量: $-log_2(1/2) = 1$ ビット。

* (3) 雨の情報量: $-log_2(1/8) = 3$ ビット。

* (4) 平均情報量: $(1/2) \times 1 + (1/4) \times 2 + (1/8) \times 3 + (1/8) \times 3 = 1/2 + 1/2 + 3/8 + 3/8 = 1 + 3/4 = 1.75$ ビット。

* (5) 符号化に必要なビット数は、平均情報量以上の整数値となるため、2ビット。

3. 最終的な答え

* (1) 雪

* (2) 1 ビット

* (3) 3 ビット

* (4) 1.75 ビット

* (5) 2 ビット

**【問3】**

1. 問題の内容

サイコロの目の情報量に関する問題。

2. 解き方の手順

* (1) サイコロの目が6である確率：1/6。情報量: $-log_2(1/6) = 2.585$ ビット (ヒントより)。

* (2) サイコロの目が奇数である確率：3/6 = 1/2。情報量: $-log_2(1/2) = 1$ ビット。

* (3) サイコロの目が奇数または偶数である確率：1。情報量: $-log_2(1) = 0$ ビット。

* (4) サイコロを2つ振った時、両方とも1である確率：(1/6) * (1/6) = 1/36。情報量: $-log_2(1/36) = -log_2(6^{-2}) = 2 \times (-log_2(1/6)) = 2 \times 2.585 = 5.17$ ビット。

* (5) サイコロの目の平均情報量：全ての目が出る確率は等しいので、$- \sum_{i=1}^{6} p_i log_2(p_i) = - \sum_{i=1}^{6} \frac{1}{6} log_2(\frac{1}{6}) = - 6 \frac{1}{6} log_2(\frac{1}{6}) = - log_2(\frac{1}{6}) = 2.585$ ビット。

3. 最終的な答え

* (1) 2.585 ビット

* (2) 1 ビット

* (3) 0 ビット

* (4) 5.17 ビット

* (5) 2.585 ビット