まず、3個の玉の取り出し方の総数を計算する。これは、5個の玉から3個を選ぶ組み合わせの数なので、5C3=3!2!5!=2×15×4=10通りである。 次に、取り出す赤玉の個数(0個、1個、2個、3個)ごとに、その確率と得られる金額を計算する。
* 赤玉が0個の場合:白玉3個を選ぶ必要があり、これは不可能である。確率は0。金額は0円。
* 赤玉が1個の場合:赤玉1個、白玉2個を選ぶ。確率は 103C1×2C2=103×1=103。金額は100円。 * 赤玉が2個の場合:赤玉2個、白玉1個を選ぶ。確率は 103C2×2C1=103×2=106。金額は200円。 * 赤玉が3個の場合:赤玉3個、白玉0個を選ぶ。確率は 103C3×2C0=101×1=101。金額は300円。 最後に、期待値を計算する。期待値は、各金額とその金額を得られる確率の積の総和である。
期待値=(0×0)+(100×103)+(200×106)+(300×101)=0+30+120+30=180円。