まず、三角錐P-EBCの体積を求める。底面は三角形EBCなので、その面積は 1 2 × 6 × 6 = 18 \frac{1}{2} \times 6 \times 6 = 18 2 1 × 6 × 6 = 18 である。次に、Pから平面EBCへの垂線の長さをhとする。三角錐P-EBCの体積Vは、 V = 1 3 × 18 × h = 6 h V = \frac{1}{3} \times 18 \times h = 6h V = 3 1 × 18 × h = 6 h となる。 したがって、体積Vを最大化または最小化するには、hを最大化または最小化すればよい。
Sの中心をOとする。Oは辺AD上にあるので、座標をO(0, a, 0) (0 <= a <= 6) とおくことができる。Pは球面S上にあるので、OP = 1である。平面EBCの方程式はx + y - z = 6である。点と平面の距離の公式より、Oから平面EBCへの距離は、 ∣ 0 + a − 0 − 6 ∣ 1 2 + 1 2 + ( − 1 ) 2 = ∣ a − 6 ∣ 3 \frac{|0 + a - 0 - 6|}{\sqrt{1^2 + 1^2 + (-1)^2}} = \frac{|a-6|}{\sqrt{3}} 1 2 + 1 2 + ( − 1 ) 2 ∣0 + a − 0 − 6∣ = 3 ∣ a − 6∣ となる。 Pから平面EBCへの距離hは、Oから平面EBCへの距離に半径1を足したもの、または引いたものになる。つまり、 h = ∣ a − 6 ∣ 3 ± 1 h = \frac{|a-6|}{\sqrt{3}} \pm 1 h = 3 ∣ a − 6∣ ± 1 である。 体積Vは V = 6 h = 6 ( ∣ a − 6 ∣ 3 ± 1 ) = 2 3 ∣ a − 6 ∣ ± 6 V = 6h = 6 (\frac{|a-6|}{\sqrt{3}} \pm 1) = 2\sqrt{3}|a-6| \pm 6 V = 6 h = 6 ( 3 ∣ a − 6∣ ± 1 ) = 2 3 ∣ a − 6∣ ± 6 となる。 0 ≤ a ≤ 6 0 \le a \le 6 0 ≤ a ≤ 6 なので、 ∣ a − 6 ∣ = 6 − a |a-6| = 6-a ∣ a − 6∣ = 6 − a となる。 したがって、 V = 2 3 ( 6 − a ) ± 6 V = 2\sqrt{3}(6-a) \pm 6 V = 2 3 ( 6 − a ) ± 6 である。 Vを最大化するには、aを最小にする、つまりa=0とする。
V m a x = 2 3 ( 6 − 0 ) + 6 = 12 3 + 6 V_{max} = 2\sqrt{3}(6-0) + 6 = 12\sqrt{3} + 6 V ma x = 2 3 ( 6 − 0 ) + 6 = 12 3 + 6 Vを最小化するには、aを最大にする、つまりa=6とする。
V m i n = 2 3 ( 6 − 6 ) − 6 = − 6 V_{min} = 2\sqrt{3}(6-6) - 6 = -6 V min = 2 3 ( 6 − 6 ) − 6 = − 6 となるが、体積は負にならないので、別の方法で最小値を求める必要がある。 h = ∣ a − 6 ∣ 3 − 1 h = \frac{|a-6|}{\sqrt{3}} - 1 h = 3 ∣ a − 6∣ − 1 であるから、 h ≥ 0 h \ge 0 h ≥ 0 となるためには ∣ a − 6 ∣ 3 ≥ 1 \frac{|a-6|}{\sqrt{3}} \ge 1 3 ∣ a − 6∣ ≥ 1 、つまり ∣ a − 6 ∣ ≥ 3 |a-6| \ge \sqrt{3} ∣ a − 6∣ ≥ 3 である必要がある。 ∣ a − 6 ∣ ≥ 3 |a-6| \ge \sqrt{3} ∣ a − 6∣ ≥ 3 より、 a ≤ 6 − 3 a \le 6 - \sqrt{3} a ≤ 6 − 3 または a ≥ 6 + 3 a \ge 6 + \sqrt{3} a ≥ 6 + 3 である。ただし、 0 ≤ a ≤ 6 0 \le a \le 6 0 ≤ a ≤ 6 であるから、 a ≤ 6 − 3 a \le 6 - \sqrt{3} a ≤ 6 − 3 が成り立つ。 最小値を与えるのは、 a = 6 − 3 a = 6 - \sqrt{3} a = 6 − 3 のときである。 V m i n = 2 3 ( 6 − ( 6 − 3 ) ) − 6 = 2 3 ( 3 ) − 6 = 6 − 6 = 0 V_{min} = 2\sqrt{3}(6 - (6-\sqrt{3})) - 6 = 2\sqrt{3}(\sqrt{3}) - 6 = 6 - 6 = 0 V min = 2 3 ( 6 − ( 6 − 3 )) − 6 = 2 3 ( 3 ) − 6 = 6 − 6 = 0 である。 ただし、これはh=0の場合なので、Vの式をよく見ると h = ∣ a − 6 ∣ 3 ± 1 h= \frac{|a-6|}{\sqrt{3}} \pm 1 h = 3 ∣ a − 6∣ ± 1 の ± \pm ± は、点Pが平面EBCに関して球の中心Oと同じ側にある場合が+であり、反対側にある場合が-である。 最小値を求めるためには h = ∣ a − 6 ∣ 3 − 1 ≥ 0 h = \frac{|a-6|}{\sqrt{3}} - 1 \ge 0 h = 3 ∣ a − 6∣ − 1 ≥ 0 となる必要がある。 0 ≤ a ≤ 6 0 \le a \le 6 0 ≤ a ≤ 6 において ∣ a − 6 ∣ 3 \frac{|a-6|}{\sqrt{3}} 3 ∣ a − 6∣ は a = 6 a=6 a = 6 で最小値0をとる。したがって、そのとき h = − 1 h=-1 h = − 1 となり、Vは負の値を取り得ないことから最小値は0ではない。 ∣ a − 6 ∣ 3 = 1 \frac{|a-6|}{\sqrt{3}} = 1 3 ∣ a − 6∣ = 1 となるのは a = 6 − 3 a=6-\sqrt{3} a = 6 − 3 のときで、そのとき h = 0 h=0 h = 0 となり、 V = 0 V=0 V = 0 となる。 0 ≤ a ≤ 6 0 \le a \le 6 0 ≤ a ≤ 6 という制約条件のもとで h = 6 − a 3 − 1 h=\frac{6-a}{\sqrt{3}} -1 h = 3 6 − a − 1 は単調減少関数なので、aをなるべく小さくした方が体積が小さくなる。ところがaを小さくしすぎると h = 6 − a 3 − 1 < 0 h=\frac{6-a}{\sqrt{3}} -1 < 0 h = 3 6 − a − 1 < 0 となり、点Pが球面S上に存在できなくなる。よって、hは0よりも大きい必要があり、 lim h → 0 V = 0 \lim_{h \to 0} V = 0 lim h → 0 V = 0 となる。 最小値は、PがEBCと接するときに0となる。問題文よりPは球面S上を動くので、PがEBCと接することが可能である。
