球Aの体積は 34π(1)3=34π。 半球面Bの体積は 21×34πr3=32πr3。 ここで、半球面Bが球Aとかぶさっている部分の体積を引く必要がある。かぶさっている部分は、球Aから切り取られた球冠である。
球冠の高さをhとすると、h=r−1−r2。 球冠の体積は 31πh2(3−h)。 したがって、立体の体積V(r)は、 V(r)=34π+32πr3−31πh2(3−h) =34π+32πr3−31π(r−1−r2)2(3−(r−1−r2)) =34π+32πr3−31π(r2−2r1−r2+1−r2)(3−r+1−r2) =34π+32πr3−31π(1−2r1−r2)(3−r+1−r2) =34π+32πr3−31π(3−r+1−r2−6r1−r2+2r21−r2−2r(1−r2)) =34π+32πr3−31π(3−r+1−r2−6r1−r2+2r21−r2−2r+2r3) =34π+32πr3−31π(3−3r+1−r2−6r1−r2+2r21−r2+2r3) =π(34+32r3−1+r−311−r2+2r1−r2−32r21−r2−32r3) =π(31+r−311−r2+2r1−r2−32r21−r2) 体積が最大となる条件を探すため、V(r)をrで微分する。 V′(r)=π(1+3121−r22r+21−r2+2r21−r2−2r−34r1−r2−32r221−r2−2r)=0 1+31−r2r+21−r2−21−r22r2−34r1−r2+31−r22r3=0 V′(r)を計算すると、極値を持つのはr=25−1。このとき、r2+r−1=0 あるいは、別の方法として、x=1−r2 とおき、球Aからはみ出している半球面Bの体積を計算する方法もある。球Aからはみ出している部分は、球の中心からxの高さの球を球Aの中心からxの高さで切った時の上側の体積を考えると、求める立体の体積Vは、 V=34π(13)+32πr3−3π(1−r2)(2+r) V=34π+32πr3−3π(1−r2)(2+r) V=3π(4+2r3−2−r+2r2+r3) V=3π(3r3+2r2−r+2) drdV=3π(9r2+4r−1) 9r2+4r−1=0 r=18−4±16+36=9−2±13 0<r<1より、r=9−2+13