まず、AH = x と置く。すると、HD = 8 - x となる。
三角形AEH、三角形BFE、三角形CFG、三角形DHGは全て合同な直角三角形である。
したがって、EH = FG = GF = HEである。
三平方の定理より、EH2=AH2+AE2 である。ここでAE = HD = 8 - x であるから、EH2=x2+(8−x)2となる。 正方形EFGHの面積Sは、S=EH2=x2+(8−x)2=x2+64−16x+x2=2x2−16x+64となる。 面積Sを最小にするxを求めるために、Sをxで微分する。
dxdS=4x−16 dxdS=0 となるのは、 4x−16=0 より x=4 のときである。 x=4のとき、S=2⋅42−16⋅4+64=32−64+64=32 xの範囲は 0<x<8 である。x=4 はこの範囲に含まれる。 x=0 のとき、S=64 x=8 のとき、S=64