(1) 商の微分公式を用いる。u=sinθcosθ, v=cosθ+a3sinθ とおくと、f(θ)=vu であり、f′(θ)=v2u′v−uv′ である。 まず、u′=cos2θ−sin2θ=cos2θ 次に、v′=−sinθ+a3cosθ したがって、
\begin{align*} f'(\theta) &= \frac{(\cos^2\theta - \sin^2\theta)(\cos\theta + a^3\sin\theta) - (\sin\theta\cos\theta)(-\sin\theta + a^3\cos\theta)}{(\cos\theta + a^3\sin\theta)^2} \\ &= \frac{\cos^3\theta + a^3\cos^2\theta\sin\theta - \sin^2\theta\cos\theta - a^3\sin^3\theta + \sin^2\theta\cos\theta - a^3\sin\theta\cos^2\theta}{(\cos\theta + a^3\sin\theta)^2} \\ &= \frac{\cos^3\theta - a^3\sin^3\theta}{(\cos\theta + a^3\sin\theta)^2} \end{align*}
(2) 与えられた不等式を変形すると、
k≥cosθ+a3sinθsinθcosθ=f(θ) 0≤θ≤2π における f(θ) の最大値を求めればよい。 f′(θ)=(cosθ+a3sinθ)2cos3θ−a3sin3θ=0 となる θ を探すと、cos3θ=a3sin3θ より、cosθ=asinθ tanθ=a1 となる θ を θ0 とすると、cosθ0=1+a2a, sinθ0=1+a21 このとき、
f(θ0)=1+a2a+1+a2a31+a2a=a+a3a⋅1+a21⋅1+a2=a(1+a2)a=a+a3a=1+a21 θ=0 のとき f(0)=10=0, θ=2π のとき f(2π)=a30=0 したがって、θ=θ0 のときに最大値 1+a21 をとる。 よって、k の最小値は 1+a21 である。