まず、与えられた関数を変形する。
cos2x=21+cos2x および sinxcosx=21sin2x を用いると、 \begin{align*}
y &= 3\cos^2 x - \sqrt{3} \sin x \cos x + 1 \\
&= 3 \cdot \frac{1 + \cos 2x}{2} - \sqrt{3} \cdot \frac{1}{2} \sin 2x + 1 \\
&= \frac{3}{2} + \frac{3}{2} \cos 2x - \frac{\sqrt{3}}{2} \sin 2x + 1 \\
&= \frac{5}{2} + \frac{3}{2} \cos 2x - \frac{\sqrt{3}}{2} \sin 2x
\end{align*}
ここで、Rcos(2x+α)=23cos2x−23sin2x となる R と α を求める。 R=(23)2+(−23)2=49+43=412=3 よって、
y=25+3(23cos2x−21sin2x) cosα=23, sinα=21 となる α を見つけると、α=6π. したがって、
y=25+3cos(2x+6π) 0≤x<π より、0≤2x<2π であり、6π≤2x+6π<2π+6π=613π cos(2x+6π) の最大値は1, 最小値は -1 となる。 y の最大値は 25+3⋅1=25+3 y の最小値は 25+3⋅(−1)=25−3 最大値をとるのは 2x+6π=0 のとき、つまり2x=−6π. しかしこれは範囲外。 2x+6π=2πのとき、つまり、2x=2π−6π=611πのとき、x=1211πでこれは範囲内。よってx=1211πのときに最小値。 2x+6π=0 のとき 2x=−π/6なので範囲外。2x+6π=2πのとき 2x=11π/6なので x=11π/12で範囲内。 6π≤2x+6π<613π より、cos(2x+6π) の最大値は 1 で、最小値は -1である。