まず、f(f(x)) を計算します。 f(f(x)) = f\left(\frac{3x+2}{x+a}\right) = \frac{3\left(\frac{3x+2}{x+a}\right)+2}{\frac{3x+2}{x+a}+a}
この式を整理します。分子と分母に (x+a) を掛けると、 f(f(x)) = \frac{3(3x+2) + 2(x+a)}{3x+2 + a(x+a)} = \frac{9x+6+2x+2a}{3x+2+ax+a^2} = \frac{11x+6+2a}{(3+a)x+2+a^2}
(f∘f)(x)=f(x) より、 \frac{11x+6+2a}{(3+a)x+2+a^2} = \frac{3x+2}{x+a}
この式が恒等的に成り立つためには、
\frac{11}{3+a} = \frac{6+2a}{2+a^2} = \frac{3}{1} = \frac{2}{a}
13=a2 より、 3a=2 となり、a=32 が得られます。 a=32 を 3+a11=13 に代入すると、 3+3211=31111=3となり、これは成立します。 a=32 を 2+a26+2a=13 に代入すると、 2+(32)26+2⋅32=2+946+34=922322=322⋅229=3となり、これも成立します。 別の考え方として、
(3+a)x+2+a211x+6+2a=x+a3x+2 から、 (11x+6+2a)(x+a)=(3x+2)((3+a)x+2+a2) が恒等式となるので、 11x2+(11a+6+2a)x+(6a+2a2)=3(3+a)x2+(3(2+a2)+2(3+a))x+2(2+a2) 11x2+(13a+6)x+(6a+2a2)=(9+3a)x2+(6+3a2+6+2a)x+4+2a2 係数を比較すると、
11=9+3a より、3a=2 となり、a=32 が得られます。 13a+6=12+3a2+2a より、13(32)+6=12+3(94)+2(32)=12+34+34=12+38=344 326+318=344 で、成立します。 6a+2a2=4+2a2 より、6a=4となり、a=32 が得られます。