まず、合成関数の定義から (f∘g)(x) と (g∘f)(x) を計算します。 (f∘g)(x)=f(g(x))=f(x+c)=a(x+c)+b=ax+ac+b (g∘f)(x)=g(f(x))=g(ax+b)=(ax+b)+c=ax+b+c 問題で与えられた式とこれらの式を比較すると、以下の連立方程式が得られます。
ax+ac+b=2x+3 ax+b+c=2x+1 係数を比較すると、
a=2 を ac+b=3 に代入すると、 2つの式を引き算すると、
(2c+b)−(b+c)=3−1 b+c=1 に c=2 を代入すると、 よって、a=2, b=−1, c=2となります。