まず、与えられた不等式を因数分解することを試みます。定数項を因数分解すると、
a3−2a=a(a2−2) となります。次に、a2+a−2 を因数分解すると、 a2+a−2=(a+2)(a−1) となります。与えられた不等式を因数分解できる形に変形するため、
x2−(a2+a−2)x+a3−2a=x2−(a+2)(a−1)x+a(a2−2) となります。
この式をさらに因数分解することを考えます。不等式の左辺を f(x) とおきます。 f(x)=x2−(a2+a−2)x+a3−2a<0 f(x) が (x−a) という因数を持つと仮定すると、f(a)=0 となるはずです。 f(a)=a2−(a2+a−2)a+a3−2a=a2−a3−a2+2a+a3−2a=0 したがって、x−a は f(x) の因数です。 f(x) を x−a で割ることを考えます。 x2−(a2+a−2)x+a3−2a=(x−a)(x−(a2−2)) したがって、与えられた不等式は、
(x−a)(x−(a2−2))<0 となります。
ここで、a<a2−2 と a>a2−2 と a=a2−2 の場合に分けて考えます。 まず、a<a2−2 の場合、不等式の解は a<x<a2−2 となります。 次に、a>a2−2 の場合、不等式の解は a2−2<x<a となります。 最後に、a=a2−2 の場合、不等式の解は存在しません。なぜなら (x−a)2<0 となり、これは常に偽となるからです。 a=a2−2 を解くと、a2−a−2=0 より (a−2)(a+1)=0 となるので、a=2,−1 となります。 a<a2−2 を解くと、a2−a−2>0 より (a−2)(a+1)>0 となるので、a<−1 または a>2 となります。 a>a2−2 を解くと、a2−a−2<0 より (a−2)(a+1)<0 となるので、−1<a<2 となります。 したがって、a<−1 または a>2 のとき、a<x<a2−2 です。 −1<a<2 のとき、a2−2<x<a です。 a=2,−1 のとき、解は存在しません。