(1) x2+mx+m<0 が実数解を持たない場合 x2+mx+m=0 の判別式を D とすると、D<0 であれば良い。 D=m2−4m<0 m(m−4)<0 したがって、0<m<4 (2) x2+mx+m<0 の解が 0≤x≤1 を含む場合 f(x)=x2+mx+m とおく。f(x)<0 となる区間が 0≤x≤1 を含む必要があるので、以下の条件を考える。 i) f(x)=0 が異なる2つの実数解を持ち、そのうち少なくとも1つが区間 (0,1) に含まれる。 ii) f(0)<0 または f(1)<0であれば、0≤x≤1 に解が存在する。 f(0)=02+m(0)+m=m f(1)=12+m(1)+m=1+2m f(0)<0 のとき、m<0 f(1)<0 のとき、1+2m<0 より m<−21 次に判別式 D=m2−4m>0 が必要になる。 m(m−4)>0 m<0 または m>4 f(0)<0 かつ f(1)>0 のとき、m<0 かつ 1+2m>0 より −21<m<0 f(0)>0 かつ f(1)<0 のとき、m>0 かつ 1+2m<0 となる m は存在しない。 f(0)<0 かつ f(1)<0 のとき、m<0 かつ 1+2m<0 より m<−21 したがって、m<−21 または −21<m<0 つまり、m<0 まとめると、判別式 D>0 より、m<0 または m>4 が必要で、m<0 のとき、0≤x≤1 に解が存在する。 (1)と(2)を合わせた条件を考えると、
(1)より、0<m<4 (2)より、m<0 または m>4 しかし、問題文は「または」ではなく、「また」でつながれているため、両方の条件を満たす必要がある。
f(0)<0 または f(1)<0 で、x2+mx+m<0 の解が 0≤x≤1 を含む条件を考える。