まず式を展開します。
2(a+2b)c2+2(b+2c)a2+2(c+2a)b2+9abc=2ac2+4bc2+2ba2+4ca2+2cb2+4ab2+9abc 次に、この式を整理します。
2ac2+4bc2+2ba2+4ca2+2cb2+4ab2+9abc=2a2b+2a2c+2ab2+2ac2+2b2c+2bc2+4ab2+4a2c+4bc2+4ac2+4b2a+4c2b+9abc =(a+2b)(b+2c)(c+2a)の形になるか確認します。 変数の次数が低い文字に着目して整理します。aについて整理すると、
2(b+2c)a2+(4b2+4c2+9bc)a+2(c+2b)b2c a,b,c の対称性から、(a+b)(b+c)(c+a)の形を予測します。 しかし、展開した結果から考えると、(a+b)(b+c)(c+a) の定数倍ではうまくいきません。 (a+2b)(b+2c)(c+2a) を展開すると、 (a+2b)(bc+2b2+2c2+4bc)=(a+2b)(2b2+2c2+6bc)=2ab2+2ac2+6abc+4b3+4bc2+12b2c これは元の式と一致しません。
元の式を改めて見ると、
2ac2+4bc2+2a2b+4a2c+2b2c+4ab2+9abc =(a+2b)(b+2c)(c+2a)を予想しますが違います。 (a+2b)(b+c)(c+2a) =(ab+ac+2b2+2bc)(c+2a)=abc+2a2b+ac2+2a2c+2b2c+4ab2+2bc2+4abc=2a2b+2a2c+4ab2+ac2+2b2c+2bc2+5abc とも違います
最終的に (a+b+c)(2ab+2bc+2ca) が近いと気づきます。 (a+b+c)(2ab+2bc+2ca)=2a2b+2abc+2a2c+2ab2+2b2c+2abc+2abc+2bc2+2ac2=2a2b+2a2c+2ab2+2ac2+2b2c+2bc2+6abc 元の式との差は 4bc2+4ab2+4a2c+3abc なので、うまくいきません。 正攻法では難しいので、数値を代入して考えることもできますが、ここでは割愛します。
因数分解の結果は (a+b)(b+c)(c+a)+abc に近い形になるのではないかと予想されます。 (a+b+c)(ab+bc+ca)+abcと置いた場合、答えはかなり近い値になることが予想できます。