まず、式を展開します。
x3y2+x2y3+(2xy+1)(x+y)=x3y2+x2y3+2x2y2+2xy2+x+y 次に、共通因数でくくったり、項の組み合わせを変えたりして、因数分解を試みます。
x3y2+x2y3+2x2y2+2xy2+x+y=x2y2(x+y)+2xy(xy+y)+x+y x2y2(x+y)+2x2y2+2xy2+x+y=x2y2(x+y+2)+2xy2+x+y 与式を x+y が現れるように変形していきます。 x3y2+x2y3+(2xy+1)(x+y)=x2y2(x+y)+(2xy+1)(x+y)=(x+y)(x2y2+2xy+1) ここで、x2y2+2xy+1=(xy)2+2(xy)+1=(xy+1)2 と因数分解できます。 したがって、
x3y2+x2y3+(2xy+1)(x+y)=(x+y)(xy+1)2