2x2+(7y)x+(6y2−y−7)=0 これは x に関する二次方程式である。解の公式を用いると、 x=2(2)−7y±(7y)2−4(2)(6y2−y−7) x=4−7y±49y2−48y2+8y+56 x=4−7y±y2+8y+56 x が整数であるためには、根号の中身 y2+8y+56 が平方数でなければならない。そこで、y2+8y+56=k2 (kは整数)とおく。 y2+8y+16+40=k2 (y+4)2+40=k2 k2−(y+4)2=40 (k−(y+4))(k+(y+4))=40 k−(y+4)=a, k+(y+4)=b とおく。このとき、ab=40 である。 a+b=2k, b−a=2(y+4). k=2a+b と y=2b−a−4. aとbはともに偶数か、ともに奇数でなければならない。 またab=40なのでaとbはともに偶数である。 40 の偶数の約数の組を列挙すると、(2, 20), (4, 10), (-2, -20), (-4, -10).
(a, b) = (2, 20) のとき、 y=220−2−4=9−4=5. x=4−7(5)±52+8(5)+56=4−35±25+40+56=4−35±121=4−35±11. x=4−35+11=4−24=−6. x=4−35−11=4−46 (整数ではない). (a, b) = (4, 10) のとき、y=210−4−4=3−4=−1. x=4−7(−1)±(−1)2+8(−1)+56=47±1−8+56=47±49=47±7. x=47+7=414 (整数ではない). x=47−7=0. (a, b) = (-2, -20) のとき、y=2−20+2−4=−9−4=−13. x=4−7(−13)±(−13)2+8(−13)+56=491±169−104+56=491±121=491±11. x=491+11=4102 (整数ではない). x=491−11=480=20. (a, b) = (-4, -10) のとき、y=2−10+4−4=−3−4=−7. x=4−7(−7)±(−7)2+8(−7)+56=449±49−56+56=449±49=449±7. x=449+7=456=14. x=449−7=442 (整数ではない). したがって、解は (x, y) = (-6, 5), (0, -1), (20, -13), (14, -7).