Trường hợp `1: (x^2 - x-y)(y^2 - x-y) = 0`

Không mất tính tổng quát giả sử `y^2 - x -y =0`

Khi đó ta có: `x = y^2 - y`

Thay vào phương trình đã cho ta được:

`[y^3 - y(y^2-y) -1][(y^2 - y)^2- y^2] =0`

Hay `y^3 (y-1)(y+1)(y-2) =0`

Suy ra `y in {-1;0;1;2}` Từ đó kết hợp với `x = y^2 -y` ta tìm được:

`(x,y) = (2,-1),(0,0),(0,1),(2,2)`

Trường hợp `2: (x^2 - x-y)(y^2 - x-y) ne 0`

Phương trình đã cho được viết lại thành:

`(x^3 - xy -1)/(x^2- x-y) + (y^2 - xy-1)/(y^2 - x - y) = 0` hay

`x+y+2 = ( x+1 - (x^2 - xy-1)/(x^2 - x -y) ) + ( y+1 - (y^2 - xy-1)/(y^2 - x -y) )`

`<=> x+y+2 = (1-x-y)( 1/(x^2 - x-y) + 1/(y^2 -x-y) )`     `(1)`

Nếu `x+y <= -2` thì vế trái của `(1)` có giá trị không dương, còn vế phải có giá trị dương

`->` Mâu thuẫn, do đó `x+y > -2`

Nếu `|x^2 - x-y| >= 2` và `|y^2 - x-y| >= 2` ta có:

`|x+y+2| = |1-x-y||1/(x^2 -x-y) + 1/(y^2 -x-y) | <= |1x-y-| ( 1/(|x^2 - x-y|) +1/(|y^2-x-y|) )`

`<= |1-x-y| (1/2 + 1/2) = |x+y-1|`

Suy ra: `(x+y+2)^2 <= (x+y-1)^2` hay: `x+y <= -1/2` mà `x+y > -2-> x+y= -1`

`<=> y= -x-1`, thay `y=-x-1` vào `(1)` ta được:

`1 = 2(1/(x^2 +1) + 1/(x^2 +2x +2) )` hay:

`x(x-1)(x+1)(x+2) = 4(` loại do vế trái `≡ 0 (mod 3), 4≡ 1(mod 3))`

Như vậy trong `2` số `|x^2 - x-y|` và `|y^2 -x-y|` có `1` số nhỏ hơn `2`

Không mất tính tổng quát giả sử `|y^2 -x-y| <2`

Suy ra: `y^2 -x-y =-1` hoặc `y^2 - x-y =1`

`<=> x=y^2 - y+1` hoặc `x = y^2 -y -1`

Trường hợp `2.a: x= y^2 - y+1`

Thay vào `(1)` ta được: `y^2 + 3 = -y^2 (1/(x^2 - y^2 - 1) -1)`

`-> 3(x^2 - y^2 -1) = -y^2` hay `3(x-1)(x+1) = 2y^2`

`-> 3(y^2 - y)(y^2 -y +2) = 2y^2`

Nếu `y ne 0` thì ta có: `3(y-1)(y^2 -y +2) = 2y`

Do đó `2y ≡ 0 (mod y-1)` hay `2 ≡ 0 (mod y-1)`

Do `y ne 0` nên `y in {-1;2;3}`

Thử lại đều thấy không thỏa mãn `(` nên loại `)`

Trường hợp `2.b: x = y^2 -y-1`

Thay vào `(1)` ta được:

`y^2 + 1 = (2-y^2) ( 1/(x^2 - y^2 +1) +1)`

Từ đó suy ra: `(2y^2 -1)(x^2 - y^2 +1) = 2-y^2`

`-> 2-y^2 ≡ 0 (mod 2y^2 -1)`

`-> 2(2-y^2) + (2y^2-1) = 3 ≡ 0 (mod 2y^2- 1)`

`-> y in {-1;0;1}`

`<=> (x,y) = (1,-1),(-1,0),(-1,1)`

Thử lại ta được `(x,y) = (1,-1)` và `(-1,1)` thỏa mãn

Vậy `(x,y) = (1,-1),(-1,1),(2,-1),(-1,2),(0,1),(1,0),(0,0),(2,2)`