Giải thích các bước giải:

Ta có:

$x^2-4xy+5y^2-2x+1=0$

$\to x^2-4xy-2x+5y^2+1=0$

$\to x^2-2x(2y+1)+5y^2+1=0$
$\to x^2-2x(2y+1)+(2y+1)^2+5y^2+1-(2y+1)^2=0$
$\to (x-2y-1)^2+5y^2+1-(2y+1)^2=0$
$\to (x-2y-1)^2+y^2-4y= 0$
$\to (x-2y-1)^2+y^2-4y+4=4$
$\to (x-2y-1)^2+(y-2)^2=4$

Vì $(x-2y-1)^2, (y-2)^2$ là số chính phương

      $4=4+0=0+4$

$\to \begin{cases}(x-2y-1)^2=4\\(y-2)^2=0\end{cases}$

$\to (x,y)\in\{(7,2), (3, 2)\}$

Hoặc:

$\to \begin{cases}(x-2y-1)^2=0\\(y-2)^2=4\end{cases}$

$\to (x,y)\in\{(1, 0), (9,4)\}$