`{(xy^2=x^2+xy-2y^2),(x^2y=x^2+4y^2):}`

khi `x=0` thì hệ trở thành:

`{(0=-2y^2),(0=4y^2):}=>y=0`

`=>(x;y)=(0;0)`

khi `y=0` thì hệ trở thành:

`{(0=x^2),(0=x^2):}`

`=>(x;y)=(0;0)`

khi `x,y ne 0:`

`{( (xy^2)/y^2=(x^2+xy-2y^2)/y^2),((x^2y)/x^2=(x^2+4y^2)/x^2):}`

`{( x=(x/y)^2+x/y-2(1)),(y=1+4*(y/x)^2(2)):}`

`(1)` chia `(2)` vế theo vế ta có:

`x/y=( (x/y)^2+x/y-2)/(1+4*(y/x)^2)`

đặt `x/y=t(t ne 0),` ta có:

`t=(t^2+t-2)/(1+4/t^2)`

`t=(t^2+t-2)/( (t^2+4)/t^2)`

`(t^2+4)/t^2 *t=t^2+t-2`

`(t^2+4)/t=(t^3+t^2-2t)/t`

`t^2+4=t^3+t^2-2t`

`t^3-2t-4=0`

dùng sơ đồ horner ta có:

\begin{array}{|c|c|c|}\hline \text{x}&\text{1}&\text{0}&\text{-2}&\text{-4}\\\hline \text{2}&\text{1}&\text{2}&\text{2}&\text{0}\\\hline\end{array}

suy ra `t^3-2t-4=(t-2)(t^2+2t+2)=0`

`=>[(t-2=0),(t^2+2t+2=0):}`

`=>[(t=2("t/m")),((t+1)^2+1=0("vô lí")):}`

`=>t=2`

`=>x/y=2`

thay `x/y=2` vào `(1):`

`x=2^2+2-2=4`

thay `x/y=2` vào `(2):`

`y=1+4*(1/2)^2=2`

`=>(x;y)=(4;2)`

vậy hệ phương trình có nghiệm `(x;y)={(0;0),(4;2)}`