$\begin{cases} x^2 + xy + y^2 - 4y + 1 = 0 \quad (1) \\ y(x+y)^2 - 2x^2 - 7y = 2 \quad (2) \end{cases}$

Từ $(1)$ ta có: $x^2 + xy = -y^2 + 4y - 1$.

Khai triển $(2)$: $y(x^2 + 2xy + y^2) - 2x^2 - 7y = 2$

$\iff y[(x^2 + xy) + (xy + y^2)] - 2x^2 - 7y = 2$

Thế $x^2 + xy = -y^2 + 4y - 1$ vào phương trình trên:

$y[(-y^2 + 4y - 1) + xy + y^2] - 2x^2 - 7y = 2$

$\iff y(xy + 4y - 1) - 2x^2 - 7y = 2$

$\iff xy^2 + 4y^2 - y - 2x^2 - 7y - 2 = 0$

$\iff x(y^2 - 2x) + 4y^2 - 8y - 2 = 0 \quad (3)$

Từ $(1)$, coi là phương trình bậc hai ẩn $x$:

Điều kiện có nghiệm $x$:

$\Delta = y^2 - 4(y^2 - 4y + 1) = -3y^2 + 16y - 4 \ge 0$$x^2 + yx + (y^2 - 4y + 1) = 0$

$\iff (3y - 2)(2 - y) \ge 0 \iff \frac{2}{3} \le y \le 2$

Thử giá trị biên $y = 2$

Thay vào $(1)$: $x^2 + 2x - 3 = 0 \implies x = 1$ hoặc $x = -3$

Với $(1; 2)$: Thay vào $(2)$ ta có $2(1+2)^2 - 2(1)^2 - 7(2) = 18 - 2 - 14 = 2$ (TM)

Với $(-3; 2)$: Thay vào $(2)$ ta có $2(-3+2)^2 - 2(-3)^2 - 7(2) = -30 \neq 2$ (Loại)

Vậy hệ phương trình có nghiệm duy nhất $(x; y) = (1; 2)$