Đáp án + Giải thích các bước giải:

$\begin{cases} x + y + xy = 3\\x^{3} + y^{3} + 12(x + y) = 26\end{cases}$

⇔ $\begin{cases} x + y + xy = 3\\(x + y)^{3} - 3xy(x + y) + 12(x + y) = 26\end{cases}$ 

Đặt: x + y = a, xy = b (a² ≥ 4b), khi đó hệ phương trình trở thành: 

$\begin{cases} a + b = 3 \\a^{3} - 3ab + 12a = 26 \end{cases}$ 

⇔ $\begin{cases} b = 3 - a \text{ (1)}\\a^{3} - 3ab + 12a = 26 \text{ (2)}\end{cases}$ 

Thay (1) vào (2) ta được: $\begin{cases} b = 3 - a\\a^{3} - 3a(3 - a) + 12a = 26 \end{cases}$

⇔ $\begin{cases} b = 3 - a\\a^{3} + 3a^{2} + 3a + 1 - 1 = 26\end{cases}$ ⇔ $\begin{cases} b = 3 - a\\(a+1)^{3} = 27 \end{cases}$ 

⇔ $\begin{cases} b = 3 - a\\a+1 = 3 \end{cases}$ ⇔ $\begin{cases} b = 3 - a\\a = 2 \end{cases}$

⇔ $\begin{cases} b = 1\\a = 2 \end{cases}$  ⇔ $\begin{cases} a=2\\b=1 \end{cases}$ (thỏa mãn)

Với $\begin{cases} a=2\\b=1 \end{cases}$ ⇒ $\begin{cases} x+y=2\\xy=1 \end{cases}$ ⇔ $\begin{cases} x=2-y\text{ (*)}\\xy=1\text{ (**)} \end{cases}$

Thay (*) vào (*) ta được: $\begin{cases} x=2-y\\(2-y)y=1 \end{cases}$ ⇔ $\begin{cases} x=2-y\\2y-y^{2}=1 \end{cases}$

⇔ $\begin{cases} x=2-y\\y^{2}-2y+1-1=1 \end{cases}$ ⇔ $\begin{cases} x=2-y\\(y-1)^{2}=0 \end{cases}$

⇔ $\begin{cases} x=2-y\\y-1 =0 \end{cases}$ ⇔ $\begin{cases} x=2-y\\y =1 \end{cases}$ ⇔ $\begin{cases} x=1\\y =1 \end{cases}$

Vậy hệ phương trình có nghiệm duy nhất là: (x; y) = (1; 1).

Chúc bạn học tốt!