Đáp án + Giải thích các bước giải:

$\begin {cases} (x + y)\bigg(4 + \dfrac{1}{xy}\bigg) = 1 \\ (4xy + 1)^2 = -20xy \end {cases} (x, y \ne 0, x\ne -y)$ 

$\begin {cases} (x + y)^2\bigg(4 + \dfrac{1}{xy}\bigg)^2 = 1 \\ \bigg(4 + \dfrac{1}{xy}\bigg)^2 =-\dfrac{20}{xy} \end {cases}$ 

$\begin {cases} \dfrac{-20(x + y)^2}{xy} = 1 \\ (4xy + 1)^2 = -20xy  \end {cases}$ 

$\begin {cases} \dfrac{x^2 + 2xy + y^2}{xy} = -\dfrac{1}{20} \\ (4xy + 1)^2 = -20xy  \end {cases}$ 

$\begin {cases} 20x^2 + 41xy + 20y^2 = 0 \\ (4xy + 1)^2 = -20xy  \end {cases}$ 

$\begin {cases} (5x + 4y)(4x + 5y) = 0 \\ (4xy + 1)^2 = -20xy (*)\end {cases}$ 

$\textbf{TH}_1: 5x + 4y = 0$, hay $4y = -5x$

Phương trình $(*)$ trở thành:

$(-5x^2 + 1)^2 = 25x^2$

$(-5x^2 + 5x + 1)(-5x^2 - 5x + 1) = 0$

$-5x^2+ 5x + 1 = 0$ hoặc $-5x^2 - 5x + 1 = 0$

$100x^2 - 100x - 20 = 0$ hoặc $100x^2 + 100x - 20 = 0$

$(10x - 5)^2 = 45$ hoặc $(10x + 5)^2 = 45$

$10x - 5 = \pm 3\sqrt{5}$ hoặc $10x + 5 = \pm 3\sqrt{5}$

$x = \dfrac{5 \pm 3\sqrt{5}}{10}$ hoặc $x = \dfrac{-5 \pm 3\sqrt{5}}{10}$

$y = -\dfrac{5 \pm 3\sqrt{5}}{8}$ hoặc $y = \dfrac{5 \pm 3\sqrt{5}}{8}$

Thử lại vào hệ thấy $(x; y) = \bigg(\dfrac{5 \pm 3\sqrt{5}}{10}; -\dfrac{5 \pm 3\sqrt{5}}{8}\bigg)$ không thoả mãn

$\textbf{TH}_2: 4x + 5y = 0$, hay $4x = -5y$

Phương trình $(*)$ trở thành:

$(-5y^2 + 1)^2 = 25y^2$

$(-5y^2 + 5y + 1)(-5y^2 - 5y + 1) = 0$

$-5y^2+ 5y + 1 = 0$ hoặc $-5y^2 - 5y + 1 = 0$

$100y^2 - 100y - 20 = 0$ hoặc $100y^2 + 100y - 20 = 0$

$(10y - 5)^2 = 45$ hoặc $(10y + 5)^2 = 45$

$10y - 5 = \pm 3\sqrt{5}$ hoặc $10y + 5 = \pm 3\sqrt{5}$

$y = \dfrac{5 \pm 3\sqrt{5}}{10}$ hoặc $y = \dfrac{-5 \pm 3\sqrt{5}}{10}$

$x = -\dfrac{5 \pm 3\sqrt{5}}{8}$ hoặc $x = \dfrac{5 \pm 3\sqrt{5}}{8}$

Thử lại vào hệ thấy $(x; y) = \bigg(-\dfrac{5 \pm 3\sqrt{5}}{8}; \dfrac{5 \pm 3\sqrt{5}}{10}\bigg)$ không thoả mãn

Vậy hệ phương trình có nghiệm là $(x; y) = \bigg(-\dfrac{5 \pm 3\sqrt{5}}{10}; \dfrac{5 \pm 3\sqrt{5}}{8}\bigg)$ và $(x; y) = \bigg(\dfrac{5 \pm 3\sqrt{5}}{8}; -\dfrac{5 \pm 3\sqrt{5}}{10}\bigg)$