Ta có hằng đẳng thức:

$(a+b)(b+c)(c+a) = (a+b+c)(ab+bc+ca) - abc$

Áp dụng BĐT AM-GM cho 3 số dương $a, b, c$:

$\begin{cases} a+b+c \ge 3\sqrt[3]{abc} \\ ab+bc+ca \ge 3\sqrt[3]{a^2b^2c^2} \end{cases}$

$\Rightarrow (a+b+c)(ab+bc+ca) \ge 9abc \Rightarrow abc \le \dfrac{1}{9}(a+b+c)(ab+bc+ca)$

Suy ra:

$(a+b)(b+c)(c+a) \ge (a+b+c)(ab+bc+ca) - \dfrac{1}{9}(a+b+c)(ab+bc+ca)$

$\Leftrightarrow (a+b)(b+c)(c+a) \ge \dfrac{8}{9}(a+b+c)(ab+bc+ca)$

Theo giả thiết: $(a+b)(b+c)(c+a) = 1$

$\Rightarrow \dfrac{8}{9}(a+b+c)(ab+bc+ca) \le 1$

$\Leftrightarrow (a+b+c)(ab+bc+ca) \le \dfrac{9}{8}$ (1)

Mặt khác, ta luôn có BĐT:

$(a+b+c)^2 \ge 3(ab+bc+ca) \Rightarrow a+b+c \ge \sqrt{3(ab+bc+ca)}$ (2)

Từ (1) và (2) $\Rightarrow \sqrt{3(ab+bc+ca)} \cdot (ab+bc+ca) \le \dfrac{9}{8}$

$\Leftrightarrow \sqrt{3(ab+bc+ca)^3} \le \dfrac{9}{8}$

$\Leftrightarrow 3(ab+bc+ca)^3 \le \dfrac{81}{64}$

$\Leftrightarrow (ab+bc+ca)^3 \le \dfrac{27}{64}$

$\Leftrightarrow ab+bc+ca \le \dfrac{3}{4}$

Dấu "=" xảy ra $\Leftrightarrow a = b = c = \dfrac{1}{2}$.

Vậy $ab+bc+ca \le \dfrac{3}{4}$ (đpcm).