Ans:
$-$ Biến đổi mẫu số:

 $1 + ab - c^2 = a^2 + b^2 + ab$

$-$ Áp dụng $2\sqrt{xy} \le x + y$ cho căn số:

$\sqrt{\dfrac{ab + 2c^2}{a^2 + ab + b^2}} = \sqrt{1 \cdot \dfrac{ab + 2c^2}{a^2 + ab + b^2}}$

$\le \dfrac{1 + \dfrac{ab + 2c^2}{a^2 + ab + b^2}}{2}$

$= \dfrac{a^2 + b^2 + 2ab + 2c^2}{2(a^2 + ab + b^2)}$

$= \dfrac{(a + b)^2 + 2c^2}{2(a^2 + ab + b^2)}$

$-$ Ta có:

$a^2 + ab + b^2 \ge \dfrac{3}{4}(a + b)^2$

$-$ Nên:

$\sqrt{\dfrac{ab + 2c^2}{1 + ab - c^2}} \ge \dfrac{2(ab + 2c^2)}{(a + b)^2 + 2c^2}$

$-$ Dùng $(a + b)^2 \le 2(a^2 + b^2)$:

$(a + b)^2 + 2c^2 \le 2(a^2 + b^2 + c^2) = 2$

$\implies \sqrt{\dfrac{ab + 2c^2}{1 + ab - c^2}} \ge \dfrac{2(ab + 2c^2)}{2} = ab + 2c^2$

$-$ Cộng 3 vế lại:

$\sum \sqrt{\dfrac{ab + 2c^2}{1 + ab - c^2}} \ge \sum ab + 2(a^2 + b^2 + c^2) = \sum ab + 2$

$-$ Thay vào $P$:

$P \le \sum ab - (\sum ab + 2) = -2$

⇒ $\max P = -2$ khi $a = b = c = \dfrac{1}{\sqrt{3}}$

$\color{#0B6623}{꧁༺}$$\color{#0F7A2F}{𝔪}$$\color{#138F3C}{𝔲}$$\color{#17A34A}{𝔃}$$\color{#2EBF5E}{𝔃}$$\color{#4DD17A}{𝔞}$$\color{#6FE095}{𝖘}$$\color{#8BE8AA}{༻꧂}$