Theo bài ra, ta có:

$(a+b)^2\geq4ab$

$⇔(a+b)^2\geq4(a+b)$

$⇔(a+b)(a+b-4)\geq0$

$⇒$ \(\left[ \begin{array}{l}a+b\geq4\\a+b\leq0\end{array} \right.\) 

$+)$ Xét $a+b\geq4$

Đặt $S = a+b = ab$

Áp dụng BĐT Cauchy, có:

$\frac{1}{a^2 + 3a - b} + \frac{1}{b^2 + 3b - a} \ge \frac{4}{(a^2 + 3a - b) + (b^2 + 3b - a)}$

$=\frac{4}{a^2+b^2+2a+2b}=\frac{4}{(a+b)^2-2ab+2(a+b)}=\frac{4}{(a+b)^2-2(a+b)+2(a+b)}=\frac{4}{S^2}$

Có:

$(1^2 + a^2)(1^2 + b^2) \ge (1 \cdot 1 + a \cdot b)^2 = (1+ab)^2$

$⇒$ $\sqrt{(1+a^2)(1+b^2)} \ge 1 + ab = 1 + S \quad $ (Do đang xét $ab\geq4$)

Ta có:

$P≥\frac{4}{S^2}+S+1$

$P \ge \left( \frac{4}{S^2} + \frac{S}{16} + \frac{S}{16} \right) + \frac{7S}{8} + 1$

$P\geq$  $3 \sqrt[3]{\frac{4}{S^2} \cdot \frac{S}{16} \cdot \frac{S}{16}} $ $+ \frac{7S}{8} + 1$

$P \ge \frac{3}{4} + \frac{7}{2} + 1 =  \frac{21}{4}$

Dấu "=" xảy ra khi và chỉ khi:

$+)$ $a^2+3a-b = b^2+3b-a \implies a=b$

$+)$ $S=4⇔a+b=4$

Hay $a=b=2$

Vậy $Min_P=\frac{21}{4}⇔a=b=2$

@tuan789