`P=a^2+b^2+c^2+ab^2 +bc^2 +ca^2`

Xét `a=b=c=1`

`=>P=1^2+1^2+1^2+1.1^2 +1.1^2 +1.1^2 =6`

Áp dụng BĐT Cauchy-Schwarz :

`ab^2 <= (a^2+b^4)/(2)`

`bc^2 <= (b^2 +c^4)/(2)`

`ca^2 <= (c^2+a^4)/(2)`

`=>ab^2 +bc^2 +ca^2 <= (a^2+b^4+b^2+c^4+c^2+a^4 )/(2)`

Ta có : `a^2+b^2+c^2 >= ((a+b+c)^2 )/(3) =9/3 =3`

Ngoài ra : `ab^2 +bc^2 +ca^2 >=0` `=>P>= a^2+b^2+c^2 >=3`

Ta có : `a^2+b^2+c^2+ab^2 +bc^2 +ca^2=(a^2 +ab^2 )+(b^2+bc^2 )+(c^2 +ca^2 )`

Áp dụng BĐT AM-GM :

`a^2+ab^2 >= 2a\sqrt{b^2 }=2ab` 

`b^2 +bc^2 >= 2bc`

`c^2+ca^2 >= 2ca`

`=>P>= 2(ab+bc+ca)`

Lại có : `ab+bc+ca <= ((a+b+c)^2 )/(3)=9/3 =3`

`=>P>= 2ab+bc+ca <=6`

`=>P>=6`

Dấu "=" xảy ra `<=>a=b=c=1`