Đặt `S=a+b+c`

Từ gt kết hợp `S^2>=3(ab+bc+ca)`

Suy ra `S^2>= 6S`

Hay `S>=6`

Áp dụng BĐT Bunyakovsky:

`(a^2+b^2+2c)(1^2+1^2+(sqrt{c/2})^2)>=(a+b+c)^2`

`(a^2+b^2+2c)*{4+c}/2>=S^2`

`a^2+b^2+2c>={2S^2}/{4+c}`

`1/{a^2+b^2+2c}<={4+c}/{2S^2}`

Suy ra:

`A<={4+c}/{2S^2}+{4+a}/{2S^2}+{4+b}/{2S^2}`

`A<={12+S}/{2S^2}`

Xét hiệu:

`1/4-{12+S}/{2S^2}`

`={S^2-2S-24}/{4S^2}`

`={(S-6)(S+4)}/{4S^2}`

Vì `S>=6->(S-6)(S+4)>=0; 4S^2>0`

Suy ra `1/4-{12+S}/{2S^2}>=0 -> A<=1/4`

Dấu `=` xảy ra khi `S=6 -> a=b=c=2`

Vậy `A_text{max}=1/4`