Ta sẽ chứng minh bất đẳng thức phụ sau:

`ab<=(a^2+b^2)/2`

Ta có:

`(a-b)^2>=0AAa\inRR`

`a^2-2ab+b^2>=0`

`a^2+b^2>=2ab`

`(a^2+b^2)/2>=ab`

`ab<=(a^2+b^2)/2`

Áp dụng vào bài ta được:

`a\sqrt(1-b^2)<=(a^2+(\sqrt(1-b^2)^2))/2=(a^2+1-b^2)/2`

Tương tự:

`b\sqrt(1-c^2)<=(b^2+1-c^2)/2`

`c\sqrt(1-a^2)<=(c^2+1-a^2)/2`

Cộng các vế bất đẳng thức cùng chiều ta được:

`a\sqrt(1-b^2)+b\sqrt(1-c^2)+c\sqrt(1-a^2)<=(a^2+1-b^2)/2+(b^2+1-c^2)/2+(c^2+1-a^2)/2=(a^2+1-b^2+b^2+1-c^2+c^2+1-a^2)/2=3/2`

Dấu "`=`" xảy ra khi và chỉ khi `{(a=b),(b=c),(c=a):}->a=b=c`

Vậy `a\sqrt(1-b^2)+b\sqrt(1-c^2)+c\sqrt(1-a^2)=3/2` khi và chỉ khi `a=b=c`

Đặt `a=b=c=x\ (0<x<=1)->a^2=b^2=c^2=x^2`

Thay vào đề ta được:

`x\sqrt(1-x^2)+x\sqrt(1-x^2)+x\sqrt(1-x^2)=3/2`

`3x\sqrt(1-x^2)=3/2`

`x\sqrt(1-x^2)=1/2`

`(x\sqrt(1-x^2))^2=1/4`

`x^2(1-x^2)=1/4`

`x^2-x^4=1/4`

`x^4-x^2+1/4=0`

Đặt `t=x^2\ (0<t<=1)`

Phương trình trở thành:

`t^2-t+1/4=0`

`4t^2-4t+1=0`

`(2t-1)^2=0`

`2t-1=0`

`2t=1`

`t=1/2\ (tm)`

`-> x^2=1/2`

`-> a^2=b^2=c^2=1/2`

`-> a^2+b^2+c^2=3/2`

Vậy `a^2+b^2+c^2=3/2`

`-> A`