Gọi `OE=a` `(0<a<10)`

Vì $CDEF$ là hình chữ nhật

`->` $\triangle$ $OEF$ vuông tại $E$

`-> OE^2+EF^2=OF^2`

`-> a^2+EF^2=10^2`

`-> EF^2=100-a^2`

`-> EF=\sqrt{100-a^2}` $(cm)$

`-> S_(CDEF)=DE.EF=2a\sqrt{100-a^2}` $(cm^2)$

`=2\sqrt{a^2(100-a^2)}`

`=2\sqrt{100a^2-a^4}`

`=2\sqrt{-(a^4-100a^2+2500)+2500}`

`=2\sqrt{-(a^2-50)^2+2500}`

Ta có: `(a^2-50)^2>=0 AA 0<a<10`

`-> -(a^2-50)^2<=0 AA 0<a<10`

`-> -(a^2-50)^2+2500<=2500 AA 0<a<10`

`-> \sqrt{-(a^2-50)^2+2500}<=50 AA 0<a<10`

`-> 2\sqrt{-(a^2-50)^2+2500}<=100 AA 0<a<10`

`-> S_(CDEF max)=100`

Dấu `=` xảy ra khi `(a^2-50)^2=0`

`-> a=5\sqrt{2}` $(cm)$

Vậy diện tích hình chữ nhật đó lớn nhất bằng `100 cm^2`