Đáp án + Giải thích các bước giải:

Gọi $A$ là điểm nằm trên $(O)$, $SA$ cắt $(C)$ tại điểm duy nhất $B$

$\Rightarrow \begin {cases} AO \bot SO \\ BH \bot SO \\ AO \subset (SAO) \\ BH \subset (SAO) \end {cases}$

$\Rightarrow AO // BH$

Đặt $OH = x (0 < x < 2a)$

Xét $\triangle SOA$ vuông tại $O$, ta có:

$SO = \sqrt{SA^2 - OA^2} = \sqrt{(2a\sqrt{2})^2 - (2a)^2} = 2a$

Mặt khác, theo hệ quả của định lý Talet, ta có $\dfrac{BH}{AO} = \dfrac{SH}{SO}$

$\Rightarrow \dfrac{BH}{2a} = \dfrac{2a - x}{2a}$ 

$\Rightarrow BH = 2a - x$

$\Rightarrow$ Thể tích hình nón có đáy là đường tròn $(C)$ và đỉnh $O$ là:

$V(x) = \dfrac{1}{3} \pi \cdot BH^2 \cdot OH = \dfrac{1}{3}\pi (2a - x)^2 \cdot x$

$= \dfrac{1}{3}\pi (4a^2 - 4ax + x^2) \cdot x$

$= \pi\bigg(\dfrac{4}{3}a^2x - \dfrac{4}{3}ax^2 + \dfrac{1}{3}x^3\bigg)$

$V'(x) = \pi\bigg(x^2 - \dfrac{8}{3}ax + \dfrac{4}{3}a^2\bigg)$

$= \pi\bigg(x - \dfrac{2}{3}a\bigg)(x - 2a)$

$V'(x) = 0 \Leftrightarrow$ \(\left[ \begin{array}{l}x=\dfrac{2}{3}a (n)\\x=2a (l)\end{array} \right.\) 

Bảng biến thiên: ảnh $2$

$\Rightarrow V(x)$ lớn nhất bằng $\dfrac{1}{3} \pi \bigg(2a - \dfrac{2}{3}a\bigg)^2 \cdot \dfrac{2}{3}a = \dfrac{32}{81}\pi a^3$