Đáp án + Giải thích các bước giải:

Gọi $A', B'$ lần lượt là hình chiếu của $A$ và $B$ trên $(Oxy)$

$\Rightarrow A'(1; 2; 0), B'(7, 10, 0), AA' = 3, BB' = 6$

$\Rightarrow \overrightarrow{A'B'} = (6; 8; 0)$

$\Rightarrow A'B' = 10$

Khi này ta có:

$A'M + MN + NB' = A'M + B'N + 4 \ge A'B' = 10$

$\Rightarrow A'M + B'N \ge 6$

$\triangle AA'M$ vuông tại $A'$ có $AM = \sqrt{AA'^2 + A'M^2}= \sqrt{A'M^2 + 9}$

$\triangle BB'N$ vuông tại $B'$ có $BN = \sqrt{BB'^2 + B'N^2} = \sqrt{B'N^2 + 36}$

$\Rightarrow AM +BN = \sqrt{A'M^2 + 9} +\sqrt{B'N^2 + 36}$

Ta có: $(6A'M - 3B'N)^2 \ge 0$

$\Leftrightarrow 36A'M^2 - 36A'M \cdot B'N + 9B'N^2 \ge 0$

$\Leftrightarrow 36A'M^2 + 9B'N^2 \ge 36A'M \cdot B'N$

$\Leftrightarrow A'M^2 B'N^2 + 36A'M^2 + 9B'N^2 + 324 \ge A'M^2 B'N^2 + 36A'M \cdot B'N + 324$

$\Leftrightarrow \left(A'M^2 + 9\right)\left(B'N^2 + 36\right) \ge \left(A'M \cdot B'N + 18\right)^2$

$\Leftrightarrow 2\sqrt{\left(A'M^2 + 9\right)\left(B'N^2 + 36\right)} \ge 2A'M \cdot B'N + 36$

$\Leftrightarrow A'M^2 + 9 + 2\sqrt{\left(A'M^2 + 9\right)\left(B'N^2 + 36\right)}  + B'N^2 +36 \ge A'M^2 + 2A'M \cdot B'N + B'N^2 + 81$

$\Leftrightarrow \left(\sqrt{A'M^2 + 9} + \sqrt{B'N^2 + 36}\right)^2 \ge (A'M + B'N)^2 + 81 \ge 36 + 81 = 117$

$\Leftrightarrow AM + BN = \sqrt{A'M^2 + 9} + \sqrt{B'N^2 + 36} \ge 3\sqrt{13}$

Dấu $=$ xảy ra khi $\begin {cases} A'M + MN + B'N = A'B' \\ A'M + B'N = 6 \\ 6A'M = 3B'N \end {cases}$

$\Leftrightarrow \begin {cases} A', M, N, B'\text{ thẳng hàng} \\ A'M + B'N = 6 \\ B'N = 2A'M \end {cases}$

$\Leftrightarrow \begin {cases} A', M, N, B'\text{ thẳng hàng} \\ A'M = 2 \\ B'N = 4 \end {cases}$

$\Leftrightarrow \begin {cases} \overrightarrow{A'M} = \dfrac{A'M}{A'B'} \overrightarrow{A'B'} = \dfrac{1}{5}\overrightarrow{A'B'}  = \left(\dfrac{6}{5}; \dfrac{8}{5}; 0\right) \\ \overrightarrow{NB'} = \dfrac{B'N}{A'B'} \overrightarrow{A'B'} = \dfrac{2}{5}\overrightarrow{A'B'} = \left(\dfrac{12}{5}; \dfrac{16}{5};  0\right)\end {cases}$

$\Leftrightarrow \begin {cases} M\left(\dfrac{11}{5}; \dfrac{18}{5}; 0\right) \\  N \left(\dfrac{23}{5}; \dfrac{34}{5}; 0 \right) \end {cases}$

Vậy $AM + BN$ nhỏ nhất bằng $3\sqrt{13}$ với $M\left(\dfrac{11}{5}; \dfrac{18}{5}; 0\right)$ và $N \left(\dfrac{23}{5}; \dfrac{34}{5}; 0 \right)$