Đáp án + Giải thích các bước giải:

$\overrightarrow{AB} = (0; -2; -2)$

Gọi $I$ là trung điểm của $AB$

$\Rightarrow I(2; 1; -1)$

Ta có: $M(a; b; c)$ với $a, b, c$ thoả mãn $a + 2b - c - 1 =0$

$\Rightarrow M \in (P): x + 2y - z - 1 = 0$

$\Rightarrow (P)$ có vector pháp tuyến $\overrightarrow{n}_{(P)} = (1; 2; -1)$

Vì $MA = MB$ nên $M$ nằm trên mặt phẳng trung trực của $AB$

Gọi $(Q)$ là mặt phẳng trung trực của $AB$

$\Rightarrow (Q): \begin {cases} \text{VTPT} \overrightarrow{n} = \overrightarrow{AB} = (0; -2; -2) \\ \text{đi qua }I(2; 1; -1) \end {cases}$

$\Rightarrow (Q): -2(y - 1) - 2(z + 1) = 0$

$\Rightarrow (Q): y + z = 0$

Gọi $d = (P) \cap (Q)$

$\Rightarrow d$ có vector chỉ phương $\overrightarrow{u} = \left[\overrightarrow{n}_{(P)}, \overrightarrow{n}_{(Q)}\right] = (-6; 2; -2)$

Xét điểm $C(x; y; z) \in d$

$\Rightarrow \begin {cases} x + 2y - z - 1 = 0 \\ y + z = 0 \end {cases}$

$\Rightarrow \begin {cases} x = 1 - 3y \\ z = -y \end {cases}$

Đặt $y = t$ thì $d: \begin {cases} x = 1 - 3t \\ y = t \\ z = -t \end {cases}$

Mà $M \in d \Rightarrow M(1 - 3t; t; -t)$

$\Rightarrow \overrightarrow{MA} = (3t + 1; 2 - t; t), \overrightarrow{MB} = (3t + 1; -t; t - 2)$

$\Rightarrow \cos \widehat{AMB} = \dfrac{\overrightarrow{MA} \cdot \overrightarrow{MB}}{\left| \overrightarrow{MA}\right|\left|\overrightarrow{MB}\right|}$

$= \dfrac{(3t + 1)^2 - t(2 - t) + t(t - 2)}{\sqrt{(3t + 1)^2 + (2 - t)^2 + t^2} \cdot \sqrt{(3t + 1)^2 + (-t)^2 + (t - 2)^2}}$

$= \dfrac{9t^2 + 6t + 1 - 2t + t^2 + t^2 - 2t}{\sqrt{9t^2 + 6t + 1 + t^2 - 4t + 4 + t^2} \cdot \sqrt{9t^2 + 6t + 1 + t^2 + t^2 - 4t + 4}}$

$= \dfrac{11t^2 + 2t + 1}{11t^2 + 2t + 5}$

$= 1 - \dfrac{4}{11t^2 + 2t + 5}$

Đặt $f(t) = 1 - \dfrac{4}{11t^2 + 2t + 5}$

$\Rightarrow f'(t) = \dfrac{4(22t + 2)}{(11t^2 + 2t + 5)^2}$

$f'(t) = 0 \Leftrightarrow t = -\dfrac{1}{11}$

Vì $11t^2 + 2t + 5 = 11\left(x + \dfrac{1}{11}\right)^2 + \dfrac{54}{11} > 0$ với mọi $t$

$\Rightarrow f'(t) > 0$ với mọi $t > -\dfrac{1}{11}$ và $f'(t) < 0$ với mọi $t < -\dfrac{1}{11}$

$\Rightarrow f(t)$ đạt giá trị nhỏ nhất khi $t = -\dfrac{1}{11}$

$\Rightarrow \cos \widehat{AMB}$ nhỏ nhất khi $t = -\dfrac{1}{11}$

$\Rightarrow \widehat{AMB}$ lớn nhất khi $t = -\dfrac{1}{11}$

$\Rightarrow M\left(\dfrac{14}{11}; -\dfrac{1}{11}; \dfrac{1}{11}\right)$

$\Rightarrow abc = -\dfrac{14}{1331}$