Ta có: 

Đường tròn $(C)$ có phương trình $x^2 + y^2 + 2x + 4y - 4 = 0$

→ $(x+1)^2 + (y+2)^2 = 9$

→ Tâm $I$ của đường tròn là $I(-1, -2)$ và bán kính $R = \sqrt{9} = 3$

Gọi $H$ là hình chiếu của $I$ trên $d$. Khi đó, $IH$ là khoảng cách từ $I$ đến $d$

Ta có: $IH = d(I, d) = \frac{|-1 - 2 - 2m + 3|}{\sqrt{1^2 + 1^2}} = \frac{|-2m|}{\sqrt{2}} = \sqrt{2}|m|$

Ta có: $IA = IB = R = 3$

Trong tam giác vuông $IAH$, ta có $AH^2 = IA^2 - IH^2 = 3^2 - (\sqrt{2}|m|)^2 = 9 - 2m^2$

→ $AB = 2AH = 2\sqrt{9 - 2m^2}$

Diện tích tam giác $IAB$ là $S_{IAB} = \frac{1}{2} \cdot AB \cdot IH = \frac{1}{2} \cdot 2\sqrt{9 - 2m^2} \cdot \sqrt{2}|m| = \sqrt{2}|m|\sqrt{9 - 2m^2}$

Theo đề bài, $S_{IAB} = \frac{9\sqrt{3}}{4}$.

Vậy, $\sqrt{2}|m|\sqrt{9 - 2m^2} = \frac{9\sqrt{3}}{4}$

$2m^2(9 - 2m^2) = \frac{243}{16}$

Đặt $t = m^2$, ta có $2t(9 - 2t) = \frac{243}{16} \Rightarrow 18t - 4t^2 = \frac{243}{16} \Rightarrow 4t^2 - 18t + \frac{243}{16} = 0$

→ $t = \frac{18 \pm \sqrt{18^2 - 4 \cdot 4 \cdot \frac{243}{16}}}{8} = \frac{18 \pm \sqrt{324 - 243}}{8} = \frac{18 \pm \sqrt{81}}{8} = \frac{18 \pm 9}{8}$

Vậy, $t_1 = \frac{27}{8}$ hoặc $t_2 = \frac{9}{8}$

→ $m^2 = \frac{27}{8}$ hoặc $m^2 = \frac{9}{8}$

→ $m = \pm \frac{3\sqrt{6}}{4}$ hoặc $m = \pm \frac{3\sqrt{2}}{4}$

Ta có $AB = 2\sqrt{9 - 2m^2}$. Để $AB$ lớn nhất, ta cần $9 - 2m^2$ lớn nhất, tức là $2m^2$ nhỏ nhất

Khi $m^2 = \frac{9}{8}$, ta có $AB = 2\sqrt{9 - 2 \cdot \frac{9}{8}} = 2\sqrt{9 - \frac{9}{4}} = 2\sqrt{\frac{27}{4}} = 3\sqrt{3}$

Khi $m^2 = \frac{27}{8}$, ta có $AB = 2\sqrt{9 - 2 \cdot \frac{27}{8}} = 2\sqrt{9 - \frac{27}{4}} = 2\sqrt{\frac{9}{4}} = 3$

Vậy, $AB$ lớn nhất khi $m = \pm \frac{3\sqrt{2}}{4}$

Kết luận: $m = \pm \frac{3\sqrt{2}}{4}$

@SuperSolver