Đáp án: $ -2\le m\le-\dfrac32$

Giải thích các bước giải:

Ta có:

$y'=(2x^3+9mx^2+12m^2x+1)'$

$\to y'=6x^2+18mx+12m^2$

$\to y'=6(x+m)(x+2m)$

Để hàm số nghịch biến

$\to y'\le 0$

$\to 6(x+m)(x+2m)\le 0$

$\to -2m\le x\le -m$ hoặc $-m\le x\le -2m$

Trường hợp 1:  $m\ge 0$

$\to -2m\le -m$

$\to -2m\le x\le -m$

$\to x\in (-2m, -m)$

Để hàm số nghịch biến trên $(2, 3)$

$\to (2, 3)\subset (-2m, -m)$

$\to \begin{cases}-2m\le 2\\ 3\le -m\end{cases}$

$\to \begin{cases}-1\le m \\m\le -3  \end{cases}$

$\to -1\le m\le-3$ vô lý

$\to$Loại

Trường hợp 2: $m<0$

$\to -m<-2m$

$\to -m\le x\le -2m$

$\to x\in [-m, -2m]$

Để hàm số nghịch biến trên $(2, 3)$

$\to (2,3)\subset [-m, -2m]$

$\to \begin{cases}-m\le 2\\ 3\le -2m\end{cases}$

$\to \begin{cases}m\ge- 2\\ m\le-\dfrac32 \end{cases}$

$\to -2\le m\le-\dfrac32$ thỏa mãn $m<0$