Đặt $f(x)=x^2-3x-m$
Theo đề ta có: $f(x)<0 <=> x^2-3x-m<0$
$\Delta=9+4m$
Nếu $\Delta <0$ $=>$ $f(x)>0, \forall x \in R$
Không thỏa mãn đề bài
Nếu $\Delta=0$ $=>$ $m=-\dfrac{9}{4}$
$=>$ $f(x) \ge 0$ không thỏa mãn 
Nếu $\Delta >0:$ Bất phương trình có nghiệm thỏa mãn
$x_1<1<2<x_2$
$<=>$ $\begin{cases} x_1<1<x_2\\x_1<2<x_2\end{cases}$
$<=>$ $\begin{cases} f(1) \le 0\\f(2) \le 0\end{cases}$

 $<=>$ $\begin{cases} -2-m  \le 0\\-2-m \le 0\end{cases}$
$<=>$ $m \ge 2$
Vậy $m \ge 2$ thỏa mãn $x \in (1;2)$