Đáp án + Giải thích các bước giải:

Phương trình $x^2+2mx+m^2-2m-7=0$ luôn có hệ số $\begin{cases} a=1\\b=2m\\c=m^2-2m-7 \end{cases}$

⇒$\Delta'=(\dfrac b2)^2-a.c\\=(\dfrac {2m}2)^2-1.(m^2-2m-7)\\=m^2-m^2+2m+7\\=2m+7$

+) Để phương trình cho trước có 2 nghiệm $x_1;x_2$ phân biệt thì: $\Delta'>0\\⇔2m+7>0\\⇔m>\dfrac{-7}2\\⇔m>-3,5$

Theo Viete, ta có: +)$\begin{cases} x_1+x_2=\dfrac{-b}a=2m\\x_1.x_2=\dfrac ca=m^2-2m-7\end{cases}$

+)$x_1^2+3x_1x_2+2x_2^2=0\\⇔x_1^2+x_1x_2+2x_1x_2+2x_2^2=0\\⇔(x_1+x_2)(x_1+2x_2)=0\\⇔\left[ \begin{array}{l}x_1+x_2=0\\x_1+2x_2=0\end{array} \right. $

⇒Ta có 2 trường hợp sau:

+//$x_1+x_2=0\\⇔2m=0\\⇔m=0\text{(thỏa mãn với $m>-3,5$ nên ta nhận)}$

+//$x_1+2x_2=0$ trong khi $x_1+x_2=2m$

+)$\begin{cases} x_1+2x_2=0\\x_1+x_2=2m \end{cases}⇔\begin{cases} x_1+2x_2=0\\x_2=-2m \end{cases}\\⇒x_1=-2x_2=-2.(-2m)=4m$

⇒$x_1.x_2=m^2-2m-7\\⇔4m.-2m=m^2-2m-7\\⇔7m^2-2m-7=0\\⇔\left[ \begin{array}{l}x=\dfrac{5\sqrt2+1}{7}\\x=\dfrac{1-5\sqrt2}{7}\end{array}\text{(thỏa mãn với $m>-3,5$)} \right.$

Vậy $m\in\text{{$0;\dfrac{1-5\sqrt2}{7};\dfrac{5\sqrt2+1}{7}$}}$