Giải thích các bước giải:

Do $ac=-3<0$

$\to$Phương trình luôn có $2$ nghiệm trái dấu

$\to \begin{cases}x_1+x_2=m+2\\x_1x_2=-3\end{cases}$

Ta có:

$x^2-(m+2)x-3=0$

$\to x^2-mx-2x-3=0$

$\to x^2-mx+1=2x+4$

Ta có:

$\sqrt{\dfrac{x_1^2-mx_1+1}{x_2^2-mx_2+1}}=\dfrac{-x_1}{x_2}$

$\to \sqrt{\dfrac{2x_1+4}{2x_2+4}}=\dfrac{-x_1}{x_2}$

$\to \sqrt{\dfrac{x_1+2}{x_2+2}}=\dfrac{-x_1}{x_2}$

$\to \dfrac{x_1+2}{x_2+2}=\dfrac{x_1^2}{x_2^2}$

$\to x_1^2(x_2+2)=x_2^2(x_1+2)$

$\to x_1^2x_2+2x_1^2=x_2^2x_1+2x_2^2$

$\to (x_1^2x_2-x_1x_2^2)+(2x_1^2-2x_2^2)=0$

$\to x_1x_2(x_1-x_2)+2(x_1-x_2)(x_1+x_2)=0$

Vì phương trình có $2$ nghiệm trái dấu $\to x_1-x_2\ne 0$

$\to x_1x_2+2(x_1-x_2)=0$

$\to -3+2(x_1-x_2)=0$

$\to x_1-x_2=\dfrac32$

$\to x_1+x_2-2x_2=\dfrac32$

$\to m+2-2x_2=\dfrac32$

$\to x_2=\dfrac{2m+1}4$

$\to (\dfrac{2m+1}4)^2-(m+2)\cdot \dfrac{2m+1}4-3=0$

$\to -\dfrac{m^2}{4}-m-\dfrac{55}{16}=0$

$\to -4m^2-16m-55=0$ vô nghiệm vì $ac<0$

$\to$Không tồn tại $m$ thỏa mãn đề