Đáp án+Giải thích các bước giải:

 Ta cho `PT(1)` là: `x^{2}-2.(m+1).x+m^{2}+2=0`

Có: `a=1;b=-2.(m+1);b'=-(m+1);c=m^{2}+2`

Ta xét: `\Delta'=b'^{2}-ac`

`=[-(m+1)]^{2}-1.(m^{2}+2)`

`=m^{2}+2m+1-m^{2}-2`

`=2m-1`

`+)` Để `PT(1)` có `2` nghiệm phân biệt thì: `\Delta'>0`

`<=>2m-1>0<=>2m>1<=>m> 1/2`

`+)` Ta gọi `x_{1};x_{2}` là hai nghiệm phân biệt của `PT(1)` theo hệ thức Vi-ét ta có:

`x_{1}+x_{2}=-b/a=-\frac{[-2.(m+1)]}{1}=2m+2(2)` và `x_{1}.x_{2}=c/a=m^{2}+2(3)`

`+)` Ta xét: `x_{1}^{2}-3x_{2}^{2}=2.(m^{2}+x_{1}x_{2}-1)`

`<=>x_{1}^{2}-3x_{2}^{2}=2m^{2}-2+2x_{1}x_{2}`

`<=>x_{1}^{2}-3x_{2}^{2}=2.(m-1).(m+1)+2x_{1}x_{2}`

`<=>x_{1}^{2}-2x_{1}x_{2}+x_{2}^{2}-4x_{2}^{2}=(m-1).(x_{1}+x_{2})`

`<=>(x_{1}+x_{2})^{2}-4x_{1}x_{2}-4x_{2}^{2}=(m-1).(x_{1}+x_{2})`

`<=>(x_{1}+x_{2})^{2}-(m-1).(x_{1}+x_{2})-4x_{2}.(x_{1}+x_{2})=0`

`<=>(x_{1}+x_{2}).[(x_{1}+x_{2})-(m-1)-4x_{2}]=0`

`<=>(2m+2).(2m+2-m+1-4x_{2})=0`

`<=>2m+2=0` hoặc `m+3-4x_{2}=0`

`<=>m=-1(ktmđk)` hoặc `-4x_{2}=-m-3`

`<=>x_{2}=1/4m+3/4`

`+)` Thay `x_{2}=1/4m+3/4` vào `(2)` ta được:

`<=>x_{1}+1/4m+3/4=2m+2`

`<=>x_{1}=2m+2-1/4m-3/4`

`<=>x_{1}=7/4m+5/4`

`+)` Thay `x_{1}=7/4m+5/4;x_{2}=1/4m+3/4` vào `(3)` ta được:

`<=>(7/4m+5/4).(1/4m+3/4)=m^{2}+2`

`<=>7/16m^{2}+21/16m+5/16m+15/16-m^{2}-2=0`

`<=>-9/16m^{2}+13/8m-17/16=0`

`<=>-9m^{2}+26m-17=0`

`<=>-9m^{2}+17m+9m-17=0`

`<=>-m.(9m-17)+1.(9m-17)=0`

`<=>(1-m).(9m-17)=0`

`<=>1-m=0` hoặc `9m-17=0`

`<=>m=1(tmđk)` hoặc `m=17/9(tmđk)`

 Vậy `m\in{1;17/9}` là các giá trị `m` thoả mãn yêu cầu đề bài.