`x^2-2(m+1)x+2m+1=0 (1)`

`Delta>=0`

`4m^2+8m+4-8m-4>=0`

`4m^2>=0`

`m>=0`

`a,`

Thay `m=2(TM)` vào pt `(1)` ta có:

`x^2-6x+5=0`

`(x^2-x)-(5x-5)=0`

`x(x-1)-5(x-1)=0`

`(x-1)(x-5)=0`

`=>x-1=0` hoặc `x-5=0`

`=>x=1` hoặc `x=5`

Vậy tại `m=2` thì pt `(1)` có tập nghiệm là: `S={1;5}`

`b,`

Theo vi-ét ta có:

`{(x_1+x_2=2m+2),(x_1x_2=2m+1):}`

Ta có:

`(x_1+x_2)^2-x_1^2x_2^2-6m=4`

`(x_1+x_2)^2-(x_1x_2)^2-6m=4`

`(2m+2)^2-(2m+1)^2-6m=4`

`4m^2+8m+4-4m^2-4m-1-6m=4`

`-2m+3=4`

`-2m=1`

`m=-1/2(L)`

Vậy không có giá trị nào của `m` thỏa mãn `(x_1+x_2)^2-x_1^2x_2^2-6m=4`