`x^2 - 2(2m+1)x +4m^2 - 2m + 3 = 0 (1)`

phương trình `(1)` có `Delta' = (2m+1)^2 - (4m^2 -2m + 3)`

`= 4m^2 + 4m + 1 - 4m^2 + 2m - 3`

` = 6m - 2`

Để phương trình `(1)` có 2 nghiệm `x_1, x_2` thì

`Delta' >=0`

`6m - 2 >=0`

`6m>=2`

`m>=1/3`

Khi đó, áp dụng hệ thức Vi-ét vào phương trình `(1)` ta được:

`{(x_1 + x_2 = 2(2m+1)),(x_1. x_2 = 4m^2-2m+3):}`

Ta có:

`(x_1 - 1)^2 + (x_2 - 1)^2 + 2(x_1 + x_2 - x_1 x_2) = 18`

`x_1^2 - 2x_1 + 1 + x_2^2 - 2x_2 + 1 + 2x_1 + 2x_2 - 2x_1x_2 = 18`

`(x_1 ^2 + x_2^2 + 2x_1x_2) - 4x_1 x_2 = 16`

`(x_1 + x_2)^2 - 4x_1 x_2 = 16`

`4(2m+1)^2 - 4(4m^2-2m+3) = 16`

`4(4m^2 + 4m + 1) - 16m^2 + 8m -12 = 16`

`16m^2+ 16m + 4 - 16m^2 + 8m - 12 -16 =0`

`24m - 24 =0`

`24m = 24`

`m = 1` (t/m)

Vậy `m=1` thỏa mãn bài toán