a) Phương trình có nghiệm `<=> Δ' >= 0 `

`<=> m^2 - (m^2 - m + 3) >= 0`

`<=> m^2 - m^2 + m - 3 >=0`

`<=> m - 3 >= 0`

`<=> m >= 3`

Vậy phương trình có nghiệm khi `m>=3`

b) Theo Viet, ta có: 

`{(x_1 + x_2 = 2m),(x_1 x_2 = m^2 - m + 3):}`

`Q = x_1^2 + x_2^2 - 4x_1 x_2 + x_1 + x_2`

`= (x_1^2 + x_2^2 + 2x_1 x_2) + (x_1 + x_2) - 6x_1 x_2`

`= (x_1 + x_2)^2 + (x_1 + x_2) - 6x_1 x_2`

`= (2m)^2 + 2m - 6.(m^2 - m + 3)`

`= 4m^2 + 2m - 6m^2 + 6m - 18`

`= -2m^2 + 8m - 18`

`= -2 (m^2 - 4m + 9) `

`= -2 (m^2 - 4m + 4 + 5)`

`= -2 (m - 2)^2 - 10`

Mà `m >= 3`

Thấy `m` tăng thì `(m - 2)^2` tăng

`=> -2(m-2)^2` giảm 

`=> Q_(max)` khi `m = 3`

`=> Q_(max) = -12`

Vậy `Q_(max) = -12` khi `m = 3`