`a)` Với `m=0`, phương trình `(1)` trở thành:

`x^2 + 2*0x + 0^2 + 0 - 2 = 0`

`=> x^2 - 2 = 0`

`=> x^2 = 2`

`=> x = +-sqrt(2)`

`b)` Để phương trình `(1)` có hai nghiệm `x_1, x_2` thì `Delta' >= 0`

`Delta' = m^2 - (m^2 + m - 2) = -m + 2`

`Delta' >= 0 <=> -m + 2 >= 0 <=> m <= 2`

Theo hệ thức Vi-ét, ta có:

`{(x_1 + x_2 = -2m),(x_1x_2 = m^2 + m - 2):}`

Ta có: `P = -x_2^2 + (2m + 3)x_2 + 3x_1 + x_1x_2`

`P = -x_2^2 + 2mx_2 + 3x_2 + 3x_1 + x_1x_2`

`P = -x_2^2 + 2mx_2 + 3(x_1 + x_2) + x_1x_2`

Thay `x_1 + x_2 = -2m` vào `P` ta được:

`P = -x_2^2 + 2mx_2 + 3(-2m) + x_1x_2`

`P = -x_2^2 + 2mx_2 - 6m + x_1x_2`

Vì `x_2` là nghiệm của phương trình `(1)` nên:

`x_2^2 + 2mx_2 + m^2 + m - 2 = 0`

`=> x_2^2 = -2mx_2 - m^2 - m + 2`

Suy ra:

`P = -(-m^2 - m + 2) + 3(-2m) + (m^2 + m - 2)`

`P = 2m^2 - 4m - 4`

`=> P_{"max"} = 2(m-1)^2 - 6` `(m <= 2)`

Mà `m <= 2` nên `P` không có giá trị lớn nhất