Đặt `A=2-5a^2-b^2-4ab+2a`

Ta có: `A=2-5a^2-b^2-4ab+2a`

`A=(-4a^2-4ab-b^2)+(-a^2+2a-1)+3`

`A=-(4a^2+4ab+b^2)-(a^2-2a+1)+3`

`A=-(2a+b)^2-(a-1)^2+3`

Ta có: `-(2a+b)^2≤0 AA a;b`

`=>-(2a+b)^2-(a-1)^2≤0 AA a;b`

`=>-(2a+b)^2-(a-1)^2+3≤3 AA a;b`

Dấu ''='' xảy ra khi và chỉ khi

`{(-(2a+b)^2=0),(-(a-1)^2=0):}`

`{(2a+b=0),(a-1=0):}`

`{(2·1+b=0),(a=1):}`

`{(b=-2),(a=1):}`

Vậy `a=1;b=-2` thì `A` đạt GTNN là `3`