`a)`

`A=x^2-2xy+2y^2+2x-10y+17`

`A=(x^2-2xy+y^2)+(2x-2y)+1+(y^2-8y+16)`

`A=(x-y)^2+2(x-y)+1^2+(y-4)^2`

`A=(x-y+1)^2+(y-4)^2`

Ta có: `(x-y+1)^2+(y-4)^2≥0 AA x;y`

Dấu ''='' xảy ra khi và chỉ khi

`{(x-y+1=0),(y-4=0):}`

`{(x-4+1=0),(y=4):}`

`{(x=3),(y=4):}`

Vậy `x=3;y=4` thì `A` đạt GTNN là `0`

`b)`

`B=x^2-xy+y^2-2x-2y`

`2B=2(x^2-xy+y^2-2x-2y)`

`2B=2x^2-2xy+2y^2-4x-4y`

`2B=(x^2-4x+4)+(y^2-4y+4)+(x^2-2xy+y^2)-8`

`2B=(x-2)^2+(y-2)^2+(x-y)^2-8`

Ta có: `(x-2)^2+(y-2)^2+(x-y)^2≥0 AA x;y`

`=>(x-2)^2+(y-2)^2+(x-y)^2-8≥-8 AA x;y`

`=>2B≥-8 AA x;y`

`=>B≥-4 AA x;y`

Dấu ''='' xảy ra khi và chỉ khi

`{(x-2=0),(y-2=0),(x-y=0):}`

`{(x=2),(y=2),(2-2=0):}`

`{(x=2),(y=2),(0=0):}`

Vậy `x=y=2` thì `B` đạt GTN là `-4`