`y^'=((cosx-3)^'*(cosx-m)-(cosx-3)*(cosx-m)^')/((cosx-m)^2)`

`=(-sinx*(cosx-m)-(cosx-3)*(-sinx))/((cosx-m)^2)`

`=(-sinxcosx+msinx+sinxcosx-3sinx)/((cosx-m)^2)`

`=((m-3)sinx)/((cosx-m)^2)`

Hàm số nghịch biến trên `(pi/2;pi)` `<=>` `{((m-3)sinx < 0  forall  x in (pi/2;pi)),(cosx-m ne 0  forall  x in (pi/2;pi)):}`

Do `sinx > 0  forall  x in (pi/2;pi)` `=>` `{(m-3 < 0),(m ne cosx  forall  x in (pi/2;pi)):}`

Với `x in (pi/2;pi)` thì `cosx in (-1;0)` `=>` `{(m-3 < 0),(m notin (-1;0)):}`

`=>` `{(m < 3),([(m <= -1),(m >= 0):}):}`

`=>` `m in (-oo;-1] uu [0;3)`

Vậy `m in (-oo;-1] uu [0;3)`