`a. (3x-y)(5x+3y)=11`

Ta có: `11` là số nguyên tố, nên chỉ có các cặp ước số là `(1; 11)` và `(-1; -11)`

Trường hợp `1: 3x - y = 1 và 5x + 3y = 11`

Ta có hệ phương trình:

$\begin{cases} 3x - y = 1 \\ 5x + 3y = 11 \end{cases}$

Giải hệ phương trình trên, ta được `x = 2` và `y = 5`

Trường hợp `2: 3x - y = -1` và `5x + 3y = -11`

Ta có hệ phương trình:

$\begin{cases} 3x - y = -1 \\ 5x + 3y = -11 \end{cases}$

Giải hệ phương trình trên, ta được `x = -2` và `y = -5`

Trường hợp `3: 3x - y = 11` và `5x + 3y = 1`

Ta có hệ phương trình:

$\begin{cases} 3x - y = 11 \\ 5x + 3y = 1 \end{cases}$

Giải hệ phương trình trên, ta được `x = 4` và `y = -1`

Trường hợp `4: 3x - y = -11` và `5x + 3y = -1`

Ta có hệ phương trình:

$\begin{cases} 3x - y = -11 \\ 5x + 3y = -1 \end{cases}$

Giải hệ phương trình trên, ta được `x = -4` và `y = 1`

`=>` Vậy các nghiệm nguyên của phương trình là `(2; 5), (-2; -5), (4; -1), (-4; 1)`

`b. (x-y)(x+2y) = 28`

Ta có: `28 = 1 . 28 = 2 . 14 = 4 . 7 = (-1) . (-28) = (-2) . (-14) = (-4) . (-7)`

Trường hợp `1: x - y = 1` và `x + 2y = 28`

Ta có hệ phương trình:

$\begin{cases} x - y = 1 \\ x + 2y = 28 \end{cases}$

Giải hệ phương trình trên, ta được `x = 10` và `y = 9`

Trường hợp `2: x - y = 2 và x + 2y = 14`

Ta có hệ phương trình:

$\begin{cases} x - y = 12\\ x + 2y = 14 \end{cases}$

Giải hệ phương trình trên, ta được `x = 8` và `y = 6`

Trường hợp `3: x - y = 4` và `x + 2y = 7`

Ta có hệ phương trình:

$\begin{cases} x - y = 4\\ x + 2y = 7 \end{cases}$

Giải hệ phương trình trên, ta được `x = 11/3` và `y = -1/3` (loại vì không phải là nghiệm nguyên)

Trường hợp `4: x - y = -1` và `x + 2y = -28`

Ta có hệ phương trình:

$\begin{cases} x - y = -1\\ x + 2y = -28 \end{cases}$

Giải hệ phương trình trên, ta được `x = -10` và `y = -9`

Trường hợp `5: x - y = -2` và `x + 2y = -14`

Ta có hệ phương trình:

$\begin{cases} x - y = -2\\ x + 2y = -14 \end{cases}$

Giải hệ phương trình trên, ta được `x = -8` và `y = -6`

Trường hợp `6: x - y = -4` và `x + 2y = -7`

Ta có hệ phương trình:

$\begin{cases} x - y = -4\\ x + 2y = -7 \end{cases}$

Giải hệ phương trình trên, ta được `x = -11/3 và y = 1/3` (loại vì không phải là nghiệm nguyên)

`=>` Vậy các nghiệm nguyên của phương trình là `(10; 9), (8; 6), (-10; -9), (-8; -6)`