Giả sử `a,b` cùng chẵn hoặc cùng lẻ `=>` `a-b` là số chẵn

Mà `a-b` là số nguyên tố `=>` `a-b=2=>a=b+2`

`=>` `ab=(b+2)*b=b^2+2b`

Dễ thấy `b^2 < b^2+2b < b^2+2b+1=(b+1)^2` với mọi `b` nguyên dương

`=>` `ab` nằm giữa `2` số chính phương liên tiếp

`=>` `ab` không thể là số chính phương

`=>` Loại

`=>` Trong hai số `a,b` phải có `1` số chẵn và `1` số lẻ

Có: `a-b` là số nguyên tố `=>` `a-b` chia `4` dư `1` hoặc `3`

TH1: `a-b` chia `4` dư `1` `=>` `a-b=4k+1 \ (k in NN^**) =>a=b+4k+1`

Đặt: `ab=m^2 \ (m in NN^**)`

`=>` `(b+4k+1)*b-m^2=0`

`=>` `b^2+(4k+1)b-m^2=0`

Có: `Delta=(4k+1)^2+4m^2 > 0` với mọi `k,m in NN^**`

`=>` `b=(-(4k+1)+-sqrt((4k+1)^2+4m^2))/2`

Do `b > 0 => b = (-(4k+1)+sqrt((4k+1)^2+4m^2))/2`

Do `b` nguyên `=>` `(4k+1)^2+4m^2` phải là số chính phương lẻ

Ta có: `a+b-3=b+4k+1+b-3=2b+4k-2=-(4k+1)+sqrt((4k+1)^2+4m^2)+4k-2`

`=sqrt((4k+1)^2+4m^2)-3`

`=>` `sqrt((4k+1)^2+4m^2)-3 \ vdots \ 5`

`=>` `sqrt((4k+1)^2+4m^2)` chia `5` dư `3`

Đặt: `(4k+1)^2+4m^2=n^2` với `n in NN^**` `=>` `n` chia `5` dư `3`

Đặt: `{(4k+1=p^2-q^2),(2m=2pq),(n=p^2+q^2):}` với `p > q; p,q in NN^**` và `p+q` lẻ

Ta có: `4k+1=p^2-q^2=(p-q)(p+q)` là số nguyên tố `=>` `p-q=1` hay `p=q+1`

`=>` `4k+1=p+q=2q+1` chia `4` dư `1`

`=>` `2q` chia hết cho `4`

`=>` `q` là số chẵn

`=>` `q=2t` với `t in NN^**`

Ta có: `n=p^2+q^2=(q+1)^2+q^2=2q^2+2q+1=8t^2+4t+1` chia `5` dư `3`

`=>` `8t^2+4t+1-3=8t^2+4t-2=2(4t^2+2t-1) \ vdots \ 5`

Do `2` và `5` là hai số nguyên tố cùng nhau `=>` `4t^2+2t-1 \ vdots \ 5`

`=>` `[5t^2+(-t^2+2t-1)] \ vdots \ 5`

`=>` `(-t^2+2t-1) \ vdots \ 5`

`=>` `-(t-1)^2 \ vdots \ 5`

`=>` `(t-1) \ vdots \ 5`

`=>` `t` chia `5` dư `1`

`=>` `t=5u+1` với `u in NN`

Khi này: `4k+1=2q+1=4t+1=20u+5=5(4u+1)`

Do `4k+1` là số nguyên tố `=>` `4u+1=1` `=>` `u=0` `=>` `t=1`

`=>` `{(4k+1=5),(2m=12=>m=6),(n=13):}`

`=>` `b=(-5+13)/2=4`

`=>` `a=9`

TH2: `a-b` chia `4` dư `3` `=>` `a-b=4k+3 \ (k in NN)` `=>` `a=b+4k+3`

Đặt: `ab=m^2 \ (m in NN^**)`

`=>` `(b+4k+3)*b-m^2=0`

`=>` `b^2+(4k+3)b-m^2=0`

Lập luận tương tự TH1 `=>` `b=(-(4k+3)+sqrt((4k+3)^2+4m^2))/2` là số nguyên

`=>` `(4k+3)^2+4m^2` là số chính phương lẻ

Ta có: `a+b-3=b+4k+3+b-3=2b+4k=-(4k+3)+sqrt((4k+3)^2+4m^2)+4k`

`=sqrt((4k+3)^2+4m^2)-3`

`=>` `[sqrt((4k+3)^2+4m^2)-3] \ vdots \ 5`

`=>` `sqrt((4k+3)^2+4m^2)` chia `5` dư `3`

Đặt: `(4k+3)^2+4m^2=n^2` với `n in NN^**` `=>` `n` chia `5` dư `3`

Đặt: `{(4k+3=p^2-q^2),(2m=2pq),(n=p^2+q^2):}` với `p > q; p,q in NN^**` và `p+q` lẻ

Ta có: `4k+3=p^2-q^2=(p-q)(p+q)` là số nguyên tố `=>` `p-q=1` hay `p=q+1`

`=>` `4k+3=2q+1` chia `4` dư `3`

Nếu `q` là số chẵn `=>` `2q` chia hết cho `4` `=>` `2q+1` chia `4` dư `1` `=>` Mâu thuẫn

`=>` `q` là số lẻ

`=>` `q=2t+1` với `t in NN`

Ta có: `n=p^2+q^2=(q+1)^2+q^2=2q^2+2q+1`

`=2(2t+1)^2+2(2t+1)+1`

`=8t^2+12t+5`

`=>` `8t^2+12t+5` chia `5` dư `3`

`=>` `8t^2+12t+5-3=8t^2+12t+2=2(4t^2+6t+1) \ vdots \ 5`

Do `2` và `5` là hai số nguyên tố cùng nhau `=>` `(4t^2+6t+1) \ vdots \ 5`

`=>` `[(4t^2+6t+1)-(5t^2+10t+5)] \ vdots \ 5`

`=>` `-(t+2)^2 \ vdots \ 5`

`=>` `(t+2) \ vdots \ 5`

`=>` `t+2-5=t-3 \ vdots \ 5`

`=>` `t` chia `5` dư `3`

`=>` `t=5u+3` với `u in NN`

Khi này: `4k+3=2q+1=4t+3=20u+15=5(4u+3)`

Do `4k+3` là số nguyên tố `=>` `4u+3=1` `=>` Vô nghiệm

Vậy `a=9` và `b=4` thỏa mãn bài toán