Đáp án: $a=2, b=-3$

Giải thích các bước giải:

Ta có: 

$B=0$

$\to x^2-6x+5=0$

$\to x^2-5x-x+5=0$

$\to x(x-5)-(x-5)=0$
$\to (x-1)(x-5)=0$

$\to x\in\{1, 5\}$

Để $A$ chia hết cho $B$

$\to x=1, x=5$ là nghiệm của $A$

$\to \begin{cases}1^4-7\cdot 1^3+10\cdot 1^2+(a-1)\cdot 1+b-a=0\\ 5^4-7\cdot5^3+10\cdot 5^2+(a-1)\cdot5+b-a=0 \end{cases}$

$\to \begin{cases} b+3=0\\4a+b-5 =0 \end{cases}$

$\to \begin{cases} b=-3\\4a-3-5 =0 \end{cases}$

$\to \begin{cases} b=-3\\a=2 \end{cases}$