Giải thích các bước giải:

$\begin{aligned}
&\text{Tổng số sách là } 11 \text{ cuốn phân biệt (3 Toán, 3 Văn, 5 Anh).} \\
&\text{Để không có bất kỳ 2 cuốn sách cùng môn nào đứng cạnh nhau, ta xét:} \\
\\
&\text{1. Tạm thời coi các cuốn sách cùng môn là giống nhau. Ta tìm số cách xếp 3 chữ T, 3 chữ V, 5 chữ A.} \\
&\text{- Đầu tiên, xếp 3 chữ T và 3 chữ V thành một hàng ngang. Số cách xếp là: } \frac{6!}{3! \cdot 3!} = 20 \text{ (cách).} \\
&\text{- Hàng ngang này tạo ra } 7 \text{ vị trí trống (5 khe giữa 6 chữ và 2 khoảng trống ở hai đầu) để có thể chèn chữ A.} \\
&\text{- Để thỏa mãn điều kiện đề bài, ta bắt buộc phải chèn chữ A vào các vị trí "lỗi".} \\
&\quad \text{(Lỗi là khe giữa 2 chữ T đứng cạnh nhau, hoặc 2 chữ V đứng cạnh nhau).} \\
&\text{- Giả sử một cách xếp T và V có } k \text{ lỗi } (0 \le k \le 4)\text{.} \\
&\quad \text{Ta phải dùng } k \text{ chữ A chèn vào } k \text{ khe lỗi này (bắt buộc mỗi khe lỗi 1 chữ A để tách chúng ra).} \\
&\quad \text{Còn lại } 5 - k \text{ chữ A, ta xếp vào } 7 - k \text{ vị trí trống còn lại (mỗi vị trí tối đa 1 chữ A để chữ A không kề nhau).} \\
&\quad \Rightarrow \text{Số cách xếp chữ A vào hàng là: } C_{7-k}^{5-k} = C_{7-k}^2 \text{ (cách).} \\
\\
&\text{Ta phân loại 20 cách xếp T, V theo số lượng lỗi } k \text{ như sau:} \\
&\text{- } {k = 0} \text{ (0 lỗi): Gồm 2 cách xếp là TVTVTV và VTVTVT.} \\
&\quad \Rightarrow \text{Số cách xếp chữ A là: } 2 \cdot C_7^2 = 2 \cdot 21 = 42 \text{ (cách).} \\
&\text{- } {k = 1} \text{ (1 lỗi): Gồm 4 cách xếp (V TT V T V, V T V TT V, T VV T V T, T V T VV T).} \\
&\quad \Rightarrow \text{Số cách xếp chữ A là: } 4 \cdot C_6^2 = 4 \cdot 15 = 60 \text{ (cách).} \\
&\text{- } {k = 3} \text{ (3 lỗi): Gồm 4 cách xếp (V TTT VV, VV TTT V, T VVV TT, TT VVV T).} \\
&\quad \Rightarrow \text{Số cách xếp chữ A là: } 4 \cdot C_4^2 = 4 \cdot 6 = 24 \text{ (cách).} \\
&\text{- } {k = 4} \text{ (4 lỗi): Gồm 2 cách xếp (TTT VVV, VVV TTT).} \\
&\quad \Rightarrow \text{Số cách xếp chữ A là: } 2 \cdot C_3^2 = 2 \cdot 3 = 6 \text{ (cách).} \\
&\text{- } {k = 2} \text{ (2 lỗi): Các trường hợp còn lại trong tổng 20 cách. Số lượng: } 20 - (2 + 4 + 4 + 2) = 8 \text{ (cách).} \\
&\quad \Rightarrow \text{Số cách xếp chữ A là: } 8 \cdot C_5^2 = 8 \cdot 10 = 80 \text{ (cách).} \\
&\Rightarrow \text{Tổng số cách định vị các môn sách là: } 42 + 60 + 24 + 6 + 80 = 212 \text{ (cách).} \\
\\
&\text{2. Xếp các cuốn sách phân biệt vào các vị trí đã định sẵn.} \\
&\text{- Xếp 3 cuốn Toán vào 3 vị trí chữ T: } 3! \text{ cách.} \\
&\text{- Xếp 3 cuốn Văn vào 3 vị trí chữ V: } 3! \text{ cách.} \\
&\text{- Xếp 5 cuốn Anh vào 5 vị trí chữ A: } 5! \text{ cách.} \\
\\
&\text{Theo quy tắc nhân, tổng số cách sắp xếp thỏa mãn yêu cầu bài toán là:} \\
&\text{Số cách} = 212 \cdot 3! \cdot 3! \cdot 5! = 212 \cdot 6 \cdot 6 \cdot 120 = 915\,840 \text{ (cách).}
\end{aligned}$