Gọi số học sinh nam và số học sinh nữ của đội tuyển lần lượt là `a`  (học sinh) và `b` (học sinh)` (a,b \in NN`*)

Do lớp có `1/2` số học sinh nam và `5/8` số học sinh nữ thi đấu tạo thành cặp (1 nam với 1 nữ)

`=> 1/2 a = 5/8 b (1)`

Số học sinh nam là cổ động viên là: `a - 1/2 a = 1/2 a` (học sinh)

Số học sinh nữ là cổ động viên là: `b - 5/8 b = 3/8 b` (học sinh)

Mà tổng số học sinh là cổ động viên là 16 học sinh

`=> 1/2 a + 3/8 b = 16 (2)`

Từ (1) và (2) ta có hệ phương trình:

`{(1/2a = 5/8 b ),(1/2 a + 3/8 b = 16):}`

`{(a = 5/4 b),(5/8 b + 3/8 b = 16):}`

`{(a = 5/4 . 16 = 20),( b= 16):}` (thỏa mãn)
`=>` Đội tuyển có tất cả: `20 + 16 = 36 ` (học sinh)