Đáp án: $C$

Giải thích các bước giải:

Đặt $BC=x, x>0$

Áp dụng công thức Herong tính diện tích ta có:

$12=\sqrt{\dfrac{5+8+x}2\cdot \dfrac{-5+8+x}2\cdot \dfrac{5-8+x}2\cdot \dfrac{5+8-x}2}$

$\to 12=\sqrt{\dfrac{\left(x+13\right)\left(x+3\right)\left(x-3\right)\left(-x+13\right)}{16}}$

$\to 144=\dfrac{\left(x+13\right)\left(x+3\right)\left(x-3\right)\left(-x+13\right)}{16}$

$\to 2304=\left(x+13\right)\left(x+3\right)\left(x-3\right)\left(-x+13\right)$

$\to 2304=-x^4+178x^2-1521$

$\to -x^4+178x^2-3825=0$

$\to x^2\in\{25, 153\}$

$\to x\in\{5, 3\sqrt{17}\}$ vì $x>0$