Điều kiện xác định: 

`x^2-10+14≥0`

`⇔x^2-10x+25-11≥0`

`⇔(x-5)^2≥11`

`⇔`\(\left[ \begin{array}{l}x-5≥\sqrt{11}\\x-5≤-\sqrt{11}\end{array} \right.\)`⇔`\(\left[ \begin{array}{l}x≥\sqrt{11}+5\\x≤-\sqrt{11}+5\end{array} \right.\)

Ta có:

`x^2-10x+14=2\sqrt{2x+1}`

`(x^2-10x+14)^2=(2\sqrt{2x+1})^2`

`⇔(x^2-10x+14)^2=4(2x+1)`

`⇔x^4-20x^3+128x^2-280x+196-8x-4=0`

`⇔x^4-20x^3+128x^2-288x+192=0`

`⇔x^4-8x^3+8x^2-12x^3+96x^2-96x+24x^2-192x+192=0`

`⇔x^2(x^2-8x+8)-12x(x^2-8x+8)+24(x^2-8x+8)=0`

`⇔(x^2-8x+8)(x^2-12x+24)=0`

`⇔`\(\left[ \begin{array}{l}x^2-8x+8=0\\x^2-12x+24=0\end{array} \right.\)

`+TH1:` `x^2-8x+8=0`

`⇔(x-4)^2=8`

`⇔`\(\left[ \begin{array}{l}x-4=-\sqrt{8}\\x-4=\sqrt{8}\end{array} \right.\)`⇔`\(\left[ \begin{array}{l}x=-2\sqrt{2}+4\\x=2\sqrt{2}+4 (loại) \end{array} \right.\) 

`+TH2:` `x^2-12x+24=0`

`⇔(x-6)^2=12`

`⇔`\(\left[ \begin{array}{l}x-6=-\sqrt{12}\\x-6=\sqrt{12}\end{array} \right.\)`⇔`\(\left[ \begin{array}{l}x=-2\sqrt{3}+6 (loại)\\x=2\sqrt{3}+6 \end{array} \right.\) 

Vậy tập nghiệm của phương trình là: `S={-2\sqrt{2}+4;2\sqrt{3}+6}`

~~~~~

Mình làm theo phương pháp thủ công là nâng lên bậc 2 rồi dùng hệ số bất định phân tích nhân tử.Vì cách làm này thường dài nên mình khuyên bạn không nên làm theo cách này mà chỉ nên tham khảo