Giải phương trình: ${\log }_{2+\sqrt{5}}\left(x^2-2x-11\right)={\log }_{2\sqrt{2+\sqrt{5}}}\left(x^2-2x-12\right)$ (1)

Điều kiện: $\{\begin{array}{l}{x}^2-2x-12>0\\ x^2-2x-11>0\end{array}$ (*)

$(2+\sqrt{5}{)}^2=9+4\sqrt{5}$ và $(2\sqrt{2+\sqrt{5}}{)}^2=8+4\sqrt{5}$ do đó $2+\sqrt{5}=\sqrt{9+4\sqrt{5}}$ và $2\sqrt{2+\sqrt{5}}=\sqrt{8+4\sqrt{5}}$.

$(1)\iff {\log }_{\sqrt{9+4\sqrt{5}}}(x^2-2x-11)={\log }_{\sqrt{8+4\sqrt{5}}}(x^2-2x-12)$

$\iff {\log }_{9+4\sqrt{5}}(x^2-2x-11)={\log }_{8+4\sqrt{5}}(x^2-2x-12)$

Đặt: $a=8+4\sqrt{5}>1$, $t=x^2-2x-12$. Điều kiện: $t>0$.

Do đó: $(1)\iff {\ln }_{a+1}(t+1)={\ln }_{a}t$

Xét hàm số $y=f(t)={\ln }_{a+1}(t+1)-{\ln }_{a}t$ ($a>1$)

Ta được: $y^{\prime }=\frac{1}{(t+1)\ln (a+1)}-\frac{1}{t\ln a}<0$ vì $a>1$, nên hàm số giảm trên $(0;+\infty )$ và ta có f(t) = 0 có nghiệm t = a nên f(t) có nghiệm duy nhất t = a.

Vậy: $(1)\iff {\ln }_{a+1}(t+1)={\ln }_{a}t\iff t=a\Rightarrow x^2-2x-12=8+4\sqrt{5}$ (thỏa *)

$\iff x^2-2x-20-4\sqrt{5}=0\iff x=2+2\sqrt{5}$ hoặc $x=-2\sqrt{5}$.

Vậy phương trình đã cho có hai nghiệm: $x=2+2\sqrt{5}$ hoặc $x=-2\sqrt{5}$. [0.5]