Trong không gian với hệ trục tọa độ $Oxyz$, cho các điểm $A(2;-1;6)$, $B(1;1;2)$, $C(-3;-2;4)$, $D(6;-4;1)$. Điểm $M$ di động trên mặt phẳng $(Oyz)$. Giá trị lớn nhất của biểu thức $T={\left(\frac{\overline{MA}}{\overline{MD}}\right)}^2-3{\left(\frac{\overline{MB}}{\overline{MD}}\right)}^2+{\left(\frac{\overline{MC}}{\overline{MD}}\right)}^2$ là

(AI giải đề cho tôi)
Vì $M\in (Oyz)$ nên đặt $M(0;y;z)$. Ta có:
$M{A}^2=4+(y+1{)}^2+(z-6{)}^2$, $M{B}^2=1+(y-1{)}^2+(z-2{)}^2$, $M{C}^2=9+(y+2{)}^2+(z-4{)}^2$, $M{D}^2=36+(y+4{)}^2+(z-1{)}^2$.

Tử số: $M{A}^2-3M{B}^2+M{C}^2=10+(-y^2+12y+2)+(-z^2-8z+40)=-y^2-z^2+12y-8z+52$.

Đặt $u=y+4,v=z-1$ thì $y=u-4,z=v+1$, do đó
$$T=\frac{-u^2-v^2+20u-10v-21}{u^2+v^2+36}.$$
Với $s=u^2+v^2$, theo Cauchy $20u-10v\le 10\sqrt{5}\sqrt{s}$ (dấu bằng khi $(u,v)$ cùng phương $(2,-1)$), nên
$$T\le \frac{-s+10\sqrt{5}\sqrt{s}-21}{s+36}.$$
Đặt $t=\sqrt{s}\ge 0$, xét $f(t)=\frac{-t^2+10\sqrt{5}t-21}{t^2+36}$.
$f^{\prime }(t)=0\iff -10\sqrt{5}{t}^2-30t+360\sqrt{5}=0\iff t^2+\frac{3}{\sqrt{5}}t-36=0\iff t=\frac{12}{\sqrt{5}}$ (nghiệm dương).

Tại đó $t^2=\frac{144}{5}$ và $10\sqrt{5}t=120$, nên
$$T_{\max }=\frac{-\frac{144}{5}+120-21}{\frac{144}{5}+36}=\frac{\frac{351}{5}}{\frac{324}{5}}=\frac{351}{324}=\frac{13}{12}\approx 1,083.$$

Kiểm tra: khi $t\to \infty$, $T\to -1$; tại $t=0$, $T=-21/36<0$, nên giá trị trên là GTLN. Dấu bằng xảy ra khi $\frac{v}{u}=-\frac{1}{2}$, tức $z-1=-\frac{y+4}{2}$ với $y+4=\frac{2t}{\sqrt{5}}=\frac{24}{5}$ (khi đó $20u-10v=120=10\sqrt{5}t$, thỏa mãn).

Vậy $\max T=\frac{13}{12}\approx 1,08$.