Trong không gian với hệ trục tọa độ $Oxyz$, cho mặt cầu $(S):x^2+y^2+z^2-2x-4y-4z=0$ và hai điểm $A(4;-4;2)$, $B(6;0;6)$. Gọi $M(a;b;c)$ với $a,b,c$ là các số thực, là một điểm thuộc mặt cầu $(S)$ sao cho $MA+MB$ đạt giá trị lớn nhất. Tính $a^2+3b^2+2c^2$.

(AI giải đề cho tôi)
Mặt cầu $(S):x^2+y^2+z^2-2x-4y-4z=0$ có tâm $I(1;2;2)$, bán kính $R=3$. Hai điểm $A(4;-4;2)$, $B(6;0;6)$ nằm ngoài mặt cầu vì $IA=\sqrt{9+36+0}=3\sqrt{5}$, $IB=\sqrt{25+4+16}=\sqrt{45}=3\sqrt{5}$.

Do tính đối xứng, điểm $M$ cho $MA+MB$ lớn nhất nằm trong mặt phẳng đi qua $I$ và đường thẳng $AB$. Mặt phẳng qua $A,B,I$ có pháp tuyến $\overrightarrow{AB}\times \overrightarrow{AI}\parallel (2;1;-2)$, phương trình $2x+y-2z=0$ (thỏa tại $A$, $B$, $I$).

Lập hệ trục trong mặt phẳng với gốc $I$: trục $u=\frac{1}{3}(1;2;2)$ dọc $AB$, trục $w=\frac{1}{3}(-2;2;-1)$ vuông góc $u$ trong mặt phẳng. Khi đó $A$ có tọa độ $(-3;-6)$, $B$ có tọa độ $(3;-6)$, và $M=(x;y)$ với $x^2+y^2=9$.

Cần tối đa hóa $f=\sqrt{(x+3{)}^2+(y+6{)}^2}+\sqrt{(x-3{)}^2+(y+6{)}^2}$. Do đối xứng $x\leftrightarrow -x$, cực đại tại $x=0$. Thử: $y=3$ cho $f=2\sqrt{90}=6\sqrt{10}\approx 18,97$; $y=-3$ cho $f=6\sqrt{2}\approx 8,49$; $x=\pm 3,y=0$ cho $f\approx 14,49$. Vậy giá trị lớn nhất tại $(0;3)$, tức $M=I+3w=(1;2;2)+(-2;2;-1)=(-1;4;1)$.

Kiểm tra: $M$ thuộc mặt cầu vì $1+16+1+2-16-4=0$; thuộc mặt phẳng vì $-2+4-2=0$.

Tính $a^2+3b^2+2c^2=(-1{)}^2+3\cdot 4^2+2\cdot 1^2=1+48+2=51$.