Trong không gian với hệ tọa độ $Oxyz$, cho các điểm $A(2;1;1),B(1;2;3),C(-1;2;0)$. Điểm $M(x;y;z)$ thỏa mãn $\cos \left(\overrightarrow{MA};\overrightarrow{MB}\right)+\cos \left(\overrightarrow{MA};\overrightarrow{MC}\right)=0$ và tồn tại số thực $k$ thỏa mãn $\overrightarrow{AM}=k\overrightarrow{AB}+k(3k+1)\overrightarrow{AC}$. Tổng $2x+y+3z-k$ bằng

(AI giải đề cho tôi)
Ta có $\overrightarrow{AB}=(-1;1;2)$, $\overrightarrow{AC}=(-3;1;-1)$, nên $\overrightarrow{AM}=k\overrightarrow{AB}+k(3k+1)\overrightarrow{AC}=(-4k-9k^2;2k+3k^2;k-3k^2)$, suy ra $M(2-4k-9k^2;1+2k+3k^2;1+k-3k^2)$.

Điều kiện $\cos (\overrightarrow{MA};\overrightarrow{MB})+\cos (\overrightarrow{MA};\overrightarrow{MC})=0$ nghĩa là $MA$ là phân giác ngoài của góc $BMC$, tương đương khoảng cách từ $A$ đến hai đường thẳng $MB$, $MC$ bằng nhau:
$$\frac{|\overrightarrow{MA}\times \overrightarrow{MB}|}{|\overrightarrow{MB}|}=\frac{|\overrightarrow{MA}\times \overrightarrow{MC}|}{|\overrightarrow{MC}|}.$$
Vì $\overrightarrow{MB}=\overrightarrow{AB}-\overrightarrow{AM}$, $\overrightarrow{MC}=\overrightarrow{AC}-\overrightarrow{AM}$ nên $\overrightarrow{MA}\times \overrightarrow{MB}=\overrightarrow{MA}\times \overrightarrow{AB}$, $\overrightarrow{MA}\times \overrightarrow{MC}=\overrightarrow{MA}\times \overrightarrow{AC}$. Với $\overrightarrow{MA}=-k(\overrightarrow{AB}+(3k+1)\overrightarrow{AC})$ và $\overrightarrow{AB}\times \overrightarrow{AC}=(-3;-7;2)$, $|\overrightarrow{AB}\times \overrightarrow{AC}|=\sqrt{62}$, ta được (với $k\ne 0$):
$$\frac{|3k+1|\sqrt{62}}{|\overrightarrow{MB}|}=\frac{\sqrt{62}}{|\overrightarrow{MC}|}\Rightarrow |\overrightarrow{MB}{|}^2=(3k+1{)}^2|\overrightarrow{MC}{|}^2.$$
Tính trực tiếp:
$$|\overrightarrow{MB}{|}^2=99k^4+78k^3+9k^2-16k+6,|\overrightarrow{MC}{|}^2=99k^4+78k^3-45k^2-26k+11.$$
Phương trình $|\overrightarrow{MB}{|}^2=(9k^2+6k+1)|\overrightarrow{MC}{|}^2$ tương đương
$$891k^6+1296k^5+63k^4-504k^3-111k^2+56k+5=0,$$
với nghiệm đẹp $k=\frac{1}{3}$ (thay $k=1/3$: $2-7+5=0$; khi đó $|\overrightarrow{MB}{|}^2=52/9$, $|\overrightarrow{MC}{|}^2=13/9$, đúng tỉ số $(3k+1{)}^2=4$).

Với $k=\frac{1}{3}$: $M\left(-\frac{1}{3};2;1\right)$, khi đó $\overrightarrow{MC}=-\frac{1}{2}\overrightarrow{MB}$ nên $\cos (\overrightarrow{MA};\overrightarrow{MB})+\cos (\overrightarrow{MA};\overrightarrow{MC})=0$ thỏa mãn.

Tính tổng:
$$2x+y+3z-k=2(2-4k-9k^2)+(1+2k+3k^2)+3(1+k-3k^2)-k=8-4k-24k^2.$$
Thay $k=\frac{1}{3}$: $8-\frac{4}{3}-\frac{24}{9}=8-4=4$.

Vậy $2x+y+3z-k=4$, chọn đáp án C.