Cho tứ diện $ABCD$ có tam giác $ABD$ đều cạnh bằng 2, tam giác $ABC$ vuông tại $B$, $BC=\sqrt{3}$. Biết khoảng cách giữa hai đường thẳng $AB$ và $CD$ bằng $\frac{\sqrt{11}}{2}$. Tính độ dài cạnh $CD$ và cosin của góc nhị diện $[C,AB,D]$.

(AI giải đề cho tôi)
Đặt hệ trục toạ độ: $B=(0;0;0)$, $A=(2;0;0)$ (trục $AB$ là trục $Ox$), $C=(0;\sqrt{3};0)$ vì $△ABC$ vuông tại $B$, $BC=\sqrt{3}$. Vì $△ABD$ đều cạnh 2 nên $D=(1;y;z)$ với $y^2+z^2=3$ (do $BD=2$). Viết $y=\sqrt{3}\cos \theta ,z=\sqrt{3}\sin \theta$.

Khoảng cách giữa $AB$ (vt $\vec{u}=(1;0;0)$) và $CD$ (vt $\vec{v}=\overrightarrow{CD}=(1;y-\sqrt{3};z)$), với $\overrightarrow{AC}=(-2;\sqrt{3};0)$:
$$d(AB,CD)=\frac{|\overrightarrow{AC}\cdot (\vec{u}\times \vec{v})|}{|\vec{u}\times \vec{v}|}=\frac{\sqrt{3}|z|}{\sqrt{z^2+(y-\sqrt{3}{)}^2}}.$$
Ta có $z^2+(y-\sqrt{3}{)}^2=3{\sin }^2\theta +3(\cos \theta -1{)}^2=6(1-\cos \theta )$ và $z^2=3{\sin }^2\theta =3(1-\cos \theta )(1+\cos \theta )$, nên
$$d^2=\frac{3\cdot 3(1-{\cos }^2\theta )}{6(1-\cos \theta )}=\frac{3}{2}(1+\cos \theta ).$$
Theo giả thiết $d=\frac{\sqrt{11}}{2}$ nên $\frac{3}{2}(1+\cos \theta )=\frac{11}{4}\Rightarrow \cos \theta =\frac{5}{6}$ (thỏa mãn), suy ra $y=\frac{5\sqrt{3}}{6},z=\frac{\sqrt{33}}{6}$ (chọn $z>0$).

Tính $CD$: $C{D}^2=|\vec{v}{|}^2=1+(y-\sqrt{3}{)}^2+z^2=1+6(1-\cos \theta )=1+6\cdot \frac{1}{6}=2\Rightarrow CD=\sqrt{2}$.

Góc nhị diện $[C,AB,D]$: chiếu của $C$ và $D$ lên mặt phẳng vuông góc với $AB$ lần lượt là $(0;\sqrt{3};0)$ và $\left(0;\frac{5\sqrt{3}}{6};\frac{\sqrt{33}}{6}\right)$, nên
$$\cos [C,AB,D]=\frac{\frac{5\sqrt{3}}{6}}{\sqrt{\frac{75}{36}+\frac{33}{36}}}=\frac{5\sqrt{3}/6}{\sqrt{3}}=\frac{5}{6}.$$

Kiểm tra lại: $\vec{u}\times \vec{v}=(0;-z;y-\sqrt{3})$, $\overrightarrow{AC}\cdot (\vec{u}\times \vec{v})=-\sqrt{3}z$, mọi bước tính đều nhất quán.

Kết luận: $CD=\sqrt{2}$ và $\cos [C,AB,D]=\frac{5}{6}$.