Cho khối lăng trụ tam giác đều $ABC.A^{\prime }{B}^{\prime }{C}^{\prime }$ có $S_{AB{C}^{\prime }}=\sqrt{3}$. Mặt phẳng $(AB{C}^{\prime })$ tạo với đáy một góc $\alpha$. Tính $\cos \alpha$ để $V_{ABC.A^{\prime }{B}^{\prime }{C}^{\prime }}$ lớn nhất.

Gọi $M$ là trung điểm $AB$. Do $\Delta ABC$ đều nên $CM\perp AB$ và $C^{\prime }M\perp AB$, suy ra góc giữa $(AB{C}^{\prime })$ và đáy $(ABC)$ là $\widehat{C^{\prime }MC}=\alpha$.
Ta có $S_{\Delta ABC}=S_{\Delta AB{C}^{\prime }}\cdot \cos \alpha =\sqrt{3}\cos \alpha$.
Mặt khác $S_{\Delta ABC}=\frac{A{B}^2\sqrt{3}}{4}⟹\frac{A{B}^2\sqrt{3}}{4}=\sqrt{3}\cos \alpha ⟹AB=2\sqrt{\cos \alpha }$.
Khi đó $CM=\frac{AB\sqrt{3}}{2}=\sqrt{3\cos \alpha }$.
Trong tam giác vuông $C^{\prime }CM$: $C^{\prime }C=CM\cdot \tan \alpha =\sqrt{3\cos \alpha }\cdot \frac{\sin \alpha }{\cos \alpha }=\frac{\sqrt{3}\sin \alpha }{\sqrt{\cos \alpha }}$.
Thể tích lăng trụ:
$V=S_{\Delta ABC}\cdot C^{\prime }C=\sqrt{3}\cos \alpha \cdot \frac{\sqrt{3}\sin \alpha }{\sqrt{\cos \alpha }}=3\sin \alpha \sqrt{\cos \alpha }$.
Xét $f(\alpha )={\sin }^2\alpha \cos \alpha =(1-{\cos }^2\alpha )\cos \alpha =\cos \alpha -{\cos }^3\alpha$.
Đặt $t=\cos \alpha$ với $0<t<1$, ta có $g(t)=t-t^3$.
$g^{\prime }(t)=1-3t^2=0⟺t=\frac{1}{\sqrt{3}}$.
Vậy thể tích đạt giá trị lớn nhất khi $\cos \alpha =\frac{1}{\sqrt{3}}$. Chọn B.