Trong không gian, cho hình lăng trụ $ABCD.MNPQ$ có tất cả các cạnh bằng $\sqrt{3}$, đáy $ABCD$ là hình thoi và $\widehat{BAD}=60^{\circ }$. Các mặt phẳng $(ADQM),(ABNM)$ cùng tạo với đáy của lăng trụ góc $\alpha$ thỏa mãn $\tan \alpha =2\sqrt{11}$ và hình chiếu vuông góc của điểm $A$ lên mặt phẳng $(MNPQ)$ nằm bên trong hình thoi $MNPQ$. Gọi $O$ là điểm cách đều bốn đỉnh tứ diện $AMNQ$. Biết thể tích khối chóp $O.ABM$ có giá trị bằng $V$. $V^2=\frac{a}{b}$, $a,b$ là số tự nhiên, phân số $\frac{a}{b}$ tối giản. Tính $S=a+b$.

(AI giải đề cho tôi)
Đặt $A$ là gốc tọa độ, $\overrightarrow{AB}=(\sqrt{3},0,0)$, $\overrightarrow{AD}=(\frac{\sqrt{3}}{2},\frac{3}{2},0)$, vectơ dịch chuyển của lăng trụ $\overrightarrow{AM}=(u,v,h)$ với $h>0$. Vì mọi cạnh bằng $\sqrt{3}$: $u^2+v^2+h^2=3$.

Mặt $(ABNM)$ chứa $AB$ và $\overrightarrow{AM}$, pháp tuyến $(0,-h,v)$, nên $\tan \alpha =\frac{h}{|v|}=2\sqrt{11}\Rightarrow h^2=44v^2$.

Mặt $(ADQM)$: pháp tuyến $\overrightarrow{AD}\times \overrightarrow{AM}$ có thành phần $z$ là $\frac{\sqrt{3}}{2}v-\frac{3}{2}u$, độ dài bình phương $3h^2+\frac{3}{4}(v-\sqrt{3}u{)}^2$. Điều kiện góc $\alpha$ (với ${\cos }^2\alpha =1/45$) cho $11(v-\sqrt{3}u{)}^2=h^2=44v^2\Rightarrow v-\sqrt{3}u=\pm 2v$.

Trường hợp $u=-v/\sqrt{3}$ khiến hình chiếu của $A$ lên $(MNPQ)$, tức điểm $(0,0,h)$, nằm ngoài hình thoi. Chọn $u=\sqrt{3}v$; kết hợp $48v^2=3$ và điều kiện hình chiếu nằm trong hình thoi (cần $v<0$) ta được $v=-\frac{1}{4}$, $u=-\frac{\sqrt{3}}{4}$, $h=\frac{\sqrt{11}}{2}$.

Suy ra $M=(-\frac{\sqrt{3}}{4},-\frac{1}{4},\frac{\sqrt{11}}{2})$, $N=(\frac{3\sqrt{3}}{4},-\frac{1}{4},\frac{\sqrt{11}}{2})$, $Q=(\frac{\sqrt{3}}{4},\frac{5}{4},\frac{\sqrt{11}}{2})$ với $|AM{|}^2=3$, $|AN{|}^2=|AQ{|}^2=\frac{9}{2}$.

Tâm cầu $O=(x,y,z)$ cách đều $A,M,N,Q$ thỏa $\overrightarrow{AO}\cdot \overrightarrow{AM}=\frac{3}{2}$, $\overrightarrow{AO}\cdot \overrightarrow{AN}=\overrightarrow{AO}\cdot \overrightarrow{AQ}=\frac{9}{4}$. Giải hệ: hiệu hai phương trình cuối cho $y=\frac{x}{\sqrt{3}}$; kết hợp hai phương trình còn lại được $x=\frac{\sqrt{3}}{4}$, $y=\frac{1}{4}$, $z=\frac{7}{2\sqrt{11}}$.

Thể tích $V_{O.ABM}=\frac{1}{6}\left|\det (\overrightarrow{AB},\overrightarrow{AM},\overrightarrow{AO})\right|=\frac{\sqrt{3}}{6}\left|(-\frac{1}{4})\frac{7}{2\sqrt{11}}-\frac{\sqrt{11}}{2}\cdot \frac{1}{4}\right|=\frac{\sqrt{3}}{6}\cdot \frac{18}{8\sqrt{11}}=\frac{3\sqrt{3}}{8\sqrt{11}}$.

Vậy $V^2=\frac{27}{704}$, $a=27$, $b=704$ (tối giản), $S=27+704=731$. Đáp án C.