Cho tứ diện OABC có OA, OB, OC đôi một vuông góc. Gọi H là trực tâm tam giác ABC.

a. Chứng minh $\frac{1}{O{H}^2}=\frac{1}{O{A}^2}+\frac{1}{O{B}^2}+\frac{1}{O{C}^2}$.

b. Gọi $\alpha ,\beta ,\gamma$ là góc tạo bởi OA, OB, OC với mặt phẳng (ABC). Tìm giá trị nhỏ nhất của $S=(3+{\cot }^2\alpha )(3+{\cot }^2\beta )(3+{\cot }^2\gamma )$

(AI giải đề cho tôi)
(Lời giải do AI thực hiện, không có trong nguồn; đáp số S = 125 đã kiểm tra lại.)

Ý a. Đặt hệ trục toạ độ Oxyz với O là gốc, OA, OB, OC lần lượt nằm trên các trục Ox, Oy, Oz. Khi đó A(a; 0; 0), B(0; b; 0), C(0; 0; c) với a = OA, b = OB, c = OC.

Mặt phẳng (ABC) có phương trình: $\frac{x}{a}+\frac{y}{b}+\frac{z}{c}=1$, tức $\frac{x}{a}+\frac{y}{b}+\frac{z}{c}-1=0$.

Khoảng cách từ O đến (ABC) chính là OH:
$$OH=\frac{|-1|}{\sqrt{\frac{1}{a^2}+\frac{1}{b^2}+\frac{1}{c^2}}}=\frac{1}{\sqrt{\frac{1}{O{A}^2}+\frac{1}{O{B}^2}+\frac{1}{O{C}^2}}}$$

Suy ra $\frac{1}{O{H}^2}=\frac{1}{O{A}^2}+\frac{1}{O{B}^2}+\frac{1}{O{C}^2}$. (Đpcm)

Kiểm tra H là trực tâm: vectơ pháp tuyến của (ABC) là $\vec{n}=\left(\frac{1}{a};\frac{1}{b};\frac{1}{c}\right)$, và $\overrightarrow{AH}$ cùng phương với $\vec{n}$. Ta có $\overrightarrow{AH}\cdot \overrightarrow{BC}=\frac{1}{a}\cdot (-a)\cdot 0+\frac{1}{b}\cdot (-b)+\frac{1}{c}\cdot c=-1+1=0$, tức AH ⊥ BC; tương tự BH ⊥ AC, CH ⊥ AB. Vậy H là trực tâm tam giác ABC.

Ý b. Gọi d = OH. Vì $\sin \alpha =\frac{d}{OA}$ nên
$${\cot }^2\alpha =\frac{O{A}^2}{d^2}-1=O{A}^2\left(\frac{1}{O{A}^2}+\frac{1}{O{B}^2}+\frac{1}{O{C}^2}\right)-1=\frac{a^2}{b^2}+\frac{a^2}{c^2}$$

Tương tự ${\cot }^2\beta =\frac{b^2}{c^2}+\frac{b^2}{a^2}$, ${\cot }^2\gamma =\frac{c^2}{a^2}+\frac{c^2}{b^2}$.

Do đó
$$3+{\cot }^2\alpha =3+\frac{a^2}{b^2}+\frac{a^2}{c^2}\ge 3+\frac{2a^2}{bc}$$
(theo AM–GM: $\frac{a^2}{b^2}+\frac{a^2}{c^2}\ge \frac{2a^2}{bc}$), dấu bằng khi b = c. Tương tự cho các yếu tố còn lại.

Đặt $u=\frac{a^2}{bc}$, $v=\frac{b^2}{ca}$, $w=\frac{c^2}{ab}$ thì $uvw=1$. Suy ra
$$S\ge (3+2u)(3+2v)(3+2w)$$

Với $uvw=1$, tích $(3+2u)(3+2v)(3+2w)$ đạt giá trị nhỏ nhất khi u = v = w = 1 (hàm $\ln (3+2e^t)$ lồi, theo bất đẳng thức Jensen hoặc AM–GM ba biến):
$$S\ge (3+2\cdot 1{)}^3=5^3=125$$

Dấu bằng xảy ra đồng thời khi a = b = c, tức OA = OB = OC. Khi đó ${\cot }^2\alpha ={\cot }^2\beta ={\cot }^2\gamma =2$ và $S=5^3=125$.

Vậy $\min S=125$, đạt được khi OA = OB = OC.