Trong không gian với hệ trục tọa độ $Oxyz$, cho hai điểm $A(3;1;2),B(1;-1;2)$ và mặt phẳng $(P):x+y+2z-18=0$. Khi điểm $M$ thay đổi trên mặt phẳng $(P)$ lấy điểm $N$ thuộc tia $OM$ sao cho $OM\cdot ON=36$. Tìm giá trị nhỏ nhất của biểu thức $N{A}^2+N{B}^2$.

Tập hợp các điểm $N$ thỏa mãn phép nghịch đảo qua gốc tọa độ $O$ với phương tích $36$ biến mặt phẳng $(P)$ thành mặt cầu $(S)$ đi qua $O$. Gọi $I$ là trung điểm của $AB$, biểu thức $N{A}^2+N{B}^2=2N{I}^2+\frac{A{B}^2}{2}$. Tìm khoảng cách từ $I$ đến mặt cầu $(S)$ ta suy ra giá trị nhỏ nhất của biểu thức là $20-8\sqrt{3}$. Chọn C.