Cho đường tròn $(C):x^2+y^2-2x+4y-4=0$ có tâm $I$ và đường thẳng $\Delta :\sqrt{2}x+my+1-\sqrt{2}=0$.
a) Tìm $m$ để đường thẳng $\Delta$ cắt đường tròn $(C)$ tại hai điểm phân biệt $A$, $B$.
b) Tìm $m$ để diện tích tam giác $IAB$ là lớn nhất.

(AI giải đề cho tôi)
Đường tròn $(C):(x-1{)}^2+(y+2{)}^2=9$ có tâm $I(1;-2)$, bán kính $R=3$.

Khoảng cách từ $I$ đến $\Delta$: $d=\frac{|\sqrt{2}\cdot 1+m(-2)+1-\sqrt{2}|}{\sqrt{m^2+2}}=\frac{2|1-m|}{\sqrt{m^2+2}}$.

a) $\Delta$ cắt $(C)$ tại hai điểm phân biệt $\iff d<R$: $\frac{4(1-m{)}^2}{m^2+2}<9\iff 4(1-2m+m^2)<9m^2+18\iff 5m^2+8m+14>0$.
Vì ${\Delta }^{\prime }=64-4\cdot 5\cdot 14=64-280=-216<0$ và hệ số $5>0$ nên bất phương trình đúng với mọi $m$. Vậy $m\in \mathbb{R}$.

b) Diện tích tam giác $IAB$: $S=d\cdot \sqrt{R^2-d^2}$. Xét $f(d)=\sqrt{R^2{d}^2-d^4}$, đạt max khi $d^2=R^2/2$, tức $d=\frac{R}{\sqrt{2}}=\frac{3}{\sqrt{2}}$ (khi đó $S_{\max }=\frac{R^2}{2}=\frac{9}{2}$).

Giải $\frac{2|1-m|}{\sqrt{m^2+2}}=\frac{3}{\sqrt{2}}$: bình phương hai vế $\Rightarrow \frac{4(1-m{)}^2}{m^2+2}=\frac{9}{2}\Rightarrow 8(1-2m+m^2)=9m^2+18\Rightarrow m^2+16m+10=0$.

$m=\frac{-16\pm \sqrt{256-40}}{2}=\frac{-16\pm \sqrt{216}}{2}=\frac{-16\pm 6\sqrt{6}}{2}=-8\pm 3\sqrt{6}$.

Vậy $m=-8+3\sqrt{6}$ hoặc $m=-8-3\sqrt{6}$, khi đó $S_{IAB,\max }=\frac{9}{2}$.