Cho hàm số $y=\frac{3x-2}{x+1}$ có đồ thị là $(C)$ và 2 điểm $A(4;2);B(-2;8)$. Điểm $M(a;b)\in (C)$ sao cho trực tâm $H$ của tam giác $MAB$ thuộc vào đường thẳng $d:5x-4y-3=0$. Tính giá trị của biểu thức $S=4a^2+3b$

(AI giải đề cho tôi)
Vì $M(a;b)\in (C)$ nên $b=\frac{3a-2}{a+1}$, $a\ne -1$, và $M\ne A,B$ (chú ý $A(4;2),B(-2;8)$ cũng thuộc $(C)$).

Gọi $H(x;y)$ là trực tâm tam giác $MAB$.
- Đường cao qua $M$ vuông góc với $\overrightarrow{AB}=(-6;6)$: $-6(x-a)+6(y-b)=0\Rightarrow y=x+b-a$.
- Vì $H\in d:5x-4y-3=0$, thay $y=x+b-a$: $5x-4x-4b+4a-3=0\Rightarrow x=4b-4a+3$, suy ra $y=5b-5a+3$.
- Đường cao qua $A$ vuông góc với $\overrightarrow{MB}=(-2-a;8-b)$: $(x-4)(-2-a)+(y-2)(8-b)=0$.

Thay tọa độ $H$ vào, với $b=\frac{3a-2}{a+1}$:
$4b-4a-1=\frac{-4a^2+7a-9}{a+1}$, $5b-5a+1=\frac{-5a^2+11a-9}{a+1}$, $8-b=\frac{5(a+2)}{a+1}$.

Phương trình trở thành (nhân với $\frac{(a+1{)}^2}{a+2}$):
$$(a+1)(4a^2-7a+9)+5(-5a^2+11a-9)=0\iff 4a^3-28a^2+57a-36=0\iff (a-4)(2a-3{)}^2=0.$$

$a=4$ cho $M=A$ (loại vì tam giác suy biến). Với $a=\frac{3}{2}$: $b=\frac{3\cdot \frac{3}{2}-2}{\frac{3}{2}+1}=1$, tức $M\left(\frac{3}{2};1\right)$.

Kiểm tra: $H=(4b-4a+3;5b-5a+3)=(1;\frac{1}{2})$, thỏa $5(1)-4(\frac{1}{2})-3=0$ và $(\overrightarrow{AH})\cdot \overrightarrow{MB}=(-3)(-\frac{7}{2})+(-\frac{3}{2})(7)=\frac{21}{2}-\frac{21}{2}=0$. Đúng.

Vậy $S=4a^2+3b=4\cdot \frac{9}{4}+3\cdot 1=9+3=12$. Đáp án D.