Cho hai số thực $x,y\in [0;1]$ thỏa mãn $x^2+y^2=-3xy+1$. Tập giá trị của biểu thức $S=x+y$ là đoạn $[a;b]$. Khi đó $a^2+b^2$ bằng:

Đặt $u=x+y,v=xy$. Vì $x,y\in [0;1]$ nên $u\ge 0,v\ge 0$.
Giả thiết: $x^2+y^2=-3xy+1⟺(x+y{)}^2-2xy=-3xy+1⟺u^2+v=1⟺v=1-u^2$.
Điều kiện tồn tại $x,y$:
1) $v\ge 0⟹1-u^2\ge 0⟹u\le 1$.
2) $u^2\ge 4v⟺u^2\ge 4(1-u^2)⟺5u^2\ge 4⟺u\ge \frac{2}{\sqrt{5}}$ (do $u\ge 0$).
3) Do $x,y\in [0;1]$ nên $(1-x)(1-y)\ge 0⟺1-u+v\ge 0⟺1-u+1-u^2\ge 0⟺u^2+u-2\le 0⟺-2\le u\le 1$, điều này luôn thỏa với $u\in [\frac{2}{\sqrt{5}};1]$.
Do đó tập giá trị của $S=x+y$ là đoạn $[a;b]=\left[\frac{2}{\sqrt{5}};1\right]$.
Khi đó $a=\frac{2}{\sqrt{5}},b=1⟹a^2+b^2={\left(\frac{2}{\sqrt{5}}\right)}^2+1^2=\frac{4}{5}+1=\frac{9}{5}$. Chọn C.