Câu 3. (3,0 điểm) Tìm tất cả các hàm số $f:\mathbb{R}\to \mathbb{R}$ thỏa mãn đồng thời các điều kiện sau:
i) $f(0)\ne -1$.
ii) $f(x^2+2f(y))=2y+f^2(x),\forall x,y\in \mathbb{R}$.

LỜI GIẢI (tham khảo, SMFE - Bản luận toán học số 12):
Kí hiệu $P(x,y)$ là phép thế $x,y$ vào phương trình đề cho. Giả sử tồn tại hàm số thoả mãn yêu cầu đề bài
$$f\left(x^2+2f(y)\right)=2y+f^2(x),\forall x,y\in \mathbb{R}.\text{\hspace{1em}(1)}$$
Xét $P(0,y)$, ta được
$$f(2f(y))=2y+f^2(0),\forall y\in \mathbb{R}.\text{\hspace{1em}(2)}$$
Giả sử tồn tại $a,b\in \mathbb{R}$ sao cho $f(a)=f(b)$. Thay lần lượt $y$ bởi $m$ và $y$ bởi $n$ trong (2), ta được
$$\{\begin{array}{l}f(2f(m))=2m+f^2(0)\\ f(2f(n))=2n+f^2(0)\end{array}⟹a=b.$$
Do đó, hàm $f$ đơn ánh. Mặt khác dễ thấy hàm $f$ toàn ánh nên ta suy ra hàm $f$ là song ánh. Do đó tồn tại duy nhất số thực $a$ sao cho $f(a)=0$, đặt $b=f(0)$. Ở (1), xét $P(a,0)$, ta thu được
$$f(a^2+2b)=2\cdot 0+f^2(a)=0=f(a)⟹a^2+2b=a.\text{\hspace{1em}(3)}$$
Ở (1), xét $P(0,a)$, ta được
$$f(0)=2a+f^2(0)⟹b=2a+b^2.\text{\hspace{1em}(4)}$$
Từ (3) và (4) và giả thiết $b\ne -1$, ta tìm được $a=b=0$. Do đó $f(0)=0$ và (2) trở thành $f(2f(y))=2y$ với mọi $y\in \mathbb{R}$. Từ (1), thay $y=0$ ta được
$$f(x^2)=f^2(x),\forall x\in \mathbb{R}.\text{\hspace{1em}(5)}$$
Từ đây ta suy ra
$$f(x^2+2f(y))=f(x^2)+f(2f(y)),\forall x,y\in \mathbb{R}.\text{\hspace{1em}(6)}$$
Do $f$ toàn ánh nên từ (6), ta suy ra
$$f(x+y)=f(x)+f(y),\forall x⩾0,y\in \mathbb{R}.$$
Thay $y$ bởi $-x$, ta thu được $f$ là hàm lẻ. Xét $x<0,y\in \mathbb{R}$, ta có
$$f(x+y)+f(-x)=f(y)⟹f(x+y)=f(y)-f(-x)=f(x)+f(y).$$
Từ đây, ta suy ra $f$ là hàm cộng tính trên $\mathbb{R}$. Mặt khác, ta có $f(x)⩾0$ với mọi $x⩾0$ nên $f(x)=cx$ với mọi $x\in \mathbb{R}$. Thử lại, ta được $c=1$. Vậy hàm số duy nhất thoả mãn đề bài là $f(x)=x,\forall x\in \mathbb{R}$.