Với số thực $k$, xét các hàm số $f:\mathbb{R}\to \mathbb{R}$ thỏa mãn

$$f\left(f(x)+y\right)=kx+f\left(x+f\left(f(y)\right)\right),\forall x,y\in \mathbb{R}.$$

Tìm tất cả các giá trị của $k$ để tồn tại hàm số $f$ thỏa mãn điều kiện bài toán.

Lời giải (nguồn: CLB Toán Lim - LIM Olympic):

Với mọi $x,y\in \mathbb{R}$, đặt $P(x,y)$ là mệnh đề
$$f(f(x)+y)=kx+f(x+f(f(y)))$$
Đặt $a=f(f(0))$. Từ $P(0,0)$ ta có $f(f(0))=f(f(f(0)))$, hay $f(a)=a$.
Mặt khác, từ $P(x,0)$, ta suy ra $f(f(x))=kx+f(x+a)$.
Xét $P(x,a)$, ta có $f(f(a))=f(a)=a$ nên $f(f(x)+a)=kx+f(x+a)$, từ đó
$$f(f(x)+a)=f(f(x)),\forall x\in \mathbb{R}$$
Thay $x=a$ ta được $f(2a)=f(a)=a$.
Mặt khác, ta cũng có $f(f(a))=ka+f(2a)$ nên $a=ka+a$ hay $ka=0$.
Nếu $k=0$ thì rõ ràng mọi hàm hằng đều thỏa mãn bài toán, từ đây ta xét $k\ne 0$, ta có $a=0$.
Khi đó vì $f(a)=a$, ta có $f(0)=0$.
Từ $P(0,y)$ ta suy ra được $f(y)=f(f(f(y)))$ với mọi $y\in \mathbb{R}$.
Mặt khác, từ $P(x,0)$ ta cũng có $f(f(x))=kx+f(x)$ với mọi $x\in \mathbb{R}$.
Thay $x$ bởi $f(x)$ ta được $f(f(f(x)))=kf(x)+f(f(x))$, do đó
$$f(x)=kf(x)+f(x)+kx$$
hay $k(f(x)+x)=0,\forall x\in \mathbb{R}$.
Vì $k\ne 0$, suy ra $f(x)=-x$ với mọi $x\in \mathbb{R}$.
Thử lại hàm này vào đề bài, ta được $k=2$, và ứng với hàm $f(x)=-x,\forall x\in \mathbb{R}$ thỏa mãn.
Suy ra tất cả các giá trị cần tìm là $k\in \{0,2\}$

Nhận xét: Bài toán trên có lẽ là biến thể của bài hàm trong IMO Shortlist 2002.