f(f(x)+y)+f(−x+f(f(y)))=2y,∀x,y∈R.(1)
a) Trong (1) thay x=f(f(y)) thì ta có được
f(f(f(f(y)))+y)=2y−f(0), ∀y∈R.
Do 2y−f(0) có tập giá trị là R nên ta có ngay f toàn ánh. Khi đó tồn tại c sao cho f(c)=0. Với x1,x2 là hai số thực thỏa mãn f(x1)=f(x2). Thay x=c và thay lần lượt y=x1,y=x2 vào (1), ta được
2x1=f(x1)+f(−c+f(f(x1)))=f(x2)+f(−c+f(f(x2)))=2x2⇒x1=x2.
Vậy f là đơn ánh, suy ra f là một song ánh.
b) Do f song ánh nên tồn tại duy nhất số thực t để f(t)=0. Trong (1) ta thay x=y=0 thì ta được
f(f(0))+f(f(f(0)))=0⇒f(f(f(0)))=−f(f(0)).
Ngoài ra, nếu ta thay y=0 và x=f(f(0)) trong (1) thì ta cũng có
f(f(f(f(0))))+f(0)=0.
Và nếu thay x=t và y=0 thì ta cũng sẽ có
f(0)+f(−t+f(f(0)))=0⇒f(−t+f(f(0)))=f(f(f(f(0))))⇒−t+f(f(0))=f(f(f(0))).
Mà f(f(f(0)))=−f(f(0)) nên t=2f(f(0)). Như vậy, ta có thể thay x=−f(f(0)) và y=0 trong (1) thì ta được
f(f(−f(f(0))))=0⇒f(−f(f(0)))=t.
Mà −f(f(0))=f(f(f(0))) nên f(f(f(f(0))))=0 như vậy ta thu được f(0)+t=0. Bây giờ, ta thay x=y=t vào (1) thì được f(−t+f(0))=2t hay f(−2t)=2t, từ đó lại cho x=−2t,y=t vào (1) thì
f(2t+t)+f(2t+f(0))=2t⇒f(3t)=2t=f(−2t)⇒3t=−2t⇒t=0⇒f(0)=0.
Tiếp theo, để tìm tất cả hàm số f thỏa mãn thì ta thay x=0 vào (1) thì ta có
f(y)+f(f(f(y)))=2y, ∀y∈R(2)
Rồi thay y=0 vào (1) thì được
f(f(x))=−f(−x), ∀x∈R(3).
Từ (3) ta có f(f(−f(x))=−f(−(−f(x))=−f(f(x))=f(−x) nên khi thay y bởi −f(x) vào (1) thì ta có
f(−x+f(−x))=−2f(x)⇒f(x+f(x))=2⋅(−f(−x))=2f(f(x)), ∀x∈R.
Ngoài ra, ta cũng có thể thay x=−f(f(y)) trong (1) thì thu được
f(f(f(f(y)))+y)=2y⇒(2)f(3y−f(y))=2y⇒f(3f(f(y))−f(f(f(f(y)))))=2f(f(y))
⇒(2)f(3f(f(y))+f(y)−2y)=2f(f(y)), ∀y∈R
Từ đây ta có được
f(3f(f(y))+f(y)−2y)=f(y+f(y))⇒3f(f(y))=3y⇒f(f(y))=y
⇒(3)f(−y)=−y⇒f(y)=y, ∀y∈R.
Thử lại ta thấy thỏa, vậy f(x)=x, ∀x∈R. □