Cho hàm số $f:\mathbb{R}\to \mathbb{R}$ liên tục, khác hằng và thỏa mãn:
$$f(x^3)+1=(xf(x)+2x^2-1{)}^2,\forall x\in \mathbb{R}$$
Xét dãy số thực $(u_n)$ xác định bởi $u_1=m\in \mathbb{R}$ và $u_{n+1}=f(u_n),\forall n\ge 1$.
① Chứng minh rằng tồn tại số thực $m>1$ sao cho dãy $(u_n)$ là dãy hằng.
② Giả sử $f$ là đa thức khác hằng, hỏi có bao nhiêu số thực $m\in (-1,3)$ để $u_{2027}=1$?

① Xét hàm số $g(x)=f(x)-x$ xác định trên $\mathbb{R}$.

Ta cần chứng minh rằng tồn tại số thực $m>1$ sao cho $g(x)=0$. Từ giả thiết ta có:
$$f(x^3)+1=(xf(x)+2x^2-1{)}^2\ge 0⟺f(x)\ge -1,\forall x\in \mathbb{R}.$$
Dễ dàng chứng minh $f(1)\in \{0,-1\}$ nên ta suy ra $g(1)\le -1<0$. Giả sử rằng $f(x)<x$ với mọi $x>1$. Khi đó với mọi $x>1$ ta cũng có $f(x^3)<x^3$ và:
$$(xf(x)+2x^2-1{)}^2=f(x^3)+1<x^3+1⟹f(x)<\frac{\sqrt{x^3+1}-2x^2+1}{x}.$$
Tuy nhiên với $x=3$ ta thu được điều vô lí.

Do đó tồn tại một số thực dương $c>1$ sao cho $f(c)\ge c$ hay $g(c)\ge 0$. Lại có $f$ liên tục trên $\mathbb{R}$ nên $g$ cũng liên tục trên $\mathbb{R}$ và $g(1)\cdot g(c)\le 0$. Do đó theo định lí giá trị trung gian, tồn tại một số thực $m\in (1,c)$ sao cho $g(m)=0⟺f(m)=m$. Vì $u_1=m$ nên ta suy ra dãy $(u_n)$ hằng.

② Giả sử $f$ là một đa thức bậc $k\ge 1$. Khi đó nếu $k=1$ thì ta có đa thức $u(x)=f(x^3)+1$ có bậc là 3 trong khi đa thức $v(x)=(xf(x)+2x^2-1{)}^2$ có bậc là 4, mâu thuẫn. Do đó $k\ge 2$ hay nói cách khác thì lúc này $u(x)$ có bậc là $3k$ trong khi $v(x)$ có bậc là $2k+2$. Do đó $3k=2k+2$ hay $k=2$.

Vậy $f(x)=a{x}^2+bx+c$ với $a\ne 0$. Với $x=0$, ta có:
$$f(0^3)+1=(0+2-1{)}^2⟺f(0)=0⟹c=0.$$
Do đó $f(x)=a{x}^2+bx$ với $a\ne 0$. Thay vào đẳng thức ban đầu ta được:
$$a{x}^6+b{x}^3+1=[a{x}^3+(b+2)x^2-1{]}^2.$$
Khi đó đồng nhất hệ số của $x^6$ và $x^5$ ta được $a=1$ và $b=-2$. Vậy $f(x)=x^2-2x$ với mọi $x\in \mathbb{R}$.

Từ đây, theo hệ thức truy hồi, ta có dãy $(u_n)$ xác định bởi $u_1=m\in (-1,3)$ và với mọi $n\ge 1$, ta có:
$$u_{n+1}=u_n^2-2u_n⟺u_{n+1}-1=(u_n-1{)}^2-2.$$
Đặt $v_n=u_n-1$ thì khi đó ta có $v_1=m-1\in (-2,2)$ và:
$$v_{n+1}=v_n^2-2,\forall n\ge 1.$$

Đặt $v_1=2\cos (\alpha )$ với $\alpha \in (0,\pi )$, khi đó bằng quy nạp ta dễ dàng chứng minh được rằng:
$$v_n=2\cos (2^{n-1}\alpha ),\forall n\ge 1.$$

Ta có $u_{2027}=1\iff v_{2027}=0$. Khi đó ta có:
$$\cos (2^{2026}\alpha )=0⟺\alpha =\frac{(2k+1)\pi }{2^{2027}}.$$

Vì $\alpha \in (0,\pi )$ nên ta suy ra:
$$0<\frac{2k+1}{2^{2027}}<1⟺0<2k+1<2^{2027}.$$

Vì $k$ là số nguyên, $2k+1$ là các số lẻ dương nằm giữa $0$ và $2^{2027}$. Khi đó các giá trị của $k$ thỏa mãn chạy từ $k=0$ đến $k=2^{2026}-1$. Do đó tổng cộng có đúng $2^{2026}$ giá trị nguyên của $k$ thỏa mãn. Để ý rằng với mỗi giá trị $k$ cho một góc $\alpha \in (0,\pi )$ duy nhất. Hàm $\cos \alpha$ nghịch biến trên $(0,\pi )$ nên mỗi $\alpha$ cho một giá trị $v_1$ duy nhất, tương ứng với một giá trị $m$ duy nhất.

Vậy có tất cả $2^{2026}$ số thực $m$ thỏa mãn yêu cầu bài toán.