Xét đa thức $P(x)$ hệ số thực thoả mãn
$$P(x)\left[P\left(x^2\right)-x\right]=P\left(x^3\right),\forall x\in \mathbb{R}.(1)$$
a) Giả sử $P(x)$ có $\mathrm{deg}P\ge 1$ thoả mãn (1). Tính $P(0)$.
b) Tìm tất cả các đa thức $P(x)$ thoả mãn (1).

a) Thay $x=0$ vào (1):
$$P(0{)}^2=P(0)$$
nên $P(0)=0$ hoặc $P(0)=1$.
Giả sử $P(0)=0$. Viết $P(x)=x^{k}Q(x)$ với $k\ge 1$, $Q(0)\ne 0$. Khi đó
$$P\left(x^2\right)-x=x^{2k}Q\left(x^2\right)-x=x\left[x^{2k-1}Q\left(x^2\right)-1\right]$$
Vế trái của (1) bằng
$$x^{k+1}Q(x)\left[x^{2k-1}Q\left(x^2\right)-1\right]$$
Vì $2k-1\ge 1$ nên số hạng bậc thấp nhất của nó là $-Q(0)x^{k+1}\ne 0$.
Vế phải bằng $x^{3k}Q(x^3)$, có số hạng bậc thấp nhất là $Q(0)x^{3k}$.
$$\Rightarrow k+1=3k\iff k=\frac{1}{2}\text{ (voˆ lyˊ)}$$
Vậy $P(0)\ne 0$, do đó $P(0)=1$.

b) Trường hợp 1: deg $P\le 0$ ($P\equiv c$): (1) trở thành $c(c-x)=c$ với mọi $x$, nên $c=0$. Vậy $P(x)=0$ là một nghiệm.
Trường hợp 2: deg $P=n\ge 1$.
Gọi $a$ là hệ số cao nhất. Vế trái có bậc $3n$ với hệ số $a\cdot a$ (vì $2n>1$), vế phải có hệ số $a$. Do đó $a^2=a$, suy ra $a=1$ (vì $a\ne 0$).
Giả sử $n\ge 2$.
Theo câu a), $P(0)=1\ne 0$ nên $P$ không phải đơn thức $x^n$. Gọi $c{x}^m$ ($c\ne 0$, $m<n$) là số hạng có bậc cao nhất ngay sau $x^n$:
$$P(x)=x^n+c{x}^m+K(x)$$
Xét vế trái $P(x)\left[P(x^2)-x\right]$. Ngoài $x^{3n}$, các tích có bậc lớn nhất là:
- $x^n\cdot c{x}^{2m}$ có bậc $n+2m$,
- $c{x}^m\cdot x^{2n}$ có bậc $2n+m$,
- $x^n\cdot (-x)$ có bậc $n+1$.
Vì $m<n$ nên $2n+m>n+2m$. Vì $n\ge 2$ nên $2n+m>n+1$. Do đó hệ số của $x^{2n+m}$ ở vế trái là $c\ne 0$.
Vế phải $P(x^3)=x^{3n}+c{x}^{3m}+\cdots$ có số hạng bậc kế tiếp là $3m<2n+m$, nên hệ số của $x^{2n+m}$ ở vế phải bằng 0. Mâu thuẫn. Vậy $n=1$. $\Rightarrow P(x)=x+1$.
Vậy các đa thức thỏa mãn là $P(x)=0,P(x)=x+1$.