Cách 1. Gọi m=degP⩾1 và c là hệ số cao nhất của P.
So sánh bậc hai vế của đẳng thức, ta được 3m=m+4n nên m=2n.
Ta có x4+7x2+16>0 với mọi x∈R. Do đó từ đề bài ta có được:
P(x)=0⟺P(4x3+3x)=0.
Đặt f(x)=4x3+3x trên R. Lấy một nghiệm thực r của P. Nếu f(r)>r thì, do f đồng biến nên
r<f(r)<f(f(r))<⋯,
hay P có vô hạn nghiệm, vô lý. Tương tự, nếu f(r)<r cũng có điều vô lý, do đó f(r)=r. Ta có
4r3+3r=r⟺r(r2−1)=0,
nên mọi nghiệm của P đều thuộc {−1,0,1}.
Vì P chỉ có nghiệm thực và có bậc 2n, tồn tại các số nguyên không âm α,β,γ với α+β+γ=2n sao cho
P(x)=cxα(x−1)β(x+1)γ,c=0.
Thay vào đẳng thức ban đầu để suy ra được:
(x2+3)α(x2+x+4)β(x2−x+4)γ=(x4+7x2+16)n,∀x∈R.
Mà x4+7x2+16=(x2+x+4)(x2−x+4), và x2+3, x2+x+4, x2−x+4 là các đa thức đối một bất khả quy trên R[x]. Do đó α=0 và β=γ=n. Vậy P(x)=c(x2−1)n với c=0.
Thử lại để thấy được tất cả các đa thức thoả mãn yêu cầu đề bài là P(x)≡c(x2−1)n với c=0.
Cách 2. (không sử dụng điều kiện chỉ có nghiệm thực)
Đặt degP=k. Vì P khác hằng nên k>0. So sánh bậc hai vế suy ra k=2n.
Gọi C=0 là hệ số cao nhất của P và đặt P(x)=C(x2−1)n+Q(x).
Để ý Q≡0 thoả mãn, xét Q≡0, khi đó degQ=d<2n.
Thay vào đẳng thức ban đầu suy ra 16nQ(4x3+3x)=(x4+7x2+16)nQ(x).
So sánh bậc hai vế của đẳng thức trên, ta có 3d=4n+d, suy ra d=2n, mâu thuẫn với degQ<2n.
Thử lại suy ra tất cả các đa thức cần tìm là P(x)≡C(x2−1)n với C=0.