Tập hợp tất cả các giá trị thực của tham số $m$ để hàm số $y=-x^3+3x^2+3(m^2-1)x-3m^2-1$ có $2$ điểm cực trị $x_1,x_2$ thỏa mãn $x_1^2+x_2^2-x_1{x}_2=13$ là

Ta có $y^{\prime }=-3x^2+6x+3(m^2-1)=-3[x^2-2x-(m^2-1)]$. Hàm số có $2$ điểm cực trị khi và chỉ khi phương trình $x^2-2x-m^2+1=0$ có $2$ nghiệm phân biệt, tức là ${\Delta }^{\prime }=1-(-m^2+1)=m^2>0\iff m\ne 0$. Theo định lý Vi-ét: $x_1+x_2=2$ và $x_1{x}_2=1-m^2$. Khi đó $x_1^2+x_2^2-x_1{x}_2=(x_1+x_2{)}^2-3x_1{x}_2=2^2-3(1-m^2)=4-3+3m^2=1+3m^2$. Theo giả thiết $1+3m^2=13\iff 3m^2=12\iff m^2=4\iff m=\pm 2$ (thỏa mãn $m\ne 0$). Vậy tập hợp các giá trị của $m$ là $\{m=\pm 2\}$.