Tổng bình phương tất cả các giá trị nguyên của tham số $m$ để hàm số $y=(3m^2-12)x^3+3(m-2)x^2-x+2$ nghịch biến trên $\mathbb{R}$ là

$y^{\prime }=9(m^2-4)x^2+6(m-2)x-1$. Hàm số nghịch biến trên $\mathbb{R}$ khi và chỉ khi $y^{\prime }\le 0,\forall x\in \mathbb{R}$.

- **Trường hợp 1:** $m=2$. Ta có $y^{\prime }=-1<0,\forall x\in \mathbb{R}$. Ta nhận $m=2$ $(\ast )$.
- **Trường hợp 2:** $m=-2$. Ta có $y^{\prime }=-24x-1<0\iff x>-\frac{1}{24}$ (loại).
- **Trường hợp 3:** $m\ne \pm 2$. Ta có $y^{\prime }\le 0,\forall x\in \mathbb{R}\iff \{\begin{array}{l}{m}^2-4<0\\ {\Delta }^{\prime }=18(m^2-2m)\le 0\end{array}\iff 0\le m<2$ $(\ast \ast )$.

Từ $(\ast )$ và $(\ast \ast )$ suy ra $0\le m\le 2$. Vì $m\in \mathbb{Z}$ nên $m\in \{0;1;2\}$.

Vậy tổng bình phương các giá trị nguyên của tham số $m$ là $0^2+1^2+2^2=5$.