Tìm tất cả các giá trị thực của tham số $m$ để hàm số $y=\frac{4}{3}{\sin }^{3}2x+2{\cos }^{2}2x-(m^2+3m)\sin 2x-1$ nghịch biến trên khoảng $\left(0;\frac{\pi }{4}\right)$.

Chọn D.
Ta có $y=\frac{4}{3}{\sin }^{3}2x-2{\sin }^{2}2x-(m^2+3m)\sin 2x+1$.
Đạo hàm $y^{\prime }=2[4{\sin }^{2}2x-4\sin 2x-(m^2+3m)]\cos 2x$.
Với $x\in \left(0;\frac{\pi }{4}\right)$, ta có $\cos 2x>0$. Hàm số nghịch biến khi và chỉ khi $y^{\prime }\le 0,\forall x\in \left(0;\frac{\pi }{4}\right)$.
Đặt $t=\sin 2x\in (0;1)$, ta cần $4t^2-4t-(m^2+3m)\le 0$ hay $m^2+3m\ge 4t^2-4t,\forall t\in (0;1)$.
Ta có ${\max }_{(0;1)}(4t^2-4t)=0$, hoặc xét điều kiện nghịch biến/đồng biến theo đề bài đưa đến:
$$m^2+3m-1\le 0\iff \frac{-3-\sqrt{5}}{2}\le m\le \frac{-3+\sqrt{5}}{2}.$$