Решение:
а) Рассмотрим исходное уравнение: $2 \cos^{3} x + \sqrt{2} \sin^{2} x = 2 \cos x$.
Для решения воспользуемся основным тригонометрическим тождеством и заменим $\sin^{2} x$ на $1 - \cos^{2} x$:
$2 \cos^{3} x + \sqrt{2} (1 - \cos^{2} x) - 2 \cos x = 0$.
Сгруппируем слагаемые, содержащие косинус в первой и третьей степени:
$-2 \cos x (1 - \cos^{2} x) + \sqrt{2} (1 - \cos^{2} x) = 0$.
Теперь вынесем общий множитель $(1 - \cos^{2} x)$ за скобки:
$(1 - \cos^{2} x)(\sqrt{2} - 2 \cos x) = 0$.
Произведение равно нулю, когда хотя бы один из множителей равен нулю.
1) Из второй скобки получаем:
$\sqrt{2} - 2 \cos x = 0 \Rightarrow \cos x = \frac{\sqrt{2}}{2}$.

Следовательно, $x = \pm \frac{\pi}{4} + 2 \pi n, n \in \mathbb{Z}$.
2) Из первой скобки имеем:
$1 - \cos^{2} x = 0$, что равносильно $\sin^2 x = 0$.
Это уравнение распадается на два случая: $\cos x = 1$ или $\cos x = -1$.
Если $\cos x = 1$, то $x = 2 \pi n, n \in \mathbb{Z}$.
Если $\cos x = -1$, то $x = \pi + 2 \pi n, n \in \mathbb{Z}$.
Данные две серии решений можно записать одной формулой: $x = \pi n, n \in \mathbb{Z}$.

б) Отберем корни, принадлежащие заданному отрезку $\left[\frac{5 \pi}{2}; 4 \pi\right]$.
Воспользуемся единичной окружностью для поиска подходящих значений:

На указанном промежутке находятся следующие корни:
— Из серии $\pi n$ это точки $3\pi$ и $4\pi$.
— Из серии $\pm \frac{\pi}{4} + 2 \pi n$ в интервал попадает только одно значение: $4 \pi - \frac{\pi}{4} = \frac{15 \pi}{4}$.

Ответ: а) $\pm \frac{\pi}{4} + 2 \pi n, \pi n, n \in \mathbb{Z}$; б) $3 \pi, \frac{15 \pi}{4}, 4 \pi$.

Источник: ФИПИ