Решение:
а) Исходное уравнение: $\sqrt{2} \cos ^{3} x - \sqrt{2} \cos x + \sin ^{2} x = 0$.
Воспользуемся основным тригонометрическим тождеством и заменим $\sin^2 x$ на $1 - \cos^2 x$:
$\sqrt{2} \cos ^{3} x - \sqrt{2} \cos x + 1 - \cos ^{2} x = 0$.
Выполним группировку слагаемых:
$\sqrt{2} \cos x (\cos^2 x - 1) - (\cos^2 x - 1) = 0$.
Вынесем общий множитель за скобки:
$(\sqrt{2} \cos x - 1)(\cos^2 x - 1) = 0$.
Произведение равно нулю, когда хотя бы один из множителей равен нулю:
1) $\sqrt{2} \cos x - 1 = 0 \Rightarrow \cos x = \frac{1}{\sqrt{2}} = \frac{\sqrt{2}}{2}$.
Отсюда получаем корни: $x = \pm \frac{\pi}{4} + 2\pi k, k \in \mathbb{Z}$.
2) $\cos^2 x - 1 = 0 \Rightarrow \cos^2 x = 1$, что означает $\cos x = 1$ или $\cos x = -1$.
Эти случаи можно объединить в серию: $x = \pi n, n \in \mathbb{Z}$ (или записать раздельно как $x = 2\pi k$ и $x = \pi + 2\pi k$).

б) Найдем корни, лежащие на заданном отрезке $\left[\frac{5 \pi}{2} ; 4 \pi\right]$, используя единичную окружность.

Согласно рисунку, указанному промежутку соответствуют следующие значения:
$x_{1} = 3 \pi$
$x_{2} = 4 \pi - \frac{\pi}{4} = \frac{15 \pi}{4}$
$x_{3} = 4 \pi$.

Ответ: а) $\pm \frac{\pi}{4} + 2\pi k$; $\pi n$, где $k, n \in \mathbb{Z}$; б) $3 \pi$; $\frac{15 \pi}{4}$; $4 \pi$.

Источник: ФИПИ