Решение:
а) Исходное уравнение: $\sin x \cdot \cos 2x + \sqrt{2} \cos^2 x + \sin x = 0$.
Применим формулы двойного угла для косинуса и основное тригонометрическое тождество, чтобы выразить всё через синус:
$\sin x \cdot (1 - 2 \sin^2 x) + \sqrt{2} (1 - \sin^2 x) + \sin x = 0$.
Раскроем скобки в левой части уравнения:
$\sin x - 2 \sin^3 x + \sqrt{2} - \sqrt{2} \sin^2 x + \sin x = 0$.
Приведем подобные слагаемые:
$2 \sin x - 2 \sin^3 x + \sqrt{2} - \sqrt{2} \sin^2 x = 0$.
Выполним группировку слагаемых, вынося общие множители:
$2 \sin x (1 - \sin^2 x) + \sqrt{2} (1 - \sin^2 x) = 0$,
$(2 \sin x + \sqrt{2})(1 - \sin^2 x) = 0$.
Произведение равно нулю, когда хотя бы один из множителей равен нулю:
1) $2 \sin x + \sqrt{2} = 0 \Rightarrow \sin x = -\frac{\sqrt{2}}{2}$.
Получаем две серии решений:
$x = -\frac{\pi}{4} + 2\pi k, k \in \mathbb{Z}$ и $x = -\frac{3\pi}{4} + 2\pi k, k \in \mathbb{Z}$.
2) $1 - \sin^2 x = 0 \Rightarrow \sin^2 x = 1$.
Это уравнение распадается на два случая:
$\sin x = 1 \Rightarrow x = \frac{\pi}{2} + 2\pi k, k \in \mathbb{Z}$;
$\sin x = -1 \Rightarrow x = -\frac{\pi}{2} + 2\pi k, k \in \mathbb{Z}$.

б) С помощью единичной окружности выберем корни, принадлежащие заданному отрезку $\left[\frac{3\pi}{2}; 3\pi\right]$.

На указанном промежутке находятся следующие значения:
Нижняя точка окружности совпадает с началом отрезка: $x = \frac{3\pi}{2}$.
Для серии $x = -\frac{\pi}{4} + 2\pi k$ при $k=1$: $x = 2\pi - \frac{\pi}{4} = \frac{7\pi}{4}$.
Для серии $x = \frac{\pi}{2} + 2\pi k$ при $k=1$: $x = 2\pi + \frac{\pi}{2} = \frac{5\pi}{2}$.
Остальные корни не попадают в данный интервал.

Ответ: а) $-\frac{\pi}{4} + 2\pi k; -\frac{3\pi}{4} + 2\pi k; \frac{\pi}{2} + 2\pi k; -\frac{\pi}{2} + 2\pi k, k \in \mathbb{Z}$; б) $\frac{3\pi}{2}; \frac{7\pi}{4}; \frac{5\pi}{2}$.

Источник: ФИПИ