Решение:
Нам необходимо найти значения параметра $a$, при которых уравнение $\sqrt{x^{4} - 16 x^{2} + 64 a^{2}} = x^{2} - 4 x + 8 a$ имеет ровно три различных решения. (Заметим, что исходное выражение в условии эквивалентно равенству $\sqrt{x^{4} - 16 x^{2} + 64 a^{2}} = x^{2} - 4 x + 8 a$).
Данное уравнение равносильно следующей смешанной системе:
$\left\{\begin{matrix} x^{4} - 16 x^{2} + 64 a^{2} = \left(x^{2} + 4 x - 8 a\right)^{2} \quad ( 1 ) \\ x^{2} + 4 x - 8 a \geq 0 \end{matrix}\right.$
Преобразуем уравнение $( 1 )$, используя формулу квадрата суммы трех слагаемых $\left(a + b + c\right)^{2} = a^{2} + b^{2} + c^{2} + 2ab + 2ac + 2bc$:
$x^{4} - 16 x^{2} + 64 a^{2} = x^{4} + 16 x^2 + 64 a^{2} + 2 \cdot x^2 \cdot 4x + 2 \cdot x^{2} \cdot (- 8 a) + 2 \cdot 4 x \cdot (- 8 a)$
Раскроем скобки и приведем подобные слагаемые:
$x^{4} - 16 x^{2} + 64 a^{2} = x^{4} + 16 x^2 + 64 a^{2} + 8 x^{3} - 16 ax^{2} - 64 ax$
Перенесем всё в одну сторону и упростим:
$8 x^{3} - 16 ax^{2} - 64 ax + 32 x^{2} = 0$
Вынесем общий множитель $8x$ за скобки:
$8 x (x^{2} - 2 ax - 8 a + 4 x) = 0$
Отсюда получаем первый корень $x_{1} = 0$ или квадратное уравнение:
$x^{2} + (4 - 2 a) x - 8 a = 0$
Найдем дискриминант полученного квадратного уравнения:
$D = (4 - 2 a)^{2} - 4 \cdot 1 \cdot (- 8 a) = 16 - 16 a + 4 a^{2} + 32 a = 4 a^{2} + 16 a + 16 = (2 a + 4)^{2}$
Вычислим оставшиеся корни:
$x_{2} = \frac{-(4 - 2 a) - (2 a + 4)}{2} = \frac{-4 + 2a - 2a - 4}{2} = -4$
$x_{3} = \frac{-(4 - 2 a) + (2 a + 4)}{2} = \frac{-4 + 2a + 2a + 4}{2} = 2a$
Теперь проверим, при каких $a$ эти корни удовлетворяют условию $x^{2} + 4 x - 8 a \geq 0$:
Для $x_{1} = 0$: $0^2 + 4 \cdot 0 - 8 a \geq 0 \Rightarrow -8a \geq 0 \Rightarrow a \leq 0$.
Для $x_{2} = -4$: $(-4)^2 + 4 \cdot (-4) - 8 a \geq 0 \Rightarrow 16 - 16 - 8 a \geq 0 \Rightarrow a \leq 0$.
Для $x_{3} = 2a$: $(2a)^2 + 4 \cdot (2a) - 8 a \geq 0 \Rightarrow 4a^2 \geq 0$. Это верно для любого $a \in \mathbb{R}$.
Чтобы уравнение имело ровно 3 решения, необходимо, чтобы все три корня были различными и удовлетворяли условию $a \leq 0$.
Проверим условия совпадения корней:
1) $x_{1} = x_{2} \Rightarrow 0 = -4$ (невозможно).
2) $x_{2} = x_{3} \Rightarrow -4 = 2a \Rightarrow a = -2$.
3) $x_{1} = x_{3} \Rightarrow 0 = 2a \Rightarrow a = 0$.
Следовательно, при $a < 0$ у нас есть три потенциальных корня, но при $a = -2$ и $a = 0$ они склеиваются, и их становится меньше трех. При $a > 0$ корни $x_1$ и $x_2$ не подходят по условию системы.

Ответ: $\left(- \infty ; - 2\right) \cup \left(- 2 ; 0\right)$

Источник: ФИПИ