Решение:
Преобразуем исходную систему уравнений:
$\left\{\begin{matrix} x^{2} + y^{2} = 6 x + 8 y - 9 \\ x^{2} + y^{2} = a^{2} \end{matrix}\right.$
Для первого уравнения выделим полные квадраты по переменным $x$ и $y$:
$\left\{\begin{matrix} x^{2} - 6 x + y^{2} - 8 y = - 9 \\ x^{2} + y^{2} = a^{2} \end{matrix}\right.$
$\left\{\begin{matrix} (x^{2} - 6 x + 9) + (y^{2} - 8 y + 16) = - 9 + 9 + 16 \\ x^{2} + y^{2} = a^{2} \end{matrix}\right.$
$\left\{\begin{matrix} \left(x - 3\right)^{2} + \left(y - 4\right)^{2} = 16 \\ x^{2} + y^{2} = a^{2} \end{matrix}\right.$

Данная система описывает две окружности.
Первая окружность имеет центр в точке $O_1(0; 0)$ и радиус $R_1 = \sqrt{a^{2}} = |a|$.
Вторая окружность имеет центр в точке $O_2(3; 4)$ и радиус $R_2 = 4$.
Система будет иметь ровно два решения, если окружности пересекаются в двух точках. Это условие выполняется, когда расстояние между центрами $d$ меньше суммы радиусов, но больше модуля их разности:
$$|R_1 - R_2| < d < R_1 + R_2$$ Найдём расстояние $d$ между центрами $(0;0)$ и $(3;4)$:
$d = \sqrt{(3 - 0)^{2} + (4 - 0)^{2}} = \sqrt{9 + 16} = 5$.
Подставим значения в двойное неравенство:
$||a| - 4| < 5 < |a| + 4$
Перейдем к системе неравенств:
$\left\{\begin{matrix} ||a| - 4| < 5 \quad (1) \\ |a| + 4 > 5 \quad (2) \end{matrix}\right.$
Решим первое неравенство $(1)$:
$-5 < |a| - 4 < 5$
$-1 < |a| < 9$
Так как модуль всегда неотрицателен, условие $|a| > -1$ выполняется всегда, остается $|a| < 9$, что дает $a \in (-9; 9)$.
Решим второе неравенство $(2)$:
$|a| > 1$, откуда следует $a \in (-\infty; -1) \cup (1; +\infty)$.
Найдём пересечение полученных промежутков:

Ответ: $(-9; -1) \cup (1; 9)$

Источник: ФИПИ