Решение:
Рассмотрим исходную систему уравнений:
$\left\{\begin{matrix} \sqrt{36 - y^{2}} = \sqrt{36 - a^{2} x^{2}} \\ x^{2} + y^{2} = 2 x + 6 y \end{matrix}\right.$
Перейдем к равносильной системе, возведя первое уравнение в квадрат и выделив полные квадраты во втором уравнении (с учетом области определения):
$\left\{\begin{matrix} 36 - y^{2} = 36 - a^{2} x^{2} \\ (x^{2} - 2 x + 1) + (y^{2} - 6 y + 9) = 1 + 9 \\ |y| \leq 6 \end{matrix}\right.$
Упростим полученные выражения:
$\left\{\begin{matrix} y^{2} = a^{2}x^{2} \\ \left(x - 1\right)^{2} + \left(y - 3\right)^{2} = 10 \\ - 6 \leq y \leq 6 \end{matrix}\right.$
Геометрически второе уравнение представляет собой окружность с центром в точке $(1; 3)$ и радиусом $\sqrt{10}$. Первое уравнение распадается на две прямые: $y = ax$ и $y = -ax$, проходящие через начало координат. Условие $-6 \leq y \leq 6$ ограничивает область рассмотрения по вертикали.

Определим точки пересечения окружности с осями координат.
Если $y = 0$, то $x^{2} - 2x = 0$, откуда $x = 0$ или $x = 2$.
Если $x = 0$, то $y^{2} - 6y = 0$, откуда $y = 0$ или $y = 6$.
Рассмотрим характерные значения параметра $a$.
1. Пусть прямая проходит через точку $(2; 6)$. Подставим координаты в уравнение $y = \pm ax$:
$6 = |a| \cdot 2 \Rightarrow |a| = 3$, то есть $a = 3$ или $a = -3$.
2. Рассмотрим случай касания прямой и окружности. В точке касания радиус, проведенный из центра $(1; 3)$, перпендикулярен касательной $y = kx$.
Прямая, на которой лежит этот радиус, проходит через точки $(0; 0)$ и $(1; 3)$, ее уравнение $y = 3x$.
Так как произведение угловых коэффициентов перпендикулярных прямых равно $-1$, получаем:
Для касательной $y = ax$: $a \cdot 3 = -1 \Rightarrow a = -1/3$.
Для касательной $y = -ax$: $(-a) \cdot 3 = -1 \Rightarrow a = 1/3$.
3. Если прямая совпадает с осью абсцисс ($y = 0$), то параметр $a = 0$.
Анализируя взаимное расположение прямых и части окружности, получаем искомые промежутки и значения.

Ответ: $(-\infty; -3) \cup \{-1/3\} \cup \{0\} \cup \{1/3\} \cup (3; +\infty)$

Источник: ФИПИ