Решение:
Рассмотрим исходную систему уравнений: $$\left\{\begin{matrix} \left(x^{2} - 5 x - y + 3\right) \cdot \sqrt{x - y + 3} = 0 \\ y = ax + a \end{matrix}\right.$$ Первое уравнение распадается на совокупность при условии существования квадратного корня: $$\left\{\begin{matrix} \left[\begin{matrix} y = x^{2} - 5 x + 3 \\ y = x + 3 \end{matrix}\right. \\ y = a(x + 1) \\ y \leq x + 3 \end{matrix}\right.$$ Проанализируем параболу $y = x^{2} - 5 x + 3$. Координаты её вершины: $x_{0} = \frac{-(-5)}{2 \cdot 1} = 2{,}5$;
$y_{0}(2{,}5) = (2{,}5)^{2} - 5 \cdot 2{,}5 + 3 = 6{,}25 - 12{,}5 + 3 = -3{,}25$.
Точки пересечения параболы с осью $Ox$: $x^{2} - 5 x + 3 = 0$, где $D = 25 - 12 = 13$.
Корни: $x_{1,2} = \frac{5 \pm \sqrt{13}}{2}$.
Также в систему входит прямая $y = x + 3$, которая является границей области определения уравнения.

Для поиска значений параметра $a$, при которых система имеет ровно два решения, проанализируем пучок прямых $y = a(x + 1)$, проходящих через точку $(-1; 0)$.
Согласно графическому анализу, искомые значения находятся в объединении: $a \in \{a_1\} \cup \{a_2\} \cup [a_3; a_4)$.
Сначала определим точки, где прямая $y = x + 3$ пересекается с параболой $y = x^{2} - 5 x + 3$:
$x + 3 = x^{2} - 5 x + 3$
$x^{2} - 6 x = 0$
Получаем две точки: $(0; 3)$ и $(6; 9)$.

Найдем значение $a$ для первого случая (касание параболы):
Уравнение $a(x + 1) = x^{2} - 5 x + 3$ должно иметь единственный корень.
$x^{2} - (5 + a)x + 3 - a = 0$
Условие касания — равенство дискриминанта нулю:
$D = (5 + a)^{2} - 4(3 - a) = a^{2} + 10a + 25 - 12 + 4a = a^{2} + 14a + 13$
$a^{2} + 14a + 13 = 0$
Корни уравнения: $a = -13$ и $a = -1$. По графику подходит значение $a = -1$.

Второй случай: прямая из пучка параллельна прямой $y = x + 3$. Это происходит при равенстве угловых коэффициентов, то есть $a = 1$.

Третий случай: прямая проходит через точку пересечения параболы и границы $(6; 9)$:
$9 = a(6 + 1) \Rightarrow 7a = 9 \Rightarrow a = \frac{9}{7}$.

Четвертый случай: прямая проходит через вторую точку пересечения $(0; 3)$:
$3 = a(0 + 1) \Rightarrow a = 3$.
Таким образом, два решения будут при $a = -1$, $a = 1$ и в полуинтервале от $\frac{9}{7}$ до $3$.

Ответ: $\{-1\} \cup \{1\} \cup [\frac{9}{7}; 3)$

Источник: ФИПИ