Решение:
Рассмотрим первое уравнение системы: $\left(x^{2} - 5 x - y + 3\right) \cdot \sqrt{x - y + 3} = 0$. Оно определено при условии $x - y + 3 \geq 0$, то есть $y \leq x + 3$. Произведение равно нулю, если хотя бы один из множителей равен нулю:
1) Из равенства корня нулю получаем прямую $y = x + 3$.
2) Из равенства нулю первой скобки получаем параболу $y = x^{2} - 5 x + 3$.
С учётом области определения ($y \leq x + 3$) для параболы должно выполняться неравенство: $x^{2} - 5 x + 3 \leq x + 3$, что сводится к $x^{2} - 6 x \leq 0$. Таким образом, часть параболы рассматривается только на отрезке $0 \leq x \leq 6$.

Подставим второе уравнение системы $y = 3 x + a$ в найденные условия и проанализируем количество точек пересечения в зависимости от параметра $a$.
Случай 1: Пересечение с прямой $y = x + 3$.
Уравнение $3 x + a = x + 3$ даёт единственный корень $x = \frac{3 - a}{2}$ при любом значении $a$.

Случай 2: Пересечение с дугой параболы $y = x^{2} - 5 x + 3$ при $x \in [0; 6]$.
Приравнивая правые части, получаем квадратное уравнение $x^{2} - 8 x + 3 - a = 0$. Его дискриминант равен $D = 64 - 4(3 - a) = 4(a + 13)$.
- Если $a < -13$, корней нет.
- Если $a = -13$, имеем один корень $x = 4$, который входит в интервал $[0; 6]$.
- Если $a > -13$, уравнение имеет два корня.

Вершина параболы $f(x) = x^{2} - 8 x + 3 - a$ находится в точке $x_0 = 4$. Чтобы больший корень лежал в пределах $[0; 6]$, необходимо выполнение условия $f(6) \geq 0$, так как ветви направлены вверх и вершина внутри отрезка. Это даёт: $36 - 48 + 3 - a \geq 0$, то есть $-a - 9 \geq 0$, откуда $a \leq -9$.
Для того чтобы меньший корень также попадал в область $x \in [0; 6]$, требуется $f(0) \geq 0$. Получаем: $0 - 0 + 3 - a \geq 0$, то есть $a \leq 3$.

Заметим, что корень из первого случая $x = \frac{3 - a}{2}$ может совпасть с корнем из второго случая. Проверим это, подставив его в уравнение параболы:
$\left(\frac{3 - a}{2}\right)^{2} - 8\left(\frac{3 - a}{2}\right) + 3 - a = 0$;
$\frac{(a - 3)^2}{4} + 4(a - 3) - (a - 3) = 0$;
$\frac{(a - 3)^2}{4} + 3(a - 3) = 0$;
$(a - 3)\left(\frac{a - 3}{4} + 3\right) = 0$.
Совпадение происходит при $a = 3$ или $a = -9$.
Анализируя совокупность условий, получаем, что ровно два различных решения система имеет в следующих случаях: при $a = -13$ (один корень от параболы и один от прямой) и в промежутке $-9 \leq a < 3$.

Ответ: $a = - 13 ; - 9 \leq a < 3$

Источник: ФИПИ