Решение:
Рассмотрим первое уравнение системы: $$(xy - 4x + 20) \cdot \sqrt{y - 4x + 20} = 0$$ Данное равенство выполняется, если один из множителей равен нулю, при условии, что подкоренное выражение не отрицательно. Получаем совокупность: $$\left[\begin{matrix} xy - 4x + 20 = 0, \text{ при } y \geq 4x - 20 \\ y - 4x + 20 = 0 \end{matrix}\right.$$ Выразим $y$ в обоих случаях: $$\left[\begin{matrix} y = 4 - \frac{20}{x}, \text{ при } y \geq 4x - 20 \\ y = 4x - 20 \end{matrix}\right.$$
На чертеже красным цветом изображено множество точек, соответствующих первому уравнению, а синим — второму уравнению системы $y = 5x + a$, которое представляет собой семейство параллельных прямых. Нам необходимо найти такие значения параметра $a$, при которых графики имеют ровно одну общую точку.
Для начала определим точки пересечения гиперболы и прямой из первого уравнения: $$4 - \frac{20}{x} = 4x - 20$$ Разделим на 4 и приведем к квадратному виду: $$1 - \frac{5}{x} = x - 5 \Rightarrow x - 5 - 1 + \frac{5}{x} = 0 \Rightarrow \frac{x^2 - 6x + 5}{x} = 0$$ Корни уравнения: $x_1 = 1$ и $x_2 = 5$. Соответствующие ординаты: $y(1) = 4 \cdot 1 - 20 = -16$ и $y(5) = 4 \cdot 5 - 20 = 0$.
Найдем значения $a$, при которых прямая $y = 5x + a$ проходит через эти характерные точки:
1) Через точку $(5; 0)$: $$0 = 5 \cdot 5 + a \Rightarrow a = -25$$ 2) Через точку $(1; -16)$: $$-16 = 5 \cdot 1 + a \Rightarrow a = -21$$ При $a \in (-25; -21]$ прямая пересекает только одну ветвь графика.
Также возможны случаи касания прямой $y = 5x + a$ и гиперболы $y = 4 - \frac{20}{x}$: $$5x + a = 4 - \frac{20}{x}$$ $$5x^2 + (a - 4)x + 20 = 0$$ Условие касания — равенство дискриминанта нулю: $$D = (a - 4)^2 - 4 \cdot 5 \cdot 20 = a^2 - 8a + 16 - 400 = 0$$ $$a^2 - 8a - 384 = 0$$ Решая квадратное уравнение, получаем: $a = -16$ и $a = 24$.

Ответ: $-25 < a \leq -21; a = -16; a = 24$

Источник: ФИПИ