Решение:
$\left\{\begin{matrix} \left(xy^{2} - 3 x - 3 y + 9\right) \sqrt{3 - x} = 0 ( 1 ) \\ y = ax ( 2 ) \end{matrix}\right.$
(1) $\left(xy \left(y - 3\right) - 3 \left(y - 3\right)\right) \sqrt{3 - x} = 0$
$\left(y - 3\right) \left(xy - 3\right) \sqrt{3 - x} = 0$

$a \in \left(( 1 ) ; ( 2 )\right) \cup \left\{\left(3\right)\right\}$
$\left\{\begin{matrix} \left[\begin{matrix} \begin{matrix}y = 3 \\ xy - 3 = 0 \\ 3 - x = 0\end{matrix} \end{matrix}\right. \\ 3 - x \geq 0 \end{matrix}\right.$
$\left\{\begin{matrix} \left[\begin{matrix} \begin{matrix}y = 3 \\ y = \frac{3}{x} \\ x = 3\end{matrix} \end{matrix}\right. \\ x \leq 3 \end{matrix}\right.$

x	y
1	3
-1	-3
3	1
-3	-1
2	1,5
-2	-1,5

1) $x = 3 ; y = 1$
$1 = 3 a \\ a = \frac{1}{3}$
2) $x = 3 ; y = 3$
$3 = 3 a \\ a = 1$
3) $x = 1 ; y = 3$
$3 = a .$

Ответ: $( \frac{1}{3} ; 1 \left]\right. \cup \left\{3\right\}$

Источник: ФИПИ