Разбор задачи:
Для нахождения значения косинуса угла воспользуемся предложенной формулой, подставив в неё данные из условия задачи:
$$\cos \alpha = \frac{5^{2} + 6^{2} - 10^{2}}{2 \cdot 5 \cdot 6}$$ Выполним последовательные вычисления в числителе и знаменателе: $$\cos \alpha = \frac{25 + 36 - 100}{60} = \frac{61 - 100}{60} = \frac{-39}{60}$$ Сократим полученную дробь или переведём её в десятичный вид: $$\frac{-39}{60} = -0{,}65$$

Ответ: -0,65

Источник: ФИПИ