Разбор задачи:

Для определения координат любого вектора необходимо из координат точки его конца вычесть соответствующие координаты точки его начала.
Воспользуемся формулой: $\vec{v} = \{x_{end} - x_{start}; y_{end} - y_{start}\}$.
Рассмотрим пример с вектором $\vec{BC}$. По графику видно, что точка $B$ имеет координаты $(1; 4)$, а точка $C$ — $(4; 2)$. Тогда компоненты вектора составят: $\{4 - 1; 2 - 4\} = \{3; -2\}$.

Аналогичным образом вычислим координаты векторов $\vec{a}$ и $\vec{b}$, представленных на чертеже:
$\vec{a} = \{5 - 1; 8 - 2\} = \{4; 6\}$;
$\vec{b} = \{11 - 5; 3 - 5\} = \{6; -2\}$.

Теперь рассчитаем скалярное произведение векторов $\vec{a}$ и $\vec{b}$. Оно вычисляется как сумма произведений их одноимённых координат:
$\vec{a} \cdot \vec{b} = x_a \cdot x_b + y_a \cdot y_b = 4 \cdot 6 + 6 \cdot (-2) = 24 - 12 = 12$.

Ответ: 12

Источник: ФИПИ