Доказать, что векторы $\mathbf a$ и $\mathbf b(\mathbf a,\mathbf c)-\mathbf c(\mathbf a,\mathbf b)$ взаимно перпендикулярны.

Скалярное произведение линейно по каждому аргументу, а $(\mathbf a,\mathbf c)$ и $(\mathbf a,\mathbf b)$ — числа: $$\bigl(\mathbf a,\ \mathbf b(\mathbf a,\mathbf c)-\mathbf c(\mathbf a,\mathbf b)\bigr)=(\mathbf a,\mathbf b)(\mathbf a,\mathbf c)-(\mathbf a,\mathbf c)(\mathbf a,\mathbf b)=0.$$ Нулевое скалярное произведение означает перпендикулярность (нулевой вектор считается перпендикулярным любому).

Скалярное произведение равно $0$.