$$A=\begin{pmatrix}\frac13&-\frac23&-\frac23\\-\frac23&\frac13&-\frac23\\-\frac23&-\frac23&\frac13\end{pmatrix},\qquad B=\begin{pmatrix}4&-2&2\end{pmatrix}.$$ Найти произведения матриц, если возможно: $AB^T$, $AB$, $BA$, $A^TB$.

Произведение $XY$ определено, только если число столбцов $X$ равно числу строк $Y$. Здесь $A$ — $3\times3$, $B$ — $1\times3$, $B^T$ — $3\times1$.

• $AB^T$: $(3\times3)(3\times1)$ — определено, результат $3\times1$.
• $AB$: $(3\times3)(1\times3)$ — не определено ($3\ne1$).
• $BA$: $(1\times3)(3\times3)$ — определено, результат $1\times3$.
• $A^TB$: $(3\times3)(1\times3)$ — не определено.

Удобно вынести $\frac13$: $A=\frac13\begin{pmatrix}1&-2&-2\\-2&1&-2\\-2&-2&1\end{pmatrix}$. $$AB^T=\frac13\begin{pmatrix}4+4-4\\-8-2-4\\-8+4+2\end{pmatrix}=\frac13\begin{pmatrix}4\\-14\\-2\end{pmatrix}=\begin{pmatrix}4/3\\-14/3\\-2/3\end{pmatrix},$$ $$BA=\frac13\bigl(4+4-4,\ -8-2-4,\ -8+4+2\bigr)=\Bigl(\frac43,\ -\frac{14}3,\ -\frac23\Bigr).$$ Ответы совпадают с точностью до транспонирования, потому что $A$ симметрическая: $BA=(A^TB^T)^T=(AB^T)^T$.

Интересный факт. $A^TA=E$ (проверьте!) — столбцы $A$ попарно ортогональны и имеют длину $1$. Такие матрицы называются ортогональными.

$AB^T=\begin{pmatrix}4/3\\-14/3\\-2/3\end{pmatrix}$, $BA=\bigl(\frac43,-\frac{14}3,-\frac23\bigr)$; $AB$ и $A^TB$ не определены.