Задача 24.111

В пространстве $\mathbb{R}_{n \times n}$ рассматривается преобразование $\varphi(X) = AX - XA$, где $A$ — фиксированная матрица. Доказать, что данное множество образует инвариантное относительно $\varphi$ подпространство:

1) множество всех матриц с нулевым следом; 2) множество всех верхних треугольных матриц (если матрица $A$ верхняя треугольная); 3) множество всех кососимметрических матриц (если матрица $A$ кососимметрическая); 4) множество всех диагональных матриц (если матрица $A$ диагональная).

Для каждого пункта необходимо проверить, что множество является линейным подпространством и что $\varphi(X)$ принадлежит этому же множеству для любого $X$ из множества.

Множество $\mathcal{S} = \{ X \in \mathbb{R}^{n \times n} \mid \operatorname{tr} X = 0 \}$ — подпространство, так как след линеен. Для любой $X \in \mathcal{S}$: \[ \operatorname{tr} \varphi(X) = \operatorname{tr}(AX - XA) = \operatorname{tr}(AX) - \operatorname{tr}(XA) = \operatorname{tr}(AX) - \operatorname{tr}(AX) = 0, \] следовательно, $\varphi(X) \in \mathcal{S}$. Инвариантность доказана.

Пусть $\mathcal{U}$ — множество всех верхних треугольных матриц (элементы $X_{ij}=0$ при $i>j$). Оно является подпространством. При $i>j$: \[ (AX)_{ij} = \sum_{k} A_{ik} X_{kj}. \] Так как $A$ — верхняя треугольная, $A_{ik}=0$ при $i>k$; $X_{kj}=0$ при $k>j$. Для $i>j$ ненулевые слагаемые возможны только если $i \le k \le j$, что противоречит $i>j$. Значит, $(AX)_{ij}=0$. Аналогично, \[ (XA)_{ij} = \sum_{k} X_{ik} A_{kj}. \] Здесь $X_{ik}=0$ при $i>k$, $A_{kj}=0$ при $k>j$. Для $i>j$ условие $i \le k \le j$ также невозможно. Следовательно, $(XA)_{ij}=0$. Таким образом, $\varphi(X)_{ij}=0$ при $i>j$, т.е. $\varphi(X)$ — верхняя треугольная. Инвариантность выполнена.

Множество $\mathcal{K} = \{ X \mid X^T = -X \}$ — подпространство. Для $X \in \mathcal{K}$ и $A^T = -A$: \[ \varphi(X)^T = (AX - XA)^T = X^T A^T - A^T X^T = (-X)(-A) - (-A)(-X) = XA - AX = -\varphi(X). \] Значит, $\varphi(X)$ также кососимметрична.

Пусть $A = \operatorname{diag}(a_1,\dots,a_n)$, $X = \operatorname{diag}(x_1,\dots,x_n)$. Тогда \[ AX = \operatorname{diag}(a_1 x_1,\dots,a_n x_n) = XA, \] откуда $\varphi(X)=0$. Нулевая матрица, очевидно, диагональна, поэтому $\varphi(X)$ принадлежит множеству диагональных матриц. Инвариантность доказана.

Таким образом, все указанные множества являются инвариантными подпространствами относительно преобразования $\varphi$.