Умножение матриц в линейной алгебре¶

Произведение матриц — это бинарная операция над матрицами, сопоставляющая двум матрицам согласованных размеров третью матрицу. Операция лежит в основе линейной алгебры и широко применяется в математике, физике, информатике, экономике и инженерных расчётах. В отличие от поэлементного сложения, умножение матриц определяется через сумму произведений элементов строк первой матрицы на элементы столбцов второй.

¶Определение

Пусть даны матрица $A$ размера $m \times n$ и матрица $B$ размера $n \times p$. Их произведением $C = AB$ называется матрица размера $m \times p$, элементы которой вычисляются по формуле:

$$c_{ij} = \sum_{k=1}^{n} a_{ik} b_{kj}$$

Иными словами, элемент $c_{ij}$ равен скалярному произведению $i$-й строки матрицы $A$ и $j$-го столбца матрицы $B$. Операция определена только тогда, когда число столбцов первой матрицы равно числу строк второй — это условие согласованности размеров.

¶Свойства

Умножение матриц обладает рядом характерных свойств, отличающих его от умножения чисел.

• Ассоциативность: $(AB)C = A(BC)$ при согласованных размерах.
• Дистрибутивность: $A(B + C) = AB + AC$ и $(A + B)C = AC + BC$.
• Некоммутативность: в общем случае $AB \neq BA$. Порядок множителей существенен.
• Ассоциативность со скаляром: $(\lambda A)B = \lambda(AB) = A(\lambda B)$ для любого числа $\lambda$.
• Единичная матрица: $AE = EA = A$, где $E$ — единичная матрица подходящего размера.
• Определитель: $\det(AB) = \det A \cdot \det B$ для квадратных матриц одного порядка.

Некоммутативность — ключевое отличие матричного умножения от числового. Существуют матрицы, для которых $AB = 0$, хотя $A \neq 0$ и $B \neq 0$; такие матрицы называются делителями нуля.

¶Пример вычисления

Рассмотрим произведение матрицы $A$ размера $2 \times 3$ и матрицы $B$ размера $3 \times 2$:

$$A = \begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{pmatrix}, \quad B = \begin{pmatrix} 7 & 8 \\ 9 & 10 \\ 11 & 12 \end{pmatrix}$$

Результат — матрица $C$ размера $2 \times 2$:

$$C = \begin{pmatrix} 1\cdot7 + 2\cdot9 + 3\cdot11 & 1\cdot8 + 2\cdot10 + 3\cdot12 \\ 4\cdot7 + 5\cdot9 + 6\cdot11 & 4\cdot8 + 5\cdot10 + 6\cdot12 \end{pmatrix} = \begin{pmatrix} 58 & 64 \\ 139 & 154 \end{pmatrix}$$

¶Виды и обобщения

Помимо стандартного умножения, в линейной алгебре рассматривают несколько родственных операций.

Умножение матриц обобщается на блочные матрицы, на линейные операторы в абстрактных векторных пространствах и на тензоры. В теории линейных операторов произведение матриц соответствует композиции соответствующих отображений: если матрица $A$ задаёт оператор $f$, а $B$ — оператор $g$, то $AB$ задаёт композицию $f \circ g$.

¶Вычислительная сложность

Наивный алгоритм умножения двух квадратных матриц порядка $n$ требует $O(n^3)$ арифметических операций. В 1969 году Фолькер Штрассен предложил алгоритм сложности $O(n^{2{,}807})$, что положило начало целому направлению поиска быстрых алгоритмов. К настоящему времени лучшие теоретические оценки приближаются к $O(n^{2{,}37})$, однако на практике для умеренных размеров чаще применяют оптимизированный наивный алгоритм или блочное умножение, эффективно использующее кэш процессора.

¶Применение

Умножение матриц — базовая операция множества прикладных задач.

• Решение систем линейных уравнений. Метод Гаусса и матричные разложения (LU, QR) опираются на матричные произведения.
• Компьютерная графика. Повороты, масштабирование и сдвиги объектов описываются матрицами преобразований, а композиция преобразований — их произведением.
• Машинное обучение. Обучение нейросетей сводится к многократному умножению матриц весов на векторы активаций; для этого созданы специализированные аппаратные ускорители (GPU, TPU).
• Теория графов. Возведение матрицы смежности в степень даёт число путей заданной длины между вершинами.
• Экономика. Межотраслевые балансовые модели (модель Леонтьева) используют матричные произведения для расчёта валового выпуска.
• Физика и квантовая механика. Матрицы Паули, операторы рождения и уничтожения, матрицы плотности — всё это требует матричного умножения.

¶История

Правило умножения матриц ввёл в 1812 году французский математик Жак Филипп Мари Бине, а систематическое изложение дал Артур Кэли в 1858 году в работе «Мемуар о теории матриц». Кэли впервые ввёл обозначение матрицы как единого объекта и установил основные алгебраические свойства операции. Термин «матрица» предложил Джеймс Джозеф Сильвестр в 1850 году. В России значительный вклад в развитие матричного исчисления внесли математики XIX–XX веков, в том числе работы по линейной алгебре и её приложениям в механике и физике.

¶Связанные понятия

С умножением матриц тесно связаны обратная матрица (существующая, когда $\det A \neq 0$), транспонирование (для которого $(AB)^T = B^T A^T$), след матрицы и собственные значения. Порядок множителей в формуле транспонирования произведения меняется на противоположный — это прямое следствие некоммутативности.

Источники: учебники по линейной алгебре, монографии по теории матриц, материалы по вычислительным методам и алгоритмам Штрассена.