Нормаль — базовое понятие линейной алгебры¶

Нормаль — в линейной алгебре и аналитической геометрии базовое понятие, означающее длину вектора или матрицы. Норма отображает вектор в неотрицательное число, характеризующее его «размер», и является обобщением абсолютного значения для многомерных объектов. Понятие нормы лежит в основе метрических пространств, теории приближений, оптимизации и численных методов.

¶Определение и аксиомы

Норма на векторном пространстве — это функция ‖·‖, сопоставляющая каждому вектору x вещественное число, удовлетворяющее трём аксиомам:

1. Положительная определённость: ‖x‖ ≥ 0, причём ‖x‖ = 0 тогда и только тогда, когда x = 0.
2. Однородность: ‖αx‖ = |α|·‖x‖ для любого скаляра α.
3. Неравенство треугольника: ‖x + y‖ ≤ ‖x‖ + ‖y‖.

Пространство с введённой нормой называется нормированным. Расстояние между векторами определяется через норму разности: d(x, y) = ‖x − y‖, что превращает пространство в метрическое.

¶Основные виды норм

В конечномерных пространствах наиболее распространены нормы ℓp (обобщённые или числовые нормы), определяемые формулой:

‖x‖p = (|x₁|ᵖ + |x₂|ᵖ + … + |xₙ|ᵖ)^(1/p), где p ≥ 1.

Наиболее известные частные случаи:

Евклидова норма ℓ² — наиболее привычная: именно она соответствует геометрической длине отрезка в школьной аналитической геометрии. Норма ℓ¹ активно применяется в задачах сжатия данных и машинного обучения (регуляризация Лассо), а норма ℓ∞ — в теории устойчивости и приближений (полиномы Чебышёва).

¶Нормы матриц и операторов

Понятие нормы распространяется на матрицы и линейные операторы. Наиболее употребительные матричные нормы:

• Спектральная норма (операторная): ‖A‖₂ = max_{‖x‖=1} ‖Ax‖ — наибольшее сингулярное число матрицы.
• Норма Фробениуса: ‖A‖_F = √(Σ aᵢⱼ²) — евклидова норма, применённая ко всем элементам матрицы.
• Норма по столбцам: ‖A‖₁ = max_j Σᵢ |aᵢⱼ|.
• Норма по строкам: ‖A‖_∞ = max_i Σⱼ |aᵢⱼ|.

Спектральная норма особенно важна в вычислительной математике: она определяет обусловленность линейных систем и устойчивость итерационных методов.

¶Нормы в функциональных пространствах

В бесконечномерных пространствах функций нормы играют центральную роль. Основные примеры:

• Норма Lᵖ: ‖f‖_p = (∫|f(x)|ᵖ dx)^(1/p) на пространстве измеримых функций.
• Норма супремума (Чебышёва): ‖f‖_∞ = sup|f(x)|.
• Норма в пространстве непрерывных функций C[a, b]: совпадает с нормой супремума.

Пространства L² являются гильбертовыми, то есть допускают введение скалярного произведения, через которое норма выражается как ‖f‖ = √⟨f, f⟩. Именно на L² построена математическая формулировка квантовой механики.

¶Применение

Понятие нормы применяется в широком круге математических и прикладных задач:

• Численный анализ: оценка погрешности вычислений, анализ сходимости итерационных методов (метод Гаусса — Зейделя, метод наискорейшего спуска).
• Теория приближений: задача наилучшего приближения в норме Lᵖ; полиномы Чебышёва оптимизируют приближение в норме ℓ∞.
• Машинное обучение: функции потерь часто определяются через нормы (L1- и L2-регуляризация).
• Оптимизация: норма используется для ограничения области поиска (задачи с ограничением ‖x‖ ≤ R).
• Теория информации: энтропия Шеннона и нормы ℓp связаны через обобщённые показатели энтропии Реньи.

¶Историческая справка

Понятие нормы сформировалось в начале XX века в связи с развитием функционального анализа. Ключевой вклад внесли Стефан Банах (1920-е годы, аксиоматическое определение нормированного пространства, ныне называемого банаховым) и Джон фон Нейман. Термин «норма» закрепился в работах Банаха и его школы. Развитие норм ℓp связано с именами Рисса, Орлича и Лебега.

¶Источники

• Крейн Г. «Введение в теорию нормированных пространств»
• Банах С. «Курс функционального анализа»
• Хорн Р., Джонсон Ч. «Матричный анализ»
• Люстерник Л. А., Соболев В. И. «Элементы функционального анализа»