WikiDer > Матричная норма

Matrix norm

В математика, а матричная норма это векторная норма в векторном пространстве, элементы (векторы) которого равны матрицы (заданных размеров).

Определение

Учитывая поле либо настоящий или же сложные числа, а векторное пространство всех матриц размера ряды и столбцы) с записями в поле , матричная норма - это норма в векторном пространстве (с индивидуальными нормами, обозначенными двойные вертикальные полосы Такие как [1]). Таким образом, матричная норма есть функция который должен удовлетворять следующим свойствам:[2][3]

Для всех скаляров и для всех матриц ,

  • (существование абсолютно однородный)
  • (существование субдобавка или удовлетворение неравенство треугольника)
  • (существование положительно оцененный)
  • (существование определенный)

Кроме того, в случае квадратные матрицы (матрицы с м = п) некоторые (но не все) нормы матриц удовлетворяют следующему условию, которое связано с тем, что матрицы - это больше, чем просто векторы:[2]

  • для всех матриц и в

Матричная норма, удовлетворяющая этому дополнительному свойству, называется субмультипликативная норма[4][3] (в некоторых книгах терминология матричная норма используется только для тех норм, которые являются субмультипликативными[5]). Набор всех матрицы, вместе с такой субмультипликативной нормой, является примером Банахова алгебра.

Определение субмультипликативности иногда распространяется на неквадратные матрицы, как в случае индуцированных п-норма, где для и считает, что . Здесь, и нормы, индуцированные из и соответственно, где п,q ≥ 1.

Ниже мы рассмотрим три типа матричных норм:

  • Матричные нормы, индуцированные векторными нормами,
  • Поступательные матричные нормы, и
  • Нормы Шаттена.

Матричные нормы, индуцированные векторными нормами

Предположим, что векторная норма на дано. Любой матрица А индуцирует линейный оператор из к относительно стандартного базиса, и определяется соответствующий индуцированная норма или же норма оператора на пространстве из всех матрицы следующим образом:

В частности, если п-норма для векторов (1 ≤ п ≤ ∞) используется для обоих пробелов и , то соответствующие индуцированные норма оператора является:[3]

Эти индуцированные нормы отличаются от "входной" п-нормы и Schatten п-нормы для матриц, рассматриваемых ниже, которые также обычно обозначаются

Примечание: Приведенное выше описание относится к индуцированная операторная норма когда такая же векторная норма использовалась в "пространстве вылета" и "пространство прибытия" оператора . Это необязательное ограничение. В более общем плане, учитывая норму на и норма на , можно определить матричную норму на вызванные этими нормами:
Матричная норма иногда называют подчиненной нормой. Подчиненные нормы согласуются с нормами, которые их побуждают, давая

Любая индуцированная операторная норма является субмультипликативной матричной нормой: это следует из

и

Более того, любая индуцированная норма удовлетворяет неравенству

(1)

куда ρ (А) это спектральный радиус из А. За симметричный или же эрмитский А, имеем равенство в (1) для 2-нормы, поскольку в этом случае 2-норма является именно спектральный радиус А. Для произвольной матрицы у нас может не быть равенства ни для одной нормы; контрпример был бы

имеющий нулевой спектральный радиус. В любом случае для квадратных матриц имеем формула спектрального радиуса:

Особые случаи

В особых случаях индуцированные матричные нормы могут быть вычислены или оценены с помощью

это просто максимальная абсолютная сумма столбцов матрицы;

это просто максимальная абсолютная сумма строк матрицы;

куда представляет наибольшее сингулярное значение матрицы . Для случая существует важное неравенство :

куда это Норма Фробениуса. Равенство выполняется тогда и только тогда, когда матрица является матрицей ранга один или нулевой матрицей. Это неравенство можно вывести из того факта, что след матрицы равен сумме ее собственных значений.

Когда у нас есть эквивалентное определение для в качестве . Можно показать, что он эквивалентен приведенным выше определениям, используя Неравенство Коши – Шварца.

Например, для

у нас есть это

В частном случае Евклидова норма или же -норма для векторов) индуцированная матричная норма есть спектральная норма. Спектральная норма матрицы самый большой исключительное значение из (т. е. квадратный корень из наибольшего собственное значение матрицы , куда обозначает сопряженный транспонировать из ):[6]

В этом случае, поскольку и аналогично к разложение по сингулярным числам (СВД).

Матричные нормы "Entrywise"

Эти нормы относятся к матрица как вектор размера и используйте одну из знакомых векторных норм. Например, используя п-норма для векторов, п ≥ 1, мы получили:

Это норма, отличная от индуцированной п-norm (см. выше) и Шаттен п-norm (см. ниже), но обозначения те же.

Особый случай п = 2 - норма Фробениуса, а п = ∞ дает максимальную норму.

L2,1 и Lр, д нормы

Позволять быть столбцами матрицы . В норма[7] - сумма евклидовых норм столбцов матрицы:

В norm как функция ошибок более надежна, поскольку ошибка для каждой точки данных (столбца) не возводится в квадрат. Он используется в надежный анализ данных и разреженное кодирование.

За п, q ≥ 1, то норму можно обобщить на норма следующим образом:

Норма Фробениуса

Когда п = q = 2 для норма, это называется Норма Фробениуса или Норма Гильберта – Шмидта, хотя последний термин чаще используется в контексте операторов на (возможно, бесконечномерных) Гильбертово пространство. Эту норму можно определить по-разному:

куда являются сингулярные значения из . Напомним, что функция трассировки возвращает сумму диагональных элементов квадратной матрицы.

Норма Фробениуса - это расширение евклидовой нормы на и исходит из Внутренний продукт Фробениуса на пространстве всех матриц.

Норма Фробениуса является субмультипликативной и очень полезна для числовая линейная алгебра. Субмультипликативность нормы Фробениуса можно доказать, используя Неравенство Коши – Шварца.

Норму Фробениуса часто легче вычислить, чем индуцированную норму, и она обладает полезным свойством инвариантности относительно вращенияунитарный операции в целом). То есть, для любой унитарной матрицы . Это свойство следует из цикличности следа ():

и аналогично:

где мы использовали унитарный характер (то есть, ).

Это также удовлетворяет

и

куда это Внутренний продукт Фробениуса.

Макс норма

В максимальная норма - поэлементная норма с п = q = ∞:

Эта норма не субмультипликативный.

Обратите внимание, что в некоторой литературе (например, Коммуникационная сложность), альтернативное определение max-нормы, также называемое -norm, относится к норме факторизации:

Нормы Шаттена

Шаттен п-нормы возникают при применении п-норма к вектору сингулярные значения матрицы.[3] Если сингулярные значения матрица обозначаются σя, затем Шаттен п-норма определяется

Эти нормы снова разделяют обозначения с индуцированными и входными. п-нормы, но они разные.

Все нормы Шаттена субмультипликативны. Они также унитарно инвариантны, что означает, что для всех матриц и все унитарные матрицы и .

Самые известные случаи: п = 1, 2, ∞. Дело п = 2 дает норму Фробениуса, введенную ранее. Дело п = ∞ дает спектральную норму, которая является операторной нормой, индуцированной векторной 2-нормой (см. Выше). Ну наконец то, п = 1 дает ядерная норма (также известный как норма следа, или Кай Фан 'н'-норма[8]), определяется как

куда обозначает положительно полуопределенную матрицу такой, что . Точнее, поскольку это положительно полуопределенная матрица, это квадратный корень четко определено. Ядерная норма это выпуклый конверт функции ранга , поэтому он часто используется в математическая оптимизация для поиска матриц низкого ранга.

Последовательные нормы

Матричная норма на называется последовательный с векторной нормой на и векторная норма на , если:

для всех . Все индуцированные нормы согласованы по определению.

Совместимые нормы

Матричная норма на называется совместимый с векторной нормой на , если:

для всех . Индуцированные нормы по определению совместимы с индуцирующей векторной нормой.

Эквивалентность норм

Для любых двух матричных норм и , у нас есть это:

для некоторых положительных чисел р и s, для всех матриц . Другими словами, все нормы по находятся эквивалент; они вызывают то же самое топология на . Это верно, потому что векторное пространство имеет конечный измерение .

Более того, для любой векторной нормы на , существует единственное положительное действительное число такой, что - субмультипликативная матричная норма для каждого .

Субмультипликативная матричная норма как говорят минимальный, если другой субмультипликативной матричной нормы не существует удовлетворение .

Примеры эквивалентности норм

Позволять еще раз будем ссылаться на норму, индуцированную вектором п-norm (как указано выше в разделе «Индуцированные нормы»).

Для матрицы из классифицировать , выполняются следующие неравенства:[9][10]

Еще одно полезное неравенство между матричными нормами:

что является частным случаем Неравенство Гёльдера.

Смотрите также

Рекомендации

  1. ^ «Исчерпывающий список символов алгебры». Математическое хранилище. 2020-03-25. Получено 2020-08-24.
  2. ^ а б Вайсштейн, Эрик В. «Матрица Норма». mathworld.wolfram.com. Получено 2020-08-24.
  3. ^ а б c d «Матричные нормы». fourier.eng.hmc.edu. Получено 2020-08-24.
  4. ^ Малек-Шахмирзади, Масуд (1983).«Характеристика некоторых классов матричных норм». Линейная и полилинейная алгебра. 13 (2): 97–99. Дои:10.1080/03081088308817508. ISSN 0308-1087.
  5. ^ Хорн, Роджер А. (2012). Матричный анализ. Джонсон, Чарльз Р. (2-е изд.). Кембридж: Издательство Кембриджского университета. С. 340–341. ISBN 978-1-139-77600-4. OCLC 817236655.
  6. ^ Карл Д. Мейер, Матричный анализ и прикладная линейная алгебра, §5.2, стр.281, Общество промышленной и прикладной математики, июнь 2000 г.
  7. ^ Дин, Крис; Чжоу, Дин; Он, Сяофэн; Чжа, Хунъюань (июнь 2006 г.). «R1-PCA: вращательный инвариантный анализ главных компонент L1-нормы для робастной факторизации подпространства». Материалы 23-й Международной конференции по машинному обучению. ICML '06. Питтсбург, Пенсильвания, США: ACM. С. 281–288. Дои:10.1145/1143844.1143880. ISBN 1-59593-383-2.
  8. ^ Фан, Кай (1951). «Максимальные свойства и неравенства для собственных значений вполне непрерывных операторов». Труды Национальной академии наук Соединенных Штатов Америки. 37 (11): 760–766. Bibcode:1951ПНАС ... 37..760Ф. Дои:10.1073 / pnas.37.11.760. ЧВК 1063464. PMID 16578416.
  9. ^ Голуб, Гена; Чарльз Ф. Ван Лоан (1996). Матричные вычисления - третье издание. Балтимор: Издательство Университета Джона Хопкинса, 56–57. ISBN 0-8018-5413-X.
  10. ^ Роджер Хорн и Чарльз Джонсон. Матричный анализ, Глава 5, Cambridge University Press, 1985. ISBN 0-521-38632-2.

Библиография

  • Джеймс В. Деммел, Прикладная числовая линейная алгебра, раздел 1.7, опубликовано SIAM, 1997.
  • Карл Д. Мейер, Матричный анализ и прикладная линейная алгебра, опубликовано SIAM, 2000. [1]
  • Джон Уотроус, Теория квантовой информации, 2.3 Нормы операторов, конспект лекций, Университет Ватерлоо, 2011 г.
  • Кендалл Аткинсон, Введение в численный анализ, опубликованное John Wiley & Sons, Inc., 1989 г.