Что такое норма вектора
Немного о нормах
Всем привет. В самый разгар новогодних каникул хотелось бы рассказать немного о нормах.
Различные нормы широко используются в самых разных разделах математики. Всем со школы знакома Евклидова норма:
Довольно часто используется первая и бесконечная нормы:
Сегодня я попытаюсь рассказать, почему они так нумеруются.
В общем виде норма счётномерного вектора определяется следующим образом:
При m = 1 получаем первую норму (сумму модулей компонент). При m = 2 получаем вторую норму (Евклидову).
При необходимости можно рассмотреть случай с 0 inf.
Здесь все члены суммы меньше или равны единице. Так как:
Что и приводит нас к бесконечной норме.
Второй случай называют также часто нормой Хэмминга. Он реализуется при m = 0. Формально запишем определение нормы:
Нам создаёт проблемы корень нулевой степени (означающий, фактически, возведение в пределе в бесконечную степень). Для сведения нулевой нормы к норме Хэмминга выкинем этот корень:
Учитывая, что 0^0=0, получаем норму Хэмминга.
Может быть крайне интересно посмотреть на вид единичных окружностей в разных нормах. Решая аналитически следующее уравнение:
можно построить графики соответствующих окружностей:
В случае первой нормы окружность является ромбом. В случае второй (Евклидовой) нормы окружность имеет привычный нам вид. При увеличении m она всё больше и больше переходит в квадрат (окружность бесконечной нормы). При уменьшении m окружность стремится к кресту, характерному для нулевой нормы.
Формулы были написаны при помощи онлайн редактора LaTeX.
График был построен с использованием библиотеки модулей matplotlib для языка Python.
Решение уравнения было выполнено с использованием языка C в среде Code::Blocks, работавшей в операционной системе Windows 7.
Длиннопост был выполнен с использованием встроенного редактора на сайте pikabu.ru.
Класс, все просто, доступно и понятно.
Примерно то же громко сказал мужик своей жене в кинотеатре за 15 мин до
конца фильма «Малхолланд Драйв». Помню, ржака потом стояла в зале до
самого конца фильма, кажется довольно трагичного 😉
Ничего не понял, но на всякий случай заминусил.
Доктор Купер, вы ошиблись сайтом. да и время выбрали неподходящее
p.s. матан еле-еле сдавал на три хд
Я сам учу мат. статистику для моделирования эконом. реалий. Было бы очень круто, если б ты мне помог советом в каких-то вещах. Ты же посты для познавательных целей выкладываешь. А я жажду познавать мат статистику, только не все понимаю) Мне бы хотелось у профессионала узнать что-либо
Ааааа, всегда хотел это написать:
Судмедэксперт здорового человека
Юра, мы все пролюбили
Нежное введение в векторные нормы в машинном обучении
Дата публикации 2018-02-05
Вычисление длины или величины векторов часто требуется либо непосредственно как метод регуляризации в машинном обучении, либо как часть более широких векторных или матричных операций.
В этом уроке вы узнаете, как рассчитать длину или величину вектора, называемую векторной нормой.
После завершения этого урока вы узнаете:
Обзор учебника
Этот урок разделен на 4 части; они есть:
Вектор Норма
Вычисление размера или длины вектора часто требуется либо непосредственно, либо как часть более широкой операции над вектором или векторной матрицей.
Длина вектора называется векторной нормой или величиной вектора.
Длина вектора представляет собой неотрицательное число, которое описывает экстент вектора в пространстве, и иногда его называют величиной или нормой вектора.
Длина вектора всегда является положительным числом, за исключением вектора со всеми нулевыми значениями. Он рассчитывается с использованием некоторой меры, которая суммирует расстояние вектора от начала векторного пространства. Например, источником векторного пространства для вектора с 3 элементами является (0, 0, 0).
Обозначения используются для представления векторной нормы в более широких вычислениях, а тип вычисления векторной нормы почти всегда имеет свои собственные уникальные обозначения.
Мы рассмотрим несколько общих вычислений векторной нормы, используемых в машинном обучении.
Вектор L1 Норма
Норма L1 вектора может быть вычислена в NumPy с помощью функции norm () с параметром для указания порядка нормы, в данном случае 1.
Сначала определяется вектор 1 × 3, затем вычисляется норма вектора L1.
При выполнении примера сначала печатается определенный вектор, а затем норма L1 вектора.
Норма L1 часто используется при подборе алгоритмов машинного обучения в качестве метода регуляризации, например метод, позволяющий сохранять коэффициенты модели малыми, и, в свою очередь, модель менее сложной.
Вектор L2 Норма
Норма L2 вычисляет расстояние векторной координаты от начала векторного пространства. Как таковая, она также известна как евклидова норма, поскольку она рассчитывается как евклидово расстояние от начала координат. Результатом является положительное значение расстояния.
Норма L2 рассчитывается как квадратный корень из суммы квадратов векторных значений.
Норму L2 вектора можно рассчитать в NumPy с помощью функции norm () с параметрами по умолчанию.
Сначала определяется вектор 1 × 3, затем вычисляется норма вектора L2.
При выполнении примера сначала печатается определенный вектор, а затем норма L2 вектора.
Как и норма L1, норма L2 часто используется при подборе алгоритмов машинного обучения в качестве метода регуляризации, например метод, позволяющий сохранять коэффициенты модели малыми и, в свою очередь, модель менее сложной.
Безусловно, норма L2 чаще используется, чем другие векторные нормы в машинном обучении.
Вектор Макс Норм
Длина вектора может быть рассчитана с использованием максимальной нормы, также называемой максимальной нормой.
Максимальная норма вычисляется как возвращающая максимальное значение вектора, отсюда и название.
Максимальная норма вектора может быть вычислена в NumPy с помощью функции norm () с параметром порядка, установленным в inf.
Сначала определяется вектор 1 × 3, затем вычисляется максимальная норма вектора.
При запуске примера сначала печатается определенный вектор, а затем максимальная норма вектора
Максимальная норма также используется в качестве регуляризации в машинном обучении, например, в весах нейронных сетей, называемой максимальной нормализацией.
расширения
В этом разделе перечислены некоторые идеи по расширению учебника, которые вы, возможно, захотите изучить.
Если вы исследуете какое-либо из этих расширений, я хотел бы знать.
Дальнейшее чтение
Этот раздел предоставляет больше ресурсов по теме, если вы хотите углубиться.
книги
статьи
Резюме
В этом уроке вы обнаружили различные способы вычисления длины или величины вектора, называемые векторной нормой.
В частности, вы узнали:
У вас есть вопросы?
Задайте свои вопросы в комментариях ниже, и я сделаю все возможное, чтобы ответить.
Норма (математика)
Некоторые авторы включают неотрицательность как часть определения «нормы», хотя в этом нет необходимости.
Эквивалентные нормы
Абсолютная норма
Евклидова норма
Евклидова норма комплексных чисел
Кватернионы и октонионы
Каноническая норма на ЧАС <\ Displaystyle \ mathbb 
из кватернионов определяется
‖ q ‖ знак равно q q * знак равно q * q знак равно а 2 + б 2 + c 2 + d 2
>>>
Конечномерные комплексные нормированные пространства
В этом случае норма может быть выражена как квадратный корень из внутреннего произведения вектора и самого себя:
<\ boldsymbol
Норма такси или норма Манхэттена
не является нормой, поскольку может дать отрицательный результат.
\ mathrm
Следовательно, производная по x равна
Для частного случая p = 2 это становится
Максимальная норма (частный случай: бесконечная норма, равномерная норма или супремум)
Нулевая норма
Расстояние Хэмминга вектора от нуля
Бесконечные измерения
Обобщение вышеуказанных норм на бесконечное число компонентов приводит к пространствам ℓ p и L p с нормами
\ mathrm
Составные нормы
В 2D, с поворотом A на 45 ° и подходящим масштабированием, это изменяет норму такси на максимальную норму. Каждый A, примененный к норме такси, вплоть до инверсии и перестановки осей, дает другой единичный шар: параллелограмм определенной формы, размера и ориентации.
В 3D это похоже, но отличается для 1-нормы ( октаэдры ) и максимальной нормы ( призмы с основанием параллелограмма).
В абстрактной алгебре
Композиционные алгебры
Если у : X → Y является непрерывным линейным отображение между нормированным пространством, то норма ц и норма транспонированным из U равна. [13]
Для норм L p справедливо неравенство Гёльдера [14]
Частным случаем этого является неравенство Коши – Шварца : [14]
Эквивалентность
Две нормы ‖ • ‖ α и ‖ • ‖ β на векторном пространстве V называются эквивалентны, если они индуцируют одну и ту же топологию [4], что происходит тогда и только тогда, когда существуют положительные действительные числа C и D такие, что для всех x в V
Если векторное пространство является конечномерным вещественным или комплексным, все нормы эквивалентны. С другой стороны, в случае бесконечномерных векторных пространств не все нормы эквивалентны.
Документация
Векторные и матричные нормы
Синтаксис
Описание
Примеры
Векторная величина
Создайте вектор и вычислите величину.
1 норма Вектора
Вычислите 1 норму вектора, который является суммой величин элемента.
Евклидово расстояние между двумя точками
Вычислите расстояние между двумя точками как норма различия между векторными элементами.
Создайте два вектора, представляющие (x, y) координаты для двух точек на Евклидовой плоскости.
Используйте norm вычислить расстояние между точками.
Геометрически, расстояние между точками равно величине вектора, который расширяет от одной точки до другого.
С 2 нормами из Матрицы
Вычислите 2-норму матрицы, которая является самым большим сингулярным значением.
Норма Фробениуса разреженной матрицы
Входные параметры
v — Входной вектор
вектор
Типы данных: single | double
Поддержка комплексного числа: Да
X — Введите матрицу
матрица
Типы данных: single | double
Поддержка комплексного числа: Да
Примечание
Эта таблица не отражает фактические алгоритмы, используемые в вычислениях.
| p | Матрица | Вектор |
|---|---|---|
| 1 | max(sum(abs(X))) | sum(abs(X)) |
| 2 | max(svd(X)) | sum(abs(X).^2)^(1/2) |
| Положительный, числовой p с действительным знаком | — | sum(abs(X).^p)^(1/p) |
| Inf | max(sum(abs(X’))) | max(abs(X)) |
| -Inf | — | min(abs(X)) |
Выходные аргументы
n — Матричная или векторная норма
скаляр
Матричная или векторная норма, возвращенная как скаляр. Норма дает меру величины элементов. Условно, norm возвращается NaN если вход содержит NaN значения.
Больше о
Евклидова норма
Евклидова норма (также названный векторной величиной, Евклидовой длиной или 2-нормой) векторного v с N элементы заданы
Общая векторная норма
Общее определение для p-нормы векторного v это имеет N элементы
Максимальная абсолютная сумма столбца
Максимальная абсолютная сумма строки
Норма Фробениуса
Советы
Использование vecnorm обработать матрицу или массив как набор векторов и вычислить норму в заданном измерении. Например, vecnorm может вычислить норму каждого столбца в матрице.
Расширенные возможности
«Высокие» массивы
Осуществление вычислений с массивами, которые содержат больше строк, чем помещается в памяти.
Генерация кода C/C++
Генерация кода C и C++ с помощью MATLAB® Coder™.
Указания и ограничения по применению:
Генерация кода не поддерживает входные параметры разреженной матрицы для этой функции.
Эта функция полностью поддерживает основанные на потоке среды. Для получения дополнительной информации смотрите функции MATLAB Запуска в Основанной на потоке Среде.
Массивы графического процессора
Ускорьте код путем работы графического процессора (GPU) с помощью Parallel Computing Toolbox™.
Распределенные массивы
Большие массивы раздела через объединенную память о вашем кластере с помощью Parallel Computing Toolbox™.
Смотрите также
Открытый пример
У вас есть модифицированная версия этого примера. Вы хотите открыть этот пример со своими редактированиями?
Документация MATLAB
Поддержка
© 1994-2021 The MathWorks, Inc.
1. Если смысл перевода понятен, то лучше оставьте как есть и не придирайтесь к словам, синонимам и тому подобному. О вкусах не спорим.
2. Не дополняйте перевод комментариями “от себя”. В исправлении не должно появляться дополнительных смыслов и комментариев, отсутствующих в оригинале. Такие правки не получится интегрировать в алгоритме автоматического перевода.
4. Не имеет смысла однотипное исправление перевода какого-то термина во всех предложениях. Исправляйте только в одном месте. Когда Вашу правку одобрят, это исправление будет алгоритмически распространено и на другие части документации.
5. По иным вопросам, например если надо исправить заблокированное для перевода слово, обратитесь к редакторам через форму технической поддержки.
Норма (математика)
СОДЕРЖАНИЕ
Определение [ править ]
Полунормой на V является функцией со свойствами 1 и 2 выше. [3] п : V → р <\ displaystyle p \ двоеточие V \ to \ mathbb
Эквивалентные нормы [ править ]
Обозначение [ править ]
Примеры [ править ]
Абсолютная норма [ править ]
Евклидова норма [ править ]
Евклидова норма комплексных чисел [ править ]
Кватернионы и октонионы [ править ]
‖ q ‖ = q q ∗ = q ∗ q = a 2 + b 2 + c 2 + d 2
>>>
Конечномерные комплексные нормированные пространства
В этом случае норма может быть выражена как квадратный корень из внутреннего произведения вектора и самого себя:
<\boldsymbol
Нормы такси или нормы Манхэттена [ править ]
не является нормой, поскольку может дать отрицательный результат.
\mathrm
Следовательно, производная по x равна
Для частного случая p = 2 это становится
Максимальная норма (частный случай: бесконечная норма, равномерная норма или супремум) [ править ]
Нулевая норма [ править ]
Расстояние Хэмминга вектора от нуля [ править ]
Бесконечные измерения [ править ]
Обобщение вышеуказанных норм на бесконечное число компонентов приводит к пространствам ℓ p и L p с нормами
\mathrm
Составные нормы [ править ]
В 2D, с поворотом A на 45 ° и подходящим масштабированием, это изменяет норму такси на максимальную норму. Каждый A, примененный к норме такси, вплоть до инверсии и перестановки осей, дает другой единичный шар: параллелограмм определенной формы, размера и ориентации.
В 3D это похоже, но отличается для 1-нормы ( октаэдры ) и максимальной нормы ( призмы с основанием параллелограмма).
В абстрактной алгебре [ править ]
Композиционные алгебры [ править ]
Свойства [ править ]
Если у : X → Y является непрерывным линейным отображение между нормированным пространством, то норма ц и норма транспонированным из U равна. [13]
Для норм L p справедливо неравенство Гёльдера [14]
Частным случаем этого является неравенство Коши – Шварца : [14]
Эквивалентность [ править ]
Две нормы ‖ • ‖ α и ‖ • ‖ β в векторном пространстве V называются эквивалентными, если они индуцируют одну и ту же топологию [4], что происходит тогда и только тогда, когда существуют положительные действительные числа C и D такие, что для всех x в V
‖ x ‖ p ≤ ‖ x ‖ r ≤ n ( 1 / r − 1 / p ) ‖ x ‖ p <\displaystyle \left\|x\right\|_
\leq \left\|x\right\|_
> [16]
Если векторное пространство является конечномерным вещественным или комплексным, все нормы эквивалентны. С другой стороны, в случае бесконечномерных векторных пространств не все нормы эквивалентны.