范数

本文地址：blog.lucien.ink/archives/494

转载自：0 范数、1 范数、2 范数有什么区别？ - 魏通的回答 - 知乎，稍作整理。

简介

维基百科：范数（norm），是具有“长度”概念的函数。在线性代数、泛函分析及相关的数学领域，是一个函数，其为向量空间内的所有向量赋予非零的正长度或大小。另一方面，半范数（seminorm）可以为非零的向量赋予零长度。

向量范数

0-范数

向量非零元素个数。

1-范数

向量元素绝对值之和。

$$\left\| \boldsymbol x \right\|_1 = \sum \limits_{ i = 1 }^{ N } | x_i |$$

2-范数

$Euclid$ 范数（欧几里得范数），可以用来计算向量长度，即向量元素的平方和再开方。

$$\left\| \boldsymbol x \right\|_2 = \sqrt{ \sum \limits_{ i = 1 }^{ N } x_i^2 }$$

$\infty$-范数

所有向量元素绝对值中的最大值。

$$\left\| \boldsymbol x \right\|_{ \infty } = \max_i | x_i |$$

$-\infty$-范数

所有向量元素绝对值中的最大值。

$$\left\| \boldsymbol x \right\|_{ -\infty } = \min_i | x_i |$$

p-范数

向量元素绝对值的 $p$ 次方和的 $\frac{ 1 }{ p }$ 次幂。

$$\left\| \boldsymbol x \right\|_p = (\sum \limits_{ i = 1 }^{ N } | x_i |^p)^{ \frac{ 1 }{ p } }$$

矩阵范数

1-范数

列和范数，即所有矩阵列向量绝对值之和的最大值。

$$\left\| A \right\|_1 = \max_j \sum \limits_{ i = 1 }^{ N } | a_{ i, j } |$$

2-范数

$\lambda_1$ 为 $A^TA$ 的最大特征值。

$$\left\| A \right\|_2 = \sqrt{ \lambda_1 }$$

$\infty$-范数

所有矩阵行向量绝对值之和的最大值。

$$\left\| A \right\|_{ \infty } = \max_i \sum \limits_{ j = 1 }^{ N } | a_{ i, j } |$$

F-范数

$Frobenius$ 范数，即矩阵所有元素的平方和再开方。

$$\left\| A \right\|_F = \sqrt{ \sum \limits_{ i = 1 }^{ n } \sum \limits_{ j = 1 }^{ m } a_{ i, j }^2 }$$

核范数

$\lambda_i$ 是 $A$ 的奇异值，即奇异值之和。

$$\left\| A \right\|_* = \sum \limits_{ i = 1 }^{ n } \lambda_i$$