精华内容
下载资源
问答
  • 向量范数

    万次阅读 多人点赞 2019-06-04 11:03:05
    声明: 仅个人小记 效果展示 绘制∥v⃗∥p=1\left \| \vec{v}\right \|_p = 1∥v∥p​=1的图像如下 当 p = 0 ...向量范数定义 总体定义 ∥v⃗∥p=(∣v1∣p+∣v2∣p+...+∣vn∣p)1p\left \| \vec{v}\righ...

    声明: 仅个人小记
    前言:范数在不同场合下可以有不同的解释,利用范数优良的抽象性质,在不同的场合下可以解释为不同的东西。于我而言,学习范数概念使我意会到 “高度抽象的距离” 这个概念。而“距离”这个概念在机器学习等领域随处可见

    一、向量范数总体定义

    ∥ v ⃗ ∥ p = ( ∣ v 1 ∣ p + ∣ v 2 ∣ p + . . . + ∣ v n ∣ p ) 1 p \left \| \vec{v}\right\|_p = {({|v_1|}^{p}+{|v_2|}^{p}+...+{|v_n|}^{p})}^{\frac{1}{p}} v p=(v1p+v2p+...+vnp)p1

    二、向量范数效果展示

    绘制 ∥ v ⃗ ∥ p = 1 \left \| \vec{v}\right \|_p = 1 v p=1的图像如下

    1. 当 p = 0
    2. 当 p = 1
    3. 当 p = 2
    1. 当 p = + ∞ \infty
    2. 随着p的大小的演变过程,如下
    上述绘图编制的python代码
    import matplotlib.pyplot as plt
    import numpy as np
    
    x = np.linspace(-1,1,10000)
    fig = plt.figure()
    ax = fig.add_subplot(111)
    ax.set_aspect('equal')
    P = 5
    for p in np.arange(0.3,P,0.2):
        y = np.power(1-np.power(np.abs(x),p),1/p)
        # 注意plot 是连点绘图方法,所以注意避免额外的连线产生
        ax.plot(np.hstack([x,x[::-1]]),np.hstack([y,-y[::-1]]))
        plt.title('p = '+str(p))
        plt.pause(0.8)
    

    三、向量范数细究

    根据总体定义具体分析几个特殊定义

    (1) 0范数 ∣ ∣ v ⃗ ∣ ∣ 0 = 非 零 元 素 个 数 ||\vec{v}||_0=非零元素个数 v 0=
    (2) 1范数 ∥ v ⃗ ∥ 1 = ( ∣ v 1 ∣ 1 + ∣ v 2 ∣ 1 + . . . + ∣ v n ∣ 1 ) 1 = ∣ v 1 ∣ + ∣ v 2 ∣ + . . . + ∣ v n ∣ \left\| \vec{v}\right\|_1 = (|v_1|^1+|v_2|^1+...+|v_n|^1)^1 \\=| v_1|+|v_2|+...+|v_n| v 1=(v11+v21+...+vn1)1=v1+v2+...+vn1范数可以用来表示曼哈顿距离,示意图如下,规定:只允许上下左右移动,不允许斜着移动,在这种情景下,1范数就可以很好的用来作为两点之间的距离的测度。

    图中AB两点的曼哈顿距离为8,即 ∣ ∣ A B ⃗ ∣ ∣ 1 = 8 ||\vec{AB}||_1=8 AB 1=8,图(1)、(2)和(4)的虚线都是A到B点的最短距离轨迹。
    (3) 2范数 ∥ v ⃗ ∥ 2 = ( v 1 2 + v 2 2 + . . . + v n 2 ) 1 2 \left\|\vec{v}\right\|_2={(v_1^2+v_2^2+...+v_n^2)}^{\frac{1}{2}} v 2=(v12+v22+...+vn2)21显然,2范数可以用来表示欧式距离

    (4)无穷范数 ∥ v ⃗ ∥ ∞ = ( ∣ v 1 ∣ ∞ + ∣ v 2 ∣ ∞ + . . . + ∣ v n ∣ ∞ ) 1 ∞ = ( ( ∣ v 1 ∣ ∞ m a x ∣ v i ∣ ∞ + ∣ v 2 ∣ ∞ ) m a x ∣ v i ∣ ∞ + . . . + ∣ v n ∣ ∞ m a x ∣ v i ∣ ∞ ) m a x ∣ v i ∣ ∞ ) 1 ∞ = ( ∣ v 1 ∣ ∞ m a x ∣ v i ∣ ∞ + ∣ v 2 ∣ ∞ ) m a x ∣ v i ∣ ∞ + . . . + ∣ v n ∣ ∞ m a x ∣ v i ∣ ∞ ) 1 ∞ m a x ∣ v i ∣ = k 1 ∞ m a x ∣ v i ∣ \left\|\vec{v}\right\|_\infty={(|v_1|^\infty+|v_2|^\infty+...+|v_n|^\infty )}^{\frac{1}{\infty}}\\={((\frac{|v_1|^\infty}{max|v_i|^\infty}+\frac{|v_2|^\infty)}{max|v_i|^\infty}+...+\frac{|v_n|^\infty}{max|v_i|^\infty}){max|v_i|^\infty})}^{\frac{1}{\infty}}\\={(\frac{|v_1|^\infty}{max|v_i|^\infty}+\frac{|v_2|^\infty)}{max|v_i|^\infty}+...+\frac{|v_n|^\infty}{max|v_i|^\infty})^{\frac{1}{\infty}}{max|v_i|}}=k^\frac{1}{\infty }max|v_i| v =(v1+v2+...+vn)1=((maxviv1+maxviv2)+...+maxvivn)maxvi)1=(maxviv1+maxviv2)+...+maxvivn)1maxvi=k1maxvik为正整数,所以 ∣ ∣ v ⃗ ∣ ∣ ∞ = m a x ∣ v i ∣ ||\vec{v}||_\infty=max|v_i| v =maxvi无穷范数可以表示向量的最大元素

    展开全文
  • 学生,程序员
  • 什么是向量范数

    2021-07-12 17:24:30
    什么是向量范数向量范数: 假设||a||为向量范数向量范数为一个数,表示向量的大小。 在赋范线性空间V中(一个定义,也就是范数的线性空间,满足正定性,齐次性,三角不等式)。向量a,b属于一个线性空间,定义...

    什么是向量范数:
    向量范数:
    假设||a||为向量范数,向量范数为一个数,表示向量的大小。
    在赋范线性空间V中(一个定义,也就是范数的线性空间,满足正定性,齐次性,三角不等式)。向量a,b属于一个线性空间,定义向量a,b之间的距离可以表示为:d(a,b)=||a-b||.用向量范数定义两者之间的距离,表示两个向量之间彼此接近的程度。

    展开全文
  • 我们知道,一个函数:f:Rn↦Rf:R^n\mapsto Rf:Rn↦R 被称为RnR^nRn空间的一个范数,如果它满足以下三条性质:(以下以∥⋅∥\left\|\cdot\right\|∥⋅∥来代表这个函数) (1)正定性:∥x∥≥0,∀x∈Rn\left\|x\right\...

    【一.向量范数的几何直观理解】
    \quad 我们知道,一个函数: f : R n ↦ R f:R^n\mapsto R f:RnR 被称为 R n R^n Rn空间的一个范数,如果它满足以下三条性质:(以下以 ∥ ⋅ ∥ \left\|\cdot\right\| 来代表这个函数)
    \quad (1)正定性: ∥ x ∥ ≥ 0 , ∀ x ∈ R n \left\|x\right\|\geq0,\forall x\in R^n x0,xRn,且: ∥ x ∥ = 0 ⟺ x = 0 ; \left\|x\right\|=0\Longleftrightarrow x=0; x=0x=0;
    \quad (2)齐次性: ∥ c x ∥ = ∣ c ∣ ⋅ ∥ x ∥ , ∀ x ∈ R n , c ∈ R ; \left\|cx\right\|=|c|\cdot\left\|x\right\|,\forall x\in R^n,c\in R; cx=cx,xRn,cR;
    \quad (3)三角不等式: ∥ x + y ∥ ≤ ∥ x ∥ + ∥ y ∥ , ∀ x , y ∈ R n ; \left\|x+y\right\|\leq\left\|x\right\|+\left\|y\right\|,\forall x,y\in R^n; x+yx+y,x,yRn;

    \quad 接下来,我们将从几何角度理解范数:首先,在有一个范数的情况下,我们可以在 R n R^n Rn空间中画出一个单位球 S ≜ { x ∣ x ∈ R n , ∥ x ∥ ≤ 1 } S\triangleq \{x|x\in R^n,\left\|x\right\|\leq1\} S{xxRn,x1}.为了有一个简单的直观理解,我们给出二维情形下,几个常见范数的单位球图像:
    二维下几个常见范数对应的单位凸球

    \quad 这个单位球显然有以下几个性质:
    \quad (1)关于原点对称,即 ∀ x ∈ S , \forall x\in S, xS,均有 − x ∈ S ; -x\in S; xS;
    \quad (2)是一个有界闭集,且零向量0是它的一个内点;
    \quad (3)是一个凸集:这点由范数满足的三角不等式保证;

    \quad 范数的几何直观理解就是,如果一个非零向量 x x x的端点落在这个单位凸球的边界上,那么 ∥ x ∥ = 1 \left\|x\right\|=1 x=1;否则,如果 a x ax ax的端点落在这个单位凸球的边界上,那么 ∥ x ∥ = ∣ α ∣ \left\|x\right\|=|\alpha| x=α.

    【二.从几何上定义向量范数】
    \quad 一个重要结论是:几何上,一个范数和一个满足以上三个条件的凸球一一对应。也就是说,范数能定义一个单位凸球;反过来,如果有了一个满足以上三条性质的凸集,那么可以唯一定义一个向量范数。

    \quad 假设我们有了一个满足以上三个性质的凸集 C C C,定义一个映射:
    \quad ∥ ⋅ ∥ B : R n ↦ R : ∥ x ∥ = s u p { t ≥ 0 ∣ t x ∈ C } − 1 \left\|\cdot\right\|_{B}:R^n\mapsto R:\left\|x\right\|=sup\{t\geq 0|tx\in C\}^{-1} B:RnR:x=sup{t0txC}1
    \quad 那么这个映射就是该凸集定义的一个向量范数。

    \quad 哈哈,上面这个式子是否很难理解呢?其实它理解起来很简单,和之前范数的几何理解一样:在我们定义这样一个凸集之后,如果一个非零向量 x x x的端点落在这个凸集的边界上,那么 ∥ x ∥ = 1 \left\|x\right\|=1 x=1;否则,如果 a x ax ax的端点落在这个凸集的边界上,那么 ∥ x ∥ = ∣ α ∣ \left\|x\right\|=|\alpha| x=α.

    \quad 我们需要证明:这样定义的这个映射满足范数定义中的三条性质,这样才能说这个映射是一个向量范数。
    \quad 证明:
    \quad (1)正定性:由定义, ∥ x ∥ B ≥ 0 , ∀ x ∈ R n \left\|x\right\|_B\geq0,\forall x\in R^n xB0,xRn自然地满足。由于零向量0是集合 C C C的一个内点,也就是说存在一个0的小领域包含于C,因此显然: ∥ x ∥ B = 0 ⟺ x = 0 ; \left\|x\right\|_B=0\Longleftrightarrow x=0; xB=0x=0;
    \quad (2)齐次性: ∀ x ∈ R n , c ∈ R , \forall x\in R^n,c\in R, xRn,cR,
    ∥ c x ∥ B = s u p { t ≥ 0 ∣ t x ∈ C } − 1 = ∣ c ∣ ⋅ s u p { t ≥ 0 ∣ t x ∈ C } − 1 = ∣ c ∣ ⋅ ∥ x ∥ B \left\|cx\right\|_{B}=sup\{t\geq 0|tx\in C\}^{-1}=|c|\cdot sup\{t\geq 0|tx\in C\}^{-1}=|c|\cdot\left\|x\right\|_B cxB=sup{t0txC}1=csup{t0txC}1=cxB
    \quad (3)三角不等式:
    \quad x , y ∈ R n x,y\in R^n x,yRn,如果 x , y x,y x,y 都为0,显然三角不等式成立;
    \quad 如果 x , y x ,y x,y至少有一个不为0,那么:
    \quad x + y ∥ x ∥ B + ∥ y ∥ B = ∥ x ∥ B ∥ x ∥ B + ∥ y ∥ B x ∥ x ∥ B + ∥ y ∥ B ∥ x ∥ B + ∥ y ∥ B y ∥ y ∥ B \frac{x+y}{\left\|x\right\|_B+\left\|y\right\|_B}=\frac{\left\|x\right\|_B}{\left\|x\right\|_B+\left\|y\right\|_B}\frac{x}{\left\|x\right\|_B}+\frac{\left\|y\right\|_B}{\left\|x\right\|_B+\left\|y\right\|_B}\frac{y}{\left\|y\right\|_B} xB+yBx+y=xB+yBxBxBx+xB+yByByBy
    ∥ ⋅ ∥ B \left\|\cdot\right\|_{B} B定义: x ∥ x ∥ B ∈ C , y ∥ y ∥ B ∈ C . \frac{x}{\left\|x\right\|_B}\in C,\frac{y}{\left\|y\right\|_B}\in C. xBxC,yByC.
    再联系到 ∥ x ∥ B ∥ x ∥ B + ∥ y ∥ B + ∥ y ∥ B ∥ x ∥ B + ∥ y ∥ B = 1 \frac{\left\|x\right\|_B}{\left\|x\right\|_B+\left\|y\right\|_B}+\frac{\left\|y\right\|_B}{\left\|x\right\|_B+\left\|y\right\|_B}=1 xB+yBxB+xB+yByB=1, C C C是一个凸集,所以:
    \quad x + y ∥ x ∥ B + ∥ y ∥ B ∈ C \frac{x+y}{\left\|x\right\|_B+\left\|y\right\|_B}\in C xB+yBx+yC,于是 ∥ x + y ∥ x ∥ B + ∥ y ∥ B ∥ B ≤ 1 \left\|\frac{x+y}{\left\|x\right\|_B+\left\|y\right\|_B}\right\|_B\leq 1 xB+yBx+yB1,于是 ∥ x + y ∥ B ≤ ∥ x ∥ B + ∥ y ∥ B ; \left\|x+y\right\|_B\leq\left\|x\right\|_B+\left\|y\right\|_B; x+yBxB+yB;

    综上,证毕。

    从上面我们看到了:一个向量范数和一个 R n R^n Rn空间的一个凸集一一对应。所以我们有了另一种定义向量范数的方式:画一个凸集即可(当然,这个凸集要满足上面说的几条性质),然后我们就可以说,看:我定义了一个向量范数。

    很酷,不是吗?

    展开全文
  • 向量范数与矩阵范数

    千次阅读 2020-12-16 16:58:21
    常见向量范数: 常见矩阵范数 向量范数例题 矩阵范数例题 向量范数补充 矩阵范数补充

    常见向量范数:

    在这里插入图片描述

    常见矩阵范数

    在这里插入图片描述

    向量范数例题

    在这里插入图片描述

    矩阵范数例题

    在这里插入图片描述

    向量范数补充

    在这里插入图片描述

    矩阵范数补充

    在这里插入图片描述
    附带我的最优化期末复习提纲。
    最优化方法期末复习

    展开全文
  • 一、向量范数 首先定义一个向量为:a=[-5, 6, 8, -10] 1.1 向量的1范数 向量的1范数即:向量的各个元素的绝对值之和,上述向量a的1范数结果就是:29,MATLAB代码实现为:norm(a, 1); 1.2 向量的2范数 ...
  • 向量范数 今天来聊一聊机器学习矩阵论的相关知识——范数(Norm)。 在学习机器学习基础算法的推导过程中,可以看到很多地方都应用到了这个范数。范数属于矩阵论的知识范围,可见数学基础的重要性。 机器学习的数学...
  • 向量范数简述

    千次阅读 2020-12-16 15:56:27
    向量范数:表征在向量空间中向量的大小 常用的向量范数: 0范数,用以统计向量中非零元素的个数。 1范数,为向量中各个元素的绝对值之和。 2范数,就是通常意义上的模,即向量各个元素平方和的1/2次方。2范数又...
  • % VNORM - 沿着 A 的指定维度返回向量范数% % VNORM(A) 返回沿第一个非单例的 2 范数A的%维数% VNORM(A,dim) 沿维度 'dim' 返回 2-范数% VNORM(A,dim,normtype) 返回由 normtype 指定的范数沿维度“昏暗”的百分比% ...
  • 1 概括: 范数(norm)是数学中的一种基本概念,满足条件: 非负性 ...对应向量范数,向量空间中的向量都是有大小的,这个大小如何度量,就是用范数来度量的,不同的 范数都可以来度量这个大小,...
  • 向量范数和矩阵范数的相容

    千次阅读 2020-11-30 14:35:26
    向量范数和矩阵范数的相容
  • 向量范数和矩阵范数

    2021-06-28 15:39:22
    本文分别介绍了向量范数和矩阵范数的定义,以及几种常见的向量范数和矩阵范数
  • 这是数值分析的PPT-数值分析8(向量范数与矩阵范数).ppt 这是数值分析的一个ppt
  • 向量范数的等价性

    2020-11-29 10:02:40
    摘自 张绍飞, 赵迪. 矩阵论教程[M]. 机械工业出版社, 2012. p98
  • 【超级简单】向量范数计算

    千次阅读 2020-03-05 10:55:24
    【超级简单】向量范数计算 定义: 公式: 例题:
  • 其中,赫尔德氏不等式: 摘抄自: Foundations of Machine Learning - second edition - Mehryar Mohri 等 - page 411。
  • 要更好的理解范数,就要从函数、几何与矩阵的角度去理解,我尽量讲的通俗一些。我们都知道,函数与几何图形往往是有对应的关系,这个很好想象,特别是在三维以下的空间内,函数是几何图像的数学概括,而几何图像是...
  • 常见的向量范数

    2020-11-29 11:41:06
    ∞−\infty-∞−范数 1-范数 2-范数 p-范数 摘自 程云鹏. 矩阵论(第二版)[M]// 矩阵论(第二版). 西北工业大学出版社, 2000.
  • 向量范数的理解

    千次阅读 2019-12-03 13:38:56
    范数是来衡量向量与原点的远近。下面是几个范数的计算公式,我们先看公式,不要惧怕公式,然后再解释公式的内在含义: 1-范数 2-范数 p-范数 +无穷-范数 -无穷-范数 由上面的数学表达式,我们可以归纳一下:...
  • 矩阵论笔记(五)——向量范数与矩阵范数

    万次阅读 多人点赞 2017-03-16 11:14:57
    (1)向量范数; (2)矩阵范数; (3)从属范数; (4)谱半径; (5)矩阵的非奇异条件。1 向量范数从向量到实数的映射/函数。定义(1)条件:非负性、齐次性、三角不等式(∥x+y∥≤∥x∥+∥y∥\|x+y\| \leq ...
  • 向量范数是对于VVV中任意一个向量,总有一个唯一实数与之对应,这个实数就是范数。 需要满足的3个条件 1、正定 2、齐次,因为范数是定义在线性空间上,线性空间有加法和数乘。 3、三角不等式 同一个线性空间可以...
  • 向量范数、矩阵范数

    千次阅读 2016-10-18 20:21:27
    本篇文章主要是对常用范数进行一个系统的总结。内容主要来自于矩阵论这本书和知乎上’魏通‘的回答,本文进行了补充和总结。知乎’魏通‘关于范数的回答 范数是内积空间中长度概念的推广。 注意:如果V是...
  • 矩阵是什么? 我们都知道映射指的是一个空间 Rm\...在所有映射中,我们最常见的是线性映射,对这种线性映射关系,我们是用矩阵来刻画,比如我们要将一个向量x∈Rmx \in \mathbb{R}^mx∈Rm映射到另外一个空间Rn\...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 27,723
精华内容 11,089
关键字:

向量范数的作用