精华内容
下载资源
问答
  • 函数间隔和几何间隔

    千次阅读 2017-04-10 16:43:38
    对于给定的训练数据集T和超平面(w,... 函数间隔可以表示分类预测的正确性及确信度,但选择分离超平面时,只有函数间隔还不够,因为只要成比例改变wb,超平面并没有改变,但函数间隔却变了,因此需要对分离超平面的法

    对于给定的训练数据集T和超平面(w,b),定义超平面关于样本点(x_i,y_i)的函数间隔为


    定义超平面(w,b)关于训练数据集T的函数间隔为超平面关于T中所有样本点的函数间隔之最小值,即


           函数间隔可以表示分类预测的正确性及确信度,但选择分离超平面时,只有函数间隔还不够,因为只要成比例改变w和b,超平面并没有改变,但函数间隔却变了,因此需要对分离超平面的法向量加上某些约束,如规范化,||w||=1,使用间隔是确定的,这时函数间隔成为了几何间隔。

    几何间隔

    对于给定的训练数据集T和超平面(w,b),定义超平面关于样本点(x_i,y_i)的几何间隔为


    其中,||w||为w的L_2范数。定义超平面(w,b)关于训练数据集T的几何间隔为超平面关于中所有样本点的几何间隔之最小值,即


           由函数间隔和几何间隔的定义可知,它们之前的关系如下:


    如果||w||=1,那么函数间隔和几何间隔相等。如果超平面参数w和b成比例地改变,函数间隔也按此比例改变,而几何间隔不变。
    展开全文
  • 刚开始接触SVM,遇到函数间隔和几何间隔,对这2个概念有点混肴,查阅一些资料后有点明白了。 函数间隔: 并不是实际意义上的点到超平面的距离,只是表示点到超平面的远近。 比如平面方程1:3x1 + 6x2 - 12 = 0 和...

    刚开始接触SVM,遇到函数间隔和几何间隔,对这2个概念有点混肴,查阅一些资料后有点明白了。

    函数间隔:

    并不是实际意义上的点到超平面的距离,只是表示点到超平面的远近。

    比如平面方程1:3x1 + 6x2 - 12 = 0 和平面方程2:x1 + 2x2 - 4 = 0 都过点(4,0)和(2,0),虽然平面方程1的系数是平面方程2的3倍,但它们是同一条线同一个平面。函数间隔等于y(wx + b),因为y等于1或者-1,所以函数间隔的大小由(wx + b)来决定。

    假如有一个点A(5,0)(该点是正分类点,也就是y=1),刚开始我们把平面方程1当作超平面S,A点到超平面S也就是平面方程1的函数间隔是1(3*5+6*0-12)=3,然后我们再把超平面S的系数都乘以1/3,此时超平面S就是平面方程2,因为平面方程1和平面方程2是同一个平面,所以超平面S相对于A点的位置没有发生变化,但是此时A点到超平面S也就是平面方程2的函数间隔变成了1(5+2*0-4)=1。

    从这个例子我们可以看出,等比例缩小或放大超平面的系数,超平面相对于某点的位置没有发生变化,但是某点到超平面的函数间隔却等比例缩小或放大了,因此我们知道了函数间隔不能准确的表示点到超平面的距离。

     

    几何间隔:

    几何间隔表示的是点到超平面的距离。

    上面图片里是我百度的点到直线的距离公式。其中,A和B的平方和的二次方跟就是上面函数间隔里的w的2-范数,绝对值里面的一堆其实就是函数间隔计算出来的值。也就是几何间隔等于函数间隔除以系数的2-范数。

    还拿解释函数间隔的例子来说,有一正分类点A(5,0),我们把平面方程1:3x1 + 6x2 - 12 = 0 当作超平面S,A点到超平面S也就是平面方程1的距离也就是几何间隔等于1(3*5+6*0-12)/sqrt(square(3)+square(6))=1/sqrt(5)(square表示平方,sqrt表示平方根)。

     

    从上面的介绍我们可以得出:几何间隔是点到超平面的距离,函数间隔只能相对的表示点到超平面的远近,不准确有局限性。

     

     

    更专业的说明可以参考以下资料:
    https://www.zhihu.com/question/64568136

    https://baike.baidu.com/item/%E7%82%B9%E5%88%B0%E7%9B%B4%E7%BA%BF%E8%B7%9D%E7%A6%BB/8673346

    展开全文
  • 目录一、函数间隔二、几何间隔三、函数间隔和几何间隔的关系 一、函数间隔 函数间隔 一般来说, 一个点距离分离超平面的远近可以表示分类预测的确信程度。在超平面w⋅x+b=0w\cdot x+b=0w⋅x+b=0 确定的情况下,∣w...

    一、函数间隔

    函数间隔
    一般来说, 一个点距离分离超平面的远近可以表示分类预测的确信程度。在超平面wx+b=0w\cdot x+b=0 确定的情况下,wx+b|w\cdot x+b|能够相对地表示点距离超平面的远近。wx+bw\cdot x+b 的符号与类标记 yy 的符号是否一致能够表示分类是否正确。所以可用y(wx+b)y(w\cdot x+b)来表示分类的正确性及确信度,这就是函数间隔(functional margin)的概念。
    定义
    对于给定的训练数据集 TT 和超平面 (w,b)(w,b),定义超平面 (w,b)(w,b) 关于样本点 (xi,yi)(x_i,y_i)的函数间隔为:
    γi^=yi(wxi+b) \hat{\gamma_i}=y_i(w\cdot x_i+b)
    定义超平面 (w,b)(w,b) 关于训练数据集 TT 的函数间隔为超平面 (w,b)(w,b) 关于 TT 中所有样本点 (xi,yi)(x_i,y_i) 的函数间隔最小值,即:
    γ^=mini=1,2,...,Nγi^ \hat{\gamma}=\mathop{min}\limits_{i=1,2,...,N}\hat{\gamma_i}

    当选择分离超平面时,只有函数间隔还不够。因为只要成比例地改变,例如将它们改为 (2w,2b)(2w,2b),平面并没有改变,但函数间隔却成为原来的两倍。所以可以对分离超平面的法向量加某些约束,如规范化,w=1||w||=1,使得间隔是确定的 。这时函数间隔成为几何间隔 (geometric margin)

    二、几何间隔

    定义
    对于给定的训练数据集 TT 和超平面 (w,b)(w,b),定义超平面 (w,b)(w,b) 关于样本点 (xi,yi)(x_i,y_i)的几何间隔为:
    γi=yi(wwxi+bw) \gamma_i=y_i({w\over||w||}\cdot x_i+{b\over||w||})
    定义超平面 (w,b)(w,b) 关于训练数据集 TT 的几何间隔为超平面 (w,b)(w,b) 关于 TT 中所有样本点 (xi,yi)(x_i,y_i) 的几何间隔最小值,即:
    γ=mini=1,2,...,Nγi^ \gamma=\mathop{min}\limits_{i=1,2,...,N}\hat{\gamma_i}
    超平面 (w,b)(w,b) 关于样本点 (xi,yi)(x_i,y_i) 的几何间隔 般是实例点到超平面的带符号的距离 (signed distance) ,当样本点被超平面正确分类时就是实例点到超平面的距离。

    三、函数间隔和几何间隔的关系

    γi=γ^iw \gamma_i={\hat\gamma_i\over||w||}

    γ=γ^w \gamma={\hat\gamma\over||w||}

    w=1\|w\|=1,那么函数间隔和几何间隔相等,如果超平面参数成比例地改变(超平面没有改变) ,函数间隔也按此比例改变,而几何间隔不变

    展开全文
  • 1.1 函数间隔和几何间隔理解1

    千次阅读 2019-03-04 23:45:22
    1、函数间隔 我们的函数间隔定义为: 可以看到,函数间隔其实就是类别标签乘上了f(x)的值,可以看到,该值永远是大于等于0的,正好符合了距离的概念,距离总不能是负的吧。那么为什么该值可以表示数据点到超平面...

    转载地址: https://www.jianshu.com/p/2e3c0c583e85

    1、函数间隔

    我们的函数间隔定义为:

    可以看到,函数间隔其实就是类别标签乘上了f(x)的值,可以看到,该值永远是大于等于0的,正好符合了距离的概念,距离总不能是负的吧。那么为什么该值可以表示数据点到超平面的距离呢?我们不妨这样想,假设y=1,f(x)=1,其实就是将原来的分类超平面f(x) 向右平移了1个单位,而y=1,f(x)=2是将原来的分类超平面f(x) 向右平移了2个单位,所以f(x)值越大的点到分类超平面的距离当然越远,这就解释了我们之前提出的问题。

    但是函数间隔存在一定的问题,上述定义的函数间隔虽然可以表示分类预测的正确性和确信度,但在选择分类 超平面时,只有函数间隔还远远不够,因为如果成比例的改变 w 和 b,如将他们改变为 2w 和 2b,虽然此时超 平面没有改变,但函数间隔的值 yf (x) 却变成了原来的 4 倍。
    所以在实际中,我们定义点到超平面的距离时,采用的是几何间隔。

     

    2、几何间隔

    在介绍几何间隔之前,我们先来看一下下图:

     

    对应的为 x0,由于 w 是垂直于超平面的一个向量,r 为样本 x 到分类间隔的距离,我们有:

    要理解这个式子,我们首先需要知道为什么w是垂直于超平面的向量,其实举个例子就很容易明白,假设超平面的公式为 x1+x2-1 = 0
    w=(1,1)T(表示转置):

    另一方面,要想使r表示距离,我们必须对w进行标准化,所以需要除以它的二范数。
    又由于 x0 是超平面上的点,满足 f(x0) = 0,代入超平面的方程即可算出:

    这个式子是如何推导的呢,看下面的过程:

    字写的比较烂,希望大家不要介意。
    不过这里的 γ 是带符号的,我们需要的只是它的绝对值,因此类似地,也乘上对应的类别 y 即可,因此实际上我们定义几何间隔为:

    几何间隔
    可以看到,此时系数的成倍的变化,不会带来几何间隔的改变。数学功底比较深厚的童鞋可能发现了,这里的几何间隔其实就是我们本科高等数学中学到的点到直线的距离公式,这里我们顺手就将其推倒出来了,是不是很有成就感!

     

     

     

    展开全文
  • SVM中函数间隔和几何间隔的区别

    千次阅读 2018-04-03 22:10:23
    1、用|w∗x+b|表示点x到超平面0的距离远近,(w∗x+b)∗y表示分类的正确性以及确信度。...03、样本点(xi,yi)和超平面之间的函数间隔为: yi(w∗xi+b)要有更好的分类效果,就要让间隔最大。最简单的是通过让W...
  • 几何间隔、函数间隔和||W||

    千次阅读 2019-05-23 10:09:18
    SVM是通过超平面将样本分为两类。 在超平面确定的情况下,可以相对地表示点距离超平面的远近。...但是该定义存在问题:即同时缩小或放大M倍后,超平面并没有变化,但是函数间隔却变化了。所以,需要将的大...
  • 但是该定义存在问题:即 w b 同时缩小或放大M倍后,超平面并没有变化,但是函数间隔却变化 了。所以,需要将 w 的大小固定,如 || w || = 1,使得函数间隔固定。这时的间隔也就是几何间隔 。 几何间隔的...
  • 有一个表记录了每个会员的消费时间,如下,有的会员消费了N次,有的会员只消费过一次,现在要求出每个会员两两之间消费时间间隔 select *,LEAD(purtime, 1, 0)over(partition by userid order by purtime) as ...
  • word-spacing 属性增加或减少单词间的空白(即字间隔)。 normal 默认。定义单词间的标准空间。 length 定义单词间的固定空间。 inherit 规定应该从父元素继承 word-spacing 属性的值。 示例: ...
  • OFDM中保护间隔和循环前缀抵抗ISI和ICI
  • 滑动间隔和窗口间隔必须是批处理间隔的整数倍。spark streaming会将一个批处理时间间隔收集到的数据汇总起来作为一批数据让系统来处理。对于窗口操作而言,其数据是一个窗口间隔内的,每隔一个滑动间隔滑动一次,...
  • ax1.xaxis.set_major_locator(autodate) # 设置时间间隔 # 设置时间标签显示格式 dateFmt = mdate.DateFormatter('%y%m%d') ax1.xaxis.set_major_formatter(dateFmt) # 将x轴次刻度标签设置为61的倍数 ...
  • //去掉单个cell的分割线 [cell setSeparatorInset:UIEdgeInsetsMake(0, 0, 0, MAXFLOAT)]; ...//去掉整个tableView的间隔线 self.tableView.separatorStyle = UITableViewCellSeparatorStyleNone;
  • js 时间间隔和时间暂停

    千次阅读 2018-03-27 17:44:10
    转:http://blog.sina.com.cn/s/blog_50a82dcd01008r8y.htmlJavaScript 支持暂停时间间隔,这课有效的告诉浏览器应该何时执行某行代码。暂停就是在指定的毫秒数。1、setTimeout('function',time):第一个参数可以是...
  • 对于给定的训练数据集T和超平面(w,b),定义... 函数间隔可以表示分类预测的正确性及确信度,但选择分离超平面时,只有函数间隔还不够,因为只要成比例改变wb,超平面并没有改变,但函数间隔却变了,因此需要对分离超
  • 【机器学习系列】之SVM硬间隔和软间隔

    千次阅读 多人点赞 2019-05-02 15:28:01
    【机器学习系列】之SVM硬间隔和软间隔 【机器学习系列】之SVM核函数和SMO算法 【机器学习系列】之支持向量回归SVR 【机器学习系列】之sklearn实现SVM代码 SVM概述 假定给出训练样本集 D = { ( x 1 , y 1 )...
  • Android Seekbar间隔和自定义

    万次阅读 2016-02-24 12:20:58
    最近在项目中使用到了seekbarprogressbar,且必须按照设计要求来进行设置,如下图。要实现这个效果就必须对这两个控件进行自定义。    一,SeekBar    一开始要实现这个效果参考网上的自定义方法根本无法达到这...
  • matlab设置画图范围和间隔

    千次阅读 2020-08-25 16:03:01
    在Matlab画图的时候,系统默认的坐标轴范围以及间隔有时候并不是很合适,如何根据自己的要求来显示呢,Set语句就可以帮忙咯!! 1. set(gca,'xtick',0:100:2500) 功能: 设置X轴坐标范围0到2500,显示间隔是100...
  • 这一课主要是从如何判断一个机器学习分类算法里拟合的参数是最佳参数引出函数间隔和几何间隔的定义。   1、函数间隔  假设假想函数,,那么可以知道y=1;反之则y=0 。所以当,我们可以很确定的认为y=1;当,可以...
  • mysql间隔之日期时间计算

    千次阅读 2018-07-06 16:10:29
    我们首先得明确一点,mysql间隔值主要用于日期时间计算,如果我们要要创建间隔值,可以使用以下表达式:INTERVAL expr unit 然后嘞,我们得了解,INTERVAL关键字是确定间隔值的expr,以及指定间隔单位的单位。...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 35,404
精华内容 14,161
关键字:

间隔和间隔