核函数 订阅
支持向量机通过某非线性变换 φ( x) ,将输入空间映射到高维特征空间。特征空间的维数可能非常高。如果支持向量机的求解只用到内积运算,而在低维输入空间又存在某个函数 K(x, x′) ,它恰好等于在高维空间中这个内积,即K( x, x′) =<φ( x) ⋅φ( x′) > 。那么支持向量机就不用计算复杂的非线性变换,而由这个函数 K(x, x′) 直接得到非线性变换的内积,使大大简化了计算。这样的函数 K(x, x′) 称为核函数。 展开全文
支持向量机通过某非线性变换 φ( x) ,将输入空间映射到高维特征空间。特征空间的维数可能非常高。如果支持向量机的求解只用到内积运算,而在低维输入空间又存在某个函数 K(x, x′) ,它恰好等于在高维空间中这个内积,即K( x, x′) =<φ( x) ⋅φ( x′) > 。那么支持向量机就不用计算复杂的非线性变换,而由这个函数 K(x, x′) 直接得到非线性变换的内积,使大大简化了计算。这样的函数 K(x, x′) 称为核函数。
信息
应    用
随机过程,机器学习
外文名
kernel function
类    型
函数
中文名
核函数
学    科
统计学,机器学习
核函数历史
早在1964年Aizermann等在势函数方法的研究中就将该技术引入到机器学习领域,但是直到1992年Vapnik等利用该技术成功地将线性SVMs推广到非线性SVMs时其潜力才得以充分挖掘。而核函数的理论则更为古老,Mercer定理可以追溯到1909年,再生核希尔伯特空间(ReproducingKernel Hilbert Space, RKHS)研究是在20世纪40年代开始的。
收起全文
精华内容
下载资源
问答
  • 为了提高模型的泛化能力和精度,提出了一种基于混合核函数的支持向量机(SVM)建模方法。所提出的混合核函数由径向基函数和多项式函数加权组合而成,克服了支持向量机模型中单个核函数的局限性。并利用量子粒子群算法...
  • 支持向量机的相关经典案例,里面包含线性核函数和非线性核函数,另外还有实例:支持向量机手写数字识别;内含测试集训练集、代码源文件及注释,可直接运行(需安装numpy和matplotlib)
  • 将2D高斯核函数根据非正交方向进行分解,得到一维的x轴和其他方向的高斯函数,通过统计学方法,将分解的高斯函数与卷积滤波器或者迭代滤波器结合进行边缘检测。
  • 神经网络仿真作业,设计支持向量机实现一对数组的函数拟合P... .....]使用支持向量机相应的回归函数svr, svrplot , svroutput进行函数拟合的仿真实验中采用rbf核函数,惩罚因子取100,控制回归精度的不敏感参数为0.02
  • 小波核函数SVM.pdf

    2018-04-26 23:45:37
    基于小波对偶框架和支持向量核函数的条件, 提出了一种支持向量小波核函数.该核函数利用小波 的多尺度插值特性和稀疏变化特性, 不仅提高了模型的精度和迭代的收敛速度, 而且还适用于信号的局部分 析、 信噪分离和突变...
  • 核函数过于抽象,在本文中,SIGAI将通过一组实验来演示核函数的有效性,并解释支持向量机各个参数所起到的作用,让大家对此有一个直观的认识。如果要了解SVM的理论,请阅读我们之前的公众号文章“用一张图理解SVM的...
  • 针对采用高斯过程进行建模时,不同核函数形式有着不同学习效果的问题,提出了一种自定义的平方指数形式的核函数,并基于多项式函数拟合对这种新型的核函数进行了数值仿真。仿真结果表明,该核函数不但可以提高模型的...
  • 该代码把支持向量机中常用的核函数单独拿了出来,对于需要用核函数处理数据的同学大有帮助。
  • 支持向量机核函数优化方法、matlab源程序,供参考使用。
  • 通过对核矩阵的计算和研究,从理论上对常用的核函数进行了评估。在此基础上,通过实验仿真证实了通过优选后的核函数所组成的混合核函数对支持向量机分类性能的改善,为核函数的选择提供了参考。
  • 该代码包括了SVM的多核核函数的分类实现和可视化展示。
  • 基于埃尔来特正交多项式,文章提出了向童形式的广义埃尔米特多项式,并由此衍生出一类新的核函数――埃尔米特核函数。该类核函数最大的优势在于其参数仅在自然数中取值,能大大缩短参数优化时间。在鲁棒性与泛化性能...
  • svr代码和RBF核函数

    2018-04-04 17:40:28
    svr代码和RBF核函数,可以对初学者进行指导,有一定的使用价值
  • 在多幅图片中,所有图片都有着固定不变的背景,挑选出其中一幅图片,可以使用该程序挑选出图片中相对于背景的运动目标,实现运动目标检测,
  • opencv实现高斯核函数

    2015-11-09 17:04:39
    opencv实现高斯核函数。 1)sigma可控的高斯核函数 2)sigma和维度可控的高斯核函数
  • 为了更快、更准确地进行瞬变电磁一维正、反演,研究了中心回线装置计算全区视电阻率的平移算法和核函数算法。研究表明,均匀半空间大定源回线的瞬变响应曲线具有平移伸缩特性和核函数特点,可以运用平移算法和核函数...
  • 在一个二维空间中,具有特征空间X和特征空间Y,当其中一个点(x, y)在这个二维平面中,如果想把它映射高维空间中,那么就需要用到核函数。 关于核函数的定义是:设XXX是输入空间,YYY是特征空间。如果存在一个从XXX...

    在一个二维空间中,具有特征空间X和特征空间Y,当其中一个点(x, y)在这个二维平面中,如果想把它映射高维空间中,那么就需要用到核函数。

    关于核函数的定义是:设 X X X是输入空间, Y Y Y是特征空间。如果存在一个从 X X X Y Y Y的映射 ϕ ( x ) : X − > Y \phi(x):X -> Y ϕ(x):X>Y,使得对于所有的向量 v 1 , v 2 ∈ X v_{1}, v_{2} \in X v1,v2X,函数 K ( v 1 , v 2 ) K(v_{1}, v_{2}) K(v1,v2)满足条件: K ( v 1 , v 2 ) = < ϕ ( v 1 ) , ϕ ( v 2 ) > K(v_{1}, v_{2}) = <\phi(v_{1}), \phi(v_{2})> K(v1,v2)=<ϕ(v1),ϕ(v2)>。其中, < v 1 , v 2 > <v_{1}, v_{2}> <v1,v2>称为内积,或者数量积,是将两个向量返回一个实数标量的二元运算,如 v 1 = ( x 1 , y 1 ) , v 2 = ( x 2 , y 2 ) v_{1} = (x_{1}, y_{1}), v_{2} = (x_{2}, y_{2}) v1=(x1,y1),v2=(x2,y2),则它们的内积 < v 1 , v 2 > = x 1 x 2 + y 1 y 2 <v_{1}, v_{2}> = x_{1}x_{2}+y_{1}y_{2} <v1,v2>=x1x2+y1y2

    借用知乎上的例子:机器学习有很多关于核函数的说法,核函数的定义和作用是什么?的回答 如核函数 K ( v 1 , v 2 ) = < v 1 , v 2 > 2 K(v_{1}, v_{2}) = <v_{1}, v_{2}>^{2} K(v1,v2)=<v1,v2>2,这个核函数其实隐含着一个映射关系 P ( x , y ) = ( x 2 , 2 x y , y 2 ) P(x, y) = (x^{2}, \sqrt{2}xy, y^{2}) P(x,y)=(x2,2 xy,y2),通过这个核函数就可以直接计算它们映射的内积 < ϕ ( v 1 ) , ϕ ( v 2 ) > <\phi(v_{1}), \phi(v_{2})> <ϕ(v1),ϕ(v2)>,从而避免分开计算每个向量的映射 ϕ ( v ) \phi(v) ϕ(v)。可以验证:
    < P ( v 1 , v 2 ) > = < ( x 1 2 , 2 x 1 y 1 , y 1 2 ) , ( x 2 2 , 2 x 2 y 2 , y 2 2 ) > <P(v_{1}, v_{2})> = <(x_{1}^{2}, \sqrt{2}x_{1}y_{1}, y_{1}^{2}),(x_{2}^{2}, \sqrt{2}x_{2}y_{2}, y_{2}^{2})> <P(v1,v2)>=<(x12,2 x1y1,y12),(x22,2 x2y2,y22)> = ( x 1 x 2 + y 1 y 2 ) 2 =(x_{1}x_{2}+y_{1}y_{2})^{2} =(x1x2+y1y2)2 = < v 1 , v 2 > 2 =<v_{1}, v_{2}>^{2} =<v1,v2>2 = K ( v 1 , v 2 ) = K(v_{1}, v_{2}) =K(v1,v2)

    核函数的作用就是隐含着一个从低维空间向高维空间的映射关系,这样就使得在低维空间中线性不可分的两类点在高维空间中线性可分。在SVM中,遇到线性不可分的样本时,SVM就通过一个非线性映射的核函数把样本映射到一个线性可分的高维空间中,在此高维空间中建立线性函数(如二维空间的直线、三维空间的平面和高维空间的超平面)来划分样本的高维空间,此高维空间的线性分类面对应到输入样本空间的话就是一个非线性的分类面。

    核函数一般有这么几类
    1、线性核函数: K ( v 1 , v 2 ) = < v 1 , v 2 > K(v_{1}, v_{2}) = <v_{1}, v_{2}> K(v1,v2)=<v1,v2>
    2、多项式核函数: K ( v 1 , v 2 ) = ( γ < v 1 , v 2 > + c ) n K(v_{1}, v_{2}) = (\gamma<v_{1}, v_{2}>+c)^{n} K(v1,v2)=(γ<v1,v2>+c)n
    3、sigmoid核函数: K ( v 1 , v 2 ) = t a n h ( γ < v 1 , v 2 > + c ) K(v_{1},v_{2}) = tanh(\gamma<v_{1}, v_{2}>+c) K(v1,v2)=tanh(γ<v1,v2>+c)
    4、高斯核函数: K ( v 1 , v 2 ) = e x p ( − ∣ ∣ v 1 − v 2 ∣ ∣ 2 2 σ 2 ) K(v_{1}, v_{2}) = exp(-\frac{||v_{1} - v_{2}||^{2}}{2\sigma^{2}}) K(v1,v2)=exp(2σ2v1v22)
    5、拉普拉斯核函数: K ( v 1 , v 2 ) = e x p ( − ∣ ∣ v 1 − v 2 ∣ ∣ σ ) K(v_{1}, v_{2}) = exp(-\frac{||v_{1} - v_{2}||}{\sigma}) K(v1,v2)=exp(σv1v2)

    展开全文
  • 施加边界条件的不足是 SPH方法的一个棘手问题,因为在结构边界外没有颗粒的存在,使得在边界处 核函数的单位特性不能得到满足。施加“伪”颗粒是目前通用的一种方法,但是对于不规则结构和复杂几何边 界,确定这些“伪”...
  • 支持向量机采用核函数来实现从原输入空间到一个高维空间的非线性映射,而由于普通核函数各有其利弊,为了得到学习能力和泛化性能都很强的核函数,研究了2种支持向量机核函数:全局核函数(线性核函数)和局部核函数(RBF...
  • 核方法分为核函数设计和算法设计两个部分,具体情况如图1所示核方法的实施步骤,具体描述为: 收集和整理样本,并进行标准化; 选择或构造核函数; 用核函数将样本变换成为核矩阵; 在特征空间对核矩阵实施各种线性算法;...
  • 选取同地区同时相的多光谱和高光谱影像,在实验样本和验证样本相同的情况下,采用SVM分类算法中4种不同的核函数,对2种影像进行分类实验.结果表明,对于多光谱影像,RBF核函数分类精度最高,Sigmoid最低;对于高光谱影像,...
  • KPCA MATLAB程序,提供4种核函数,根据贡献率自动选取特征向量
  • svm核函数及参数优化

    2015-11-22 17:04:47
    svm核函数及参数优化,实现多类分类并进行参数优化
  • 研究核函数的几何度量和几何性质,并给出核函数选择(核选择)的建议.首先通过对核函数所蕴含的几何度量的深入分析,导出了常用的高斯径向基核函数和多项式核函数的黎曼度量、距离度量和角度度量;然后总结了这些几何...
  • 介绍使用SVR建立回归模型,介绍多核核函数的应用价值
  • 基于核函数的MeanShift算法,采用C++实现。相比较于其他的MeanShift算法和OpenCV中的Meanshift算法,本算法将将核函数编程实现,大大提高了跟踪的精度和速度,精度远高于opencv中的cvMeanShift算法。
  • 基于指数核函数的图像分割
  • http://blog.csdn.net/xiaonannanxn/article/details/52413516机器学习实战python实例(2)SVM与核函数 训练数据
  • 提出基于小波多分辨分析法(MRA),在再生核希尔伯特空间构建一种多尺度核函数的最小二乘支持向量机(multi-scale kernel LSSVM,MSK_LSSVM)预测算法。根据Mercer平移不变核定理,构造了多尺度复Gaussian小波核函数...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 908,057
精华内容 363,222
关键字:

核函数