精华内容
下载资源
问答
  • 线性分类器:模型是参数的线性函数,分类平面是(超...典型的线性分类器有感知机,逻辑斯特回归,Softmax分类器,SVM(线性核),LDA(也称Fisher准则); 典型的非线性分类器有朴素贝叶斯(有文章说这个本质是线性的...

    https://blog.csdn.net/u014755493/article/details/70182532

    线性分类器:模型是参数的线性函数,分类平面是(超)平面;
    非线性分类器:模型分界面可以是曲面或者超平面的组合。
    典型的线性分类器有感知机,逻辑斯特回归,Softmax分类器,SVM(线性核),LDA(也称Fisher准则);
    典型的非线性分类器有朴素贝叶斯(有文章说这个本质是线性的,http://dataunion.org/12344.html),kNN,决策树,SVM(非线性核)

    https://blog.csdn.net/han_xiaoyang/article/details/49999583

    https://www.cnblogs.com/ooon/p/5869504.html

     

    https://zhuanlan.zhihu.com/p/41159150

    https://blog.csdn.net/Hearthougan/article/details/71629657

    展开全文
  • 深度学习中的分类与回归任务

    千次阅读 2020-10-19 18:59:13
    分类:输入一张猫的图片,最终要输出这张图片就是猫的概率; 定位:输入猫的图片,输出一个box,框出猫,得到这个box矩形的初始位置,用x,y表示,再得到矩形的宽和高; 分类+定位:不光要定位出猫的位置,还要确定...

    在这里插入图片描述
    分类:输入一张猫的图片,最终要输出这张图片就是猫的概率;
    定位:输入猫的图片,输出一个box,框出猫,得到这个box矩形的初始位置,用x,y表示,再得到矩形的宽和高;
    分类+定位:不光要定位出猫的位置,还要确定这张图片就是猫。
    在这里插入图片描述
    首先,输入一张图片,经过一个CNN,提取出一个高维的特征,最后面一层不再接softmax进行分类,而是预测出4个坐标值,由[x,y,w,h]组成,那么如何来计算这四个值呢?
    对于每一张图片,我们有一个grounding truth,grounding truth就是给定的框的实际数据,我们要做的就是使神经网络预测出来的框不断地拟合给定的输入,即不断接近真正的框。我们用L2欧式距离计算差异值,预测出来的框和grounding truth越接近,loss值越小,利用SGD对CNN的参数不断调节,让loss达到收敛的预期效果。这一过程就可以称之为回归过程
    在这里插入图片描述
    当对输入图像提取出高维特征之后,我们得到的特征图需要处理成两部分,第一部分进行分类任务,通过全连接层的softmax对每个可能的类进行概率预测;第二部分进行回归任务,得到矩形的坐标。
    步骤
    在这里插入图片描述
    1、选择模型。一般先下载一个经典的网络结构,以此为基准,进行微调fine tuning,比如我们也要做一个目标识别的问题,我们就可以把别人训练好的模型下载下来,让参数初始化为(常见的参数初始化是用到的高斯参数初始化,使得参数保持在一个小的范围内)别人训练好的模型中的参数,仅对适合我们模型的部分进行微调。
    在这里插入图片描述
    2、根据实际任务对模型进行调整。比如在这个任务中,我们就需要对最后一个全连接层进行fine tune ,使得输出分类概率以及box的坐标。
    3、训练模型。在此任务中,我们用SGD和L2损失函数。
    在这里插入图片描述
    4、测试数据。测试的时候同时开始进行分类和定位的任务。
    通过上面的4个步骤,就可以完成我们的任务了。
    那么我们把回归部分加在哪里呢?
    在这里插入图片描述
    有些模型把回归模块加到了最后一层卷积层之后,比如:Overfeat、VGG;
    有些加到了最后一层全连接层之后,比如,DeepPose、R-CNN.
    在实际应用中,我们可以在两个位置训练模型,对比准确度确定。
    回归任务还可以有哪些应用呢?
    在这里插入图片描述
    在人的姿态识别任务中,我们利用回归可以确定人体关节的关键点,比如:胳膊肘、肩膀,确定关键点的坐标值。当然,还要人脸识别,确定人脸的关键点。

    在这里插入图片描述
    在分类任务的时候,最经典的做法就是滑动窗口。在sliding window的过程中,需要对原始图像进行scale变换,用图像金字塔技术,把图像缩放到不同的尺寸,框的尺寸是不变的,然后用这些框在变换后的图像上进行滑动,然后输出找到目标的概率,然后保留下概率最大的框。
    经典模型在ImageNet比赛上结果
    在这里插入图片描述
    VGG的效果比前两个网络的效果都要好,且在很多应用场景下都能取得很好的效果,因此最常用的模型就是VGG。
    ResNet是深度残差网络。由于传统的网络不能是的深度太大,因为深度越大,并不一定能够保持训练的效果越好,反而可能使得train_error上升。但是,ResNet却能够保证网络越堆越深的同时,train_error不会上升,也有可能下降。

    展开全文
  • 其次,具体分析了图像分类中最重要的深度学习方法(即自动编码、深度信念网络与深度玻尔兹曼机)以及卷积神经网络的结构、优点和局限性。再次,对比分析了方法之间的差异及其在常用数据集上的性能表现。最后,探讨...
  • 关于深度学习中的分类器

    千次阅读 2017-03-31 21:28:21
    因为之前一直都是用...基础之分类器: 1、SVM:线性核SVM:一般应用于多分类,分类的结果(如3分类)最后会给出(约等于)1、2、3的值代表第1、2、3类  非线性核SVM:一般应用于二分类问题上 SVM需要训练,如通

    因为之前一直都是用caffe做图像去噪、增强方面的工作,没太接触分类,上个学习会上通过报告学习了下关于分类的相关基础知识,为接下来分类的相关工作研究奠定下基础:

    基础之分类器:

    1、SVM:线性核SVM:一般应用于多分类,分类的结果(如3分类)最后会给出(约等于)1、2、3的值代表第1、2、3类

                     非线性核SVM:一般应用于二分类问题上

    SVM需要训练,如通过caffe提取特征后,用提取的特征训练svm

    2、softmax分类:其实它是逻辑回归的拓展(机器学习书),应用于多分类,在caffe中实现了softmax,可以端到端地训练分类。

                                   分类的结果是给出的一个概率向量,相应的那个概率值高即为预测的哪个类。

       

    展开全文
  • 深入浅出深度学习(二)分类器

    千次阅读 2018-09-07 14:34:18
    分类器的作用:常规任务是利用给定的类别已知的训练数据来学习分类规则和分类器,然后对未知数据进行分类(或预测)。 分类算法:划分为了两类, 即基于概率密度的方法和基于判别函数的方法。 基于概率密度的...

    分类器的作用:常规任务是利用给定的类别已知的训练数据来学习分类规则和分类器,然后对未知数据进行分类(或预测)。

    分类算法:划分为了两类,

    1. 即基于概率密度的方法和基于判别函数的方法。

      • 基于概率密度的分类算法通常借助于贝叶斯理论体系,采用潜在的类条件概率密度函数的知识进行分类;
        在基于概率密度的分类算法中,有著名的贝叶斯估计法[40]、最大似然估计[39] [149],这些算法属于有参估计,需要预先假设类别的分布模型,然后使用训练数据来调整概率密度中的各个参数。另外,如 Parzen窗[41]、Kn邻近[42]
        等方法属于无参数估计法,此类方法可从训练样本中直接估计出概率密度。
      • 基于判别函数的分类方法使用训练数据估计分类边界完成分类,无需计算概率密度函数。
        基于判别函数的方法则假设分类规则是由某种形式的判别函数表示,而训练样本可用来表示计算函数中的参数,并利用该判别函数直接对测试数据进行分类。此类分类器中,有著名的感知器方法[43]、最小平方误差法[44]、SVM法[45]、神经网络方法[47]以及径向基(RBF)方法[46等。
    2. 根据监督方式划分分类算法。分类学习问题可分为三大类:有监督分类、半监督分类和无监督分类。

      • 有监督分类是指用来训练分类器的所有样本都经过了人工或其他方式的标注,有很多著名的分类器算法都属于有监督的学习方式,如AdaBoost[51],SVM,神经网络算法以及感知器算法。
      • 无监督分类是指所有的样本均没有经过标注,分类算法需利用样本自身信息完成分类学习任务,这种方法通常被称为聚类,常用的聚类算法包括期望最大化(EM)算法[48]和模糊C均值聚类算法[49][50]等。
      • 半监督分类指仅有一部分训练样本具有类标号,分类算法需要同时利用有标号样本和无标号样本学习分类,使用两种样本训练的结果比仅使用有标注的样本训练的效果更好。这类算法通常由有监督学习算法改进而成,如SemiBoost[52]、流形正则化[53]、半监督SVM[54]等。
    展开全文
  • 深度学习之图像分类

    万次阅读 多人点赞 2019-03-28 15:18:16
    图像分类,核心是从给定的分类集合中给图像分配一个标签的任务。实际上,这意味着我们的任务是分析一个输入图像并返回一个将图像分类的标签。标签总是来自预定义的可能类别集。 示例:我们假定一个可能的类别集...
  • 深度学习常用方法

    千次阅读 2018-07-18 21:53:57
    Deep Learning的常用模型或者方法  1、AutoEncoder自动编码  Deep Learning最简单的一种方法是利用人工神经网络的特点,人工神经网络(ANN)本身就是具有层次结构的系统,如果给定一个神经网络,我们假设其...
  • [深度学习基础] 2. 线性分类器

    千次阅读 2016-09-25 22:23:15
     同时本章是后文非线性分类器深度学习的铺垫. 1 训练数据 给定由 m 张图像组成的训练集, 每个图像的标记是 K 个不同类中的一个, 其中, i 用于对训练实例进行索引: x^(i) 是第 i 张图像展成列向量之后的结果....
  • 深度学习与图像分类

    千次阅读 2020-11-07 11:10:14
    5*5的RGB图像有3个输入层,每个卷积核也应该有三个channel与之分别对应),该卷积核的各个channel分别和对应channel的输入层卷积,然后再求和得到一个特征矩阵作为深度学习图像的输出,作为下一层输入特征的一个...
  • 这个部分我们介绍一类新的分类器方法,而对其的改进和启发也能帮助我们自然而然地过渡到深度学习中的卷积神经网。有两个重要的概念: 得分函数/score function:将原始数据映射到每个类的打分的函数 损失函数/loss ...
  • 深度学习分类网络

    万次阅读 2018-06-18 16:23:20
    主要介绍一些分类网络,并计算了FLOPS,参数个数和感受野信息,方便大家查询。很多本人没有用过,另外也没有认真校对,有可能有错误。 1 VGG-16VGG16[1]是非常经典的模型,好用,是2014 ImageNet的亚军(有可能是...
  • 深度学习常用的损失函数

    千次阅读 2019-10-22 19:36:52
    二、分类任务损失1、0-1 loss2、熵与交叉熵loss3、softmax loss及其变种4、KL散度5、Hinge loss6、Exponential loss与Logistic loss三、回归任务损失1、L1 loss2、L2 loss3、L1 loss与L2 loss的改进4、perceptual ...
  • 深度学习常用评价指标

    千次阅读 2019-09-16 14:54:26
    版权声明:本文为CSDN博主「ZONG_XP」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上...一、根据深度学习的任务不同,评价标准也不同,分类任务和回归任务的评价指标如下: 分类:accuracy、误分类率、pre...
  • 常用深度学习模型

    万次阅读 多人点赞 2018-07-16 14:04:41
    神经网络有时可以与乐高积木进行比较,在那里你可以构建几乎任何简单到复杂的结构,你的想象力可以帮助你构建。 ...深度相机:RGB-D相机,例如手势识别、骨骼跟踪、增强现实等 视觉导航:视觉...
  • 深度学习常用框架和基础模型

    千次阅读 2020-06-14 08:52:57
    目录一、深度学习框架1、解释2、常用的框架二、常用的深度神经网络基础模型(视觉)1、AlexNet模型2、VGG模型3、GoogLeNet模型4、ResNet模型5、MobileNet模型6、BERT模型 一、深度学习框架 参考链接: ...
  • 十个常用深度学习算法

    万次阅读 多人点赞 2019-06-14 15:59:54
    过去十年里,人们对机器学习的兴趣经历了爆炸式的整长。我们几乎每天都可以在计算机程序、行业会议和媒体上看到机器学习的身影。很多关于机器学习的讨论都混淆了“机器学习能做什么”和“人类希望机器学习能做什么”...
  • 深度学习图像分类常见问题以及训练技巧

    千次阅读 多人点赞 2020-10-22 02:20:29
    图像分类作为计算机视觉的基础任务,包含的很多问题其实也是CV领域的共性问题,分类的训练或者预测技巧也可以很好地迁移到其他任务中去,本文主要就是总结了图像分类在基础知识、数据、训练、预测等各个方面的常见...
  • 1. 线性分类器KNN处理图像识别虽然实现起来非常简单,但是有很大的弊端: 分类器必须记住全部的训练数据(因为要遍历找近邻啊!!),而在任何实际的图像训练集上,数据量很可能非常大,那么一次性载入内存,不管是...
  • 此外在Variable中常用: requires_grad=True 需要更新 volatile=True 不需要更新 这两个参数都是为了提高反向传播的效率,排除子图(即不必要更新的变量)。两者都是有一个标记为True,那么输出的变量的为True,...
  • 基于深度学习的垃圾分类识别系统

    万次阅读 多人点赞 2020-04-28 05:46:43
    深度学习算法实现 垃圾分类识别系统 结束 摘要 随着我国经济的飞速发展,人民生活水平的提高,生活垃圾的产生量也急剧增加。垃圾种类繁多,材质、颜色和外形各异,而且在不同地域和不同场景下的类别划分差异也很...
  • 深度学习常用的骨干网络介绍

    千次阅读 2020-06-21 13:18:24
    Alexnet是2012年发表的,是在imageNet 1000种分类上做图片分类的 在该文中提出了dropout的概念 Top1和Top5的错误率分别是37%和17%。 其网络架构非常简单,包含8层—5个卷积层+3个全连接层。 强调了relu激活的好处,...
  • 1. 线性分类器深度学习与计算机视觉系列(2)我们提到了图像识别的问题,同时提出了一种简单的解决方法——KNN。然后我们也看到了KNN在解决这个问题的时候,虽然实现起来非常简单,但是有很大的弊端:分类器必须记住...
  • 深度学习的时间序列分类

    千次阅读 2020-09-17 21:28:58
    为什么要进行时间序列分类? (Why Time Series Classification?) First of all it’s important to underline why this problem is so important today, and therefore why it is very interesting to understand ...
  • 深度学习常用的网络结构

    千次阅读 2018-12-05 19:33:57
    随着深度学习的普及开来,设计一个网络结构变得越来越“简单”,如果一个新的网络只是简单的卷积、池化、全连接,改改其中的参数,那就大错特错了。所以网络在应用中,往往要面临的问题是:如何设计一个好的网络结构...
  • 深度学习常用的训练数据集介绍以及下载

    万次阅读 多人点赞 2019-04-15 11:56:30
    前言:数据是深度学习的血液,本文介绍一下当前非常常见的一些数据集。 1 ImageNet ImageNet是一个计算机视觉系统识别项目,是目前世界上图像识别最大的数据库。是美国斯坦福的计算机科学家李飞飞模拟人类的识别...
  • 四、图像分类之后发展 图像分类模型叙述步骤如下:CNN之前模型->leNet->AlexNet->VGG系列->...
  • 分类(Two-Class Classification) 二分类问题,是最简单的分类问题,比如一个任务中只有猫和狗,每个样本...在深度学习中,softmax是最常用的解决方案。 多标签多分类(Multi-Label Classification) 多标签多分类
  • Part1:PyTorch简单知识Part2:PyTorch的自动梯度计算Part3:使用PyTorch构建一个神经网络Part4:训练一个神经网络分类器Part5:数据并行化本文是关于Part4的内容。 Part4:训练一个神经网络分类器前面已经介绍了...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 49,933
精华内容 19,973
关键字:

深度学习常用的分类器

友情链接: dane_TXT.zip