精华内容
下载资源
问答
  • 总结: 1:non-parametric algorithm:Locally weighted linear regression algorithm 2:parametric learning ...对于线性回归算法,一旦拟合出适合训练数据的参数θi’s,保存这些参数θi’s,对于之后的...

    总结:

    1:non-parametric algorithm:Locally weighted linear regression algorithm

    2:parametric learning algorithm:The (unweighted) linear regression algorithm

    对于线性回归算法,一旦拟合出适合训练数据的参数θi’s,保存这些参数θi’s,对于之后的预测,不需要再使用原始训练数据集,所以是参数学习算法。

    对于局部加权线性回归算法,每次进行预测都需要全部的训练数据(每次进行的预测得到不同的参数θi’s),没有固定的参数θi’s,所以是非参数算法。

    展开全文
  • 参数非参数的机器学习算法

    千次阅读 2017-11-26 13:05:30
     一个参数机器学习算法是什么,与参的机器学习算法又有什么不同呢?   在这篇文章中,你会发现参数非参数机器学习算法之间的区别。    让我们开始吧!      学习一个函数    机器学习可以归结为学习...

    转载出处:http://blog.csdn.net/zwl_123/article/details/72763856

    原文:https://machinelearningmastery.com/parametric-and-nonparametric-machine-learning-algorithms/

     一个参数机器学习算法是什么,与非参的机器学习算法又有什么不同呢?

      在这篇文章中,你会发现参数和非参数机器学习算法之间的区别。

       让我们开始吧!

      这里写图片描述

      学习一个函数

       机器学习可以归结为学习一个函数(f),把输入变量(X)映射到输出变量(Y):
    Y=f(X)

      算法可从训练数据中学习这样的目标映射函数。

      函数的形式是未知的,我的工作正为机器学习从业人员评估不同的机器学习算法,从而看一看哪一个算法更接近潜在的函数。

      不同的算法对函数的形式有不同的假设或者偏见,以及如何学习目标函数。

      获得一张你的免费算法思维导视图

      这里写图片描述

      参数机器学习算法

      假设可以最大程度地简化学习过程,与此同时也限制可以学习到是什么。这种算法简化成一个已知的函数形式,这称为参数机器学习算法。

    A learning model that summarizes data with a set of parameters of fixed size (independent of the number of training examples) is called a parametric model. No matter how much data you throw at a parametric model, it won’t change its mind about how many parameters it needs.
    ——Artificial Intelligence: A Modern Approach, page 737

      这种算法包括两种步骤:

         1. 选择一种目标函数的形式;

         2. 从训练数据中学习目标函数的系数。

      一种最容易理解目标(映射)函数的形式就是一条直线,用于线性回归:

    b0+b1x1+b2x2=0

      此处的 b0 b1 b2 是直线的系数,用于控制直线的截距和斜率, x1 x2 是两个输入变量。

      把目标函数的形式假设为一条直线大大简化了学习过程。现在,我们需要做的是估计这个直线等式的系数,和有一个预测模型的问题。

      通常假设函数的形式是一个输入变量的线性组合,因此这种参数机器学习算法经常也称为“线性机器学习算法”。

      问题是,实际的未知潜在函数可能不是一个线性函数,比如一条直线。它 可能接近一条直线和需要一些细微的输入调整。或者可能不像一条直线,在这种情况下,假设就是错误的,这种方法将会产生很差的结果。

      参数机器学习算法的一些常见例子包括:

    • Logistic Regression
    • LDA(线性判别分析)
    • 感知机
    • 朴素贝叶斯
    • 简单的神经网络

      参数机器学习算法的优点:

    • 简单:这些算法很容易理解和解释结果;
    • 快速:参数模型可以很快从数据中学习;
    • 少量的数据:它们不需要太多的训练数据,甚至可以很好地拟合有缺陷的数。

      参数机器学习算法的局限性:

    • 约束:这些算法选择一种函数形式高度低限制模型本身;
    • 有限的复杂性:这种算法可能更适合简单的问题;
    • 不适合:在实践中,这些方法不太可能匹配潜在的目标(映射)函数。

      非参数机器学习算法

    不对目标函数的形式作出强烈假设的算法称为非参数机器学习算法。通过不做假设,它们可以从训练数据中自由地学习任何函数形式。

    Nonparametric methods are good when you have a lot of data and no prior knowledge, and when you don’t want to worry too much about choosing just the right features.
    ——Artificial Intelligence: A Modern Approach, page 757

      在构造目标函数时,非参的方法寻找最合适的训练数据,同时保留一些对不可见数据的泛化能力。因此,这些非参方法能够拟合大多数的函数形式。

      一种理解非参模型的最好例子是KNN算法,对于一个新的数据实例,KNN基于K个最相似的训练模式(已标记的实例)。这种方法除了模式可能更接近有一个相似的输出变量之外,不需要对目标函数的形式作出任何的假设。

      非参数机器学习算法的一些常见例子包括:

    • KNN
    • 决策树,比如CART和C4.5
    • SVM

      非参数机器学习算法的优点:

    • 灵活性:拟合大量的不同函数形式;
    • 能力:关于潜在的函数不需要假设(或者若假设);
    • 性能:可以得到用于预测的高性能模型。

      非参数机器学习算法的局限性:

    • 更多的数据:需要更多的训练数据用于估计目标函数;
    • 慢:训练很慢,因为它们常常需要训练更多的参数;
    • 过拟合:更多的过度拟合训练数据风险,同时它更难解释为什么要做出的具体预测。

      扩展阅读

    如果你正在寻找关于参数和非参机器学习算法更多的区别,这部分列出了一些资源。

      书籍

      帖子


    展开全文
  • 参数参的机器学习算法

    千次阅读 2017-05-26 18:34:07
    作者:Jason Brownlee 翻译:AI梦蝶 译者注:这篇文章中主要介绍了参数参的一些机器学习模型的区别。  一个参数机器学习算法是什么,与参的机器学习算法又有什么不同呢?  在这篇文章中

    原文:http://machinelearningmastery.com/parametric-and-nonparametric-machine-learning-algorithms/
    作者:Jason Brownlee
    翻译:AI梦蝶

    译者注:这篇文章中主要介绍了参数和非参的一些机器学习模型的区别。

      一个参数机器学习算法是什么,与非参的机器学习算法又有什么不同呢?

      在这篇文章中,你会发现参数和非参数机器学习算法之间的区别。

       让我们开始吧!

      这里写图片描述

      学习一个函数

       机器学习可以归结为学习一个函数(f),把输入变量(X)映射到输出变量(Y):
    Y=f(X)

      算法可从训练数据中学习这样的目标映射函数。

      函数的形式是未知的,我的工作正为机器学习从业人员评估不同的机器学习算法,从而看一看哪一个算法更接近潜在的函数。

      不同的算法对函数的形式有不同的假设或者偏见,以及如何学习目标函数。

      获得一张你的免费算法思维导视图

      这里写图片描述

      参数机器学习算法

      假设可以最大程度地简化学习过程,与此同时也限制可以学习到是什么。这种算法简化成一个已知的函数形式,这称为参数机器学习算法。

    A learning model that summarizes data with a set of parameters of fixed size (independent of the number of training examples) is called a parametric model. No matter how much data you throw at a parametric model, it won’t change its mind about how many parameters it needs.
    ——Artificial Intelligence: A Modern Approach, page 737

      这种算法包括两种步骤:

         1. 选择一种目标函数的形式;

         2. 从训练数据中学习目标函数的系数。

      一种最容易理解目标(映射)函数的形式就是一条直线,用于线性回归:

    b0+b1x1+b2x2=0

      此处的 b0 b1 b2 是直线的系数,用于控制直线的截距和斜率, x1 x2 是两个输入变量。

      把目标函数的形式假设为一条直线大大简化了学习过程。现在,我们需要做的是估计这个直线等式的系数,和有一个预测模型的问题。

      通常假设函数的形式是一个输入变量的线性组合,因此这种参数机器学习算法经常也称为“线性机器学习算法”。

      问题是,实际的未知潜在函数可能不是一个线性函数,比如一条直线。它 可能接近一条直线和需要一些细微的输入调整。或者可能不像一条直线,在这种情况下,假设就是错误的,这种方法将会产生很差的结果。

      参数机器学习算法的一些常见例子包括:

    • Logistic Regression
    • LDA(线性判别分析)
    • 感知机
    • 朴素贝叶斯
    • 简单的神经网络

      参数机器学习算法的优点:

    • 简单:这些算法很容易理解和解释结果;
    • 快速:参数模型可以很快从数据中学习;
    • 少量的数据:它们不需要太多的训练数据,甚至可以很好地拟合有缺陷的数。

      参数机器学习算法的局限性:

    • 约束:这些算法选择一种函数形式高度低限制模型本身;
    • 有限的复杂性:这种算法可能更适合简单的问题;
    • 不适合:在实践中,这些方法不太可能匹配潜在的目标(映射)函数。

      非参数机器学习算法

    不对目标函数的形式作出强烈假设的算法称为非参数机器学习算法。通过不做假设,它们可以从训练数据中自由地学习任何函数形式。

    Nonparametric methods are good when you have a lot of data and no prior knowledge, and when you don’t want to worry too much about choosing just the right features.
    ——Artificial Intelligence: A Modern Approach, page 757

      在构造目标函数时,非参的方法寻找最合适的训练数据,同时保留一些对不可见数据的泛化能力。因此,这些非参方法能够拟合大多数的函数形式。

      一种理解非参模型的最好例子是KNN算法,对于一个新的数据实例,KNN基于K个最相似的训练模式(已标记的实例)。这种方法除了模式可能更接近有一个相似的输出变量之外,不需要对目标函数的形式作出任何的假设。

      非参数机器学习算法的一些常见例子包括:

    • KNN
    • 决策树,比如CART和C4.5
    • SVM

      参数机器学习算法的优点:

    • 灵活性:拟合大量的不同函数形式;
    • 能力:关于潜在的函数不需要假设(或者若假设);
    • 性能:可以得到用于预测的高性能模型。

      参数机器学习算法的局限性:

    • 更多的数据:需要更多的训练数据用于估计目标函数;
    • 慢:训练很慢,因为它们常常需要训练更多的参数;
    • 过拟合:更多的过度拟合训练数据风险,同时它更难解释为什么要做出的具体预测。

      扩展阅读

    如果你正在寻找关于参数和非参机器学习算法更多的区别,这部分列出了一些资源。

      书籍

      帖子

    展开全文
  • 参数机器学习算法  假设可以最大程度地简化学习过程,与此同时也限制可以学习到是什么。这种算法简化成一个已知的函数形式,这称为参数机器学习算法。这种算法包括两种步骤:     1. 选择一种目标函数的形式;...

    参数机器学习算法

      假设可以最大程度地简化学习过程,与此同时也限制可以学习到是什么。这种算法简化成一个已知的函数形式,这称为参数机器学习算法。

    这种算法包括两种步骤:

         1. 选择一种目标函数的形式;

         2. 从训练数据中学习目标函数的系数。

      一种最容易理解目标(映射)函数的形式就是一条直线,用于线性回归:

      此处的、和是直线的系数,用于控制直线的截距和斜率,和是两个输入变量。

      把目标函数的形式假设为一条直线大大简化了学习过程。现在,我们需要做的是估计这个直线等式的系数,和有一个预测模型的问题。

      通常假设函数的形式是一个输入变量的线性组合,因此这种参数机器学习算法经常也称为“线性机器学习算法”。

      问题是,实际的未知潜在函数可能不是一个线性函数,比如一条直线。它 可能接近一条直线和需要一些细微的输入调整。或者可能不像一条直线,在这种情况下,假设就是错误的,这种方法将会产生很差的结果。

      参数机器学习算法的一些常见例子包括:

    • Logistic Regression
    • LDA(线性判别分析)
    • 感知机
    • 朴素贝叶斯
    • 简单的神经网络

      参数机器学习算法的优点:

    • 简单:这些算法很容易理解和解释结果;
    • 快速:参数模型可以很快从数据中学习;
    • 少量的数据:它们不需要太多的训练数据,甚至可以很好地拟合有缺陷的数。

      参数机器学习算法的局限性:

    • 约束:这些算法选择一种函数形式高度低限制模型本身;
    • 有限的复杂性:这种算法可能更适合简单的问题;
    • 不适合:在实践中,这些方法不太可能匹配潜在的目标(映射)函数。

      非参数机器学习算法

    不对目标函数的形式作出强烈假设的算法称为非参数机器学习算法。通过不做假设,它们可以从训练数据中自由地学习任何函数形式。

    Nonparametric methods are good when you have a lot of data and no prior knowledge, and when you don’t want to worry too much about choosing just the right features.
    ——Artificial Intelligence: A Modern Approach, page 757

      在构造目标函数时,非参的方法寻找最合适的训练数据,同时保留一些对不可见数据的泛化能力。因此,这些非参方法能够拟合大多数的函数形式。

      一种理解非参模型的最好例子是KNN算法,对于一个新的数据实例,KNN基于K个最相似的训练模式(已标记的实例)。这种方法除了模式可能更接近有一个相似的输出变量之外,不需要对目标函数的形式作出任何的假设。

      非参数机器学习算法的一些常见例子包括:

    • KNN
    • 决策树,比如CART和C4.5
    • SVM

      非参数机器学习算法的优点:

    • 灵活性:拟合大量的不同函数形式;
    • 能力:关于潜在的函数不需要假设(或者若假设);
    • 性能:可以得到用于预测的高性能模型。

      非参数机器学习算法的局限性:

    • 更多的数据:需要更多的训练数据用于估计目标函数;
    • 慢:训练很慢,因为它们常常需要训练更多的参数;
    • 过拟合:更多的过度拟合训练数据风险,同时它更难解释为什么要做出的具体预测。


    展开全文
  • 本博文源于matlab遗传算法,旨在讲述算法参数设置以及算法结束条件。
  • PID 算法参数及调节

    千次阅读 2019-10-03 12:08:40
    PID算法原理 一图看懂PID的三个参数 PID算法实现及参数整定图解(附代码) https://www.cnblogs.com/whylinux/p/10960319.html 公式 PID控制应该算是应用非常广泛的控制算法了。小到控制一个元件的温度,大到...
  • 递归算法转换为递归算法

    千次阅读 2019-04-24 17:40:07
    递归算法实际上是一种分而治之的方法,它把复杂问题分解为简单问题来求解。对于某些复杂问题(例如hanio塔问题),递归算法是一种自然...因此,在求解某些问题时,常采用递归算法来分析问题,用递归算法来求解问题...
  • ALS算法参数问题

    千次阅读 2018-03-26 11:29:12
    ALS算法参数// ALS关键代码val model =ALS.train(训练集,rank,循环次数iter,lambda)那是怎么想到要这样设置的呢?那就要在了解算法的基础上来设置此参数;1、训练集,数据格式:(用户id 物品id 评分(0-1) ) 2、...
  • 抖音xgorgon及设备参数生成算法

    万次阅读 热门讨论 2019-11-11 18:57:34
    目录抖音xgorgon算法分析java层相关代码SO 层代码抖音设备参数生成算法分析Java层签名相关入口解决方案免责声明 抖音xgorgon算法分析 java层相关代码 该函数的参数,经过xposed hook打印如下: arg0=...
  • PID算法原理 一图看懂PID的三个参数

    万次阅读 多人点赞 2018-12-06 16:51:33
    前段时间做一个比赛项目的过程中,对经典、实用的PID算法有了一点点自己的理解,就写了这些,与大家分享因为LZ想尽办法,试着用最易于理解的语言说清楚原理,不做太多的理论分析。(LZ文学功底不行),所以...
  • 第一次实验利用5组数据,根据LS算法得出 θ 和P,此第6组开始递推。 [u]=[xlsread('2019作业二时变系统.xlsx','B2:B401')]; [y]=[xlsread('2019作业二时变系统.xlsx','C2:C401')]; [ym]=[xlsread('2019作业二时变...
  • 递归算法递归算法比较

    千次阅读 2019-03-27 19:14:46
    递归效率高;递归代码写出来思路清晰,可读性强。 生成可执行文件大小应该和编译器有关吧。。。。 递归的话函数调用是有开销的,而且递归的次数受堆栈大小的限制。 以二叉树搜索为例: bool search(btree* p, ...
  • 基于粒子群算法求解指定算法的最优参数 引言 粒子群优化算法(Particle Swarm Optimization Algorithm,PSO)是由Eberhart和kennedy提出的一种基于群体协作的随机搜索算法。其原理来源于对鸟群捕食行为的研究,基本...
  • 算法

    万次阅读 2018-02-08 00:13:09
    1.算法定义 算法(Algorithm)是指解题方案的准确而完整的描述,是一系列解决问题的清晰指令,算法代表着用系统的方法描述解决问题的策略机制。也就是说,能够对一定规范的输入,在有限时间内获得所要求的输出...
  • note原文:Locally weighted linear regression is the first ...对于局部加权线性回归算法,每次进行预测都需要全部的训练数据(每次进行的预测得到不同的参数θi’s),没有固定的参数θi’s,所以是非参数算法
  • 1.1.1. 简介递归是指某个函数或过程直接或间接...因此对解决某些问题时,我们希望用递归算法分析问题,用递归算法解决问题,这就需要把递归算法转换为递归算法。把递归算法转化为递归算法有如下三种基本方法:(1
  • 1、DBSCAN原理、流程、参数设置、优缺点以及算法; 2、matlab代码实现; 3、C++代码实现及与matlab实例结果比较。 摘要:介绍DBSCAN原理、流程、参数设置、优缺点以及算法的matlab和C++代码实例。
  • 常用加密算法对称加密算法

    万次阅读 2018-03-16 21:44:45
    对称加密算法 对称加密算法是一种密钥的保密方法。对称加密算法需要两个密钥:公开密钥(publickey)和私有密钥(privatekey)。公开密钥与私有密钥是一对,如果用公开密钥对数据进行加密,只有用对应的私有...
  • 参数优化算法综述

    万次阅读 多人点赞 2019-03-11 11:36:58
    基于顺序模型的全局优化(SMBO)、高斯过程方法(GP)、树状结构Parzen估计方法(TPE)、随机搜索DBN等
  • 【寻优算法】遗传算法(Genetic Algorithm) 参数寻优的python实现:多参数寻优一、遗传算法简介1、遗传算法由来2、遗传算法名词概念3、遗传算法中对染色体的操作3.1、选择3.2、交叉3.3、变异二、遗传算法参数寻优...
  • 1. 递归算法 1)首先确定一个参数n来表示输入的大小; 2)分析算法的基本操作,一般在循环的最里层; 3)判断算法需要执行基本操作的次数是否只与n有关,如果它还与其他因数有关,则需要分开考虑算法的最好、最...
  • 智能优化算法应用:基于麻雀搜索算法PID参数优化 - 附代码 文章目录智能优化算法应用:基于麻雀搜索算法PID参数优化 - 附代码1.PID简介2.麻雀搜索算法简介3.适应度函数设计4.算法实验与结果5.参考文献:6.Matlab ...
  • 在ARIMA算法中,我们用PACF(偏相关系数)确定自回归的阶数p,用ACF(自相关系数)确定移动平均阶数q,为什么是这样的?
  • Random Forest算法参数解释及调优

    万次阅读 多人点赞 2017-03-10 16:58:49
    文章介绍了如何对随机森林模型进行参数调优 原文来自:http://www.analyticsvidhya.com/blog/2015/06/tuning-random-forest-model/ 为什么要调整机器学习算法? 一个月以前,我在kaggle上参加了一个名为TFI的比赛。 ...
  • 对称加密算法-DH算法

    万次阅读 2011-04-05 15:18:00
    一、概述  1、与对称加密算法的主要差别在于,加密和解密的密钥不相同,一个...  3、对称加密算法主要用于 交换对称加密算法的密钥,而数据交换  4、java6提供实现了DH和RSA两种算法。Boun
  • 递归算法转换为递归算法的技巧

    千次阅读 2017-11-22 00:00:00
    函数调用时,需要在栈中分配新的帧,将返回地址,调用参数和局部变量入栈。所以递归调用越深,占用的栈空间越多。如果层数过深,肯定会导致栈溢出,这也是消除递归的必要性之一。递归函数又可以分为尾递归和尾递归...
  • 遗传算法调参 参数设置

    万次阅读 2020-05-03 10:29:01
    遗传算法(Genetic algorithm)遵循适者生存、优胜劣汰的法则,即寻优过程中保留有用的,去除无用的。在科学和生产实践中表现为在...遗传算法有4个参数需要提前设定,一般在以下范围内进行设置: (1)群体大小...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 1,195,376
精华内容 478,150
关键字:

非参数算法