精华内容
下载资源
问答
  • 非参数方法

    2018-02-08 23:31:06
    非参数方法 前言 如前所述,我们总是假设概率密度函数的参数形式已知,并在此条件下来处理有监督学习过程。但在现实世界中,我们一般给出的概率密度的形式很少符合实际情况。为此在这一章我们将讨论”非参数化...

    非参数方法

    1. 前言
      如前所述,我们总是假设概率密度函数的参数形式已知,并在此条件下来处理有监督学习过程。但在现实世界中,我们一般给出的概率密度的形式很少符合实际情况。为此在这一章我们将讨论”非参数化方法”,它能处理任意的概率分布,而不必假设密度的参数形式已知。
    2. 密度估计






    展开全文
  • 参数方法和非参数方法

    千次阅读 2017-07-04 09:01:37
    参数方法和非参数方法

    参数方法和非参数方法

    机器学习上的方法分为参数方法(根据先验知识假定模型服从某种分布,然后利用训练集估计出模型参数,也就弄清楚了整个模型,例如感知器)和非参数方法(基于记忆训练集,然后根据训练集预测,例如kNN)。

    参数方法

    参数方法根据先验知识假定模型服从某种分布,然后利用训练集估计出模型参数,也就弄清楚了整个模型。
      那么,估计模型参数到底是一个客观存在的参数还是一个概率密度分布,这个分歧就引出了贝叶斯学派和非贝叶斯学派的不同之处。

    非贝叶斯学派

    非贝叶斯学派认为先验知识是指一组数据服从某个分布,那么分布的参数是客观存在的,可以利用数据做出估计,进而获得后验估计。典型代表方法是最大似然估计。

    贝叶斯学派

    贝叶斯学派认为,先验知识是数据服从某个分布和这个分布参数的先验概率密度,模型的参数本来就是一个概率分布,数据集可以获得参数的后验概率密度,进而获得后验估计。这种方法称为贝叶斯估计。
      
      我学概率统计课程的时候对贝叶斯估计比价陌生,最近准备详细推导几个例题加深理解。对于贝叶斯估计,纸上得来终觉浅,还是推导几个例题较好。

    贝叶斯决策理论

    关于贝叶斯决策理论我之前学习学到过,博客里也总结过最小化期望风险的思想。

    下面总结一下关联规则的一些度量。

    关联规则

    support(X,Y)=P(X,Y)support(X,Y)=P(X,Y)support(X,Y)=P(X,Y)
      confidence(X→Y)=P(X∣Y)confidence(X→Y)=P(X|Y)confidence(XY)=P(XY)
      lift(X→Y)=P(X,Y)P(X)P(Y)lift(X→Y)={P(X,Y)\over P(X)P(Y)}lift(XY)=P(X)P(Y)P(X,Y)

    ##参数估计的泛化误差

    泛化误差由方差和偏倚组成。
      
      E(d−θ)2=E((d−Ed)+(Ed−θ))2=Var(d)+(Ed−θ)2E(d-\theta)^2=E((d-Ed)+(Ed-\theta))^2=Var(d)+(Ed-\theta)^2E(dθ)2=E((dEd)+(Edθ))2=Var(d)+(Edθ)2

    欠训练时,方差小,偏倚大,欠拟合。
      过训练时,方差大,偏倚小,过拟合。

    展开全文
  • 文章目录直观认识Reference 直观认识 ...非参数方法对应的模型叫做非参数模型。 Reference Pattern Recognition and Machine Learning(PRML)第二章:原书PDF下载地址(https://www.microsoft.com/

    直观认识

    看看PRML第二章的目录,相信聪明的你就会理解什么是非参数方法。目录截图如下:
    在这里插入图片描述
    总有一些复杂的分布既不是Beta分布,也不是Dirichlet分布,也不是高斯分布,也不属于指数分布族。那怎么研究这些复杂的分布呢?答案是使用非参数方法。非参数方法对应的模型叫做非参数模型。

    Reference

    Pattern Recognition and Machine Learning(PRML)第二章:原书PDF下载地址(https://www.microsoft.com/en-us/research/people/cmbishop/prml-book/

    展开全文
  • 非参数方法,不需要知道数据的概率分布,只需要假设:相似的输入具有相似的输出。因为我们一般都认为世界的变化时平稳、量变到质变的,因此无论是密度、判别式还是回归函数都应当缓慢地变化。在这样的非参数估计...
    • 参数方法,假定概率分布,只来估计少量参数。

    • 半参数方法,对数据分组,每组采用一种概率分布的假设,最后使用混合概率分布。

    • 非参数方法,不需要知道数据的概率分布,只需要假设:相似的输入具有相似的输出。因为我们一般都认为世界的变化时平稳、量变到质变的,因此无论是密度、判别式还是回归函数都应当缓慢地变化。在这样的非参数估计(non-paramitric estimation)中,局部实例对于密度的影响就显得颇为重要,而较远的实例影响则较小。

    非参数方法主要有:

    --非参数密度估计
    --直方图形式的估计
    --核估计
    --k-最近邻估计
    
    展开全文
  • 论文研究-生产前沿参数方法与非参数方法的比较研究.pdf,
  • 参数方法,半参数方法,非参数方法

    千次阅读 2018-09-13 17:28:53
    amp;amp;tid=2163476&page=1 参数方法,假定概率分布,只来估计少量参数。 半参数方法,对数据分组,每组采用一种概率分布的假设,最后使用混合概率分布。 非参数方...
  • 异常检测——基于统计学方法(参数方法、非参数方法、HBOS、pyod库) 涉及知识点 统计学异常检测的思想 基于参数方法的异常检测 基于非参数方法的异常检测 HBOS Python中PyOD库生成toy example并调用HBOS实例 1、...
  • 非参数方法并不意味着没有参数,而是说,参数的数目随数据点而变化,1. 非参数方法举例 Nearest-Neighbor:比如一个二分类问题,新来一个测试点,当要计算其所属类别时,需要与全部训练集计算距离; logistic ...
  • 参数学习方法:  假设了一个在整个输入空间上有效的模型,将问题归结为在样本上估计少量参数,(如:线性模型估计w,高斯分布估计mu和sigma).参数学习方法假定了一个模型,当模型假定不成立,或者样本不是一个分组...
  • 函数估计的非参数方法

    千次阅读 2017-08-16 09:34:20
    用于函数估计的非参数方法主要有核密度估计、局部多项式回归估计等。非参的函数估计的优点在于稳健,对模型没有什么特定的假设,只是认为函数光滑,避免了模型选择带来的风险;但是,表达式复杂,难以解释,计算量大...
  • 资产定价模型的非参数方法研究 对于非参数回归 capm模型
  • 系统学习机器学习之非参数方法

    千次阅读 2015-12-18 13:21:35
    前面的章节中,我们介绍了参数和半参数方法,这两种方法在实际训练前都需要对数据遵从...这时我们就需要使用非参数方法,其中我们只需要假定一个事实:即相似的输入具有相似的输出。因为我们一般都认为世界的变化时平稳
  • 用于函数估计的非参数方法大致上有三种:核方法、局部多项式方法、样条方法。 非参的函数估计的优点在于稳健,对模型没有什么特定的假设,只是认为函数光滑,避免了模型选择带来的风险;但是,表达式复杂,难以解释...
  • 【机器学习】(8):非参数方法

    千次阅读 2015-04-21 15:10:13
    2015/4/21 13:58:05 前面的章节中,我们介绍了参数和半参数方法,这两种方法在实际训练前都需要对数据遵从的模型进行一个假定,这个...这时我们就需要使用非参数方法,其中我们只需要假定一个事实:即相似的输入具
  • 单因素方差分析的非参数方法(Kruskal-Wallis检验、Friedman检验)在R中实现对于多组数据间比较差异,我们常会想到使用方差分析(ANOVA)来实现。不过由于ANOVA的前提假设条件比较严格,要求数据必须满足正态性、方差齐...
  • 非参数方法 非参数方法不需要从带噪信号中估计模型参数,因此这种方法的应用范围较广。但由于没有利用可能的语言统计信息,故结果一般不是最优化的。这类方法包括自适应噪声抵消法、谱减法等。 这里就先介绍普减法,...
  • 如果检验对于数据分布没有要求,这类检验统称为非参数检验。本文将介绍其中的一种拟合优度检验。 拟合优度检验—期望频数相等 假设,有家餐馆对顾客对于肉类的是否存在偏好进行调研得到如下数据,调研了120人,得到...
  • 非参数概率密度估计 概率:特征空间中一定区域内样本的比率。 密度:局部区域内概率的平均值(假设局部区域【体积为V,样本数为k】内等概率密度) pn(x)表示对p(x)的第n次估计 ...
  • (一)生成式模型的非参数方法 (二)Parzen窗估计 (三)k近邻估计 (四)k近邻分类器(k-nearest neighbor,kNN) (一)非参数方法(Non-parametric method) 对于生成式模型(Generative model)来说,...
  •  http://datartisan.com/article/detail/100.html?ref=myread

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 16,754
精华内容 6,701
关键字:

非参数方法