精华内容
下载资源
问答
  • 插值、拟合、线性和非线性的区别

    万次阅读 多人点赞 2013-02-15 05:01:55
    插值、拟合、线性和非线性的区别   从一组实验数据Qi(x,y)怎样得到他们的所代表的函数(曲线)f(x)呢?拟合(fitting)就是做这个工作的。当然“插值”也可以做些粗燥的未知值的求取。但它们有区别。 一、...

    插值、拟合、线性和非线性的区别

     

    从一组实验数据Qixy)怎样得到他们的所代表的函数(曲线)f(x)呢?拟合(fitting)就是做这个工作的。当然插值也可以做些粗燥的未知值的求取。但它们有区别。

    一、“插值”与“拟合”区别

    1. 插值:曲线过用来插值的所有点。以 2点确定一条直线(一次多项式)三点确定一条抛物线(二次多项式)10个点就可以确定一个9次多项式(9次多项式里面还有一个常数项,就是10个未知数,我们有10个数据点,刚好可以求解)为原则,除了求解参数,必要的方程数(点的个数)外,其他的都是多余的,没有利用上。为了避免龙格(Runge)现象,一般在给定的nn>8)个点中选择8个点进行插值(7次多项式)《常用算法程序集》--徐士良p192   当然 样条插值不同,它利用了全部采样点得到具有整体曲线二阶光滑的分段函数表达式。

    2. 拟合:利用一个函数来逼近所给的这一组实验数据Qixy)得所有点。也就是用所有点来选取函数f(x)的一组参数,使得函数f(x)曲线最逼近所有点。常用最小二乘原则,当然也可以契比雪夫原则,见《数值计算方法》--冯康p148

    二、线性拟合与非线性拟合

     

    1. 拟合的线性与非线性的区别不是在于将被拟合的函数是线性还是非线性的,而是在于,是否满足一般表达式:

            y = b0+ b1x1+ b2x2 +… + bmxm     也即: y = b0x0+ b1x1+ b2x2 +… + bmxm   (1)

    所以,一般的多项式拟合y=b0 + b1 x+ b2x2 +… + bmxm 可以通过变量代换如:x1=x,x2=x2,…, xm = x变成(1)的形式,仍然用“线性拟合”实现。

    一定要注意,本文所说的线性与非线性,指的是待拟合的各个参数线性组合还是非线性组合,而不是函数解析式中自变量的线性/非线性组合。

    2. 插值的线性和非线性一般只函数的形式 是否 为直线方程f(x) = ax + b. 如:一般的二次多项式f(x) = c + bx + ax2 插值,是属于“非线性插值”。

    三、线性拟合与非线性拟合的方法

    方法:1)确定表达式的形式(观察或者用数学方法《数值计算方法》--冯康

    2)确定表达式中参数(实质:解矛盾方程组)

    A.最小二乘意义下

    a) 线性最小二乘拟合:把矛盾方程组 转化为“法方程组(有唯一解)”,就可以用一般方法求解,如SVD。

    b)非线性最小二乘拟合:Levenberg Marquardt 方法 (gnuplot 和gsl中都有)。

    B.非最小二乘意义下: 如:契比雪夫曲线拟合。

     

    http://www.bb.ustc.edu.cn/jpkc/xiaoji/szjsff/jsffkj/chapt3_3_0_p2.htm

    *点评:  在实际问题中,怎样由测量的数据设计和确定“最贴近”的拟合曲线? 关键在于选择适当的拟合曲线类型,有时根据专业知识和工作经验即可确定拟合曲线类型; 在对拟合曲线一无所知的情况下,不妨先绘制数据的粗略图形,或许从中观测出拟合曲线的类型; 更一般地,对数据进行多种曲线类型的拟合(如:用gnuplot手动拟合确定初始值),并计算均方误差,用数学实验的方法找出在最小二乘法意义下的误差最小的拟合函数。

     

     

    拟合方法与目标:

    大致有三种方法可以解决上面图中所示数据的直线与曲线的拟合问题。

    第一种方法是非编程方法,即利用一些数据可视化工具读入数据,然后拟合,最后给出可视化的结果。本文使用的工具是Gnuplot

    第二种方法是半编程方法,即调用现有的数值分析程序库中的黑箱函数完成数据拟合,然后给出拟合直线的参数、误差估计以及拟合优度。本文使用的程序库是GSL

    第三种方法是全编程方法,即空手入白刃,在充分理解拟合原理的情况下,自己写出所有的代码来解决问题。这种做法,精神可嘉,但在一般情况下,特别是在第二种方法容易实现的情况下,不推荐这种做法。当然,理解拟合原理是非常有意义的。

    感觉一篇文章中是很难将上述三种方法都讲述出来,况且此刻我对第三种方法还未有清晰的认识,所以暂时掘之为坑,只关注前两种方法。或许这样想会让我们轻松一下,不会炒菜,不意味不会品尝。

    对于一组数据,无论是作直线/平面拟合,还是做曲线/曲面拟合,一个真正有用的拟合过程必须提供:(1)拟合的参数(2)拟合所得参数的误差估计(3)拟合优度的统计度量

    如果上述 (3) 中的结果表明了所拟合的模型与数据不一致,那么 (1) (2)中的结果通常没有多少意义。所以我们在使用既有的如 GnuplotGSL 这些工具或程序库进行数据拟合时,必须要对拟合优度有量化上的认识,而不能仅靠肉眼对拟合优度的定性观察。

    Gnuplot非常懒惰,它将线性最小二乘问题视为非线性最小二乘问题的特殊形式,所以它选择了一种更通用的拟合算法——用这种算法去拟合直线,宛若宰牛刀杀鸡。

    来至于很好的一篇blog

    http://rca.is-programmer.com/2013/1/2/modeling-of-data-00.36899.html

     

     

    展开全文
  • 决策树和lr关于线性和非线性的区别

    千次阅读 2018-01-14 21:03:16
    # coding:utf8 import random import numpy as np from sklearn.linear_model ...lr为线性分类器,在本例中类似于在二维空间中画一条直线将正负样本分开。 决策树则是不停在平面中画竖线将平面一份为二。
    # coding:utf8
    import random
    import numpy as np
    from sklearn.linear_model import LogisticRegression
    from sklearn import tree
    
    X = []
    Y = []
    for i in range(10000):
        a = random.uniform(-1, 1)
        b = random.uniform(-1, 1)
        X.append([a, b])
        if a > 0 and b > 0:
            Y.append(1)
        elif a < 0 and b < 0:
            Y.append(1)
        else:
            Y.append(-1)
    x = np.array(X)
    y = np.array(Y)
    
    clf1 = LogisticRegression()
    clf1.fit(x, y)
    clf2 = tree.DecisionTreeClassifier()
    clf2.fit(x, y)
    
    X_t = []
    Y_t = []
    for i in range(10000):
        a = random.uniform(-1, 1)
        b = random.uniform(-1, 1)
        X_t.append([a, b])
        if a > 0 and b > 0:
            Y_t.append(1)
        elif a < 0 and b < 0:
            Y_t.append(1)
        else:
            Y_t.append(-1)
    x_t = np.array(X_t)
    y_t = np.array(Y_t)
    
    print clf1.score(x_t, y_t)
    print clf2.score(x_t, y_t)
    

    结果

    0.5288
    0.9999
    构造训练数据

    X = {x1, x2} 当 x1 和 x2同号时 Y 为1,异号时 Y 为0。

    从结果可以看出来lr的准确率几乎等同于随机猜测,而决策树的准确率接近1。

    lr为线性分类器,在本例中类似于在二维空间中画一条直线将正负样本分开。

    决策树则是不停的在平面中画竖线将平面一份为二。


    展开全文
  • 怎样区分线性和非线性 1.线性Line,是指量与量之间按照比例成直线关系,在数学上可理解为一阶导数是个常数;  非线性non-line则指不按照比例不成直线关系,一节导数不为常数。 2.线性可以认为是1次曲线,比如...

    一直对线性非线性没有很准确的定义认识,今天特意查了查,特此记录下。

    怎样区分线性和非线性

    1.线性Line,是指量与量之间按照比例成直线关系,在数学上可理解为一阶导数是个常数;

       非线性non-line则指不按照比例不成直线关系,一节导数不为常数。

    2.线性可以认为是1次曲线,比如比如y=ax+b ,即成一条直线

        非线性可认为是2次以上的曲线,比如y=ax^2+bx+c,(x^2是x的2次方),即不为直线的即可。

    3.两个变量之间的关系是一次函数的关系图像是直线,这样的两个变量之间就是“线性关系”

       如果不是一次函数关系,图像不是直线,就是“非线性关系”。

    4.线性与非线性,常用于区别函数y = f (x)对自变量x的依赖关系。线性函数即一次函数,其图像为一条直线。其它函数则为非线性函数,其图像不是直线。

    5.在数学上,线性关系是指自变量x与因变量yo之间可以表示成y=ax+b ,(a,b为常数),即说x与y之间成线性关系。

      不能表示成y=ax+b ,(a,b为常数),即非线性关系,非线性关系可以是二次,三次等函数关系,也可能是没有关系。

    线性模型和非线性模型的区别

     误区

      1、线性和非线性的区别是是否可以用直线将样本划分开(这个观点是对的)

      2、和同学讨论到logistics模型是线性还是非线性的,很难理解!(logistics模型是广义线性模型)

      3、区分一下回归和分类问题,线性模型是可以用来曲线拟合(回归)的,但是线性模型模型的分类一定是一条直线的,例如logistics模型。

    线性模型和非线性模型区别

      1、线性模型可以是用曲线拟合样本,但是分类的决策边界一定是直线的,例如logistics模型

      2、区分是否为线性模型,主要是看一个乘法式子中自变量x前的系数w,如果w只影响一个x,那么此模型为线性模型。或者判断决策边界是否是线性的

            3、举例

    ææ ·åºå线æ§åé线æ§_线æ§ä¸é线æ§çåºå«ï¼çº¿æ§åæã线æ§æ¨¡åï¼

    画出y和x是曲线关系,但是它是线性模型,因为x1*w1中可以观察到x1只被一个w1影响

    ææ ·åºå线æ§åé线æ§_线æ§ä¸é线æ§çåºå«ï¼çº¿æ§åæã线æ§æ¨¡åï¼

    此模型是非线性模型,观察到x1不仅仅被参数w1影响,还被w5影响,如果自变量x被两个以上的参数影响,那么此模型是非线性的!

     4、其实最简单判别一个模型是否为线性的,只需要判别决策边界是否是直线,也就是是否能用一条直线来划分

      神经网络是非线性

      虽然神经网络的每个节点是一个logistics模型,但是组合起来就是一个非线性模型。

      此处我们仅仅考虑三层神经网络

    ææ ·åºå线æ§åé线æ§_线æ§ä¸é线æ§çåºå«ï¼çº¿æ§åæã线æ§æ¨¡åï¼

     第一层的表达式

    ææ ·åºå线æ§åé线æ§_线æ§ä¸é线æ§çåºå«ï¼çº¿æ§åæã线æ§æ¨¡åï¼

     第二层的表达式

    ææ ·åºå线æ§åé线æ§_线æ§ä¸é线æ§çåºå«ï¼çº¿æ§åæã线æ§æ¨¡åï¼

    将第一层的表达式带入第二层表达式中,可以观察到x1变量不仅仅被w1影响还被k2影响,所以此模型不是一个线性模型,是个非线性模型。

     

    展开全文
  • 之前一直以为线性和非线性的区别是是否可以用直线将样本划分开 和同学讨论到logistics模型是线性还是非线性的,很难理解!(logistics模型是广义线性模型) 线性模型和非线性模型区别 线性模型也是可以用曲线划分的,...

    误区

    • 线性和非线性的区别是是否可以用直线将样本划分开(这个观点是对的)
    • 和同学讨论到logistics模型是线性还是非线性的,很难理解!(logistics模型是广义线性模型)
    • 区分一下回归和分类问题,线性模型是可以用来曲线拟合(回归)的,但是线性模型模型的分类一定是一条直线的,例如logistics模型。

    线性模型和非线性模型区别

    1. 线性模型可以是用曲线拟合样本,但是分类的决策边界一定是直线的,例如logistics模型
    2. 区分是否为线性模型,主要是看一个乘法式子中自变量x前的系数w,如果w只影响一个x,那么此模型为线性模型。或者判断决策边界是否是线性的
    3. 举例
      y=11+ew0+w1x1+w2x2

      画出yx是曲线关系,但是它是线性模型,因为x1*w1中可以观察到x1只被一个w1影响

    y=11+w5ew0+w1x1+w2x2

    此模型是非线性模型,观察到x1不仅仅被参数w1影响,还被w5影响,如果自变量x被两个以上的参数影响,那么此模型是非线性的!
    4 其实最简单判别一个模型是否为线性的,只需要判别决策边界是否是直线,也就是是否能用一条直线来划分

    神经网络是非线性

    虽然神经网络的每个节点是一个logistics模型,但是组合起来就是一个非线性模型。
    此处我们仅仅考虑三层神经网络
    这里写图片描述

    第一层的表达式

    y1=11+ew0+w1x1+w2x2+w3x3

    y2=11+ew4+w5x1+w6x2+w7x3

    第二层的表达式

    z=11+ek1+k2y1+k3y2

    将第一层的表达式带入第二层表达式中,可以观察到x1变量不仅仅被w1影响还被k2影响,所以此模型不是一个线性模型,是个非线性模型。

    展开全文
  • 数据结构 线性 非线性Here you will learn about difference between ... 在这里,您将了解线性和非线性数据结构之间的区别。 Data structures are basically a way of storing and logically implementing the d...
  • 什么是线性和非线性 线性与非线性的区别

    万次阅读 多人点赞 2014-12-29 14:04:22
    1. 线性linear,指量与量之间按比例、成直线的关系,在数学上可以理解为一阶导数为常数的函数;... 非线性的可以认为是2次以上的曲线,比如y=ax^2+bx+c,(x^2是x的2次方),即不为直线的即可 3. 两个变量之间
  • 线性和非线性弹性材料的区别

    千次阅读 2019-09-04 17:28:15
    线性和非线性弹性材料在加载后都会弹性恢复到“未加载”状态(无永久变形),但应力和应变之间的关系不同。线性弹性材料(因此得名)是线性的,在非线性情况下更复杂。 我认为值得一看,因为混淆非线性弹性材料和塑性...
  • 线性和非线性的理解

    2018-12-03 00:00:00
    线性? 非线性?...线性和非线性的区别是:是否可以用直线将样本划分开(这个观点是对的) logistics模型是线性还是非线性的? logistics模型是广义线性模型。 如何理解? 举例理解如下: ...
  • **线性模型和非线性模型的区别** 按照周志华西瓜书的回答:线性模型试图学的一个通过属性的线性组合来进行预测的函数,即f(x)=w1x1+w2x2+...+wdxd+bf(x)=w_1x_1+w_2x_2+...+w_dx_d+bf(x)=w1​x1​+w2​x2​+...+wd...
  • 线性和非线性到底是怎么区分 https://www.zhihu.com/question/20084968 数学里,一般说线性,是说线性映射: "线性"="齐次性"+"可加性","齐次性"是指类似于: f(ax)=af(x),"可加性"是指类似于: f(x+y)=f(x...
  • 机器学习中的线性和非线性判断 这篇博客的结论是: 下面可以快速判断是为非线性的三种常见情况: (变量)^n,且n不为1 |变量| 有变量在绝对值內的为非线性 sgn(变量) 有变量在符号函数之内 做一点补充理解: 线性...
  • 线性结构,除了第一个最后一个数据元素之外,其它数据元素都是首尾相接。 常用的线性结构有:线性表,栈,队列,双队列,数组,串。 特点: 1.集合中必存在唯一一个"第一个元素"; 2.集合中必存在唯一一个...
  • 在微波电路中,对线性和非线性的区别,为在电路输入端施加输入信号时,输出端是否出现除输入信号之外的信号,如频率,在线性区工作时,输出的频率为对应的输入频率无其他不应出现的频率,而当工作在非线性区时,输出...
  • 浅谈线性结构和非线性结构的区别

    千次阅读 2019-09-05 15:29:19
    在讲线性结构和非线性结构之前,我们必须了解数据结构是什么,它包含什么内容,现在我用一个图大概表示一下。 数据结构就是一种计算机存储方式,比如说磁盘,磁盘是用链式存储,这样可以节省内存空间。...
  • 线性模型和非线性模型的区别,以及激活函数的作用 线性模型和非线性模型的区别? a. 线性模型可以用曲线拟合样本,线性模型可以是用曲线拟合样本,但是分类的决策边界一定是直线的,例如logistics...
  • 比较类排序:通过比较来决定元素间相对次序,由于其时间复杂度不能突破O(nlogn),因此也称为非线性时间比较类排序。 非比较类排序:不通过比较来决定元素间相对次序,它可以突破基于比较排序时间下界,以线性...
  • 线性系统和非线性系统

    千次阅读 2019-04-21 09:53:59
    一、线性和非线性的区别? 线形指量与量之间按比例、成直线的关系,在空间和时间上代表规则和光滑的运动;飞线性则指不按比例、不成直线的关系代表不规则的运动和突变。 二、如何判断一个系统是线形还是非线性系统...
  • 线性规划和非线性规划的区别是: 1.1.目标或约束条件不同 线性规划目标和约束均为线性函数, 非线性规划目标或约束中存在非线性函数 1.2.最优解范围不同 如果最优解存在,线性规划只能存在可行域的边界上找到...
  • 线性就是每个变量指数都是1,而非线性就是至少有一个变量指数不是1。 通过指数来进行判断即可。 线性回归模型,是利用数理统计中回归分析,来确定两种或两种以上变量间相互依赖定量关系一种统计分析方法,...
  • 从2000年10月20日发布第一...如果在IIS下以CGI方式运行PHP会非常慢,这是由于CGI模式是建立在多进程基础之上,而多线程。一般我们会把PHP配置成以ISAPI方式来运行,ISAPI是多线程方式,这样就快多了。但...
  • 线性电路是指完全由线性元件、独立源或线性受控源构成电路。线性就是指输入输出之间关系可以用线性函数表示。非线性电路,含有非线性元件电路。这里的非线性元件不包括...非线性电路研究其他学科非线......
  • 图1,黑色曲线就是非线性分类器。以曲线形式分类了红点蓝点。 图2,黑色直线就是线性分类器。以直线形式分类红点蓝点。 一、线性分类器 以上图二分类(红点蓝点)为例: 线性分类器就是用一个“超...
  • 如标题所述,CAE中对线性分析和非线性分析定义
  • 在讲线性结构和非线性结构之前,我们必须了解数据结构是什么,它包含什么内容,现在我用一个图大概表示一下。 数据结构就是一种计算机存储方式,比如说磁盘,磁盘是用链式存储,这样可以节省内存空间。...
  • 在论文《 ImageNet Classification with Deep Convolutional Neural Networks》中描述激活函数时,用了饱和非线性函数和非饱和非线性函数的区别。这里在这里描述其差别。 直观理解 饱和激活函数会压缩输入值。 定义...
  • 线性结构又分为顺序存储链式存储,顺序存储:各个元素存储地址空间连续,逻辑相邻元素在物理内存中也相邻,如数组; 链式存储:各个元素存储在任意地址空间,逻辑相邻元素在物理内存中没有联系,如链表。...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 889
精华内容 355
关键字:

线性和非线性的区别