精华内容
下载资源
问答
  • 算法复杂性分析
    千次阅读
    2019-04-25 18:03:56

    写在前面
    最近在做一些矩阵连乘的算法,忘记了之前所学的一些渐进分析符,就顺带回忆一些算法时间复杂度。

    算法复杂性 = 算法所需要的计算机资源
    算法的时间复杂性T(n)=T(n,i);
    算法的空间复杂性S(n)= S(n,i) 。
    其中n是问题的规模(输入大小)i表示算法及其输入。
    算法的时间复杂度反映了程序执行时间随输入规模增长而增长的量级,在一定程度上能很好反映出算法的优劣与否。因此作为编程人员掌握基本的算法时间复杂度分析方法很有必要的。
    算法的空间复杂度与时间复杂度计量方法相似且相对简单。

    算法时间复杂度

    一个算法是由控制结构(顺序、分支、循环) 和原操作(固有数据类型的操作)构成的,那么算法时间取决于两者的综合效果。
    通常从算法中选取一种对于所研究的问题来说是基本操作的原操作,以该基本操作的重复执行的次数作为算法的时间量度。

    一个算法中的语句执行次数称为时间频度T(n),n称为问题的规模,当不断变化时,时间频度也会不断变化,为了研究其变化规律引入时间复杂度。若有一个辅助函数f(n),使得当n趋近于无穷大时,T(n)/f(n)的极限值不为零的常数,则称f(n)是T(n)的同数量级函数。记作T(n)=O(f(n)),称O(f(n))为算法的渐进时间复杂度,简称时间复杂度。

    T(n) →∞ , as n→∞ ;
    (T(n) - t(n) )/ T(n) →0 ,as n→∞;
    t(n)是T(n)的渐近性态,为算法的渐近复杂性。
    在数学上, t(n)是T(n)的渐近表达式,是T(n)略去低阶项留下的主项。它比T(n) 简单。
    如T(n)=2nn+n+1,此时t(n)=nn.

    渐近分析的记号

    在下面的讨论中,对所有n,f(n) ≥ 0,g(n) ≥ 0。
    (1)渐近上界记号O
    O(g(n)) = { f(n) | 存在正常数c和n0使得对所有n≥ n0有:0 ≤ f(n) ≤ cg(n) }
    (2)渐近下界记号Ω
    Ω (g(n)) = { f(n) | 存在正常数c和n0使得对所有n≥ n0有:0≤ cg(n) ≤ f(n) }
    (3)紧渐近界记号Θ
    Θ (g(n)) = { f(n) | 存在正常数c1,c2和n0使得对所有n≥ n0有:c1g(n) ≤ f(n) ≤ c2g(n) },即g(n)与f(n)的同阶。

    用张图来描述一下这三哥记号,以便加深印象

    在这里插入图片描述
    算术运算:
    顺序结构:
    O(f(n))+O(g(n)) = O(max{f(n),g(n)}) ;
    O(f(n))+O(g(n)) = O(f(n)+g(n)) ;
    循环结构:
    O(f(n))*O(g(n)) = O(f(n)*g(n)) ;
    O(cf(n)) = O(f(n)) ;
    g(n)= O(f(n)) ⇒ O(f(n))+O(g(n)) = O(f(n)) 。

    这些运算公示在这里就不证明了,百度有很多。

    更多相关内容
  • 算法复杂性分析

    千次阅读 2019-01-11 18:23:09
    算法效率分析基础 算法分析是对一个算法需要多少计算时间和存储空间作定量的分析分析框架 输入规模度量 算法的时间效率和空间效率都用输入规模的函数进行度量。 对相同大小的输入实例具有相同的分析结果。 ...
    算法效率分析基础

    算法分析是对一个算法需要多少计算时间和存储空间作定量的分析。

    分析框架

    输入规模度量

    • 算法的时间效率和空间效率都用输入规模的函数进行度量。
    • 对相同大小的输入实例具有相同的分析结果。
    • 对于所有的算法,对于规模更大的输入都需要运行更长的时间。
    • 经常使用一个输入规模n为参数的函数来研究算法的效率。

    运行时间的度量单位

    • 用算法的基本操作(算法中最重要的操作)的执行次数来度量算法的时间效率。
    • 基本操作通常是算法最内层循环中最费时的操作。
    • 算法运行时间的估计:
      T ( n ) ≈ c o p C ( n ) T(n) ≈ copC(n) T(n)copC(n)

    n是该算法的输入规模
    cop是特定计算机上一个算法基本操作的执行时间
    C(n)是该算法需要执行的基本操作的次数

    算法的最优、最差和平均效率

    • 最差效率是指在输入规模为n时,算法在最坏情况下的效率。
    • 最优效率是指在输入规模为n时,算法在最优情况下的效率。
    • 平均效率是指在“典型”或“随机”输入的情况下,算法具有的行为(效率)。

    增长次数

    • 小规模输入在运行时间上的差别不足以将高效的算法和低效的算法区分开来。
    • 算法效率的主要指标是基本操作次数的增长次数。
    • 为了对这些增长次数进行比较和归类,计算机科学家们使用了3种符号:

    渐近符号:
    O(读“O”):上界
    Ω(读”omega”):下界
    Θ(读”theta”):近似

    存在正常数c,c1,c2和n0使得对所有n不小于n0有
    渐近分析的符号

    更多渐近分析的符号
    非紧上界记号 o o o
    非紧下界记号 w w w

    渐近符号的有用特性
    当算法由两个连续执行部分组成时,该算法的整体效率由具有较大增长次数的那部分所决定。
    基本的效率类型
    常量( c ) < 对数( logn ) < log2n < 线性( n ) < nlogn < 平方( n2 ) <立方( n3 ) < 指数( 2n ) < 阶乘( n! )

    展开全文
  • 大数据-算法-非凸规划组合同伦算法复杂性分析.pdf
  • 顺序算法分析的基本方法 算法分析的原则 正确工作量占用空间 简单最优问题复杂度 算法分析的实例 搜索有序表 排序 选择 1 算法分析的原则 正确 概念在给定有效输入后, 算法经过有限时间的计 算并产生正确的...
  • 算法复杂性算法运行所需要的计算机资源的量,需要的时间资源的量称作时间复 杂性,需要的空间(即存储器)资源的量称作空间复杂性。本文讨论了一些常见问题算法复杂性,希望对初学者有一点帮助。
  • 6.5 树的枚举与树结构上算法复杂性分析之间的关系 第七章 几个具体算法的复杂性分析 7.1 树的遍历算法 7.2 多路搜索树算法的复杂性分析 7.3 检索树(trie)算法分析 7.4 穿线树上的算法分析
  • 内容提要: 本书论述了形式语言的基本内容,包括有限自动机、下推机和图灵机的基础理论,讨论了如分治策略、动态规划、回溯法、贪心法以及概率算法的基本技术;同时,也给出了计算复杂性理论的基本知识。
  • 算法复杂性分析及运算规则证明(一)

    千次阅读 2019-03-07 13:26:03
    我们有必要知道算法复杂性算法运行所需要的计算机资源的量,需要空间资源的量称为空间复杂度,同样需要时间资源的量称为时间复杂度。那麽这个量与什么有关系呢? 这个量应该是只依赖于要解决的问题的规模,算法...

    我们有必要知道算法的复杂性是算法运行所需要的计算机资源的量,需要空间资源的量称为空间复杂度,同样需要时间资源的量称为时间复杂度。那麽这个量与什么有关系呢?

    这个量应该是只依赖于要解决的问题的规模,算法的输入和算法的本身。

    专业术语用C=F(N,I,A)三元函数表示。时间T(time),空间S(space)。

    二者计量方法相似,且分析空间复杂度要比时间复杂度简单,因此我们主要讨论时间复杂度。但在此之前,同样需要说一下空间复杂度。

    空间复杂度是算法在运行过程中临时占用的存储空间大小的度量, 同样是关于问题规模n和算法的输入i的函数s=s(n,i)。只要算法占用的存储空间不要达到计算机无法接受的程度(实际生活上应该没有或许不需要这样的算法)就行。所以,常常会见到通过牺牲空间复杂度来换取算法更加高效的运行时间效率。

    算法在计算机存储器上占用的空间包括三个部分:输入输出,算法本身和运行临时占有。

    算法的输入输出数据所占用的存储空间是由要解决的问题决定的,它不会随算法的不同而改变。

    算法本身:存储算法本身所占用的存储空间与算法书写的长短成正比,要压缩这部分存储空间,就必须编写出较短的算法。我想实际应用需要根据需求采取不同的编程语言来实现,不同编程语言实现的代码长短差别很大,然而存储空间都在可接受范围之内(通常不同编程语言的效率更受关注)。

    运行临时占有

    根据算法在运行过程中临时占用存储空间的不同,可以将算法分为两类。

    • 原地算法(in-place algorithm):只需要占用少量的临时工作单元,而且不随问题规模的大小而改变,我们称这种算法是“就地”进行的,是节省存储的算法。
    • 非原地算法(not-in-place):需要占用的临时工作单元数与解决问题的规模n有关,它随着n的增大而增大,当n较大时,将占用较多的存储单元。
      算法临时占用空间是考虑算法空间复杂度时主要考虑的部分。相比于随着问题输入规模扩大而扩大的非原地算法,原地算法是更加简洁高效的算法(仅考虑空间复杂度时)。
    • 参考https://baike.baidu.com/item/%E5%8E%9F%E5%9C%B0%E7%AE%97%E6%B3%95/8010757?fr=aladdin

    时间复杂度

    在我们知道了上面所说的三元函数后,我们需要做的是如何将复杂函数具体化。即对于给定的N,I,A如何导出T(N,I)的数学表达式,从而给出计算T(N,I)的法则。此处会用到高等数学的知识。

    求T(N,I),算法在一台抽象的计算机上运行所需的时间。

    :设此抽象的计算机的元运算有k种,分别记为O1,O2,,,Ok。每执行一次这些元运算所需时间分别为t1,t2,,,tk。要知道的是这些t为常数,元运算也就是类似加减乘除等的运算。

    对于给定的算法A,经统计,用到元运算Oi的次数为ei(i为下标),对于每个i(1<=i<=k),ei是N和I的函数,即ei=ei(N,I)。

    所以,T(N,I)=\sum_{i=1}^{k}tiei(其中ei=ei(N,I))。

    显然不可能对规模为N的每种合法输入I都统计ei(N,I)

    故:只能在规模为N的某些或某类有代表性的合法输入中统计相应的ei来评价其时间复杂性。

    在此,只考虑三种情况下的时间复杂性,即最坏情况,最好情况和平均情况。

    图示DN(N为下标)是规模为N的合法输入的集合;I*是DN中使T(N,I*)达到Tmax(N)的合法输入。

    实践证明:可操作性最好的且最具有实际价值的是最坏情况的时间复杂度。

    随着研究的深入,要求用计算机解决的问题越来越复杂,规模越来越大,对求解这类问题的算法进行复杂性分析具有特别重要的意义。因而特别关注。

    在此引入复杂性渐进性态的概念。

    设T(N)是前面定义的关于算法A的复杂性函数。对于T(N),如果存在t(N),当N->\infty时,使得(T(N)-t(N))/T(N)->0,就说t(N)是T(N)当N->\infty时的渐进态性。

    在数学上,t(N)是T(N)的渐进表达式。直观上,t(N)是T(N)的高阶项。

    比如说:T(N)=4NlogN+3N^{2}+7,那么t(N)的一个答案就是3N^{2}

    当N->\infty时,T(N)渐进与t(N),我们有理由用t(N)替代T(N)作为算法A在N->\infty时的复杂性的度量。

    进一步考虑到,分析算法的复杂性目的在于比较求解同一问题的两个不同算法的效率。而只需确定各自的阶就可以了。换句话说这时的渐进复杂性分析只关心t(N)的阶。

    所以,常常需要对t(n)的分析进一步简化,即假设算法中用到的所有不同的元运算各执行一次所需要的时间都是一个单位时间。

    为了与此简化的复杂性分析相匹配,需要引入以下渐进意义下的符号O,\Omega\Theta,o。

    设f(N)和g(N)是定义在正数集上的正函数,存在常数C和自然数N0,使得存在N,当N>N0时,f(N)<=Cg(N).则称f(N)当N充分大时,上有界,且为g(N)。记为f(N)=O(g(N))。

    简要证明两条规则(省略的写)如下图。

    符号\Omega为渐进下界,常常与O配合。上界的阶越低,下界的阶越高,则评估越精确,结果越有价值。

    定义f(N)=\Theta(g,(N))当且仅当f(N)=O(g(N))且f(N)=\Omegag(N))时,称为f(N)与g(N)同阶。

    如果对于任意给定的\varepsilon>0,都存在正整数N0,使得当N>=N0时有f(N)/​​​g(N)<\varepsilon,则称函数f(N)当N充分大时的阶比g(N)的低,记为f(N)=o(g(N)。

    最后加上一张偷来的图片:

                                                                                          发现一个问题,  未完持续-----请看下一篇算法复杂性分析及运算规则证明(二)

     

     

     

     

     

     

    展开全文
  • 详细讲述了算法分析复杂性理论教程,希望对大家有所帮助
  • 计算复杂性算法分析,本书论述了形式语言的基本内容,包括有限自动机、下推机和图灵机的基础理论。
  • 顺序算法分析的基本方法 算法分析的原则 正确工作量占用空间 简单最优问题复杂度 算法分析的实例 搜索有序表 排序 选择 1 算法分析的原则 正确 概念在给定有效输入后, 算法经过有限时间的计 算并产生正确的...
  • 北京大学2012年算法分析复杂性理论的课程教学课件,内容详实,对计算机算法的设计,和分析,NP完全问题,概率算法,随机算分均有介绍。方便工程技术人员和计算机算法爱好者下载。
  • 详细讲述了算法分析复杂性理论教程,希望对大家有所帮助
  • 演化算法时间复杂性分析技术,丁立新,余旌胡,本文介绍了一些用于分析基于有限空间的演化算法(Evolutionary Algorithms,简称EA)时间复杂性的技术。Markov性质和矩阵分解技术被用于分��
  • 详细讲述了算法分析复杂性理论教程,希望对大家有所帮助
  • 算法分析与设计之计算复杂性理论.pps
  • 大数据-算法-LZ复杂性算法及其在生物序列分析中的应.pdf
  • 算法设计与分析随机算法及计算复杂性PPT学习教案.pptx
  • 详细讲述了算法分析复杂性理论教程,希望对大家有所帮助
  • 大数据-算法-LZ复杂性算法及其在生物序列分析中的应用研究.pdf
  • 大数据-算法-基于视震源时间函数的震源过程复杂性分析新方法研究.pdf
  • 大数据-算法-面向空间数据复杂性特征的聚类分析方.pdf
  • 详细讲述了算法分析复杂性理论教程,希望对大家有所帮助
  • 算法复杂性

    千次阅读 2017-10-22 10:56:14
    一、算法 算法是指解决问题的一种方法或一个过程,更...算法复杂性分为时间复杂性和空间复杂性(目标:设计出复杂度尽可能低的算法)。  2.1 空间复杂性  算法运行时需要空间资源的量  2.2时间复杂性  

    一、算法

    • 算法是指解决问题的一种方法或一个过程,更严格的说,算法由若干条指令组成的有穷数列。
    • 程序是算法用某种程序设计语言的具体实现。

    二、算法复杂性

    • 算法复杂性是算法运行时所需要的计算机资源的量。
    • 算法复杂性分为时间复杂性和空间复杂性(目标:设计出复杂度尽可能低的算法)。

        2.1 空间复杂性

            算法运行时需要空间资源的量

        2.2时间复杂性

            算法运行时需要时间资源的量

            算法时间复杂性分析只要考察当问题规模充分大时,算法复杂性在渐进意义下的阶。渐进意义下的记号如下所示: 


            以下设f(N)和g(N)是定义在正数集上的正函数(N为算法要解问题的规模)


            1.如果存在正的常数C和自然数,使得当时有,则称函数f(N)当N充分大时上有界,且g(N)是它的一个上界,记为。这是还说f(N)的阶不高于g(N)的阶。


            2.如果存在正的常数C和自然数,使得当时有则称函数f(N)当N充分大时下有界,且g(N)是它的一个下界,记为。这是还说f(N)的阶不低于g(N)的阶。


            3.定义,当且仅当,这时我们说f(N)与g(N)同阶。


            4.对于任意给定的,都存在正整数使得当时有,则称函数f(N)当N充分大时的阶比g(N)低,记为




       

    展开全文
  • 运用排列熵算法分析了离散混沌系统产生的混沌序列和混沌伪随机序列的复杂性,讨论了混沌系统参数对序列复杂性的影响情况。
  • 算法及其复杂性分析整理

    千次阅读 2019-01-02 23:22:41
    第一是从数学上证明算法的正确,这一步主要用到形式化证明的方法及相关推理模式,如循环不变式、数学归纳法等。第二就是分析算法的复杂度。算法的复杂度反应了程序执行时间随输入规模增长而增长的量级,在很大程度...
  • 详细讲述了算法分析复杂性理论教程,希望对大家有所帮助
  • 大数据-算法-基于矢量Lyapunov函数法的复杂系统的稳定性分析.pdf
  • 算法复杂性渐近阶的分析

    千次阅读 2019-07-26 00:31:03
    算法复杂性渐近阶的分析 前两段讲的是算法复杂性渐近阶的概念和对它进行分析的重要性。本段要讲如何具体地分析一个算法的复杂性的渐近阶,给出一套可操作的规则。算法最终要落实到用某种程序设计语言(如Pascal)编...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 422,791
精华内容 169,116
关键字:

算法复杂性分析