精华内容
下载资源
问答
  • 引入描述子简化和约简的概念, 给出描述子的区分函数, 利用布尔推理理论求取描述子的约简, 并由此获取信息系统的优化决策规则.从保持原系统决策信息的角度出发, 定义信息系统的GS-约简和DS-约简,G-约简和D-约简.通过...
  • 算法的概念

    2019-03-25 13:44:35
    算法的概念 算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般地,当算法在处理信息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或...

    算法的概念

    算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般地,当算法在处理信息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或某个存储地址供以后再调用。

    算法是独立存在的一种解决问题的方法和思想。

    对于算法而言,实现的语言并不重要,重要的是思想

    算法可以有不同的语言描述实现版本(如C描述、C++描述、Python描述等)

    算法的五大特性:

    • 输入: 算法具有0个或多个输入
    • 输出: 算法至少有1个或多个输出
    • 有穷性: 算法在有限的步骤之后会自动结束而不会无限循环,并且每一个步骤可以在可接受的时间内完成
    • 确定性:算法中的每一步都有确定的含义,不会出现二义性
    • 可行性:算法的每一步都是可行的,也就是说每一步都能够执行有限的次数完成

    算法效率衡量

    单纯依靠运行的时间来比较算法的优劣并不一定是客观准确的!

    程序的运行离不开计算机环境(包括硬件和操作系统),这些客观原因会影响程序运行的速度并反应在程序的执行时间上。那么如何才能客观的评判一个算法的优劣呢?

    时间复杂度与“大O记法”

    我们假定计算机执行算法每一个基本操作的时间是固定的一个时间单位,那么有多少个基本操作就代表会花费多少时间单位。显然对于不同的机器环境而言,确切的单位时间是不同的,但是对于算法进行多少个基本操作(即花费多少时间单位)在规模数量级上却是相同的,由此可以忽略机器环境的影响而客观的反应算法的时间效率。

    • 对于算法的时间效率,我们可以用“大O记法”来表示。

    “大O记法”:对于单调的整数函数f,如果存在一个整数函数g和实常数c>0,使得对于充分大的n总有f(n)<=c*g(n),就说函数g是f的一个渐近函数(忽略常数),记为f(n)=O(g(n))。也就是说,在趋向无穷的极限意义下,函数f的增长速度受到函数g的约束,亦即函数f与函数g的特征相似。

    • 时间复杂度:假设存在函数g,使得算法A处理规模为n的问题示例所用时间为T(n)=O(g(n)),则称O(g(n))为算法A的渐近时间复杂度,简称时间复杂度,记为T(n)

    如何理解“大O记法”

    对于算法进行特别具体的细致分析虽然很好,但在实践中的实际价值有限。对于算法的时间性质和空间性质,最重要的是其数量级和趋势,这些是分析算法效率的主要部分。而计量算法基本操作数量的规模函数中那些常量因子可以忽略不计。例如,可以认为3n2和100n2属于同一个量级,如果两个算法处理同样规模实例的代价分别为这两个函数,就认为它们的效率“差不多”,都为n2级。

    最坏时间复杂度

    分析算法时,存在几种可能的考虑:

    • 算法完成工作最少需要多少基本操作,即最优时间复杂度
    • 算法完成工作最多需要多少基本操作,即最坏时间复杂度
    • 算法完成工作平均需要多少基本操作,即平均时间复杂度

    对于最优时间复杂度,其价值不大,因为它没有提供什么有用信息,其反映的只是最乐观最理想的情况,没有参考价值。

    对于最坏时间复杂度,提供了一种保证,表明算法在此种程度的基本操作中一定能完成工作。

    对于平均时间复杂度,是对算法的一个全面评价,因此它完整全面的反映了这个算法的性质。但另一方面,这种衡量并没有保证,不是每个计算都能在这个基本操作内完成。而且,对于平均情况的计算,也会因为应用算法的实例分布可能并不均匀而难以计算。

    因此,我们主要关注算法的最坏情况,亦即最坏时间复杂度

    时间复杂度的几条基本计算规则

    • 基本操作,即只有常数项,认为其时间复杂度为O(1)
    • 顺序结构,时间复杂度按加法进行计算
    • 循环结构,时间复杂度按乘法进行计算
    • 分支结构,时间复杂度取最大值

    判断一个算法的效率时,往往只需要关注操作数量的最高次项,其它次要项和常数项可以忽略
    在没有特殊说明时,我们所分析的算法的时间复杂度都是指最坏时间复杂度

    空间复杂度

    类似于时间复杂度的讨论,一个算法的空间复杂度S(n)定义为该算法所耗费的存储空间,它也是问题规模n的函数。

    • 渐近空间复杂度也常常简称为空间复杂度。

    • 空间复杂度(SpaceComplexity)是对一个算法在运行过程中临时占用存储空间大小的量度。

    • 算法的时间复杂度和空间复杂度合称为算法的复杂度。

    展开全文
  • 信息论基础概念

    2018-09-09 16:10:00
    信息论解答了通信理论中两个基本问题:临界数据压缩(答案:熵H)和临界通信传输速率值(答案:信道容量C) 熵 如果随机变量X概率密度函数为p(x),那么X熵定义为 使用以2为底对数函数,熵量纲为比特。熵...

    绪论

    信息论解答了通信理论中的两个基本问题:临界数据压缩(答案:熵H)和临界通信传输速率的值(答案:信道容量C)

    如果随机变量X的概率密度函数为p(x),那么X的熵定义为
    4F4XT0v.jpg
    使用以2为底的对数函数,熵的量纲为比特。熵可以看作是随机变量的平均不确定度的度量。在平均意义下,它是为了描述该随机变量所需的比特数。

    联合熵

    对于服从联合分布为p(x,y)的一对离散随机变量(X,Y),其联合熵是:
    e5gHFct.jpg
    上式也可以表示成:
    gEae5c6.jpg

    条件熵

    (X,Y)~p(x,y),条件熵的定义
    uBd5LJE.jpg
    联合熵和条件熵的定义的这种自然行可由一个事实得到体现,它就是一对随机变量的熵等于其中一个变量的熵加上另一个随机变量的条件熵
    kymZdrM.jpg

    互信息

    单个随机变量的熵为该随机变量的不确定度。涉及两个随机变量的条件熵H(X|Y),即一个随机变量在给定另外一个随机变量的条件下的熵。由另一随机变量导致的原随机变量不确定度的缩减量称为互信息。设XY是两个随机变量,那个这个缩减量为互信息
    1G33r3V.jpg
    互信息I(X;Y)是两个随机变量相互之间独立程度的度量,它关于XY对称,并且永远为非负值,当且仅当XY相互独立时,等于零。
    通信信道是一个系统,系统的输入信号按概率依赖于输入信号。该系统由一个转移概率矩阵p(y|x)决定,该矩阵决定在输入情况下输出的条件概率分布。对于输入信号为X和输出信号为Y的通信信道,定义它的信道容量C
    XG8Kao6.jpg

    相对熵(KL散度,信息增益)

    互信息实际上市更广泛量的相对熵D(p||q)的特殊情形。相对熵是两个概率密度函数p和q之间距离,定义为
    qK7tf1b.jpg
    尽管相对熵不是一个真正的度量(并不对称,也不满足三角不等式),但它有着度量的某些性质。相对熵总是非负的,为0的充分必要条件是p=q。

    互信息I(X;Y)为联合分布p(x,y)和乘积分布p(x)p(y)之间的相对熵:
    K9xVLl1.jpg
    AiqC5YR.jpg

    推理

    UQ2q1o6.jpg
    随机变量与自身的互信息为该随机变量的熵。有时,熵称为自信息
    013dekZ.jpg

    转载于:https://www.cnblogs.com/51zone/p/9613960.html

    展开全文
  • 进程的概念

    2010-06-19 12:09:00
    对于程序而言,进程是一个动态的概念,而程序是一个静态的概念,是指令的集合。因此,进程是具有动态性和并发性的。 从静态的角度看,进程实体由程序块、进程控制块(简称PCB)和数据块三部分组成。程序块描述该...

        进程是可以与其他程序并发执行的一次执行过程,是系统进行资源分配和调用度的基本单位。进程是一个程序关于某个数据集的一次运行。也就是说,进程是运行中的程序,是程序的一次运行活动。相对于程序而言,进程是一个动态的概念,而程序是一个静态的概念,是指令的集合。因此,进程是具有动态性和并发性的。

        从静态的角度看,进程实体由程序块、进程控制块(简称PCB)和数据块三部分组成。程序块描述该进程所完成的任务;数据块包括程序在执行时所需要的数据和工作区。进程控制模块包括进程的描述信息、控制信息、资源管理信息和CPU现场保护信息等,反映了进程的动态特性。

        在性能测试过程中,进程管理对开发工程师来说是一个难点。

    展开全文
  • 算法的概念及特性

    2020-12-18 21:07:09
    算法的概念 算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般地,当算法在处理信息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或...

    算法的概念
    算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般地,当算法在处理信息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或某个存储地址供以后再调用。

    算法是独立存在的一种解决问题的方法和思想。

    对于算法而言,实现的语言并不重要,重要的是思想。

    算法可以有不同的语言描述实现版本(如C描述、C++描述、Python描述等)。

    算法的五大特性
    输入
    算法具有0个或多个输入
    输出
    算法至少有1个或多个输出
    有穷性
    算法在有限的步骤之后会自动结束而不会无限循环,并且每一个步骤可以在可接受的时间内完成
    确定性
    算法中的每一步都有确定的含义,不会出现二义性
    可行性
    算法的每一步都是可行的,也就是说每一步都能够执行有限的次数完成

    展开全文
  • 算法基本概念

    2020-02-22 14:28:09
    一、算法的概念 算法是计算机处理信息的本质,因为计算机本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。 算法是独立存在的一种解决问题的方法和思想。 对于算法而言,实现的语言并不重要,重要的是...
  • linux中常用概念

    2020-08-17 14:39:00
    CPU中load average的概念: Load Average是 CPU的Load,它所包含的信息不是CPU的使用率状况,而是在一段时间内CPU正在处理以及等待CPU处理的进程数之和的统计信息,也就是CPU使用队列的长度的统计信息。 实际上...
  • 一、进程的概念 1、进程 进程就是PCB,是一个运行中程序的描述,通过描述信息中的内存指针能够找到内存中运行的程序代码以及数据,并且通过上下文数据可以保存程序调度切换时正在处理的数据,以及通过程序计数器保存...
  • 想入门机器学习同学,难免要接触决策树,而其中最重要一个概念就是信息熵,对于初次接触该概念的人是越百度越蒙圈。难得发现一个较为通俗易懂的描述,与大家分享下。 作者:知乎用户 链接:...
  • 算法的概念 算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般地,当算法在处理信息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或...
  • 我们每写一个java小项目,或者小...类的概念:类是一种对于事物的抽象,我们将一些信息总结起来对于一个事物的描述,比如说人类,那么我们可以创建一个类,里面保存着关于我们人类的一些信息,可以爬,跑,跳等等。
  • 算法的概念及五大特性

    万次阅读 2018-05-01 20:57:55
    算法的概念算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般地,当算法在处理信息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或...
  • 1、 信息熵:H(X) 描述X携带的信息量。 信息量越大(值变化越多),则越不确定,越不容易被预测。 对于抛硬币问题,每次有2种情况,信息熵为1 对于投骰子问题,每次有6中情况,信息熵为1.75 下面为公式: .....
  • 数据结构基本概念

    2020-07-05 12:18:47
    ​ **定义:**数据是信息的载体,是描述客观事物的符号。能被计算机识别并能被计算机处理的符号集合。在计算机中数据是计算机程序加工的原材料。 数据不仅仅包括整型、实型等数值类型,包括字符及声音、图像、视频等...
  •  (1)位置:特征点位置通过(x,y)坐标来描述,可以是,也可以是相对于三角点。  (2)方向:该特征点所在局部脊线方向。  (3)分类:特征点有以下几种类型:终结点、分叉点、分歧点、孤立
  • 对于解决技术问题很有用,但我也想思考如何将这些概念应用于不同领域和日常生活。 程序由各个部分组成。 为了使程序正常工作,需要对这些部分进行结构化,相互沟通和交互。 构造程序两种方式是“对象调用...
  • 进程的概念是什么? 对于操作系统来说: 进程是正在运行的程序 进程是可以分配处理器并由处理器执行的实体 而对于Linux内核来说: 进程是可担当分配系统资源的实体 2、如何描述一个进程 如何描述一个进程呢?这里...
  • 进程概念

    2020-06-12 18:22:49
    操作系统如何实现多个程序调度运行:将这个运行中程序描述起来,然后将这些描述组指起来进行管理通过实现对pcb调度管理实现对运行中程序切换调度运行--对于操作系统来说这个描述信息--pcb就是进程;...
  • 幂等和非幂等的概念

    2019-11-19 09:08:30
    在web中:(下面描述讲解是web) 幂等: 对于同一种行为,如果执行不论多少次,最终结果都是一致相同,就称这种行为是幂等。 (个人理解:不管是一次,还是多次操作,我们返回同样结果,且不修改状态信息,接口...
  •  (1)位置:特征点位置通过(x,y)坐标来描述,可以是绝对,也可以是相对于三角点。  (2)方向:该特征点所在局部脊线方向。  (3)分类:特征点有以下几种类型:终结点、分叉点、分歧点、
  • 面向对象基本概念

    2019-06-03 13:19:46
    一、对象:由数据及其操作所构成封装体,是系统中用来描述客观事物...如,对于姓名(标识)为Joe老师而言,其包含性别、年龄、职位等个人状态信息,同时还具有授课等行为特征,Joe就是封装后一个典型对象。 ...
  • 线程概念

    2018-12-01 17:05:22
    站在操作系统这个角度来谈进程,每一个进程它都有很多信息来描述它 -- PCB ,在 Linux 下这个描述进程信息的结构体就是 task_struct 。通过命令 ps -[参数选项] 来查看进程 再谈线程 官方定义:线程是一个进程...
  • 进程概念1

    2018-10-28 17:24:39
    比如在学校,我们作为学生要被管理起来,首先需要被各种信息进行描述起来(学号、姓名、班级等等),描述学生就相当于是结构体。同样进程需要被管理起来也需要先被描述起来,描述进程结构叫做PCB,其中对于Linux...
  • Event: 从设备上报的信息的抽象成一个事件(event),包括产生事件的对象,事件类型,事件时间,事件参数等信息。 Cmd: 对于从后端向设备发送命令抽象为指令,也抽象成一个remote call. http api调用,可以用contract...
  • 算法概念

    2019-11-17 09:46:21
    算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般地,当算法在处理信息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或某个存储地址...
  • 对于解决技术问题很有用,但我也想思考如何将这些概念应用于不同领域和日常生活。 程序由各个部分组成。 为了使程序正常工作,需要对这些部分进行结构化,相互沟通和交互。 构造程序两种方法是“对象调用行为...
  • ArcGIS中标注基本概念

    千次阅读 2014-05-15 15:10:37
    一般来说,标注是将描述性文本放置在地图中要素上或要素旁过程。在 ArcGIS 中,标注特指自动生成和放置地图要素的描述文本过程。... 对于许多要素,标注在将描述性文本添加到地图过程中非常有用。标注是一种向
  • 对于广大用户来说,只有从自身应用需求出发,破除技术和概念的神秘性,奉行“拿来主义”,避虚就实,密切关注技术发展方向,方可获得满意产品、解决方案和经济效益。 <br> 总之,数据仓库并非是一个仅仅...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 645
精华内容 258
关键字:

对于信息的概念描述