精华内容
下载资源
问答
  • 网络层次模型及各层对应协议
    千次阅读
    2020-02-21 22:12:36

    一、OSI七层模型

    OSI七层协议模型主要是:应用层(Application)、表示层(Presentation)、会话层(Session)、传输层(Transport)、网络层(Network)、数据链路层(Data Link)、物理层(Physical)。

    三、五层体系结构

    五层体系结构包括:应用层、运输层、网络层、数据链路层和物理层。 
    五层协议只是OSI和TCP/IP的综合,实际应用还是TCP/IP的四层结构。为了方便可以把下两层称为网络接口层。

    三种模型结构: 
    这里写图片描述

    这里写图片描述

    四、各层的作用

    1、物理层:比特

    主要定义物理设备标准,如网线的接口类型、光纤的接口类型、各种传输介质的传输速率等。它的主要作用是传输比特流(就是由1、0转化为电流强弱来进行传输,到达目的地后在转化为1、0,也就是我们常说的数模转换与模数转换)。这一层的数据叫做比特。   

    2、数据链路层:帧

    定义了如何让格式化数据以进行传输,以及如何让控制对物理介质的访问。这一层通常还提供错误检测和纠正,以确保数据的可靠传输。   

    3、网络层:数据报

    在位于不同地理位置的网络中的两个主机系统之间提供连接和路径选择。Internet的发展使得从世界各站点访问信息的用户数大大增加,而网络层正是管理这种连接的层。   

    4、运输层:报文段/用户数据报

    定义了一些传输数据的协议和端口号(WWW端口80等),如: 
    TCP(transmission control protocol –传输控制协议,传输效率低,可靠性强,用于传输可靠性要求高,数据量大的数据) 
    UDP(user datagram protocol–用户数据报协议,与TCP特性恰恰相反,用于传输可靠性要求不高,数据量小的数据,如QQ聊天数据就是通过这种方式传输的)。 主要是将从下层接收的数据进行分段和传输,到达目的地址后再进行重组。常常把这一层数据叫做段。   

    5、会话层:

    通过运输层(端口号:传输端口与接收端口)建立数据传输的通路。主要在你的系统之间发起会话或者接受会话请求(设备之间需要互相认识可以是IP也可以是MAC或者是主机名)   

    6、表示层:

    可确保一个系统的应用层所发送的信息可以被另一个系统的应用层读取。例如,PC程序与另一台计算机进行通信,其中一台计算机使用扩展二一十进制交换码(EBCDIC),而另一台则使用美国信息交换标准码(ASCII)来表示相同的字符。如有必要,表示层会通过使用一种通格式来实现多种数据格式之间的转换。   

    7.应用层:报文

    1 第五层——应用层(application layer) 

    • 应用层(application layer):是体系结构中的最高。直接为用户的应用进程(例如电子邮件、文件传输和终端仿真)提供服务。
    • 在因特网中的应用层协议很多,如支持万维网应用的HTTP协议,支持电子邮件的SMTP协议,支持文件传送的FTP协议,DNS,POP3,SNMP,Telnet等等。

    2. 第四层——运输层(transport layer)

    • 运输层(transport layer):负责向两个主机中进程之间的通信提供服务。由于一个主机可同时运行多个进程,因此运输层有复用和分用的功能
    • 复用,就是多个应用层进程可同时使用下面运输层的服务。
    • 分用,就是把收到的信息分别交付给上面应用层中相应的进程。
    • 运输层主要使用以下两种协议: 
      (1) 传输控制协议TCP(Transmission Control Protocol):面向连接的,数据传输的单位是报文段,能够提供可靠的交付。 
      (2) 用户数据包协议UDP(User Datagram Protocol):无连接的,数据传输的单位是用户数据报,不保证提供可靠的交付,只能提供“尽最大努力交付”。

    3. 第三层——网络层(network layer)

    • 网络层(network layer)主要包括以下两个任务:
    • (1) 负责为分组交换网上的不同主机提供通信服务。在发送数据时,网络层把运输层产生的报文段或用户数据报封装成分组或包进行传送。在TCP/IP体系中,由于网络层使用IP协议,因此分组也叫做IP数据报,或简称为数据报。
    • (2) 选中合适的路由,使源主机运输层所传下来的分组,能够通过网络中的路由器找到目的主机。
    • 协议:IP,ICMP,IGMP,ARP,RARP

    4. 第二层——数据链路层(data link layer)

    • 数据链路层(data link layer):常简称为链路层,我们知道,两个主机之间的数据传输,总是在一段一段的链路上传送的,也就是说,在两个相邻结点之间传送数据是直接传送的(点对点),这时就需要使用专门的链路层的协议。
    • 在两个相邻结点之间传送数据时,数据链路层将网络层交下来的IP数据报组装成帧(framing),在两个相邻结点之间的链路上“透明”地传送帧中的数据。
    • 每一帧包括数据和必要的控制信息(如同步信息、地址信息、差错控制等)。典型的帧长是几百字节到一千多字节。
    • 注:”透明”是一个很重要的术语。它表示,某一个实际存在的事物看起来却好像不存在一样。”在数据链路层透明传送数据”表示无力什么样的比特组合的数据都能够通过这个数据链路层。因此,对所传送的数据来说,这些数据就“看不见”数据链路层。或者说,数据链路层对这些数据来说是透明的。 
      (1)在接收数据时,控制信息使接收端能知道一个帧从哪个比特开始和到哪个比特结束。这样,数据链路层在收到一个帧后,就可从中提取出数据部分,上交给网络层。 
      (2)控制信息还使接收端能检测到所收到的帧中有无差错。如发现有差错,数据链路层就简单地丢弃这个出了差错的帧,以免继续传送下去白白浪费网络资源。如需改正错误,就由运输层的TCP协议来完成。

    5. 第一层——物理层(physical layer)

    • 物理层(physical layer):在物理层上所传数据的单位是比特。物理层的任务就是透明地传送比特流。

    6. 数据在各层之间的传递过程

    这里写图片描述



    更多相关内容
  • 计算机网络(一),网络层次模型

    千次阅读 2019-02-07 13:25:00
    一、网络层次模型 1.OSI网络7层模型(概念型框架)  OSI是一个开放性的通行系统互连参考模型,他是一个定义的非常好的协议规范。这是一个概念型框架 (1)应用层:与其他计算机进行通讯的一个应用,它是对应应用...

    目录

    1.OSI网络七层模型(概念型框架)

    2.计算机网络五层模型

    3.TCP/IP四层模型

    一、网络层次模型

    1.OSI网络7层模型(概念型框架)

      OSI是一个开放性的通行系统互连参考模型,他是一个定义的非常好的协议规范。这是一个概念型框架

    (1)应用层:与其他计算机进行通讯的一个应用,它是对应应用程序的通信服务的。例如,一个没有通信功能的字处理程序就不能执行通信的代码,从事字处理工作的程序员也不关心OSI的第7层。但是,如果添加了一个传输文件的选项,那么字处理器的程序员就需要实现OSI的第7层。示例:telnetHTTP,FTP,WWW,NFS,SMTP等。

    2表示层:这一层的主要功能是定义数据格式及加密。例如,FTP允许你选择以二进制或ASII格式传输。如果选择二进制,那么发送方和接收方不改变文件的内容。如果选择ASII格式,发送方将把文本从发送方的字符集转换成标准的ASII后发送数据。在接收方将标准的ASII转换成接收方计算机的字符集。示例:加密,ASII等。

    3会话层:他定义了如何开始、控制和结束一个会话,包括对多个双向小时的控制和管理,以便在只完成连续消息的一部分时可以通知应用,从而使表示层看到的数据是连续的,在某些情况下,如果表示层收到了所有的数据,则用数据代表表示层。示例:RPCSQL等。

    4传输层:这层的功能包括是否选择差错恢复协议还是无差错恢复协议,及在同一主机上对不同应用的数据流的输入进行复用,还包括对收到的顺序不对的数据包的重新排序功能。示例:TCPUDPSPX

    5网络层:这层对端到端的包传输进行定义,他定义了能够标识所有结点的逻辑地址,还定义了路由实现的方式和学习的方式。为了适应最大传输单元长度小于包长度的传输介质,网络层还定义了如何将一个包分解成更小的包的分段方法。示例:IP,IPX等。

    (6)数据链路层:他定义了在单个链路上如何传输数据。这些协议与被讨论的各种介质有关。示例:ATMFDDI等。

    (7)物理层OSI的物理层规范是有关传输介质的特性标准,这些规范通常也参考了其他组织制定的标准。连接头、针、针的使用、电流、电流、编码及光调制等都属于各种物理层规范中的内容。物理层常用多个规范完成对所有细节的定义。示例:Rj45802.3等。

     

    自上而下进行数据加工,然后自下而上进行处理数据

     

    2.计算机网络五层模型

      这是学习计算机网络时候学习到的计算机网络分层,没有表现层和会话层

    3.TCP/IP四层模型

      OSI是一个定义良好的协议规范机,并有许多可选的部分完成类似的任务,他定义了开发系统的层次结构,层次之间的相互关系,以及各层包括的所有的可能的任务,是作为一个框架来协调和组织各层提供的服务。但是OSI参考模型并没有提供一个可以实现的方法,惹事描述了一些概念,用来协调进程间通讯标准的制定,即OSI参考模型并不是一个标准而是一个在指定标准时所使用的概念型框架。真正的标准时TCP/IP四层模型。

     

     

    转载于:https://www.cnblogs.com/xzmxddx/p/10354713.html

    展开全文
  • 神经网络模型介绍

    万次阅读 多人点赞 2019-04-03 22:44:14
    本文在介绍神经网络算法模型基础知识的同时,详细阐述了正向传播神经网络的计算过程。 斯坦福大学教授Andrew Ng(吴恩达)在Coursera网课平台上开设的Machine Learning课程,非常适合机器学习新手入门,看过之后有...

    本文在介绍神经网络算法模型基础知识的同时,详细阐述了正向传播神经网络的计算过程。

    斯坦福大学教授Andrew Ng(吴恩达)在Coursera网课平台上开设的Machine Learning课程,非常适合机器学习新手入门,看过之后有种豁然开朗的感觉。但这门课程是英文讲解的,况且对于快速理解神经网络算法来讲,观看视频课程全面学习Machine Learning的知识体系,效率自然不如阅读专题文章。这是我花费精力写这篇文章的主要原因。本文结构与算法描述方式也主要借鉴于Andrew Ng的课程。只是在细节的地方做了些调整和补充。在这里提前做出说明,避免误被控诉为抄袭。

    写本文之前,我查阅了大量网络上相关的文章。发现这些文章大多存在两个极端:一部分太注重于解释神经网络的感性理解,忽略了数学基础,太过简单;另一部分则又过于学术化,大量的复杂公式推导,让很多感兴趣的读者望而却步。我以为,尽管神经网络听上去很深奥,但其实要理解并掌握它的算法原理,并非那么困难。因此,本文想要从感性理解和理性认知两者中间找到合适的平衡,暂且跳过复杂的参数求解过程,从简单的理论出发,一步步阐述神经网络的基本计算方式,让读者可以快速对神经网络算法有个比较直观的认识。

    建议英文基础较好,并且有精力的读者学习Andrew的这门课程,我将链接附在这里:https://www.coursera.org/learn/machine-learning

    1.神经网络算法的创造缘由

    在基础机器学习中,Linear Regression和Logistic Regression都能够拟合输入和输出之间的定量关系,并根据新的输入预测输出值或者进行分类。那为什么还需要神经网络这样的复杂算法呢?主要有两方面的原因:一是现实生活中的很多问题并非线性的。二是在Linear Regression和Logistic Regression模型中,当输入特征的数量比较大时,模型参数的解算效率会非常低。并且随着输入特征数量的增长,参数解算效率以指数形式降低,非常不利于模型学习和应用。

    1.1 非线性问题

    非线性问题比线性问题要复杂的多,但却是现实世界中的最常见的问题形式。对于非线性问题,Linear Regression和Logistic Regression不能达到很好的效果。简单举个例子。假设有两个输入要素,分别是 x 1 , x 2 ∈ R ​ x_1, x_2 ∈ R​ x1,x2R,下图表示了 x 1 ​ x_1​ x1 x 2 ​ x_2​ x2构成的两个不同类别的点分布情况。可以看到,这两个类别是没有办法用一条直线进行分割的。现为了区分开这两个类别,在Logistic Regression模型中,就需要引入高阶变量,例如 x 1 x 2 , x 1 2 x 2 , x 1 x 2 2 ​ x_1x_2, x_1^2x_2, x_1x_2^2​ x1x2,x12x2,x1x22等等作为新的输入要素加入模型,这首先会带来输入要素的数量增加,且高阶变量自然会让模型变得更加复杂,同时容易引起Overfitting的问题。
    在这里插入图片描述

    1.2 大量特征带来的问题

    除了上面讲到的非线性问题导致的特征数量增多的情况,现实生活中的很多问题,其特征本来就是非常多的。计算机视觉问题就是典型的例子。图像通过像素矩阵来表示现实世界的物体,像素矩阵中的点往往非常多,将这些像素点的值作为特征输入模型,庞大的特征数量是显而易见的。而当特征数量上升时,线性回归和逻辑回归模型会让求解变得非常慢。事实上,这个关系根据使用的输入特征阶数的不同,线性回归和逻辑回归模型的参数求解会有 O ( n 2 ) 、 O ( n 3 ) O(n^2)、O(n^3) O(n2)O(n3)等时间复杂度。传统的输入特征为1~1000时尚可接受,而一个普通 50 ∗ 50 50*50 5050的灰度图像像素矩阵,输入特征都是2500个,更别说更大、更复杂的图像了,
    在这里插入图片描述

    2.神经网络模型表示

    2.1 神经网络的结构和数学定义

    (1)模型结构

    神经网络模型包含三个部分:input layer(输入层)、hidden layer(中间层或隐藏层)、output layer(输出层)。其中,hidden layer的层数不固定,在某些简单问题中,hidden layer的层数可能为0,仅有input layer和output layer;在复杂问题中,hidden layer的层数也可能成百上千。
    在这里插入图片描述

    模型中每一层的节点称为“神经元”。位于input layer的神经元对应着训练数据的特征。hidden layer和output layer中的神经元由activation function(激活函数)表达,我们用字母 g ​ g​ g表示。Activation function有很多种类型,最常用是sigmoid函数,它的表达式如下:
    s i g m o i d ( x ) = 1 1 + e − x sigmoid(x)=\frac{1}{1+e^{-x}} sigmoid(x)=1+ex1
    sigmoid函数图像如下图所示。当 x &gt; &gt; 0 ​ x&gt;&gt;0​ x>>0时, f ( x ) ​ f(x)​ f(x)无限逼近于1;当 x &lt; &lt; 0 ​ x&lt;&lt;0​ x<<0时, f ( x ) ​ f(x)​ f(x)无限逼近于0;当 x = 0 ​ x=0​ x=0时, f ( x ) = 0.5 ​ f(x)=0.5​ f(x)=0.5

    在这里插入图片描述

    (2)训练样本数据

    为了深入阐述神经网络模型算法过程,我们来定义一些需要用到的数学变量和符号。

    我们用 x x x表示输入的特征向量, x i x_i xi表示单独的特征变量。 y y y表示真实类别标签向量, y i y_i yi对应单独的真实类别,为了简单起见,我们先从二元分类讲起,也就是说 y ∈ { 0 , 1 } y∈\{0,1\} y{0,1}。假如,我们想训练一个神经网络模型,根据房子的某些特征自动判断该房子是否为别墅,那么特征向量 x x x就可以表示为:
    x = [ x 1 = 卧 室 数 目 x 2 = 客 厅 面 积 x 3 = 总 体 面 积 . . . ] x=\begin{bmatrix}x_1=卧室数目\\x_2=客厅面积\\x_3=总体面积\\...\end{bmatrix} x=x1=x2=x3=...
    其中,卧室数目、客厅面积、总体面积等等数据都是特征变量,它们共同衡量了房子的属性。并且,我们定义当 y = 1 y=1 y=1时,表示该房子为别墅;当 y = 0 y=0 y=0时,表示房子为其他类型。这样,我们就可以收集整理一些如下表所示的训练样本数据:

    卧室数目( x 1 x_1 x1客厅面积( x 2 x_2 x2总体面积( x 3 x_3 x3别墅?
    8603001
    220900
    10804001

    (3)模型数学表示

    为了方便使用数学表示,我们不单独为input layer、hidden layer和output layer定义数学表示,而是使用 a = { a ( 1 ) , a ( 2 ) , a ( 3 ) , . . . , a ( n ) } a=\{a^{(1)}, a^{(2)}, a^{(3)},...,a^{(n)}\} a={a(1),a(2),a(3),...,a(n)}来表示从左到右的各个层。例如在简单的三层神经网络模型中, a ( 1 ) a^{(1)} a(1)表示输入层, a ( 2 ) a^{(2)} a(2)表示中间层, a ( 3 ) a^{(3)} a(3)表示输出层。用 θ j ( i ) \theta_j^{(i)} θj(i)来表示各层对应的权重参数, i i i表示层号, j j j表示该层中的神经元。由此,一个简单的三层神经网络模型中,各个结构的数学可以表示如下图:
    在这里插入图片描述

    2.2 Forward Propagation

    我们以Forward Propagation(正向传递)计算过程为例,详细介绍神经网络模型当中的数学计算。为了简单起见,我们以下图中展示的神经网络模型为例。这里我们先暂时不介绍模型参数求解相关方法,而是假设已经计算得到了所有的模型参数值。
    在这里插入图片描述
    在这个模型中,第一层有2个神经元,分别用 x 1 , x 2 x_1, x_2 x1,x2表示;第二层包含2个神经元,分别用 a 1 ( 2 ) , a 2 ( 2 ) a_1^{(2)}, a_2^{(2)} a1(2),a2(2)表示;第三层只有1个神经元,用 h θ ( x ) h_\theta(x) hθ(x)表示(我们用 y y y表示了数据的真实类型,这里便用 h θ ( x ) h_\theta(x) hθ(x)表示模型的输出值,以示区别);各神经元之间的连接权重参数 θ ​ \theta​ θ在图中有详细表示。

    由于神经网络模型计算需要使用到Linear Regression的参数乘积运算,而在参数乘积运算中:
    h θ ( x ) = θ T x = θ 0 + θ 1 x 1 + θ 2 x 2 + . . . + θ n x n 其 中 , x = [ x 1 x 2 ] , θ = [ θ 0 θ 1 θ 2 ] h_\theta(x)=\theta^Tx=\theta_0+\theta_1x_1+\theta_2x_2+...+\theta_nx_n\\ 其中,\\ x=\begin{bmatrix}x_1\\x_2\end{bmatrix}, \theta=\begin{bmatrix}\theta_0\\\theta_1\\\theta_2\end{bmatrix} hθ(x)=θTx=θ0+θ1x1+θ2x2+...+θnxnx=[x1x2],θ=θ0θ1θ2
    为了让 x x x θ \theta θ两个向量“对齐”,便于方便地使用向量运算方法表示计算过程,我们人为加入值为1的常量 x 0 x_0 x0,于是上面的式子就变为:
    h θ ( x ) = θ T x = θ 0 x 0 + θ 1 x 1 + θ 2 x 2 + . . . + θ n x n 其 中 , x = [ x 0 x 1 x 2 ] , θ = [ θ 0 θ 1 θ 2 ] h_\theta(x)=\theta^Tx=\theta_0x_0+\theta_1x_1+\theta_2x_2+...+\theta_nx_n\\ 其中,\\ x=\begin{bmatrix}x_0\\x_1\\x_2\end{bmatrix}, \theta=\begin{bmatrix}\theta_0\\\theta_1\\\theta_2\end{bmatrix} hθ(x)=θTx=θ0x0+θ1x1+θ2x2+...+θnxnx=x0x1x2,θ=θ0θ1θ2
    同样,我们也在神经网络模型中,需要进行参数乘积运算的地方加入bias神经元,如下图所示:
    在这里插入图片描述
    最后,我们假设使用的activation function为sigmoid函数,也就是 g ( x ) = s i g m o i d ( x ) g(x)=sigmoid(x) g(x)=sigmoid(x),于是Forward Propagation的计算过程如下

    1. 计算第一层变量与对应参数的乘积,作为第二层的输入。
      ( θ 1 ( 1 ) ) T x = θ 10 ( 1 ) x 0 + θ 11 ( 1 ) x 1 + θ 12 ( 1 ) x 2 ( θ 2 ( 1 ) ) T x = θ 20 ( 2 ) x 0 + θ 21 ( 1 ) x 1 + θ 22 ( 1 ) x 2 (\theta_1^{(1)})^Tx=\theta_{10}^{(1)}x_0+\theta_{11}^{(1)}x_1+\theta_{12}^{(1)}x_2 \\ (\theta_2^{(1)})^Tx=\theta_{20}^{(2)}x_0+\theta_{21}^{(1)}x_1+\theta_{22}^{(1)}x_2 (θ1(1))Tx=θ10(1)x0+θ11(1)x1+θ12(1)x2(θ2(1))Tx=θ20(2)x0+θ21(1)x1+θ22(1)x2

    2. 使用sigmoid函数计算第二层中各神经元的值:
      s i g m o i d ( θ T x ) = 1 1 + e − θ T x a 1 ( 2 ) = s i g m o i d ( θ 1 ( 1 ) ) T x a 2 ( 2 ) = s i g m o i d ( θ 2 ( 1 ) ) T x sigmoid(\theta^Tx)=\frac{1}{1+e^{-\theta^Tx}} \\ a_1^{(2)}=sigmoid(\theta_1^{(1)})^Tx \\ a_2^{(2)}=sigmoid(\theta_2^{(1)})^Tx sigmoid(θTx)=1+eθTx1a1(2)=sigmoid(θ1(1))Txa2(2)=sigmoid(θ2(1))Tx

    3. 将第二层计算结果与对应参数的乘积,作为第三层的输入:
      ( θ 1 ( 2 ) ) T a = θ 10 ( 2 ) a 0 ( 2 ) + θ 11 ( 2 ) a 1 ( 2 ) + θ 12 ( 2 ) a 2 ( 2 ) (\theta_1^{(2)})^Ta=\theta_{10}^{(2)}a_0^{(2)}+\theta_{11}^{(2)}a_1^{(2)}+\theta_{12}^{(2)}a_2^{(2)} (θ1(2))Ta=θ10(2)a0(2)+θ11(2)a1(2)+θ12(2)a2(2)

    4. 使用sigmoid函数计算第三层的值:
      h θ ( x ) = s i g m o i d ( ( θ 1 ( 2 ) ) T a ) = 1 1 + e − ( θ 1 ( 2 ) ) T a h_\theta(x)=sigmoid((\theta_1^{(2)})^Ta)=\frac{1}{1+e^{-(\theta_1^{(2)})^Ta}} hθ(x)=sigmoid((θ1(2))Ta)=1+e(θ1(2))Ta1

    5. 根据 h θ ( x ) h_\theta(x) hθ(x)的值,做出判断。

    是的,尽管神经元增加了以后,整个运算会看起来很复杂,但是模型当中的计算过程实际上就是这么简单。使用不同的activation function,只需要替换以上算法过程中的sigmoid函数就可以。增加hidden layer的层数,也不过是重复以上迭代过程而已。

    2.3 神经网络模型表示逻辑关系

    为什么神经网络模型按照上文介绍的计算方法,就能够表示非线性问题?下面我们通过神经网络模型表示逻辑关系的例子,来看看神经网络模型的“奇妙”之处。

    逻辑关系包含“AND”、“OR”、“NOT”、“XOR”4种简单运算。现实世界中错综复杂的问题,常常可以用这些简单逻辑运算的排列组合来表达。

    (1)“AND”关系的表示

    “AND”关系定义为:
    x 1 , x 2 ∈ { 0 , 1 } ,      y = x 1   A N D   x 2 x_1, x_2 ∈ \{0,1\},\ \ \ \ y=x_1\ AND\ x_2 x1,x2{0,1},    y=x1 AND x2
    只有 x 1 x_1 x1 x 2 x_2 x2同时为1时, h θ ( x ) h_\theta(x) hθ(x)才为1,否则 h θ ( x ) ​ h_\theta(x)​ hθ(x)为0。

    用下图所示的神经网络就可以表示“AND”关系:
    在这里插入图片描述
    图中表示的参数并不是唯一的。根据Forward Propagation,这个神经网络的计算结果可以表示为:
    h θ ( x ) = g ( − 30 + 20 x 1 + 20 x 2 ) h_\theta(x)=g(-30+20x_1+20x_2) hθ(x)=g(30+20x1+20x2)
    实际上,这样的简单神经网络模型等同于logistic regression。代入 x 1 , x 2 ​ x_1,x_2​ x1,x2的值检验一下模型计算结果,可以得到如下表所示关系:

    x 1 x_1 x1 x 2 x_2 x2 h θ ( x ) h_\theta(x) hθ(x)
    00 g ( − 30 ) ≈ 0 g(-30)≈0 g(30)0
    01 g ( − 10 ) ≈ 0 g(-10)≈0 g(10)0
    10 g ( − 10 ) ≈ 0 g(-10)≈0 g(10)0
    11 g ( + 10 ) ≈ 1 g(+10)≈1 g(+10)1

    可以看到,只有 x 1 , x 2 x_1,x_2 x1x2同时为1时, h ( θ ) h(\theta) h(θ)才能等于1。因此,这个神经网络模型正确表示出了“AND”逻辑运算。

    (2)“OR”关系的表示

    “OR”关系定义为:
    x 1 , x 2 ∈ { 0 , 1 } ,      y = x 1   O R   x 2 x_1, x_2 ∈ \{0,1\},\ \ \ \ y=x_1\ OR\ x_2 x1,x2{0,1},    y=x1 OR x2
    x 1 ​ x_1​ x1 x 2 ​ x_2​ x2有一个等于1时, y ​ y​ y就等于1,否则 y ​ y​ y等于0。

    我们定义一个如下图所示的神经网络模型:
    在这里插入图片描述

    这个模型同样简单,可以表示为:
    h θ ( x ) = g ( − 10 + 20 x 1 + 20 x 2 ) h_\theta(x)=g(-10+20x_1+20x_2) hθ(x)=g(10+20x1+20x2)
    代入 x 1 , x 2 ​ x_1,x_2​ x1,x2,可以发现该模型能正确表示“OR”逻辑运算。具体计算结果如下表所示:

    x 1 x_1 x1 x 2 x_2 x2 h θ ( x ) h_\theta(x) hθ(x)
    00 g ( − 10 ) ≈ 0 g(-10)≈0 g(10)0
    01 g ( + 10 ) ≈ 1 g(+10)≈1 g(+10)1
    10 g ( + 10 ) ≈ 1 g(+10)≈1 g(+10)1
    11 g ( + 10 ) ≈ 1 g(+10)≈1 g(+10)1

    (3)“NOT”关系的表示

    “NOT”即“非”或“否”,关系表示为:
    x 1 ∈ { 0 , 1 } ,      y = N O T   x 1 x_1∈ \{0,1\},\ \ \ \ y=NOT\ x_1 x1{0,1},    y=NOT x1
    也就是当 y y y值总是 x x x值的反面。用神经网络模型表示“NOT”关系就更容易了,如下图所示:
    在这里插入图片描述

    这个神经网络可以表示为:
    h θ ( x ) = g ( 10 − 20 x 1 ) h_\theta(x)=g(10-20x_1) hθ(x)=g(1020x1)
    代入 x 1 ​ x_1​ x1的值,可以发现该模型能正确表示“NOT”逻辑运算。具体计算结果如下表所示:

    x 1 x_1 x1 h θ ( x ) h_\theta(x) hθ(x)
    0 g ( + 10 ) ≈ 1 g(+10) ≈ 1 g(+10)1
    1 g ( − 20 ) ≈ 0 g(-20) ≈ 0 g(20)0

    (4)“XNOR”关系的表示

    “XNOR”在中文中常被翻译为“异或”,它的数学定义如下:
    x 1 , x 2 ∈ { 0 , 1 } ,      y = x 1   X O R   x 2 x_1, x_2 ∈ \{0,1\},\ \ \ \ y=x_1\ XOR\ x_2 x1,x2{0,1},    y=x1 XOR x2
    x 1 , x 2 x_1, x_2 x1,x2同为0或者同为1时, y = 1 y=1 y=1;当 x 1 , x 2 x_1, x_2 x1,x2中有一个为1,另一个为0时, y = 0 y=0 y=0

    在表示“AND”、“OR”和“NOT”关系时,我们都仅仅使用了结构非常简单的神经网络模型。而在表示“XNOR”关系时,以上的简单神经网络模型就不够用了,需要加入其他的神经元。如下图所示:
    在这里插入图片描述
    我们来计算一下:
    a 1 ( 2 ) = g ( − 30 + 20 x 1 + 20 x 2 ) a 2 ( 2 ) = g ( 10 − 20 x 1 − 20 x 2 ) 并 且 h θ ( x ) = a 1 ( 3 ) = g ( − 10 + 20 a 1 ( 2 ) + 20 a 1 ( 2 ) ) a_1^{(2)} = g(-30+20x_1+20x_2) \\ a_2^{(2)} = g(10-20x_1-20x_2) \\ 并且\\ h_\theta(x) =a_1^{(3)}= g(-10+20a_1^{(2)}+20a_1^{(2)}) a1(2)=g(30+20x1+20x2)a2(2)=g(1020x120x2)hθ(x)=a1(3)=g(10+20a1(2)+20a1(2))

    同样,用表格的形式分别代入 x 1 , x 2 x_1, x_2 x1,x2的值,对应关系如下:

    x 1 x_{1} x1 x 2 x_2 x2 a 1 ( 2 ) a_1^{(2)} a1(2) a 2 ( 2 ) a_2^{(2)} a2(2) h θ ( x ) h_\theta(x) hθ(x)
    00 g ( − 30 ) ≈ 0 g(-30) ≈ 0 g(30)0 g ( + 10 ) ≈ 1 g(+10) ≈ 1 g(+10)1 g ( + 10 ) ≈ 1 g(+10) ≈ 1 g(+10)1
    01 g ( − 10 ) ≈ 0 g(-10)≈0 g(10)0 g ( − 10 ) ≈ 0 g(-10)≈0 g(10)0 g ( − 10 ) ≈ 0 g(-10)≈ 0 g(10)0
    10 g ( − 10 ) ≈ 0 g(-10)≈ 0 g(10)0 g ( − 10 ) ≈ 0 g(-10) ≈ 0 g(10)0 g ( − 10 ) ≈ 0 g(-10) ≈ 0 g(10)0
    11 g ( + 10 ) ≈ 1 g(+10) ≈ 1 g(+10)1 g ( − 30 ) ≈ 0 g(-30) ≈ 0 g(30)0 g ( + 10 ) ≈ 1 g(+10) ≈ 1 g(+10)1

    通过上面的几个神经网络实现逻辑运算的例子可以看出,即便是不使用中间层,神经网络就能够正确表示出“AND”、“OR”和“NOT”逻辑运算关系。“XNOR”关系的表达也仅仅只需要引入两个中间层的神经元而已。那么,当中间层的数目不断增加,神经元的数量不断增加,这些简单逻辑关系不断组合,就能够表达出错综复杂的“非线性”关系。这正是神经网络模型的奥妙之处。当然,这并不表示神经元越多、结构越复杂,就一定越好。结构越复杂,运算所需要的代价就越大。面向不同的应用、不同的数据,选择“最优”的神经网络模型结构,才是最佳策略。选择“最优”的过程实际上就是神经网络的参数调节过程,常被称为“调参”。具体如何对神经网络模型进行“调参”,本文就不作展开了,感兴趣的朋友可以通过机器学习课程,或者网络上的学习资源进行深入研究。

    3. 多类别分类

    上面我们讨论的都是二元分类问题,输出层只有一个神经元,输出结果要么是1,要么是0。现实世界中的分类应用要复杂的多。例如,一幅图片有可能被分类为猫、狗、大象等等类别。那么,如何用一个神经网络模型来同时得出多种不同的分类结果呢?

    事实上,我们采用的策略非常简单,即在输出层中设置多个神经元,每个输出层代表一个类别。如下图所示。
    在这里插入图片描述

    在上图所示的神经网络结构中,输出层中的每个神经元都会有一个计算结果,我们综合比较每个结果数值,选择值最大的那个神经元所对应的类别,作为最终的计算类别。例如,假设我们输入某个新图像 x i ​ x_i​ xi,模型计算得到如下结果:
    h ( θ ) = [ 0.2 0.3 0.7 ] h(\theta)=\begin{bmatrix}0.2\\0.3\\0.7\\\end{bmatrix} h(θ)=0.20.30.7
    那么,我们就取0.7那个神经元所对应的类别,作为图像 x i x_i xi的类别。这里这个类别为“大象”。

    本文暂且假设所有参数已知,详细介绍了神经网络内部是如何进行运算并作出类别判断的。具体涉及的cost function, gradient descent等参数求解的算法,将在未来作出补充。有较好英文基础的朋友,也可以直接学习Andrew Ng的课程视频。

    展开全文
  • 网络分层模型简介

    千次阅读 2018-08-03 14:42:39
    自上而下:应用层,表示层,会话层,传输层,网络层,链路层,物理层 物理层:最底层或第一层,该层包括物理联网媒介,双绞线、同轴电缆、光纤等。物理层的协议产生并检测电压以便发送和接收携带数据的信号,一般...

    这里写图片描述

    1. OSI(Open System Interconnect )参考模型

    自上而下:应用层,表示层,会话层,传输层,网络层,链路层,物理层
    这里写图片描述
    物理层:最底层或第一层,该层包括物理联网媒介,双绞线、同轴电缆、光纤等。物理层的协议产生并检测电压以便发送和接收携带数据的信号,一般是0 1信号。传输这种信息就要用到物理媒体,双绞线、同轴电缆、光纤等,但具体的物理媒体不在OSI的7层模型内,有人把物理媒体当做第0层。物理层的任务就是为它的上一层提供一个物理连接,以及它们的机械、电气、功能和过程特性。如规定使用电缆和接头的类型、传送信号的电压等。在这一层,数据还没有被组织,仅作为原始的位流或电气电压处理,单位是bit比特。

    数据链路层:给电信号分组(以太网帧),并以广播的方式在子网中传播(每一个接收者比较目标MAC地址和自己的MAC地址可知自己是不是对方要找的人)。为了保证传输,从网络层接收到的数据被分割成特定的可被物理层传输的帧。帧是用来移动数据的结构包,它不仅包括原始数据,还包括发送方和接收方的物理地址以及检错和控制信息。其中的地址确定了帧将发送到何处,而纠错和控制信息则确保帧无差错到达。如果在传送数据时,接收点检测到所传送的互数据中有差错,就要通知发送方重发这一帧。数据链路层在不可靠的物理介质上提供可靠的传输。该层的作用包括:物理地址寻址、数据的成帧、流量控制、数据的检错、重发等。交换机工作在这一层。数据链路层协议的代表有:SDLC、HDLC、PPP、STP、帧中继等。

    网络层:给主机分配IP地址,判断两个IP是否属于同一子网,是则通过链路层发送,否则交给网关转发,实现了数据从子网A到子网B的传送。其主要功能是将网络地址翻译成对应的物理地址,并决定如何将数据从发送方路由到接收方。网路层通过综合考虑发送优先权、网络拥塞程度、服务质量以及可路由的话费来决定从一个网络中节点A到另一个网络中节点B的最佳路径。由于网络层处理,并智能指导数据传送,路由器连接网络各段,所以路由器工作在网络层。网络层是可选的,它只用于当两个计算机系统处于不用的路由器分割开的网段这种情况,或者当通信引用要求某种网络层或传输层提供给的服务、特性或者能力时。例如,当两台主机处于同一个LAN网段的直接相连这种情况,他们之间的通信只使用LAN的通信机制就可以了(即OSI参考模型的一二层)。

    传输层:OSI模型中最重要的一层。传输协议同时进行流量控制或是基于接收方可接收数据的快慢程度规定适当的发送速率。除此之外,传输层按照网络能处理的最大尺寸将较长的数据包进行强制分割。例如,以太网无法接收大于1500字节的数据包。发送方节点的传输层将数据分割成较小的数据片,同时对每一数据片安排一序列号。工作在这一层的协议是TCP(传输控制协议)、UDP(用户数据报协议)。TCP提供面向连接的可靠传输,UDP是面向非连接的非可靠传输(QQ即时通讯)。

    会话层:负责在网络中的两节点之间建立、维持和终止通信。会话层的功能包括:建立通信连接,保持会话过程通信连接的畅通,同步两个节点之间的对话,决定通信是否被中断以及通信中断时决定从何处重新发送。

    表示层:应用程序和网络之间的翻译官,在表示层,数据按照网络能理解的方案进行格式化;这种格式化也因所使用的网络的类型不同而不同。表示层管理数据的解密与加密,如系统口令的处理。例如:在Internet上查询你银行账户,使用的即是一种安全连接。你的账户数据在发送前被加密,在网络的另一端,表示层将对接收到的数据解密。除此之外,表示层协议还对图片和文件格式信息进行解码和编码。

    应用层:应用层也称为应用实体,它由若干个特定应用服务元素(SASE)和一个或多个共用应用服务元素(CASE)组成。例如文件传输访问和管理(FTAM)、电子文电处理(MHS)、虚拟终端协议(VAP)等。应用层负责对软件提供接口以使程序能使用网络服务,应用层提供的服务包括文件传输、文件管理以及电子邮件的信息处理等。代表协议有SMTP、FTP、HTTP等。

    2. TCP/IP四层模型

    自上而下:应用层,运输层,网际互连层,网络接口层(主机-网络层,对应于链路层和物理层)
    这里写图片描述

    3. 五层互联网协议栈

    自上而下:应用层,传输层,网络层,链路层和物理层
    这里写图片描述

    展开全文
  • 网络模型 计算机网络是指由通信线路互相连接的许多自主工作的计算机构成的集合体,各个部件之间以何种规则进行通信,就是网络模型研究的问题。 网络模型有:OSI七层参考模型和TCP/IP四层参考模型、五层参考模型。 ...
  •  定义层次数据模型是用树状<层次>结构来组织数据的数据模型。  其实层次数据模型就是的图形表示就是一个倒立生长的树,由基本数据结构中的树(或者二叉树)的定义可知,每棵树都有且仅有一个根节点,其余...
  • 小世界网络模型

    千次阅读 2021-09-12 17:49:38
    一、小世界网络模型 1、WS小世界模型 我们在前面的文章中介绍过,上图(a)所示的完全规则的最近邻耦合网络具有较高的聚类特性,但并不具有较短的平均距离。另一方面,完全随机的ER随机图虽然具有小的平均路径长度...
  • 七层网络模型

    千次阅读 2022-02-10 18:44:04
    文章目录 ...在网络编程中最重要的模型便是OSI七层网络模型和TCP/IP四层网络模型 一、网络模型 二、OSI七层网络模型 1.介绍 七层模型,也称为OSI(Open System Interconnection)参考模型...
  • 一、在数据库中定义满足下面两个条件的基本层次联系的集合为层次模型: (1)有且只有一个节点没有双亲节点,这个结构称为根节点 (2)根以外的其他结点有且只有一个双亲节点。 层次模型的实例 (1)教员...
  • 数据库领域中主要的逻辑数据模型有:层次模型、网状模型、关系模型、面向对象数据模型等,我们重点讲解了**层次模型、网状模型、关系模型**。 1.1 层次模型 层次数据库系统的典型代表是IBM公司的Information ...
  • 机器学习笔记(四)BP神经网络模型

    千次阅读 2021-01-26 21:49:02
    标题1、基础概念2、结构特点3、网络模型4、人工神经网络简介4.1、神经元4.2、单层神经网络4.3、双层神经网络4.4、多层神经网络5、Bp神经网络6、实战 1、基础概念 人工神经网络的概念:其从信息处理角度对人脑神经元...
  • 神经网络模型训练基本流程

    千次阅读 2019-11-19 15:27:31
    简单的神经网络模型是:前向回馈神经网络(feed-forward), 其包括以下几层: 输入、多个层次的对输入的回馈以及最终的输出。 简单的神经网络的训练过程包括以下几个步骤: 定义一个包含多个可学习参数(权重)的...
  • 层次、网状、关系模型

    万次阅读 多人点赞 2017-11-18 17:12:44
    层次、网状、关系模型都是逻辑上的,它们都是以一定的方式存储在数据库系统中,这是数据库管理系统的功能,是数据库管系统中的物理存储模型。 格式化模型层次模型和网状模型统称为格式化模型。格式化模型中数据结构...
  • 基因调控网络及其模型概述基因调控网络模型布尔网络模型有向图模型线性组合模型加权矩阵模型互信息关联模型常微分方程模型基因调控机制基序和模块基因调控网络数据库 概述 基因调控网络是21世纪生物学研究的一个重要...
  • 简述OSI参考模型定义及各层的主要功能定义:OSI参考模型定义了开放系统的层次结构、层次之间的相互关系,以及各层所包括的可能服务;OSI 参考模型并不是一个标准,而是一种在制定标准时所使用的概念性框架。1.物理层...
  • OSI七层参考模型
  • 数据模型的概念2.两大类数据模型客观对象的抽象过程---两步抽象3.数据模型的组成要素(1)数据结构(2)数据操作(3)数据的完整性约束条件4.概念模型(1)用途与基本要求(2) 信息世界中的基本概念(3)两个实体型之间的联系①...
  • 2 七层和四层的定义 2.1 七层的介绍 2.1.1 OSI七层参考模型 2.1.2 OSI七层工作原理 2.1.3 PDU 2.2 四层的介绍 2.2.1TCP/IP 参考模型 2.2.2 TCP/IP协议族的组成 2.2.3 数据封装和解封过程 2.2.4设备与层的...
  • 第4章 网络安全体系与网络安全模型

    千次阅读 2021-09-05 19:58:24
    第4章 网络安全体系与网络安全模型第4章 网络安全体系与网络安全模型1. 网络安全体系概述1.1 概念1.2 特征1.3 用途2. 网络安全体系相关模型[2.1 BLP机密性模型]...
  • 计算机网络分层模型(OSI和TCP/IP)

    千次阅读 2019-07-02 09:35:26
    计算机网络分层模型(OSI和TCP/IP) 前言 网络中传输数据时需要定义并遵循一些标准,以太网是根据IEEE 802.3标准来管理和控制数据帧的。了解IEEE802.3标准是充分理解以太网中链路层通信的基础。 网络通信协议 20...
  • 规划)、图论模型、排队论模型、神经网络模型、现代优化算法(**遗传算法、模拟退火算法、蚁群算法、**禁忌搜索算法)等等。 三、模糊综合评价法、层次分析法、聚类分析法、主成分分析评价法、 灰色综合评价
  • 复杂网络模型总结

    千次阅读 2020-10-27 16:09:31
    分类 均匀性分类 均匀网络(如WS小世界模型) 度数分布较均匀 非均匀网络(如BA无标度网络) 度数分布极度不均匀 ...局域世界演化网络模型:优先连接不是整个网络而是局域,如找导师时想获取本校的
  • 网络七层模型-理解及总结

    千次阅读 2021-01-13 15:36:34
    网络七层模型-理解及总结引言初识网络七层模型基本概念 引言 本文主要对网络七层模型做一个总结,便于后期查询与理解,如有不正确的地方请指正。 初识网络七层模型基本概念 OSI模型 OSI 模型(Open System ...
  • 网络七层协议模型

    千次阅读 2022-03-14 15:16:42
    OSI参考模型 物理层:解决硬件之间通信的问题,常见的物理媒介有光纤、电缆、中继器等。它主要定义物理设备标准,如网线的接口类型、光纤的接口类型、各种传输介质的传输速率等。 它的主要作用是传输比特流...
  • 用通俗的话来说,OSI参考模型定义网络七层中每一层的“作用”,定义每一层作用的是“协议”,“协议”可以理解为一种约定,其具体内容就是我们约定俗成的标准“规范”。 TCP(Transmission Control Protocol,...
  • 网络七层模型

    万次阅读 多人点赞 2018-07-24 22:26:12
    最近又看到这个七层模型了,一直都记不住这个七层模型,就算背住了也很快忘记。主要原因还是因为没有真实的使用场景,也没能理解其中的原理。但是这个东西是计算机网络的基础,既然碰巧看到就顺便整理一下吧。很多...
  • 《复杂网络与大数据》第二章:复杂网络模型的学习笔记 目录 1动态演化网络 1.1以网络演化的部件划分 1.2以是否考虑权重划分 1.3以演化网络采用的演化机制划分 1.4以演化网络是否动态变化划分 2社区网络 2.1...
  • 计算机七层网络模型

    千次阅读 2018-06-06 11:07:25
    但是这个东西是计算机网络的基础,既然碰巧看到就顺便整理一下吧。很多知识的梳理都是通过文章来理解贯通的,所以在计算机开发中对于技术的应用对敲代码;对于抽象的知识多写文章,自然而然的就懂了。  关于七层...
  • 计算机网络参考模型解析

    千次阅读 2021-11-24 13:14:27
    目录 分层思想 OSI参考模型 TCP/IP协议族 数据封装与解封装过程 ...1.1 使用网络的人未必知道数据的传输过程 ...二 OSI参考模型 ...2.1 OSI七层参考模型 ... 一般都叫OSI参考模型,是ISO组织在1985年研究的网络互连

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 136,305
精华内容 54,522
关键字:

层次网络模型的定义

友情链接: 2004112982330.rar