精华内容
下载资源
问答
  • 信道编码理论

    2014-05-29 23:53:54
    用于学习信道编码理论,以及对该课程复习引言(介绍信道编码技术六十多年的发展 历程及关键人物) (2课时) 基本概念与近世代数 (4课时) 线性分组码 (4课时) 卷积码与turbo码 (8课时) LDPC码 (2课时) 有限...
  • 5G新空口关键技术之--信道编码

    千次阅读 2020-06-16 11:00:00
    信道编码 概念   信道编码过程包括添加循环冗余校验码(CRC,Cyclic Redundancy Check)、码块分割(Code Block Segmentation)、纠错编码Forward Error CorrectingCoding)、速率适配(Rate Matching)、码块...

    信道编码
    概念
      信道编码过程包括添加循环冗余校验码(CRC,Cyclic Redundancy Check)、码块分割(Code Block Segmentation)、纠错编码Forward Error CorrectingCoding)、速率适配(Rate Matching)、码块连接(Code Block Concatenation)、数据交织(Interleave)、数据加扰(Scrambling)等组成部分。其中纠错编码 最重要。纠错编码是通过尽可能小的冗余开销确保接收端能自动地纠正数据传输中所发生的差错。在同样的误码率下,所需要的开销越小,编码的效率也就越高。

    Turbo、LDPC、Polar编码比较
      Turbo
      为了达到香农公式所定义的信道容量的极限,各种信道编码技术称为研究的热点。其中Turbo 码的性能优异,可以非常逼近香农理论的极限。在 3G 和 4G 中广泛使用。Turbo 码编码器基本原理如图1 所示。其编码器的结构包括两个并联的相同的递归系统卷积码编码器(Recursive Systematic Convolutional Code),二者之间用一个内部交织器(Interleaver)分隔。编码器 1 直接对信源的信息序列分组进行编码,编码器 2 为经过交织器交织后的信息序列分组进行编码。信息位一路直接进入复用器,另一路经两个编码器后得到两个信息冗余序列,再经恰当组合,在信息位后通过信道。
    在这里插入图片描述
    在这里插入图片描述
    Turbo码解码的迭代次数越多,其解码的准确度也越高,但是在到达某个迭代次数的时候,误码率会趋于稳定。
      Turbo总结
      Turbo 码的编码相对简单,它在码长、码率的灵活度和码率兼容自适应重传等方面有一些优势。但是其解码器由于需要迭代解码,相对比较复杂,需要较大的计算能力,并且解码时由于迭代的需要会产生时延。所以对于实时性要求很高的场合,Turbo 码的直接应用会受到一定限制。此外,Turbo 码采用次优的译码算法,有一定的错误平层。Turbo 码比较适合码长较长的应用,但是码长越长,其解码的复杂度和时延也越大,这就限制了它的实用性。总的来说,Turbo 码性能优异,编码构造比较简单,但是它的解码复杂度较高。该码是3G 和 4G 商用的关键技术之一,它的研究和应用已经十分成熟。

      LDPC
       LDPC是一种具有稀疏校验矩阵的线性分组纠错码,其特点是它的奇偶校验矩阵(H 矩阵)具有低密度。由于它的 H 矩阵具有稀疏性,因此产生了较大的最小距离(dmin),同时也降低了解码的复杂性。该码的性能同样可以非常逼近香农极限。已有研究结果表明,实验中已找到的最好 LDPC 码的性能距香农理论限仅相差 0.0045dB。
      与Turbo相比,LDPC的优势
      (1)LDPC 码的解码可以采用基于稀疏矩阵的低复杂度并行迭代解码算法,运算量要低于 Turbo 码解码算法。并且由于结构并行的特点,在硬件实现上比较容易,解码时延小。因此更适合于高速率和大文件包的情况。
      (2)LDPC 码的码率可以任意构造,有更大的灵活性。
      (3)LDPC 码具有更低的错误平层,可以应用于有线通信、深空通信以及磁盘存储业等对误码率要求非常高的场合。
      目前,LDPC 码已应用于 802.11n、802.16e、DVB-S2 等通信系统中。在 3GPP R15 的讨论过程中,全球多家公司在统一的比较准则下达成共识,将 LDPC 码确定为 5G eMBB 场景数据信道的编码方案。
      Polar
      它是基于信道极化理论提出的一种线性分组码,是针对二元对称信道(BSC,Binary Symmetric Channel)的严格构造码。理论上,它在较低的解码复杂度下能够达到理想信道容量且无误码平层,而且码长越大,其优势就越明显。Polar 码是目前为止唯一能够达到香农极限的编码方法。
      Polar工作原理
      包括信道组合、信道分解和信道极化 3 部分,其中,信道组合和信道极化在编码时完成,信道分解在解码时完成。Polar 编码理论的核心是信道极化理论。其原理过程如图3所示,它的编码是通过以反复迭代的方式对信道进行线性的极化转换来实现的。
    在这里插入图片描述
      Polar选择那部分趋于完全无噪声比特信道发送信源输出的信息比特,而在容量为0全噪声比特信道上发送冻结比特(已知比特,如0).通过这种编码构造方式,保证了信息集中在较好的比特信道中传输,从而降低了信息在信道传输过程中出现错误的可能性,保证了信息传输的正确性。Polar码就是以此种方式实现编码的。当编码长度 N 趋向无穷大时,Polar 码可以逼近理论信道容量.其编解码的复杂度正比于 N log N。
      Polar码的优势
      (1)相比 Turbo 码具有更高的增益,在相同误码率的前提下,实测 Polar码对信噪比的要求要比 Turbo 码低 0.5~1.2dB;
      (2)Polar 码没有误码平层,可靠性比 Turbo 码高,对于未来 5G URLLC 等应用场景(如远程医疗、自动驾驶、工业控制和无人驾驶等)能真正实现高可靠性;
       (3)Polar 码的编解码复杂度较低,可以通过采用基于 SC(SuccessiveCancellation)或 SCL(SC List)的解码方案,以较低的解码复杂度为代价,获得接近最大似然解码的性能。

      Polar码的劣势
      (1)它的最小汉明距离较小,可能在一定程度上影响解码性能。
      (2)SC 译码的时延较长,采用并行解码的方法则可以缓解此问题。
    总的来说,Polar 码较好地平衡了性能和复杂性,在中短码长的情形下比较有优势。它的码率调整机制颗粒度很精细,即它的信息块长度可以按比特增减。此外,它的复杂度、吞吐量、解码时延也都具有较好的指标。

      5G NR中的信道编码(R15)
      在 5G NR 中,信道编码的操作对象主要是传输信道(TrCH)和控制信息的数据块。3GPP 在 R15 中定义的各个传输信道和控制信息所采用的信道编码详细情况见表1 和表 2。
    在这里插入图片描述
      5G NR 对数据信道采用的是 Quasi-Cyclic LDPC 码,并且为了在 HARQ 协议中使用而采用了速率匹配(Rate-Compatible)的结构。控制信息部分在有效载荷(Payload)大于 11bit 时采用了 Polar 码。当有效载荷小于等于 11bit 时,信道编码采用的是 Reed-Muller 码。

      传输信道编码
      传输信道编码的过程如下图4所示。
    在这里插入图片描述
      添加 CRC 是通过在数据块后增加 CRC 校验码使得接收端能够检测出接收的数据是否有错。CRC 校验码块的大小取决于传输数据块的大小,对于大于 3824bit 的传输数据块,校验码采用了 24-bit CRC;对于小于等于 3824bit的传输数据块,采用的则是 16-bit CRC。在接收端,通过判断所接收数据是否有错误,再通过 HARQ 协议决定是否要求发送端重发数据。
      码块分割是把超过一定大小的传输数据块切割成若干较小的数据块,分开进行后续的纠错编码,分割后的数据块会分别计算并添加额外的 CRC 校验码。
      信道编码采用了 Quasi-cyclic LDPC 码。
      速率匹配的目的是把经过信道编码的比特数量通过调整,适配到对应的所分配的PDSCH 或 PUSCH 资源(所承载的比特数量)上。
      速率匹配输出的码块按顺序级联后即可进行调制进而经由发射机发送。

      控制信道编码
      上下行控制信道都采用了Polar码。
      上行
      上行控制信息UCI的整个信道编码过程如下图5所示。
    在这里插入图片描述
      首先,对待传输的控制信息进行码块分割和添加码块 CRC 校验码。信道纠错编码采用了 Polar 码。速率匹配则把经过信道编码的数据从速率上匹配到所分配到的物理信道资源上。码块级联则把数据块按顺序连接起来,然后通过调制发送。
      下行
      下行控制信息(DCI)的整个信道编码过程如图 6 所示。
    在这里插入图片描述
      首先,对待传输的控制信息添加 CRC 校验码。随后经过加扰,加扰序列采用的是终端无线网络临时识别号(RNTI,Radio Network Temporary Identity),这样做的目的是使得接收侧(终端)可以通过 CRC 校验码和加扰序列同时得知数据的正确性以及本终端是不是该信息的正确接收方,从而减少了需要通过PDCCH 发送的比特数。信道纠错编码采用了 Polar 码。速率匹配则把经过信道编码的数据从速率上匹配到所分配到的物理信道资源上,后续数据块即可按顺序进行 QPSK 调制进而由发射机发送。
    参考文档

    展开全文
  • 基带传输中的信道编码和信源编码

    千次阅读 2018-11-07 10:25:37
    信道编码 由于移动通信存在干扰和衰落,在信号传输过程中将出现差错,故对数字信号必须采用纠、检错技术,即纠、检错编码技术,以增强数据在信道中传输时抵御各种干扰的能力,提高系统的可靠性。对要在信道中传送的...

    最近因为通信的作业,老师要求我们去实现信道加密和信源的几种方式,因为其中的HDB3编码耗费了我有一会儿功夫,所以记录一下

    相关概念

    信道编码

    由于移动通信存在干扰和衰落,在信号传输过程中将出现差错,故对数字信号必须采用纠、检错技术,即纠、检错编码技术,以增强数据在信道中传输时抵御各种干扰的能力,提高系统的可靠性。对要在信道中传送的数字信号进行的纠、检错编码就是信道编码。

    信源编码

    针对信源输出符号序列的统计特性来寻找某种方法,把信源输出符号序列变换为最短的码字序列,使后者的各码元所载荷的平均信息量最大,同时又能保证无失真地恢复原来的符号序列。

    基带传输:

    模拟信号----(信源编码)---->数字基带信号

    将这种信号经过码型编码,不经过调制,直接送到信道传输,成为数字信号的基带传输。

    频带传输:

    发送端:数字基带信号----(数字调制器调制)---->数字载波信号,再进行传输。

    接收端---- (相应的数字解调器进行解调) ---->恢复成数字基带信号。

    这种经过调制和解调和数字信号传输方式称为数字信号的频带传输。

    基带传输系统模型

    数字传输系统模型

    信道编码

    信道编码有很多种,针对于不同传输方式也不同,常用的基带传输编码方式有:

    1. AMI
    2. CMI
    3. Hdb3
    AMI:

    (Alternative Mark Inversion)信号交替码,"0"码不变,“1”码交替编码,所以因为其如果碰到长连“0”的情况的话就会导致接受信号的地方如示波器等其波型一直不变,无法判断究竟是死机了还是其他情况,所以被Hdb3所取代。

    CMI

    CMI(Coded Mark Inversion)码是传号反转码的简称,其编码规则是“1”码交替用“11”和“00”两位码表示,“0”码固定地用“01”表示。

    Hdb3:

    (High Density Bipolar of Order 3 code)三阶高密度双极性码。因为Hdb3是我这三个里面花费时间最多写的一个编码,所以这里着重说一下我自己的个人理解:Hdb3是用来取代AMI,就如同之前所说的AMI如果碰到了长连“0”的情况的话就可能导致波型不变,所以Hdb3在长连“0”情况上制定了以下规则:
    1.如果数字信号中没有四连“0”(连续出现4个0)的情况的话,其编码和AMI一样
    2.如果数字信号中有四连:“0”的情况,那么将第一次出现四连“0”的地方:0000变成000V,q这里的“V"代表”1"电平,也就是我们的的高电平码,而第二次碰到0000的时候我们就要在此考虑:这里有两种情况:

    • 0000变成000V
      如果两个“V”,也就是第一次出现四连“0”和第二次出现四连"0"的情况之间有奇数个“1"码,那么此时0000变成000V,其中的"V"代表"1"

    • 0000变成B00V
      如果两个“V”之间有偶数个“0”,那么这里的“0000”变成“B00V”,其中"B"和"V"的极性一样,所以这里的极性就主要取决于“B”的极性,那么我们的“B”的极性怎么判断呢?

       "B"的极性和它前面相邻的那个“1”的极性相反。
      

    信源编码

    在这里插入图片描述
    信源编码的意义就是在于将我们的信息(也就是我们所说的信源)通过一定的编码规则,将信息转化成“0”和“1”的序列。

    常用的信源编码
    • 香农编码
    • 费诺编码
    • 哈夫曼编码

    香农编码:

    香农编码
    香农编码的例子:
    example
    香农编码算法实例:
    算法实例

    费诺编码:

    费诺编码的方法在我看来就是二分法,将我们的信号出现的概率大小依次排序,按照将概率等分的原则,分成“0”和“1”码元,如此循环,直到最后。看图理解:
    费诺编码

    哈夫曼编码

    这个可能就是最熟悉的编码了吧,因为在数据结构中有哈夫曼树,其规则想必大多数人都记得,就是将我们的值,从最小的开始,两两结合产生新值,再将这个值做放进去做同样的操作即可,构成了一棵二叉树。
    看图理解:
    哈夫曼编码
    为什么会有两种呢?

    • 哈夫曼编码方法得到的并非是唯一的,每次对信源缩减时,赋予信源最后两个概率最小的符号,用“0”和“1”可以是任意的,所以可以得到不同的哈夫曼码,但不会影响码字的长度。
    • 对信源进行缩减时,两个概率最小的符号合并后的概率与其他信源符号的概率相同时,这两者在缩减信源中进行概率排序,其位置放置顺序是可以任意的,故也会得到不同的哈夫曼码。(一般将合并的概率放在上面,可以得到较小的马方差)。

    产生的哈夫曼树
    哈夫曼树
    总结:
    以上就是通信技术课上老师主要讲的6中编码方式啦,如果需要实现代码,可以访问GitHub

    展开全文
  • 文章目录5.1 基本概念5.2 典型设计5.3 信道编码定理证明正定理证明逆定理5.4 典型信道编码5.5 信源信道联合编码定理 5.1 基本概念 从通信角度看信道编码: 信道不可靠 W^\hat{W}W^ 与传输的消息 WWW 不同 研究...

    学习要点:

    • 信道编码分析
    1. 联合典型序列
    2. 信道编码定理
    3. 信源信道联合编码定理
    • 信道编码设计
    1. 经验主义设计
    2. 编码错误概率
    3. 典型信道编码

    5.1 基本概念

    在这里插入图片描述

    • 从通信角度看信道编码:
      • 信道不可靠
      • W^\hat{W} 与传输的消息 WW 不同
    • 研究目标:
      • 使信息经信道传输后出现的差错最小!
    • 信道构成 {X,q(yx),Y}\{\mathcal{X},q(y|x),\mathcal{Y}\}
      • 输入:符号集合 {1,2,...,M}\{1,2,...,M\}
      • 编码函数:Xn:{1,2,...,M}XnX^n:\{1,2,...,M\}\to\mathcal{X}^n
      • 译码函数:g:Yn{1,2,...,M}g:\mathcal{Y}^n\to\{1,2,...,M\}
    • 信道编码 (M,n)(M,n)

    信道编码:

    • 原理:
      • 增加冗余位,扩大信号空间,增大信号间距离
    • 分类:
      在这里插入图片描述
    • 比如线性码(linear code)
      • 编码函数为线性函数
      • 任意个码字的线性组合仍然是码字

    性能指标——错误概率:

    • 条件错误概率:

    λi=Pr{g(Yn)iXn=xn(i)}=ynq(ynxn(i))I(g(yn)i) \begin{aligned} \lambda_i&=\mathrm{Pr}\{g(Y^n)\not=i|X^n=x^n(i)\}\\ &=\sum_{y^n}q(y^n|x^n(i))I(g(y^n)\not=i) \end{aligned}

    其中 I()I(\cdot) 为指示函数

    • 最大错误概率:

    λ(n)=maxi{1,...,M}λi \lambda^{(n)}=\max_{i\in\{1,...,M\}}\lambda_i

    • 算术平均错误概率:

    Pe(n)=1Mi=1Mλi P_e^{(n)}=\frac{1}{M}\sum_{i=1}^M\lambda_i

    • 若输入等概,则算术平均错误概率等于译码错误概率
    • 算术平均错误概率 \le 最大错误概率

    性能指标——码率:

    • 码率:R=logXMnR=\dfrac{\log_{|\mathcal{X}|}M}{n}
      • 表示的是每个码字母所能携带的最大信息量,其中 logXM\log_{|\mathcal{X}|}M 是一个发送的消息可能具有的最大熵,nn 为信道编码的长度,除以 nn 表示信道码中每个码字所能携带的最大信息量(从原理上讲 R<1R<1),对应的单位是 bits/传输。(每一传输实际上就是发送一个信道码的一位,因为对于一个消息来说其信道码有 nn 位,所以需要 nn 次传输)
    • 可达:
      • 若存在(二元)序列 (2nR,n)(\lceil2^{nR}\rceil,n) 满足:nn\to\infty 时,λ(n)0\lambda^{(n)}\to 0,则称码率 RR 是可达的(achievable)
        • 2nR2nR<2nR+12^{nR}\le\lceil2^{nR}\rceil<2^{nR}+1
        • (2nR,n)(\lceil 2^{nR}\rceil,n) 简记为 (2nR,n)(2^{nR},n)

    信道容量的定义:

    • 离散无记忆信道(DMC)的信道容量为所有可达码率的上确界(上确界指的是最小上界),C=supRC=\sup{R}
      • 小于信道容量的码率可以获得任意小的差错概率
      • 蕴含着渐进无差错和码的存在性,指导工程实践
      • 信道容量定义:C=maxI(X;Y)C=\max I(X;Y),相对容易求解,但无法保证信道无差错传输
      • 香农第二定理说明了上述两种定义等价
        C=supR    C=maxI(X;Y) C=\sup{R}\iff C=\max I(X;Y)

    5.2 典型设计

    • 信道传输中如何减少差错?
    • 香农公式:C=Wlog(1+PsN0W)C=W\log{(1+\dfrac{P_s}{N_0W})}
    • 提高抗干扰能力的方法:
      • 增加功率(提高信噪比)
      • 加大带宽(信号变化剧烈)
      • 延长时间(降低速率)
    • 最直观的设计:重复和增加冗余

    重复码:
    在这里插入图片描述
    在这里插入图片描述
    二进制信道编码的码率-误差分析:

    在这里插入图片描述

    • 码率 R=knR=\dfrac{k}{n}
    • 误码率 Pe=1ki=1kPei,Pei={viui},i=1,...,kP_e=\frac{1}{k}\sum_{i=1}^kP_e^i,P_e^i=\{v_i\not=u_i\},i=1,...,k
    • 码率 RR 和误码率 PeP_e 在二进制独立信源以及二进制独立信道下的关系:

    R1H(p)1H(Pe) R\le\frac{1-H(p)}{1-H(P_e)}

    证明:

    1. Fano 不等式(二进制)
      H(XY)H(Pe)+Pelog(K1)=H(Pe) H(X|Y)\le H(P_e)+P_e\log(K-1)=H(P_e)
    2. 互信息
      I(X;Y)I(U,V)i=1kI(Ui;Vi)=i=1k(H(Ui)H(UiVi))=ki=1kH(UiVi)kkH(Pe) \begin{aligned} I(X;Y)&\ge I(U,V)\ge\sum_{i=1}^kI(U_i;V_i)\\ &=\sum_{i=1}^k(H(U_i)-H(U_i|V_i))=k-\sum_{i=1}^kH(U_i|V_i)\\ &\ge k-kH(P_e) \end{aligned}

    nCk(1H(Pe))    kn1H(p)1H(Pe) nC\ge k(1-H(P_e))\implies\frac{k}{n}\le\frac{1-H(p)}{1-H(P_e)}

    在这里插入图片描述
    无差错传输的要求:

    • 传输速率与信道容量 R1H(p)1H(Pe)=C1H(Pe)R\le\dfrac{1-H(p)}{1-H(P_e)}=\dfrac{C}{1-H(P_e)}
    • 误码率 PeH1(1CR)P_e\ge H^{-1}(1-\dfrac{C}{R})
    • R>CR>C,则 Pe>0P_e>0,传输有差错,通信不可靠
    • R<CR<CR=CR=CPeP_e 可以等于零

    好码的要求:

    1. 相同误码率下,码率越高越好
    2. Pe=0P_e=0RR 能无限提高吗?(信道编码定理想要回答的问题)

    5.3 信道编码定理

    典型序列(Typical Sequence)

    • 渐进均分性定理(AEP)
      • X1,...Xnp(x),i.i.d.,EXn=μ<X_1,...X_n\sim p(x),i.i.d.,EX_n=\mu<\infty,则
        1nlogp(X1,...,Xn)依概率H(X) \frac{1}{n}\log{p(X_1,...,X_n)}\overset{\text{依概率}}{\longrightarrow} H(X)
    • 典型序列及典型集(typical set)
      • 序列 (x1,...,xn)Xn(x_1,...,x_n)\in\mathcal{X}^n 满足 2n(H(X)+ϵ)p(x1,...,xn)2n(H(X)ϵ)2^{-n(H(X)+\epsilon)}\le p(x_1,...,x_n)\le 2^{-n(H(X)-\epsilon)},典型序列的集合称为典型集 Aϵ(n)A_\epsilon^{(n)}
    • 性质:
      • 典型集的概率近似为 1
      • 典型集中所有元素几乎是等概的
      • 典型集的元素个数几乎等于 2nH(X)2^{nH(X)}

    联合典型序列(Jointly Typical Sequence, JTS)

    • 联合典型序列
      • (X,Y)p(x,y)(X,Y)\sim p(x,y),随机序列对 (xn,yn)Xn×Yn(x^n,y^n)\in\mathcal{X}^n\times\mathcal{Y}^n
        • 1nlogp(xn)H(X)<ϵ|-\frac{1}{n}\log{p(x^n)}-H(X)|<\epsilon
        • 1nlogp(yn)H(Y)<ϵ|-\frac{1}{n}\log{p(y^n)}-H(Y)|<\epsilon
        • 1nlogp(xn,yn)H(X,Y)<ϵ|-\frac{1}{n}\log{p(x^n,y^n)-H(X,Y)}|<\epsilon
        • 其中 p(xn,yn)=i=1np(xi,yi)p(x^n,y^n)=\prod_{i=1}^np(x_i,y_i)
    • 联合典型集
      • 联合典型序列构成的集合记为 Aϵ(n)A_\epsilon^{(n)}

    联合渐进均分性(Joint AEP)

    • (Xn,Yn)p(xn,yn)=i=1np(xi,yi),i.i.d.(X^n,Y^n)\sim p(x^n,y^n)=\prod_{i=1}^np(x_i,y_i),i.i.d.
      • nn\to\infty 时,Pr{(Xn,Yn)Aϵ(n)}1\mathrm{Pr}\{(X^n,Y^n)\in A_\epsilon^{(n)}\}\to 1
      • Aϵ(n)2n(H(X,Y)+ϵ),Aϵ(n)(1ϵ)2n(H(X,Y)ϵ)|A_\epsilon^{(n)}|\le 2^{n(H(X,Y)+\epsilon)},|A_\epsilon^{(n)}|\ge(1-\epsilon)2^{n(H(X,Y)-\epsilon)}
      • 如果 X~n\tilde{X}^nY~n\tilde{Y}^n 独立且 (X~n,Y~n)p(xn)p(yn)(\tilde{X}^n,\tilde{Y}^n)\sim p(x^n)p(y^n),则 Pr{(X~n,Y~n)Aϵ(n)}2n(I(X;Y)3ϵ)\mathrm{Pr}\{(\tilde{X}^n,\tilde{Y}^n)\in A_\epsilon^{(n)}\}\le 2^{-n(I(X;Y)-3\epsilon)},且对于充分大的 nn,有 Pr{(X~n,Y~n)Aϵ(n)}(1ϵ)2n(I(X;Y)+3ϵ)\mathrm{Pr}\{(\tilde{X}^n,\tilde{Y}^n)\in A_\epsilon^{(n)}\}\ge(1-\epsilon)2^{-n(I(X;Y)+3\epsilon)}

    在这里插入图片描述
    信道编码定理(Channel Coding Theorem, CCT)

    • 信息论最重要的结论
      • Shannon Theorem II (Noisy-channel coding theorem)
      • 有噪信道可实现几乎无失真传输
    • 该定理的结果与直观感觉正好相反
      • 若信道有错误,如何能够完全纠正?
      • 尤其是:纠正的过程本身也受错误的影响
    • 基本思想:
      • 允许任意小的非零错误概率存在
      • 构造码列 C(n),nC^{(n)},n\to\infty,保证大数定律或 AEP 生效
      • 计算随机码的平均错误概率,随机码=所有码的平均=存在至少一个满足要求的码,即由于随机码

    表述:

    正定理:对于离散无记忆信道(DMC),小于其容量 CC 的所有码率是可达的,即对于任意 R<CR<C,可以找到一个信道编码方案 (2nR,n)(2^{nR},n),使得最大错误概率 λ(n)0\lambda^{(n)}\to0

    逆定理:对于任意编码方案 (2nR,n)(2^{nR},n),若 λ(n)0\lambda^{(n)}\to0,则必有 RCR\le C

    证明正定理

    • 已知:DMC, X,Y,p(yx),Xp(x)\mathcal{X},\mathcal{Y},p(y|x),X\sim p(x)
    1. 编码:
    • p(x)p(x) 达到信道容量 CC ,即 I(X;Y)=CI(X;Y)=C ,对于充分大的 nn,根据 p(x)p(x) 独立生成 (2nR,n)(2^{nR},n)C(n)C^{(n)}
      • xnC(n),p(xn)=i=1np(xi)\forall x^n\in C^{(n)},p(x^n)=\prod_{i=1}^np(x_i)C(n)C^{(n)}2nR2^{nR} 个码字
      • 设接收向量为 yny^n ,则 p(ynxn)=i=1np(yixi)p(y^n|x^n)=\prod_{i=1}^np(y_i|x_i)
    1. 译码(前两种最优,第三种简单):
    • 最大后验概率(MAP):选择 x^nC(n)\hat{x}^n\in C^{(n)} 满足 p(x^nyn)p(\hat{x}^n|y^n) 最大。
    • 最大似然(ML):选择 x^nC(n)\hat{x}^n\in C^{(n)} 满足 p(ynx^n)p(y^n|\hat{x}^n) 最大。
    • 典型集译码:选择 x^nC(n)\hat{x}^n\in C^{(n)} 满足 x^n\hat{x}^nyny^n 联合典型。
    • 若接收到的序列 yny^n 存在唯一的发送序列 x^n\hat{x}^n 与其具有联合典型性,则解码成功;
    • 否则,解码错误,记为事件 E\mathcal{E}
    • 目标:将证明若 R<CR<C,则 Pr{E}0\mathrm{Pr}\{\mathcal{E}\}\to0
      • 若平均错误概率 0\to0 ,则 λ(n)0\lambda^{(n)}\to0,从而 RR 可达。
    1. 错误事件(两种情形):
    • 存在 x^n\hat{x}^nyny^n 联合典型,xnx^nyny^n 联合典型,但 x^nxn\hat{x}^n \neq x^n
    • xnx^nyny^n 非联合典型
    1. 错误概率:
    • xn(i)x^n(i) 为第 ii 个码字,i=1,...,M,M=2nRi=1,...,M,M=2^{nR} ,假设发送 xn(1)x^n(1)
    • Ei{(xn(i),yn)Aϵ(n)}E_i\triangleq\{(x^n(i),y^n)\in A_\epsilon^{(n)}\}

    • λ1=Pr{Exn(1)}=Pr{Eˉ1E2...EM}Pr{Eˉ1}+i=2MPr{Ei}ϵ+(M1)2n[I(X;Y)3ϵ]ϵ+23nϵ2n(CR)2ϵ \begin{aligned} \lambda_1&=\mathrm{Pr}\{\mathcal{E}|x^n(1)\}=\mathrm{Pr}\{\bar{E}_1\cup E_2\cup...\cup E_M\}\\ &\le \mathrm{Pr}\{\bar{E}_1\}+\sum_{i=2}^M\mathrm{Pr}\{E_i\}\\ &\le\epsilon+(M-1)2^{-n[I(X;Y)-3\epsilon]}\\ &\le\epsilon+2^{3n\epsilon}\cdot 2^{-n(C-R)} \\ &\le 2\epsilon \end{aligned}
      由对称性 λi=λ12ϵ    Pe(n)=Pr{E}2ϵ\lambda_i=\lambda_1\le2\epsilon\implies P_e^{(n)}=\mathrm{Pr}\{\mathcal{E}\}\le2\epsilon
    1. 码率的可达性
    • C(n)C^{(n)} 是按照 p(x)p(x) 随机生成的 (M,n)(M,n) 码,译码错误概率记为 Pe(n)P_e^{(n)}
    • C(n)C^{(n)} 为所有服从 p(x)p(x)(M,n)(M,n) 码的平均
      • \exists 最优的 (M,n)(M,n)C(n)C^{(n)*} ,使得 Pr{C(n)}2ϵ\mathrm{Pr}\{C^{(n)}出错\}\le2\epsilon
      • 不妨设 λ1λ2...λM\lambda_1^*\le\lambda_2^*\le...\le\lambda_M^*,则 λM/24ϵ\lambda_{M/2}^*\le4\epsilon
    • 构造新码 C~(n)={C(n)}\tilde{C}^{(n)*}=\{C^{(n)*}错误概率最小的一半码字\}
      • 最大错误概率 λ~(n)4ϵ\tilde{\lambda}^{(n)*}\le4\epsilon
      • C~(n)\tilde{C}^{(n)*}M2=2nR1\frac{M}{2}=2^{nR-1} 个码字,码率为 R(11n)R(1-\frac{1}{n})
      • nn\to\infty 时,C~(n)\tilde{C}^{(n)*} 满足 R(11n)RR(1-\frac{1}{n})\to Rλ~(n)0\tilde{\lambda}^{(n)*}\to0
      • 因此 RR 可达

    在这里插入图片描述

    证明逆定理

    需证明:

    \forall 可达速率 RR ,有 RCR\le C     \iff R>C\forall R>CRR 不可达,即 Pe(n)↛0P_e^{(n)}\not\to0

    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    5.4 典型信道编码

    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    5.5 信源信道联合编码定理

    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

    展开全文
  • 信道编码理论_32.rar

    2020-04-18 11:01:46
    信道编码理论基础教学PPT【基本概念、近世代数、线性分组、卷积码、LDPC、Turbo码】
  • 无线信道的衰落:无线信道的物理特性总是处于变化中,称为变参信道。对于无线信道,最要命的特性莫过于衰落现象:由于多径效应引起的小尺度效应;由于距离衰减引起的路径损耗或者障碍物造成的阴影等大尺度效应。大小...
    • 无线信道的衰落:无线信道的物理特性总是处于变化中,称为变参信道。对于无线信道,最要命的特性莫过于衰落现象:由于多径效应引起的小尺度效应;由于距离衰减引起的路径损耗或者障碍物造成的阴影等大尺度效应。大小尺度时按照波长进行划分的。
    • 瑞利衰落:在无线通信信道中,电磁波经过反射折射散射等多条路径传播到达接收机后,使得总信号的强度服从瑞利分布(Multipath)。同时由于接收机的移动及其他原因,信号强度和相位等特性又在起伏变化(Doppler),故称为瑞利衰落。
    • 瑞利衰落/莱斯衰落: 瑞利衰落是一个用来描述信道传播规律的数学分布,适用于在从发射机到接收机之间没有强视距(Line-of-sight)路径的情况。若信道中存在强视距(LOS),则信道响应的包络服从莱斯分布,对应的信道模型为莱斯衰落信道。
    • 为了应对瑞利衰落,GSM采用了一系列技术手段,比如信道编码(增加信息冗余度)、交织技术(时间分集,用于克服信道编码不能还原长串信息丢失的弱点)、跳频技术(频率分集,降低瑞利衰落发送的可能性,以及将干扰平均化)。

    一、语音编码与信道编码

    ​ 语音编码与多径及瑞利衰落没有关系,但是在传统的无线通信中,信源编码和信道编码总是放在一起阐述。联合编码,即不区分信源编码和信道编码,采用统一的综合编码。但这并不容易,信源编码要减少冗余,提高有效性,但信道编码要增加冗余度,提高可靠性。

    1. 语音编码

    • GSM系统语音编码采用混合编码,即速率为13kbit/s的RPE-LTP(规则脉冲激励-长期预测)。

    • 采样:参数编码器首先将语音分成20ms为单位的语音块,再将每个块用8kHz进行采样,可以得到8000Hz/s*0.02s=160个样本。(人耳敏感的语音频率一般为20~3400Hz,按照奈奎斯特定理,二倍频采样,所以用8kHz进行采样。)

    • 量化:每个样本再经过A律13bit(μ律14bit)的量化(GSM定位的是全球漫游通信,必须考虑欧洲A律和美国μ律标准不一的情况),所以在A律之后加3bit,μ律之后加2bit,采样后就形成了16bit。

      如果不经过信源编码,16bit/样本 * 160样本 * (1s/20ms)= 128kbit/s。即按这样的编码方式,每时隙的空中接口速率要达到128kbit/s,是不可接受的,需要进行压缩。

    • GSM采取LPC(线性预测编码)、LTP(长期预测)和RPE规则脉冲激励)为波形编码器,编码结果再通过复用器混合完成语音信号的编码。编码器模仿了人类发音器官的组合,其工作原理是将该组合看成一个滤波器,人类发出的声音相当于激励脉冲。滤波器的参数一直在变,但从很短的时间(比如10—30ms)看它,基本不变。

    • 经过语音编码的压缩后,每20ms的比特为260bit,从而计算得出数据率是260bit *(1s/20ms)= 13kbit/s。我们知道,Abis口和A口之间每时隙的速率为16kbit/s。为了便于在Abis口和A口上传送,通常给其加一个3kbit/s的信令。

    2. 信道编码

    • 信道编码的本质:通过增加信息的冗余来实现对信息的保护,代价是增加了开销,降低了信息量。
    • 在原始数据上附加一些冗余信息,增加的这些比特是通过某种约定从原始数据中经计算产生的,接收端的解码过程利用这些冗余比特检测误码并尽可能纠正。如果收到的数据经过同样的计算得到的冗余比特和收到的不一样,可以确定信息有误。
    • GSM使用的编码方式主要由块卷积码、纠错循环码和奇偶码
      • 块卷积码主要用来纠错,当解调器采用最大似然估计方法时,可以产生十分有效的纠错结果。
      • 纠错循环码主要用于检测和纠正成组出现的误码,通常和块卷积码混合使用。
      • 奇偶码则是一种普遍使用的最简单的检测误码的方法。

    3. 全速率TCH信道编码

    在对全速率语音编码时,将信息比特分为最重要、重要和不重要的比特。划分的原则是根据编码器的高位和低位进行的。

    • 将260bit分为3类,最重要50bit,重要132bit,不重要78bit。
    • 首先把最重要的50bit加上3bit奇偶检验位,这53bit连同132个重要bit与4个尾比特一起进行1:2的卷积码,得到(53+132+4)*2=378bit,另外78bit不予保护,则共378+78=456bit。每20ms发送456bit,则可以得出 456bit *(1s/20ms)= 22.8kbit/s。

    注意:

    • 语音编码后的速率为13kbit/s,之后进行信道编码,因此语音在空中接口中的发送速率为22.8kbit/s。
    • 语音编码在基站侧还原之后,考虑到Abis口和A口的传输特点,给它加上了3kbit/s的信令,因此语音编码在Abis接口的传输速率为16kbit/s。

    二、分集技术之交织

    ​ 对于GSM而言,信道编码无法应对成串的突发脉冲序列丢失,因此需要交织技术。交织技术,是为了应对无线变参信道而设计的一种干扰平均化的手段。

    • 为了克服某一条无线路径的衰落带来的失真,采用接收多条无线信道的方法,使得空间路径带来的干扰平均化,称为空间分集。

    • 为了克服某个频率的干扰带来的失真,采用跳频的方法来使得干扰在几个载频之间平均化,称为频率分集;

    • 把码字的b个比特分散到n个帧中,以改变比特间的临近关系,因此n值越大,传输特性越好,但传输时延也越大。这种交织称为时间分集。

      3种分集技术本质上都一样,即通过技术手段使得在空间、时间、频率上的干扰变得平均化来克服无线变参信道的影响。

    三、分集技术之跳频

    • 在GSM系统中,干扰可能来自系统内部,比如一个用户占用无线信道发射信号时其他用户的干扰;干扰也可能来自系统外部,比如高频噪声、汽车点火装置,甚至是信号屏蔽干扰器。当某个频点收到干扰时,我们希望换到另一个频点上,以避开干扰。实际上,跳频技术最早用于军事上,GSM不过是借鉴。
    • GSM的跳频主要分为基带跳频射频跳频两种。没有经过调制的信号叫基带信号;经过调制后的信号叫频带信号。基带跳频和射频跳频本质上一样,都是把1s的信号分为217份,每一份都通过不断变化的频率上发送出去,即所谓的跳频。
      • 基带跳频:基带信号在调制之前就完成了时隙交换,送到了各块载频,实现了每时隙发射频率的不断变化。
      • 射频跳频:BCCH载频用于向移动台广播信息,如果BCCH载频的频率变化,移动台无法锁定某个频道来接收系统信息。TCH载频在接收基带信号之后,每个TDMA帧时间变换一次频率,将信号以不同的频率送到耦合器,再通过天线发射出去。
    • 跳频的作用:干扰源分集;频率分集。
    • GSM中跳频所采用的参数:终端跳频的频点用MA描述,MA是基站小区配置频点CA的子集,MA可以包含N个频点(可取164)。跳频方法由跳频算法决定,可以用两个主要参数描述。**跳频序列号HSN**和**移动分配指数偏置MAIO**。HSN的取值为063,MAIO的取值为0~N-1。因此,跳频算法允许有64种不同的跳频序列,HSN的取值决定了具体的跳频序列,MAIO决定了跳频序列的起始位置。
    • 跳频序列有两种,分别为循环跳频伪随机序列跳频。HSN=0为循环跳频,HSN≠0为伪随机序列跳频方式,可以根据一个伪随机序列表求出相应的跳频序列。
    • 通常在一个小区内不同的终端使用同样的HSN和不同的MAIO,这样可以避免小区内不同的终端之间的信道干扰。相邻小区之间不会有干扰,因为它们使用不同的频率组,即不同的MA。使用同样频率组的其他小区应该和本跳频小区采取不同的HSN。
    展开全文
  • UA MATH636 信息论5 信道编码定理信道编码问题信道容量的正式定义信道编码定理Joint Typical SetJoint AEP 上一篇简介里面介绍了通讯的过程,并用下面的流程图来表示了这个过程,并且引入了一些基本概念。这一讲先对...
  • 信道冲击响应数据的误码率作为分析基础,设计了一种引进正交频分复用及多天线技术概念进行改良的多载波MFSK 编码方案,并验证了在多径衰落条件下的频谱使用效率及误码率,从而证明了该方案在提高频谱效率方面的...
  • 信道编码是这本书的第五章,老师在讲到线性分组码的时候突然让学生去黑板上做练习题,并说这是重点,必须练习。(幸好第一堂课没有点我的名字) 在这里我只写一些关于线性分组码的相关知识,及我的理解。 下面试...
  • 信道冲击响应数据的误码率作为分析基础,设计了一种引进正交频分复用及多天线技术概念进行改良的多载波MFSK 编码方案,并验证了在多径衰落条件下的频谱使用效率及误码率,从而证明了该方案在提高频谱效率方面的...
  • 如果学过编码相关课程就不用看了。 codeword概念 (此处只讲系统码) 一个完整的码字(codeword)包括两部分:信息位(massage)和校验位(parity)。 例如:给出一个汉明码:1010101, 根据汉明码的相关定义(校验...
  • 不过对于它的实质概念,在当时来看,还是很模糊的。这导致后来一次接触到正态分布,直接一脸懵,那是在大一的模拟通信的课程。当然本来正态分布涉及到的数学问题还是非常复杂的。 在讲什么是正态分布之前,先来解读...
  • 在无线通信中几个概念经常搞不清,今天记录一下以便后面复习: (1)吞吐量 吞吐量是指某个系统在单位时间内实际传输的信息比特数(数据量),常用的单位有bps,Kbps,Mbps等单位。如果引入了某种编码方案,那么在...
  • 扩频概念 扩频通信,即扩展频谱通信技术(Spread Spectrum Communication),它的基本特点是其传输信息所用信号的带宽远大于信息本身的带宽。 增加信号带宽可以降低对信噪比的要求,当带宽增加到一定程度,允许...
  • 物理层的基本概念 物理层的协议 也为:物理层规程( procedure) 物理层的特性: 机械特性、电气特性、功能特性、过程特性 计算机内部传输方式:并行传输,如:皇上用膳,公公齐来送饭,不并齐就斩 通信...
  • GSM中的信道分为物理信道和逻辑信道,一个物理信道就为一个时隙(TS),而逻辑信道是根据BTS与MS之间传递的信息种类的...1.业务信道(TCH):用于传送编码后的话音或客户数据,在上行和下行信道上,点对点(BTS对一个...
  • 在WCDMA中规范定义了三种...传输信道对应的是空中接口上不同信号的基带处理方式,根据不同的处理方式来描述信道的特性参数,构成了传输信道的概念,具体来说,就是信号的信道编码、选择的交织方式(交织周期、块内块
  • 编码概念 信源输出符号序列长度L=1,信源符号集A(a1,a2,…,an),信源概率空间为 若将信源X通过二元信道传输,就必须把信源符号ai变换成由0,1符号组成的码符号序列,这个过程就是信源编码。 码可分为两类:...
  • 基于MFSK的物理层网络编码在衰落信道中的性能分析,曹凤凤,智小楠,本文在物理层网络编码概念的基础上,从两个不同方面讨论了频率调制方式下的物理层网络编码的性能。首先对二进制频率调制下的物理
  • 有关信道的几个基本概念

    千次阅读 2017-12-20 17:05:48
    通信: 单向通信(单工通信) 双向交替通信(半双工通信): 双向同时通信(全双工通信): 基带(baseband)信号和带通(band pass)信号: 编码
  • 传输信道对应的是空中接口上不同信号的基带处理方式,根据不同的处理方式来描述信道的特性参数,构成了传输信道的概念,具体来说,就是信号的信道编码、选择的交织方式(交织周期、块内块间交织方式等)、CRC冗余...
  • 1.经典信道与信道编码定理 在这里我们首先来看几个概念: 经典无记忆单符号离散信道的数学模型的描述        对于经典无记忆单符号离散信道 W ,给定输入信道的变量 X 的...
  • 信息处理与编码结课大作业 学号 班级 姓名 成绩 香农编码的matlab语言实现 1问题背景 1949年香农在有噪声时的通信一文中提出了信道容量的概念信道编码定理为信道编码奠定了理论基础无噪信道编码定理又称香农第一...
  • GSM的逻辑信道-业务信道(TCH)

    千次阅读 2014-09-30 13:50:46
    业务信道(TCH:Traffic CHannel),用于传送编码后的话音或用户数据,在上行和下行信道上,点对点(BTS对一个MS,或反之)方式传播。   解释说明 话音业务信道主要分为以下三类:全速率话音业务信道...
  • 主要内容包括信息的基本概念、离散信源及其测度、离散信道及其信道容量、波形信源和波形信道、无失真信源编码定理、有噪信道编码定理、保真度准则下的信源编码、无失真的信源编码等。仅供复习参考。
  • 信息论与编码理论

    2017-09-12 14:57:25
    第一部分讲解了香农信息论与编码理论的主要内容,如熵和信息量的基本概念与性质,以及信道编码定理和信源编码定理;第二部分介绍了一些基于香农编码理论的信道和信源编码方法,具体包括线性码、循环玛、BCH和RS码、...
  • 1949年香农在《有噪声时的通信》一文中提出了信道容量的概念信道编码定理,为信道编码奠定了理论基础。无噪信道编码定理(又称香农第一定理)指出,码字的平均长度只能大于或等于信源的熵。有噪信道编码定理(又...
  • 我们来了解通信信道传送信息能力背后的一些原理以及数据编码技术。由于此处将会谈及一些理论与数学计算,因此我将尽可能地避免复杂的数学问题,但也不可能完全忽略。  一、编码技术应用  事实上,香农公式早已...
  • 语音信号编码

    2020-11-13 06:52:19
    20世纪30年代末脉冲编码调制(PCM,Pulse Code Modulation)原理和声码器(Vocoder)概念被提出后,语音数字编码便一直沿着这两个方向发展。语音数据压缩目的是能在尽可能低的传输速率上获得高质量的语音效果,即...
  • 全书分7章,在介绍了有关信息度量的基础上,重点讨论了信道容量、率失真函数,以及无失真信源编码、限失真信源编码、信道编码和密码学中的理论知识及其实现原理在各章的最后还附有内容小结和大量习题,书后附有部分...

空空如也

空空如也

1 2 3 4 5 ... 17
收藏数 334
精华内容 133
关键字:

信道编码概念