基于循环神经网络的极化码比特翻转BP译码算法制造技术

本发明专利技术公开了一种基于循环神经网络的极化码比特翻转BP译码算法。本发明专利技术设计循环神经网络架构并结合关键集进行比特翻转，根据关键集中对应错误率降序排序的索引从关键集中选择一个候选位进行翻转，基于BP算法，采用偏移最小和近似OMS对BP译码算法进行改进，根据极化码BP译码因子图与神经网络结构的相似性，在DNN架构的基础上展开极化码BP译码因子图构成循环神经网络译码器，生成全零码字，利用深度学习技术中的反向传播和Adam梯度下降优化算法训练循环神经网络译码器。本发明专利技术算法大大加快译码算法收敛速度，减少了达到收敛效果所需的迭代次数，改善了传统BP译码算法的计算资源消耗与额外内存开销。消耗与额外内存开销。消耗与额外内存开销。

【技术实现步骤摘要】
基于循环神经网络的极化码比特翻转BP译码算法


[0001]本专利技术属于深度学习和极化码译码领域，涉及一种基于循环神经网络的极化码比特翻转BP译码算法。

技术介绍

[0002]2008年，E.Arikan教授首次提出了极化码(Polar Codes)，因其在低编解码复杂度下被证明能够达到香农容量而备受关注，目前已被采用为第五代移动通信技术(5th Generation Mobile Networks,5G)的控制信道编码方案。
[0003]极化码的基本译码算法主要有连续消除(Successive Cancellation,SC)译码算法和置信传播(Belief Propagation,BP)译码算法。与BP译码相比，SC译码通过改进的SC算法可以实现较好的信道容量能力并达到较低的误块率(block error rate,BLER)。但SC译码由于其顺序处理的特性吞吐量较低，而BP算法在并行化方面表现突出，BP译码算法的并行译码过程具有更高的吞吐量及更低的时延,因此更能满足5G场景的通信要求。
[0004]近些年来，BP译码的研究在保持其优势的同时也在努力提高BP的译码性能。BP译码算法性能优化的一种方法是加入神经网络来辅助BP解码过程。基于深度神经网络(Deep Neural Networks,DNN)的BP译码算法通过对可训练权值的消息进行缩放来减少收敛前的总迭代次数和总体复杂度。但是该深度神经网络架构仍然存在着问题，首先，该算法为了减少近似损失设置的缩放因子为算法增加了大量的乘法运算，导致基于深度神经网络的BP译码算法运算复杂度大幅增加。此外，存储空间被深度神经网络架构中大量的缩放因子的存储所占用，这使得其难以在现实通信系统中的部署。而且基于DNN的BP译码算法没有解决BP译码算法存在的差错传播问题，BP译码消息传递算法信息位的不正确译码可能会导致错误传播，从而对许多其他位的可靠性和准确性产生负面影响。

技术实现思路

[0005]本专利技术的目的是提供一种基于循环神经网络的极化码比特翻转BP译码算法，解决了现有技术中极化码BP译码算法存在的运算内存开销较大和存在差错传播的问题。针对该问题，本专利技术设计循环神经网络架构并结合关键集(Critical Set,CS)进行比特翻转，降低了BP译码算法的BLER，改善了传统BP译码算法的计算资源消耗与额外内存开销。
[0006]本专利技术所采用的技术方案是
[0007]一种基于循环神经网络的极化码比特翻转BP译码算法，具体包括以下步骤：
[0008](1)建立比特翻转集合关键集CS；
[0009](2)如果经过循环冗余检查CRC译码失败，根据关键集中对应错误率降序排序的索引从关键集中选择一个候选位进行翻转；
[0010](3)基于最小和近似的BP算法，采用偏移最小和近似OMS对BP译码算法进行改进；
[0011](4)根据极化码BP译码因子图与神经网络结构的相似性，在DNN架构的基础上展开极化码BP译码因子图构成循环神经网络译码器；
[0012](5)生成全零码字，经过AWGN信道传输后，利用深度学习技术中的反向传播和Adam梯度下降优化算法训练循环神经网络译码器。
[0013]步骤(1)中，关键集需要取极化码二叉树结构中叶节点都是信息位的每个编码速率为1的节点中第一位的索引:
[0014][0015]步骤(3)中，偏移最小和近似的BP算法为：
[0016][0017]和分别表示在第t次迭代过程中的左信息对数似然比和右信息对数似然比计算过程中添加的偏移量，其中g(x,y)表示如下：
[0018]g(x,y)≈sgn(x)sgn(y)
×
max(min(|x|,|y|)
‑
β,0)
[0019]步骤(4)中，在深度神经网络译码器的基础上，展开极化码因子图，选择固定迭代次数，最后输出使用Sigmoid激活函数，构成循环神经网络极化码译码器。
[0020]步骤(5)中，利用深度学习中反向传播和Mini
‑
batch随机梯度下降算法训练神经网络，获得偏移最小和近似算法最优的偏移参数的组合，经过加性高斯白噪声信道的全零码字，引入学习速率为0.0001的Adam算法，自适应调节学习速率，加快循环神经网络极化码译码器的训练收敛。
[0021]本专利技术的有益效果如下：
[0022]本专利技术与原有极化码BP译码器相比，其显著优点是：大大加快译码算法收敛速度，减少了达到收敛效果所需的迭代次数，有效的降低了BP译码算法的BLER，改善了传统BP译码算法的计算资源消耗与额外内存开销。
附图说明
[0023]图1是8比特极化码BP译码因子图；
[0024]图2是4比特极化码在循环神经网络中一次完整的译码迭代图；
[0025]图3是循环神经网络架构中的3种神经元；
[0026]图4是基于循环神经网络的的极化码比特翻转BP译码器；
[0027]图5是不同码率及不同码长下RNN
‑
BPF译码器的BLER性能对比图；
[0028]图6是RNN
‑
BPF译码器与其他译码器BLER性能对比图；
[0029]图7是不同译码器时延对比图。
具体实施方式
[0030]下面结合附图和具体实施方式对本专利技术进行详细说明。
[0031]如图1所示是极化码BP译码的迭代因子图，极化码的BP译码是在因子图上迭代向左向右传播的对数似然比信息，(N,K)极化码的因子图有N
×
(n+1)个节点和n＝log
2 N个阶段组成。以码长N＝8的极化码为例，该因子图中最左端对应比特信息为u，最右端对应接受的码字为x。
[0032]BP译码过程与节点(i,j)处的两种信息有关：从左到右的右信息对数似然比和从右到左的左信息对数似然比其中t表示第t次迭代。和在因子图相邻节点之间传递信息并进行迭代更新。每次迭代过程信息的更新公式表示如下：
[0033][0034]其中，为了降低BP译码算法的运算复杂度，采用最小和(Min
‑
Sum,MS)近似把g(x,y)近似为：
[0035]g(x,y)≈sign(x)
×
sign(y)min(|x|,|y|)
[0036]开始迭代时，初始化对数似然比可以分别得到右信息对数似然比和左信息对数似然比的初始值和表示如下：
[0037][0038][0039]其中，A表示信息比特集合，A
c
表示冻结比特集合。经过T次迭代后，第j位估计信息比特可通过对最后一次迭代输出的左信息对数似然比进行硬判决得到：
[0040][0041]基于已有最小和近似BP算法，采用改进的改进的偏移最小和近似算法，对每次迭代过程中的左信息对数似然比和右信息对数似然比计算过程中添加偏移量和次迭代对函数g采用不同的缩放系数，通过简单的符号、比较和减法本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于循环神经网络的极化码比特翻转BP译码算法，其特征在于，具体包括以下步骤：(1)建立比特翻转集合关键集CS；(2)如果经过循环冗余检查CRC译码失败，根据关键集中对应错误率降序排序的索引从关键集中选择一个候选位进行翻转；(3)基于最小和近似的BP算法，采用偏移最小和近似OMS对BP译码算法进行改进；(4)根据极化码BP译码因子图与神经网络结构的相似性，在DNN架构的基础上展开极化码BP译码因子图构成循环神经网络译码器；(5)生成全零码字，经过AWGN信道传输后，利用深度学习技术中的反向传播和Adam梯度下降优化算法训练循环神经网络译码器。2.根据权利要求1所述的基于循环神经网络的极化码比特翻转BP译码算法，其特征在于：步骤(1)中，关键集需要取极化码二叉树结构中叶节点都是信息位的每个编码速率为1的节点中第一位的索引：。3.根据权利要求2所述的基于循环神经网络的极化码比特翻转BP译码算法，其特征在于：步骤(3)中，偏移最小和近似的BP算法为：于：步骤(3)中，偏移最小和近似...

【专利技术属性】
技术研发人员：李桂萍，贠昌，
申请(专利权)人：西安工业大学，
类型：发明
国别省市：