一種基于受限玻爾茲曼機的LDPC譯碼方法和裝置制造方法及圖紙

本發明專利技術公開一種基于受限玻爾茲曼機的LDPC譯碼方法和裝置，該方法將傳統的LDPC譯碼算法和神經網絡中的受限玻爾茲曼機相結合，利用受限玻爾茲曼機中較為成熟的數學描述對LDPC譯碼過程進行建模，確定能量函數，再通過訓練最小化能量函數，最終獲得譯碼后的碼字。該方法和裝置通過引入能夠描述高維非線性映射的受限玻爾茲曼機，更加精細地進行迭代譯碼，獲得了比之前最優的標準BP譯碼算法更好的效果。

LDPC decoding method and device based on constrained Boltzmann machine

The invention discloses a LDPC decoding method and device based on restricted Boltzmann machine, this method combines the RBM LDPC decoding algorithm and the traditional neural network in the LDPC decoding process modeling mature mathematical description using restricted Boltzmann machine, determine the energy function, and through training and minimizes the energy function. Finally get the decoded codeword. The method and device can perform iterative decoding more precisely by introducing constrained Boltzmann machines which can describe high-dimensional nonlinear mappings, and obtain better results than the previous standard BP decoding algorithm.

【技術實現步驟摘要】
一種基于受限玻爾茲曼機的LDPC譯碼方法和裝置
本專利技術涉及電子通信
，特別是一種基于受限玻爾茲曼機的LDPC譯碼方法和裝置。
技術介紹
低密度校驗碼(LDPC，LowDensityParityCheckcodes)是一種逼近香農極限的現代編碼技術，由于其優越的性能和易于并行實現的特點，LDPC已經被多種現代通信標準采納。但目前在移動通信、SSD糾錯等現實應用中，基于傳統BP譯碼技術的LDPC的誤碼率等性能還不夠理想，需要新的方法和裝置進一步降低誤碼率，以適應應用的需求。基于受限玻爾茲曼機的LDPC譯碼方法和裝置是建立在神經網絡范疇內的受限玻爾茲曼機理論上的。受限玻爾茲曼機能夠最大似然地使得顯層神經元的值達到穩定的玻爾茲曼分布。受限玻爾茲曼機的優勢在于它是一種能夠準確的描述高維非線性映射的結構，并且通過梯度下降法進行訓練時可以更精細地修改顯層神經元的值，因此能夠比傳統的BP譯碼方法有更低的誤碼率。
技術實現思路
：本專利技術為了找到比之前最好的BP譯碼算法表現更優秀的方法，提出了一種基于受限玻爾茲曼機的新型LDPC譯碼方法和裝置，從而進一步降低誤碼率。本專利技術通過受限玻爾茲曼機的思想從含有噪聲和干擾的接收序列中盡可能還原發送端數據，可用于通信領域的接收機和SSD的數據糾錯。技術方案：一種基于受限玻爾茲曼機的LDPC譯碼方法，包括如下步驟：(1)根據應用需求確定校驗矩陣H，大小為m×n，，列重為L，行重為K。(2)根據校驗矩陣建立Tanner圖，確定變量節點和校驗節點的連接關系。(3)根據Tanner圖建立受限玻爾茲曼機模型，Tanner圖中的變量節點作為顯層神經元，校驗節點作為隱層神經元。(4)根據K輸入異或的布爾表達式構造隱層神經元的輸出函數。將K輸入異或的布爾表達式改寫成最小項之和的形式，對于布爾表達式中布爾型的變量Xi，用實值變量表達式1+xi替換，對于布爾型的變量用實值變量表達式1-xi替換，其中xi為信息比特的值。(5)構造受限玻爾茲曼機的能量函數，能量函數為：式中ej為(4)中第j個隱層神經元的輸出，E為整個模型的能量。(6)將接收到的BPSK調制后的信息比特的值賦值給顯層神經元。(7)前饋計算，顯層神經元的值傳遞給隱層神經元，通過(4)確定的輸出函數計算隱層神經元ej的值和能量函數E的值。(8)反饋計算，根據本次迭代所得的能量函數值，通過梯度下降法修改顯層神經元的值，具體方法如下：式中xi代表第i個信息比特的值，α代表學習率，用于調控每次迭代下降的步長，求和是對每一個信息比特參與的L個隱層神經元提供的梯度求和。(9)更新顯層神經元的值，進行硬判決，即令大于等于0的顯層神經元的值為1，小于0的顯層神經元的值為-1，帶入(5)中的能量函數。若E＝0，則譯碼成功；否則重復步驟(7)(8)。(10)當迭代次數大于設定的最大迭代次數時，不再進行譯碼，直接輸出。基于受限玻爾茲曼機的譯碼裝置，包括如下組成部分：(1)控制模塊，用于控制譯碼裝置的執行順序。(2)前饋計算模塊，用于計算上述方法中的(7)，包括和隱層神經元數目相同的并行輸出函數計算模塊和能量函數計算模塊。(3)反饋計算模塊，用于計算上述方法中的(8)，包括并行梯度計算模塊和對應的修正值計算模塊，梯度計算模塊共享輸出函數計算模塊的中間結果。(4)顯層神經元賦值模塊，將反饋計算模塊輸出的修正值和上一次迭代的顯層神經元的值相加，送入前饋計算模塊。本專利技術的優勢：本專利技術借鑒了目前公認的功能強大的神經網絡算法，利用受限玻爾茲曼機的思想對LDPC譯碼過程進行建模，利用最小化能量函數的方式間接地求解信息比特。由于受限玻爾茲曼機本身具有的對高維非線性映射強大的表示能力和這里采用的利用異或的布爾表達式來構造隱層神經元輸出函數的方法，本專利技術提出的譯碼方法在幾乎所有信噪比情況下都表現出了比BP算法更優的性能。本專利技術可以用于各種通信系統的接收機和固態硬盤數據糾錯等應用場景。附圖說明圖1是本專利技術構建的受限玻爾茲曼機譯碼裝置的結構圖；圖2是本專利技術提出的譯碼方法的流程圖；圖3是本專利技術提出的方法和BP算法在實施例中的誤碼率比較。具體實施方式下面結合實施例和附圖，對本專利技術作進一步地說明，但本專利技術的實施方式不限于此。本專利技術以(100,200,3,6)碼率為1/2的LDPC碼作為實施例，對本專利技術提出的基于玻爾茲曼機的LDPC譯碼方法和裝置的進行詳細的說明。實施例中的(100,200,3,6)的LDPC碼的校驗矩陣H是100x200維的矩陣，列重是3，行重是6。接收到的信息比特為yi。圖1給出了受限玻爾茲曼機譯碼裝置的結構圖。譯碼算法的流程如圖2所示，按照流程圖的步驟依次進行譯碼。(1)確定校驗矩陣H，100x200維，列重為3，行重為6。(2)根據校驗矩陣畫出Tanner圖，確定變量節點和校驗節點的連接關系。(3)根據特納圖構建受限玻爾茲曼機模型，Tanner圖中的變量節點作為顯層神經元，校驗節點作為隱層神經元。(4)根據6輸入異或的布爾表達式構造隱層神經元的輸出函數。將6輸入異或的布爾表達式改寫成最小項之和的形式，共有32個最小項。對于布爾表達式每個最小項中布爾型的變量Xi，用實值變量表達式1+xi替換，對于布爾型的變量用實值變量表達式1-xi替換，其中xi為信息比特的值。(5)構造受限玻爾茲曼機的能量函數，能量函數為：式中ei為(4)中第j個隱層神經元的輸出，E為整個模型的能量。(6)將接收到的BPSK調制后的信息比特的值賦值給顯層神經元，xi＝yi。(7)前饋計算，顯層神經元的值傳遞給隱層神經元，通過(4)確定的輸出函數計算隱層神經元ej的值和能量函數E的值。(8)反饋計算，根據本次迭代所得的能量函數值，通過梯度下降法修改顯層神經元的值，具體方法如下：式中xi代表第i個信息比特的值，α代表學習率，這里取0.01，用于調控每次迭代下降的步長，求和是對每一個信息比特參與的3個隱層神經元提供的梯度求和。(9)更新顯層神經元的值xi＝xi+Δxi，進行硬判決，即令大于等于0的顯層神經元的值為1，小于0的顯層神經元的值為-1，帶入(5)。若E＝0，則譯碼成功；否則重復步驟(7)(8)。(10)當迭代次數大于設定的最大迭代次數時，不再進行譯碼，直接輸出，這里最大迭代次數取400。基于受限玻爾茲曼機的LDPC譯碼裝置，包括控制模塊、前饋計算模塊、反饋計算模塊、顯層神經元賦值模塊，裝置在控制模塊的調控下，在每次迭代開始時將顯層神經元賦值模塊中的信息比特值送入前饋計算模塊，前饋計算得出的隱層神經元的值和能量函數值送入反饋計算模塊計算梯度值和顯層神經元的修正值，最后顯層神經元將本次迭代信息比特的初始值與修正值相加，得到下一次迭代的信息比特值；控制模塊，用于控制譯碼裝置的執行順序；前饋計算模塊用于將顯層神經元的值傳遞給隱層神經元，通過構造的隱層神經元的輸出函數計算隱層神經元ej的值和能量函數E的值，包括與隱層神經元數目相同的并行輸出函數計算模塊和能量函數計算模塊；輸出函數計算模塊根據輸入的顯層神經元xi的值計算隱層神經元ej的值，并輸出給能量函數計算模塊；能量函數計算模塊根據輸出函數計算模塊的輸出計算能量函數E的計算，若E＝0，則向控制模塊輸出停止迭代信號，否則向反饋計算模塊輸出能量函數本文檔來自技高網...

【技術保護點】
一種基于受限玻爾茲曼機的LDPC譯碼方法，其特征在于，包括如下步驟：(1)根據應用需求確定校驗矩陣H，大小為m×n，列重為L，行重為K；(2)根據校驗矩陣中“1”的位置建立Tanner圖，確定變量節點和校驗節點的連接關系；(3)根據Tanner圖建立受限玻爾茲曼機模型，Tanner圖中的變量節點作為顯層神經元，校驗節點作為隱層神經元；(4)根據K輸入異或的布爾表達式e＝X

【技術特征摘要】
1.一種基于受限玻爾茲曼機的LDPC譯碼方法，其特征在于，包括如下步驟：(1)根據應用需求確定校驗矩陣H，大小為m×n，列重為L，行重為K；(2)根據校驗矩陣中“1”的位置建立Tanner圖，確定變量節點和校驗節點的連接關系；(3)根據Tanner圖建立受限玻爾茲曼機模型，Tanner圖中的變量節點作為顯層神經元，校驗節點作為隱層神經元；(4)根據K輸入異或的布爾表達式e＝X1⊕X2⊕…⊕Xk，構造隱層神經元的輸出函數；將K輸入異或的布爾表達式改寫成最小項之和的形式，對于布爾表達式中布爾型的變量Xi，用實值變量表達式1+xi替換，對于布爾型的變量用實值變量表達式1-xi替換，其中xi為信息比特的值；(5)構造受限玻爾茲曼機的能量函數，能量函數為：式中ej為(4)中第j個隱層神經元的輸出，E為整個模型的能量；(6)將接收到的BPSK調制后的信息比特的值賦值給顯層神經元；(7)前饋計算，顯層神經元的值傳遞給隱層神經元，通過(4)確定的輸出函數計算隱層神經元ej的值和能量函數E的值；(8)反饋計算，根據本次迭代所得的能量函數值，通過梯度下降法修改顯層神經元的值，具體方法如下：式中xi代表第i個信息比特的值，α代表學習率，用于調控每次迭代下降的步長，求和是對每一個信息比特參與的L個隱層神經元提供的梯度求和。(9)更新顯層神經元的值，進行硬判決，即令大于等于0的顯層神經元的值為1，小于0的顯層神經元的值為-1，帶入(5)中的能量函數。若E＝0，則譯碼成功；否則重復步驟(7)(8)；(10)當迭代次數大于設定的最大迭代次數時，不再進行譯碼，直接輸出。2.根據權利要求1所述的基于受限玻爾茲曼機的LDPC譯碼方法，其特征在于：利用受限玻爾茲曼機對LDPC譯碼過程進行建模，通過異或的布爾表達式構造連續可微的隱層神經元的輸出函數，通過最小化能量函數的方式來獲得最優的信息比特分布；在最小化...

【專利技術屬性】
技術研發人員：沙金，昌晶，陳中杰，葛航旗，劉鏡伯，陳帥，
申請(專利權)人：南京大學，
類型：發明
國別省市：江蘇,32