一種基于卷積神經網絡和正則化方法的半監督調制識別方法技術

本發明專利技術屬于無線通信技術領域，公開了一種基于卷積神經網絡和正則化方法的半監督調制識別方法，包括如下步驟：步驟A、將有標記的訓練樣本輸入包含Dropout和高斯噪聲層的卷積神經網絡前向運算，然后計算前向輸出與有標記樣本對應標簽之間的交叉熵損失；步驟B、對包含有標記和無標記的所有訓練樣本，將每個樣本兩次輸入包含Dropout和高斯噪聲層的卷積神經網絡前向運算，然后計算兩次前向輸出之間的余弦相似性損失；步驟C、將步驟A中的交叉熵損失函數、步驟B中的余弦相似性加權求和作為模型的總損失函數，然后以最小化總損失函數為訓練目標更新模型參數；步驟D、重復步驟A至步驟C，直至模型完成訓練；步驟E、將待識別信號樣本輸入訓練完成的模型前向運算輸出調制方式識別結果；該算法在標記樣本占總訓練樣本7％及以下時，較于監督學習算法可以獲得約11

【技術實現步驟摘要】
一種基于卷積神經網絡和正則化方法的半監督調制識別方法


[0001]本專利技術屬于無線通信
，特別涉及一種基于卷積神經網絡和正則化方法的半監督調制識別方法。

技術介紹

[0002]快速發展的無線通信技術已經融入于當下的千行百業之中，成為人類社會生產生活必不可少的一部分。實際通信系統中，受限于信道特性，基帶信號需要先通過調制，再經天線發射出去。調制識別是指根據接收機收到的信號，判斷接收信號所采用的調制方式。調制識別是對接收信號進行參數估計、解調譯碼的基礎，調制方式識別的正確與否直接決定了能否從接收信號中提取出有用信息，該技術普遍應用于各種軍事和民用場景中。
[0003]調制識別技術發展至今可以歸為基于似然比理論的調制識別算法、基于特征提取的調制識別算法和基于深度學習的調制識別算法三類。基于似然比理論的調制識別方法可以達到理論上的性能上限，其主要局限性表現如下：一是似然函數的構造需要已知載波頻率、碼元速率和信噪比等參數，然而在非合作通信系統中諸如此類先驗信息是未知的；二是基于似然比理論的調制識別方法復雜度較高。因此在大多數實際通信場景下基于似然比理論的調制識別方法無法適用。基于特征提取的調制識別方法針對待識別信號集合構造出若干個分類特征，然后根據所提特征設計出合適的分類器完成信號識別，該類算法具有良好的工程應用價值。然而基于特征提取的調制識別方法過于依賴所構造特征的分類能力，所構造的特征直接決定了該類方法的性能上限。隨著數字通信技術的發展，現今無線通信系統中調制方式呈現越來越多、越來越復雜的趨勢，如高階調制信號128APSK、128QAM等。當待識別集合中信號種類數較多、調制方式較復雜時，研究人員依靠自身經驗去人工構造特征是十分困難的。
[0004]近年來受深度學習技術成功應用于各種領域的啟發，大量學者開始研究使用深度學習方法解決調制識別問題。基于深度學習的調制識別方法是一種端到端的模型，同時完成特征提取和分類器的功能。較于傳統基于特征提取的方法，基于深度學習的調制識別方法無需人工提取特征，并且可以取得更高的分類精度。然而大多現存基于深度學習的調制識別算法也存在一個主要不足：基于深度學習的調制識別算法的需要大量標記樣本參與網絡訓練，否則難以訓練出一個高精度的分類模型。然而實際通信系統中并不存在大量標記樣本，實際通信系統中僅存在少量標記樣本和大量無標記樣本，并且獲取大量無標記樣本的調制方式并進行標注是極其困難繁瑣的，因此基于少量標記樣本和大量無標記樣本的半監督調制識別算法是非常值得研究的。現存絕大多數研究都集中在監督學習算法上，而對于半監督調制識別算法的研究少之又少，史蘊豪等(2020)提出了一種基于偽標簽的半監督調制識別算法，但是該算法需要分別訓練一個全連接神經網絡和一個卷積神經網絡，算法實現流程過于繁瑣。Y.Wang等(2020)給出了一種基于遷移學習的半監督調制識別算法，然而該算法需訓練卷積神經網絡和卷積自編碼器兩路網絡，訓練過程較為復雜。現存半監督調制識別算法普遍存在實現過程復雜的問題，為解決實際通信場景下的調制識別任務，基
于少量標記樣本和大量無標記樣本的半監督調制識別算法需要進行深入研究。

技術實現思路

[0005]本專利技術為解決現有技術中的問題而提出了一種基于卷積神經網絡和正則化方法的半監督調制識別方法，在少量標記樣本和大量無標記樣本下的通信場景下實現了無線信號調制方式識別；為達到上述目的所采取的技術方案是：
[0006]一種基于卷積神經網絡和正則化方法的半監督調制識別方法，包括如下步驟：
[0007]步驟A、將有標記的訓練樣本輸入包含Dropout和高斯噪聲層的卷積神經網絡前向運算，然后計算前向輸出與有標記樣本對應標簽之間的交叉熵損失；
[0008]步驟B、對包含有標記和無標記的所有訓練樣本，將每個樣本兩次輸入包含Dropout和高斯噪聲層的卷積神經網絡前向運算，然后計算兩次前向輸出之間的余弦相似性損失；
[0009]步驟C、將步驟A中的交叉熵損失函數、步驟B中的余弦相似性加權求和作為模型的總損失函數，然后以最小化總損失函數為訓練目標更新模型參數；
[0010]步驟D、重復步驟A至步驟C，直至模型完成訓練；
[0011]步驟E、將待識別信號樣本輸入訓練完成的模型前向運算輸出調制方式識別結果；
[0012]優選的，在步驟A中，包含Dropout和高斯噪聲層的卷積神經網絡的具體結構為，
[0013][0014]優選的，在步驟A中，殘差棧的具體結構首先是線性激活的1
×
1卷積層，然后串接兩個殘差單元，最后連接一層窗口大小為1
×
2且步長為2的最大池化層。
[0015]優選的，在步驟A中，殘差棧中殘差單元的具體結構首先是一層ReLU函數激活、卷積核大小為1
×
5的標準卷積層，然后連接一層線性激活、卷積核大小為1
×
5的標準卷積層，最后將殘差單元中前一個標準卷積層的輸入與后一個標準卷積層的輸出相加作為殘差單元的輸出。
[0016]優選的，在步驟A中，卷積神經網絡中設計的ReLU為修正線性單元激活函數，其定義為ReLU(x)＝max(0,x)。
[0017]優選的，在步驟A中，所采用的卷積神經網絡在輸入層之后部署了一層高斯噪聲
層，高斯噪聲的標準差大小為0.001。
[0018]優選的，在步驟A中，所采用的卷積神經網絡在最后一層全連接層之前部署了一層高斯噪聲層，高斯噪聲的標準差大小為0.0005。
[0019]優選的，在步驟A中，所采用的卷積神經網絡在第二個殘差棧之后部署了一層Dropout層，該層的隨機丟棄概率值為0.7。
[0020]優選的，在步驟A中，所采用交叉熵損失函數為：
[0021][0022]其中，y
i
為標記樣本對應的標簽，z
i
為標記樣本的前向運算輸出，且y
i
和z
i
都是C維向量，C表示待分類信號種類數。
[0023]優選的，在步驟B中，所采用余弦相似性損失函數為：
[0024][0025]其中，表示步驟B中訓練樣本的第一次前向運算輸出，表示步驟B中訓練樣本的第二次前向運算輸出，且和都是C維向量形式。
[0026]優選的，在步驟C中，模型的總損失函數為：
[0027][0028]其中，L
s
(z
i
,y
i
)為步驟A中的交叉熵損失，為步驟B中的余弦相似性損失，w(t)為余弦相似性損失所占權重，t表示訓練輪次，w(t)是以訓練輪次為自變量的函數。
[0029]優選的，在步驟C中，余弦相似性損失權重函數w(t)在訓練開始的若干輪次中從較小值開始緩慢增大，隨后在中間輪次保持不變，在最后的若干倫次逐漸減小為零。
[0030]本專利技術所具有的有益效果為：在存在少量標記樣本和大量無標記樣本的通信場景下，提出一種基于卷積神經網絡和正則化方法的本文檔來自技高網...

【技術保護點】

【技術特征摘要】
1.一種基于卷積神經網絡和正則化方法的半監督調制識別方法，其特征在于，包括如下步驟：步驟A、將有標記的訓練樣本輸入包含Dropout和高斯噪聲層的卷積神經網絡前向運算，然后計算前向輸出與有標記樣本對應標簽之間的交叉熵損失；步驟B、對包含有標記和無標記的所有訓練樣本，將每個樣本兩次輸入包含Dropout和高斯噪聲層的卷積神經網絡前向運算，然后計算兩次前向輸出之間的余弦相似性損失；步驟C、將步驟A中的交叉熵損失函數、步驟B中的余弦相似性加權求和作為模型的總損失函數，然后以最小化總損失函數為訓練目標更新模型參數；步驟D、重復步驟A至步驟C，直至模型完成訓練；步驟E、將待識別信號樣本輸入訓練完成的模型前向運算輸出調制方式識別結果。2.根據權利要求1所述的基于卷積神經網絡和正則化方法的半監督調制識別方法，其特征在于，在步驟A中，包含Dropout和高斯噪聲層的卷積神經網絡的具體結構為，3.根據權利要求1所述的基于卷積神經網絡和正則化方法的半監督調制識別方法，其特征在于，在步驟A中，所采用的卷積神經網絡在輸入層之后部署了一層高斯噪聲層，高斯噪聲的標準差大小為0.001。4.根據權利要求1所述的基于卷積神經網絡和正則化方法的半監督調制識別方法，其特征在于，在步驟A中，所采用的卷積神經網絡在最后一層全連接層之前部署了一層高斯噪聲層，高斯噪聲的標準差大小為0.0005。5.根據權利要求1所述的基于卷積神經網絡和正則化方法的半監督調制識別方法，其特征在于，在步驟A中，所采用的卷積神經...

【專利技術屬性】
技術研發人員：孫鵬，姜勃，劉宏潔，孫冬哲，王忠勇，
申請(專利權)人：鄭州大學，
類型：發明
國別省市：