【技術實現步驟摘要】
本專利技術涉及數字電路設計，具體地，涉及一種采用移位補償的乘累加近似運算裝置。
技術介紹
1、深度學習廣泛應用于端側場景中（例如人臉識別、車輛識別等），部署場景的復雜性驅使了更加復雜的模型結構，同時導致模型權重存儲量更加龐大，這對于存儲容量有限的端側設備（例如手機、單片電腦）等是一個不利影響。
2、雖然深度學習采用的深度神經網絡是一個黑箱模型，但是通過觀察統計一些經典深度神經網絡模型（例如alexnet、resnet等）權重的分布規律可以發現深度神經網絡的權重分布類似于高斯分布。對模型權重進行特定的重排序后，可以觀察到模型權重局部內各元素幾乎偏差為零，這個偏差可以用2的冪表示。
3、可見，現有的深度神經網絡中乘累加操作中的乘法運算量以及模型權重存儲量都很大。
技術實現思路
1、為了解決上述存在的技術問題，本專利技術揭示了一種采用移位補償的乘累加近似運算裝置，包括原始權重解碼模塊，輸入特征圖重排網絡模塊和重排索引移位卷積risc算法運算模塊，其特征在于，
2、所述原始權重解碼模塊用于將輸入的原始權重數據，解碼生成基權重信號、權重偏差信號和交換網絡控制信號：
3、所述輸入特征圖重排網絡模塊用于根據所述原始權重解碼模塊生成的交換網絡控制信號對輸入的原始輸入特征圖序列進行重排，輸出重排后的特征圖序列；
4、所述重排索引移位卷積risc算法運算模塊用于將輸入的所述重排后的特征圖序列拆分成多組子序列且分別進行risc運算，按照risc
5、本專利技術可以減少深度神經網絡中乘累加操作中的乘法運算量以及模型權重存儲量，同時由于神經網絡模型權重的冗余性，使得神經網絡對模型權重的微調具有一定的容錯糾錯能力，在模型權重參數量減少的同時識別精度幾乎保持不變，使得本裝置有了充分的應用場景。相比具有同樣功能的采用乘法器和加法器實現的mac單元，該采用移位補償的乘累加近似運算裝置有如下優勢：（1）將部分乘法運算替換為了移位運算，減少了硬件實現面積。（2）壓縮了權重存儲量，減少了權重存儲器實際所需位寬。
本文檔來自技高網...【技術保護點】
1.一種采用移位補償的乘累加近似運算裝置，包括原始權重解碼模塊，輸入特征圖重排網絡模塊和重排索引移位卷積RiSC算法運算模塊，其特征在于，
2.根據權利要求1所述的裝置，優選的，所述RiSC算法的形式如下：
3.根據權利要求1所述的裝置，所述輸入特征圖重排網絡模塊包括多個??to?帶優先級仲裁器，其中為原始輸入特征圖序列長度，為子序列長度。
4.根據權利要求3所述的裝置，所有仲裁器接收的is_first信號相同，輸入特征圖序列中每個元素輸入進仲裁器時對應的valid信號根據其重排索引中指示的子序列編號是否和仲裁器編號相同來生成，例如有一輸入特征圖序列[1,2,3,4]的重排索引是[0,1,0,1]，該輸入特征圖序列廣播輸入兩個4輸入2輸出仲裁器，對于仲裁器0,序列每個元素的valid信號為[1,0,1,0]，對于仲裁器1,序列每個元素的valid信號為[0,1,0,1]。
5.根據權利要求1所述的裝置，重排網絡采用banyan網絡，benes網絡或交叉開關。
6.根據權利要求1所述的裝置，所述重排索引移位卷積RiSC算法
7.根據權利要求1所述的裝置，所述原始權重解碼模塊還包括輸入的時鐘信號和復位信號。
8.根據權利要求1所述的裝置，所述輸入特征圖重排網絡模塊還包括輸入的時鐘信號，復位信號和交換網絡控制信號。
9.根據權利要求1所述的裝置，所述重排索引移位卷積RiSC算法運算模塊還包括輸入的時鐘信號，復位信號，基權重信號和權重偏差信號。
...【技術特征摘要】
1.一種采用移位補償的乘累加近似運算裝置，包括原始權重解碼模塊，輸入特征圖重排網絡模塊和重排索引移位卷積risc算法運算模塊，其特征在于，
2.根據權利要求1所述的裝置，優選的，所述risc算法的形式如下：
3.根據權利要求1所述的裝置，所述輸入特征圖重排網絡模塊包括多個??to?帶優先級仲裁器，其中為原始輸入特征圖序列長度，為子序列長度。
4.根據權利要求3所述的裝置，所有仲裁器接收的is_first信號相同，輸入特征圖序列中每個元素輸入進仲裁器時對應的valid信號根據其重排索引中指示的子序列編號是否和仲裁器編號相同來生成，例如有一輸入特征圖序列[1,2,3,4]的重排索引是[0,1,0,1]，該輸入特征圖序列廣播輸入兩個4輸入2輸出仲裁器，對于仲裁器0,序列每...
【專利技術屬性】
技術研發人員：趙文哲，龔元昌，霍志旺，江華，黃曉帆，辛帥，夏天，任鵬舉，
申請(專利權)人：西安交通大學，
類型：發明
國別省市：
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。