神經元權重信息處理方法和系統技術方案

本發明專利技術涉及一種神經元權重信息處理方法和系統，所述方法包括：接收前端神經元的神經元輸出信息，以及與所述神經元輸出信息對應的權重索引；根據所述權重索引，讀取權重索引信息對應關系，獲取權重信息，所述權重索引信息對應關系為權重索引和權重信息之間的對應關系；根據所述權重信息和所述神經元輸出信息，獲取所述前端神經元的輸入信息。神經元之間不再將權重信息直接傳遞，而是將權重信息的索引進行傳遞，不但節省了網絡之間的傳遞信息量，并且可以更加靈活的改變權重信息的設置。提高了神經元網絡的信息處理能力。

Neuron weight information processing method and system

The invention relates to a neuron weight information processing method and system, the method comprises: receiving front-end neuron output information of neurons, and the corresponding neuron output information index; according to the weight index, weight index information read relationship to obtain the weight information, the corresponding index information for the relationship between weight index and weight information; according to the weight information and the outputs of information, input information obtained by the front-end neurons. No longer will the weight of information between neurons directly, but the weight of the index of information transfer, not only saves the amount of information transmission network, and can change the weight information of more flexible settings. It improves the information processing ability of the neural network.

【技術實現步驟摘要】
神經元權重信息處理方法和系統
本專利技術涉及人工神經網絡
，特別是涉及神經元權重信息處理方法和系統。
技術介紹
如今的人工神經網絡研究絕大多數仍是在馮·諾依曼計算機軟件并搭配高性能GPGPU(GeneralPurposeGraphicProcessingUnits通用圖形處理單元)平臺中實現的，整個過程的硬件開銷、能耗和信息處理速度都不容樂觀。為此，近幾年神經形態計算領域迅猛發展，即采用硬件電路直接構建神經網絡從而模擬大腦的功能，試圖實現大規模并行、低能耗、可支撐復雜模式學習的計算平臺。然而，傳統的神經形態系統中，將神經網絡中各神經元之間的連接和權重信息進行綁定時，每一個神經元之間的連接都需要傳遞相應的權重信息，占據了較多的硬件處理資源，硬件對于網絡性能的約束很大，并且權重信息降低了神經元的處理能力，限制了神經元的靈活性，不適合通用的神經網絡的硬件框架。
技術實現思路
基于此，有必要針對神經元與權重信息一一對應配置并傳遞，降低了神經元信息處理能力的問題，提供一種神經元權重信息處理方法和系統，所述方法包括：接收前端神經元的神經元輸出信息，以及與所述神經元輸出信息對應的權重索引；根據所述權重索引，讀取權重索引信息對應關系，獲取權重信息，所述權重索引信息對應關系為權重索引和權重信息之間的對應關系；根據所述權重信息和所述神經元輸出信息，獲取所述前端神經元的輸入信息。在其中一個實施例中，所述前端神經元，包括人工神經元或脈沖神經元。在其中一個實施例中，所述權重索引，包括與所述權重索引對應的權重信息的存儲地址。在其中一個實施例中，所述接收前端神經元的神經元輸出信息，以及與所述神經元輸出信息對應的權重索引，包括：接收前端神經元輸出的路由信息，所述路由信息包括前端神經元輸出的神經元輸出信息，以及與所述神經元輸出信息對應的權重索引；解析所述路由信息，獲取所述神經元輸出信息和所述權重索引。在其中一個實施例中，所述權重信息，包括：根據預設的權重取值范圍和初始權重信息，利用權重約化算法計算出的所述權重信息。在其中一個實施例中，在根據所述權重信息和所述神經元輸出信息，獲取所述前端神經元的輸入信息的步驟之后，所述方法還包括：根據所述前端神經元的輸入信息和讀取的當前神經元信息，根據神經元輸出算法，計算當前神經元輸出信息；確定所述當前神經元輸出信息的目的信息，并根據所述目的信息查找目的索引對應關系，獲取所述目的信息的權重索引，所述目的索引對應關系包括目的信息和權重索引之間的對應關系；輸出所述當前神經元輸出信息和所述權重索引。在其中一個實施例中，當前神經元接收的前端神經元的輸出信息中，攜帶前端神經元與當前神經元之間的權重信息的權重索引，當前神經元根據接收到的權重索引信息讀取權重信息后，根據不同的神經元模型進行相應的運算處理，獲取前端神經元的輸入信息。神經元之間不再將權重信息直接傳遞，而是將權重信息的索引進行傳遞，不但節省了網絡之間的傳遞信息量，并且可以更加靈活的改變各個神經元的權重信息的設置，提高了神經元網絡的信息處理能力。在其中一個實施例中，權重索引的使用，不但適用于人工神經網絡，也適用于脈沖神經網絡，提高了人工神經網絡和脈沖神經網絡的信息處理能力。在其中一個實施例中，采用權重信息的存儲地址作為其索引信息，可以使接收到索引信息的神經元直接利用存儲地址信息查詢到權重信息，提高權重信息的提取效率，進而提高整個神經元網絡的信息處理效率。在其中一個實施例中，將權重索引和神經元輸出信息，設置于路由信息中進行傳送，充分利用了現有的路由數據，提高了神經元之間的信息使用效率。在其中一個實施例中，根據預設的權重取值范圍，利用權重約化算法計算出的權重信息，其權重值在預設的取值范圍之內，且為預設的取值范圍的有限個離散值，減少了用于存儲權重信息的硬件的存儲空間，并且保持了權重信息的精度。在其中一個實施例中，當前神經元計算出當前神經元的輸出信息后，根據輸出信息的目的神經元，查找對應的權重索引后，輸出所述當前神經元輸出信息和所述權重索引。當前神經元將權重索引發送至后端的神經元，將權重索引信息在神經網絡中進行了完整的傳遞，提高了神經網絡的信息處理能力。本專利技術還提供一種神經元權重信息處理系統，包括：前端神經元輸出信息接收模塊，用于接收前端神經元的神經元輸出信息，以及與所述神經元輸出信息對應的權重索引；權重信息獲取模塊，用于根據所述權重索引，讀取權重索引信息對應關系，獲取權重信息，所述權重索引信息對應關系為權重索引和權重信息之間的對應關系；前端神經元輸入信息獲取模塊，用于根據所述權重信息和所述神經元輸出信息，獲取所述前端神經元的輸入信息。在其中一個實施例中，所述前端神經元，包括人工神經元或脈沖神經元。在其中一個實施例中，所述權重索引，包括與所述權重索引對應的權重信息的存儲地址。在其中一個實施例中，所述前端神經元輸出信息接收模塊，包括：路由信息接收單元，用于接收前端神經元輸出的路由信息，所述路由信息包括前端神經元輸出的神經元輸出信息，以及與所述神經元輸出信息對應的權重索引；路由信息解析單元，用于解析所述路由信息，獲取所述神經元輸出信息和所述權重索引。在其中一個實施例中，所述權重信息，包括：根據預設的權重取值范圍和初始權重信息，利用權重約化算法計算出的所述權重信息。在其中一個實施例中，還包括：當前神經元輸出信息獲取模塊，用于根據所述前端神經元的輸入信息和讀取的當前神經元信息，根據神經元輸出算法，計算當前神經元輸出信息；權重索引確定模塊，用于確定所述當前神經元輸出信息的目的信息，并根據所述目的信息查找目的索引對應關系，獲取所述目的信息的權重索引，所述目的索引對應關系包括目的信息和權重索引之間的對應關系；權重索引發送模塊，用于輸出所述當前神經元輸出信息和所述權重索引。在其中一個實施例中，當前神經元接收的前端神經元的輸出信息中，攜帶前端神經元與當前神經元之間的權重信息的權重索引，當前神經元根據接收到的權重索引信息讀取權重信息后，根據不同的神經元模型進行相應的運算處理，獲取前端神經元的輸入信息。神經元之間不再將權重信息直接傳遞，而是將權重信息的索引進行傳遞，不但節省了網絡之間的傳遞信息量，并且可以更加靈活的改變各個神經元的權重信息的設置，提高了神經元網絡的信息處理能力。在其中一個實施例中，權重索引的使用，不但適用于人工神經網絡，也適用于脈沖神經網絡，提高了人工神經網絡和脈沖神經網絡的信息處理能力。在其中一個實施例中，采用權重信息的存儲地址作為其索引信息，可以使接收到索引信息的神經元直接利用存儲地址信息查詢到權重信息，提高權重信息的提取效率，進而提高整個神經元網絡的信息處理效率。在其中一個實施例中，將權重索引和神經元輸出信息，設置于路由信息中進行傳送，充分利用了現有的路由數據，提高了神經元之間的信息使用效率。在其中一個實施例中，根據預設的權重取值范圍，利用權重約化算法計算出的權重信息，其權重值在預設的取值范圍之內，減少了用于存儲權重信息的硬件的存儲空間，并且保持了權重信息的精度。在其中一個實施例中，當前神經元計算出用于輸出的當前神經元的輸出信息后，根據輸出信息的目的神經元，查找對應的權重索引后，輸出所述當前神經元輸出信息和所述權重索引。當前神經元將權重索引發送至后端的神本文檔來自技高網...

【技術保護點】
一種神經元權重信息處理方法，其特征在于，所述方法包括：接收前端神經元的神經元輸出信息，以及與所述神經元輸出信息對應的權重索引；根據所述權重索引，讀取權重索引信息對應關系，獲取權重信息，所述權重索引信息對應關系為權重索引和權重信息之間的對應關系；根據所述權重信息和所述神經元輸出信息，獲取所述前端神經元的輸入信息。

【技術特征摘要】
1.一種神經元權重信息處理方法，其特征在于，所述方法包括：接收前端神經元的神經元輸出信息，以及與所述神經元輸出信息對應的權重索引；根據所述權重索引，讀取權重索引信息對應關系，獲取權重信息，所述權重索引信息對應關系為權重索引和權重信息之間的對應關系；根據所述權重信息和所述神經元輸出信息，獲取所述前端神經元的輸入信息。2.根據權利要求1所述的神經元權重信息處理方法，其特征在于：所述前端神經元，包括人工神經元或脈沖神經元。3.根據權利要求1所述的神經元權重信息處理方法，其特征在于：所述權重索引，包括與所述權重索引對應的權重信息的存儲地址。4.根據權利要求1所述的神經元權重信息處理方法，其特征在于，所述接收前端神經元的神經元輸出信息，以及與所述神經元輸出信息對應的權重索引，包括：接收前端神經元輸出的路由信息，所述路由信息包括前端神經元輸出的神經元輸出信息，以及與所述神經元輸出信息對應的權重索引；解析所述路由信息，獲取所述神經元輸出信息和所述權重索引。5.根據權利要求1所述的神經元權重信息處理方法，其特征在于，所述權重信息，包括：根據預設的權重取值范圍和初始權重信息，利用權重約化算法計算出的所述權重信息。6.根據權利要求1所述的神經元權重信息處理方法，其特征在于，在根據所述權重信息和所述神經元輸出信息，獲取所述前端神經元的輸入信息的步驟之后，所述方法還包括：根據所述前端神經元的輸入信息和讀取的當前神經元信息，根據神經元輸出算法，計算當前神經元輸出信息；確定所述當前神經元輸出信息的目的信息，并根據所述目的信息查找目的索引對應關系，獲取所述目的信息的權重索引，所述目的索引對應關系包括目的信息和權重索引之間的對應關系；輸出所述當前神經元輸出信息和所述權重索引。7.一種神經元權重信息處理系統，其特...

【專利技術屬性】
技術研發人員：裴京，施路平，田雷，吳臻志，鄧磊，
申請(專利權)人：清華大學，
類型：發明
國別省市：北京,11