一種面向多核計(jì)算環(huán)境的BP神經(jīng)網(wǎng)絡(luò)并行化方法

基本信息

申請?zhí)?/td> CN201710073067.1 申請日 -
公開(公告)號 CN106909971A 公開(公告)日 2017-06-30
申請公布號 CN106909971A 申請公布日 2017-06-30
分類號 G06N3/08;G06F9/50;G06F12/0893;G06F12/0897 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 湯德佑;梁珩琳;曾慶淼;張亞卓;湯達(dá)祺;鄒春剛 申請(專利權(quán))人 廣州訊鴻網(wǎng)絡(luò)技術(shù)有限公司
代理機(jī)構(gòu) 廣州市華學(xué)知識產(chǎn)權(quán)代理有限公司 代理人 華南理工大學(xué);廣州訊鴻網(wǎng)絡(luò)技術(shù)有限公司
地址 廣東省廣州市天河區(qū)五山路381號
法律狀態(tài) -

摘要

摘要 本發(fā)明提供了一種面向多核計(jì)算環(huán)境的BP神經(jīng)網(wǎng)絡(luò)并行化方法。包括:并行計(jì)算任務(wù)劃分及映射方法;存儲各層中間計(jì)算結(jié)果的緩存設(shè)置方法;BP神經(jīng)網(wǎng)絡(luò)的并行訓(xùn)練方法。所述對含P個計(jì)算單元的硬件平臺,任務(wù)劃分方法對將隱藏層和輸出層計(jì)算任務(wù)整體組合成一個粒度更大任務(wù),提高并行性;所述緩存設(shè)置方法,在一趟訓(xùn)練過程中,同一變量被上一個子任務(wù)訪問后可用于下一個子任務(wù),下一個子任務(wù)不會產(chǎn)生Cache缺失;所述BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法中,樣本分成K批進(jìn)入網(wǎng)絡(luò)訓(xùn)練,K值的設(shè)計(jì)綜合計(jì)算平臺的二級緩存大小,與緩存設(shè)置相結(jié)合,最大限度發(fā)揮硬件性能,適用于多核計(jì)算平臺下的BP神經(jīng)網(wǎng)絡(luò)應(yīng)用。