用于專用加速器的神經(jīng)網(wǎng)絡(luò)預(yù)編譯算法

基本信息

申請?zhí)?/td> CN202111557330.7 申請日 -
公開（公告）號 CN114219081A 公開（公告）日 2022-03-22
申請公布號 CN114219081A 申請公布日 2022-03-22
分類號 G06N3/063（2006.01）I 分類 計算；推算；計數(shù);
發(fā)明人 趙梓豪;王艷紅;鄒喬莎;史傳進 申請（專利權(quán)）人 復(fù)旦大學(xué)
代理機構(gòu) 上海正旦專利代理有限公司 代理人 陸飛;陸尤
地址 200433上海市楊浦區(qū)邯鄲路220號
法律狀態(tài) -

摘要

摘要 本發(fā)明屬神經(jīng)網(wǎng)絡(luò)技術(shù)領(lǐng)域，具體為用于專用加速器的神經(jīng)網(wǎng)絡(luò)預(yù)編譯算法。本發(fā)明算法包括：使用有向圖對各種神經(jīng)網(wǎng)絡(luò)進行建模，神經(jīng)網(wǎng)絡(luò)的算子使用圖節(jié)點表示，神經(jīng)網(wǎng)絡(luò)的輸入輸出關(guān)系使用有向邊表示：對神經(jīng)網(wǎng)絡(luò)進行預(yù)處理，包括算子融合、合并算子拆解、大節(jié)點分解、小節(jié)點合并；按照專用加速器的靜態(tài)隨機存儲器的大小，對經(jīng)過預(yù)處理的有向圖進行分割，使得每個計算圖可以直接編譯到專用加速器上運行。本發(fā)明通過將神經(jīng)網(wǎng)絡(luò)使用圖來表示，經(jīng)過對各種節(jié)點的預(yù)編譯處理，使得計算圖達到更適合映射到硬件的形式，實現(xiàn)硬件的加速效果最大化以及硬件的功耗最小化。