計算神經(jīng)網(wǎng)絡(luò)壓縮最佳定點位數(shù)的方法、存儲介質(zhì)和裝置

基本信息

申請?zhí)?/td> CN201810992672.3 申請日 -
公開(公告)號 CN109359728B 公開(公告)日 2021-04-09
申請公布號 CN109359728B 申請公布日 2021-04-09
分類號 G06N3/063(2006.01)I;G06N3/04(2006.01)N;G06N3/08(2006.01)N 分類 計算;推算;計數(shù);
發(fā)明人 楊志明;陳巍巍;陳臘梅 申請(專利權(quán))人 深思考人工智能機器人科技(北京)有限公司
代理機構(gòu) 北京德琦知識產(chǎn)權(quán)代理有限公司 代理人 謝安昆;宋志強
地址 100085北京市海淀區(qū)信息路12號中關(guān)村發(fā)展大廈B座B203-205
法律狀態(tài) -

摘要

摘要 本發(fā)明提供一種計算神經(jīng)網(wǎng)絡(luò)壓縮最佳定點位數(shù)的方法、存儲介質(zhì)和裝置,包括:步驟11:設(shè)置FPn為初始值;步驟12:按照當(dāng)前FPn,將卷積層參數(shù)進行定點化處理,以構(gòu)建當(dāng)前定點化深度學(xué)習(xí)算法;將L個樣本數(shù)據(jù)對中的樣本輸入值逐個輸入當(dāng)前定點化深度學(xué)習(xí)算法,其中,一樣本數(shù)據(jù)對包括樣本輸入值Xl、以及Xl的標(biāo)準(zhǔn)輸出Yl,記錄當(dāng)前定點化深度學(xué)習(xí)算法的輸出Y’l,l=1,2…L;步驟13:通過比較Yl與Y’l,判斷Y’l是否符合預(yù)設(shè)要求,如果是,則記錄當(dāng)前FPn為定點化深度學(xué)習(xí)算法的定點位數(shù)最終值,結(jié)束本流程,否則執(zhí)行步驟14;步驟14:調(diào)整FPn數(shù)值,返回步驟12。本發(fā)明方法,可以快速確定定點化深度學(xué)習(xí)算法中的定點位數(shù),可提高深度學(xué)習(xí)算法的運算速度,節(jié)省運算時間。??