一種低bit混合精度量化提升模型精度的方法

基本信息

申請?zhí)?/td> CN202011622501.5 申請日 -
公開（公告）號 CN114692818A 公開（公告）日 2022-07-01
申請公布號 CN114692818A 申請公布日 2022-07-01
分類號 G06N3/04（2006.01）I;G06N3/08（2006.01）I 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 周飛飛 申請（專利權(quán)）人 合肥君正科技有限公司
代理機(jī)構(gòu) 北京嘉東律師事務(wù)所 代理人 -
地址 230088安徽省合肥市高新區(qū)望江西路800號合肥高新股份有限公司C-3研發(fā)樓9層
法律狀態(tài) -

摘要

摘要 本發(fā)明提供一種低bit混合精度量化提升模型精度的方法，所述方法定性分析模型網(wǎng)絡(luò)結(jié)構(gòu)，通過對模型通道的計(jì)算及分析，確保推理不越界；以混合精度配置形式提高網(wǎng)絡(luò)模型精度。本申請通過配置混合精度方式，確保模型在低bit過程中達(dá)到和8bit與全精度一樣的精度。混合精度量化，定性分析網(wǎng)絡(luò)的feature及weight，使得模型低bit量化精度更高。