一種通道剪枝和快捷連接層剪枝方法及系統(tǒng)

基本信息

申請?zhí)?/td> CN202110592328.7 申請日 -
公開（公告）號 CN113222142A 公開（公告）日 2021-08-06
申請公布號 CN113222142A 申請公布日 2021-08-06
分類號 G06N3/08;G06N3/04 分類 計算；推算；計數(shù);
發(fā)明人 王俊杰;杜金航;許卓然;彭伊莎;薛貴榮 申請（專利權(quán)）人 上海天壤智能科技有限公司
代理機構(gòu) 上海段和段律師事務(wù)所 代理人 李佳俊;郭國中
地址 201100 上海市閔行區(qū)劍川路951號5幢1層（集中登記地）
法律狀態(tài) -

摘要

摘要 本發(fā)明提供一種通道剪枝和快捷連接層剪枝方法及系統(tǒng)，涉及計算機視覺技術(shù)領(lǐng)域，該方法包括：步驟S1：對單階段目標檢測模型的BN層的尺度因子進行自適應(yīng)稀疏化訓(xùn)練；步驟S2：設(shè)計通道剪枝和層剪枝的閾值和快捷剪枝層的數(shù)量；步驟S3：對模型每一層小于通道閾值的通道進行剪枝；步驟S4：綜合每一個快捷連接層中所有BN的尺度因子的平均值和標準差，對快捷連接層重要性進行排序，剪去設(shè)置的數(shù)量；步驟S5：降低模型精度的損失，將剪去的層的BN中的偏差合并到下一個BN層的runing_mean中；步驟S6：使用模型蒸餾，并進行精度恢復(fù)訓(xùn)練；步驟S7：重復(fù)步驟S1～步驟S6，反復(fù)對模型進行剪枝。本發(fā)明能夠使得模型性能不下降，且參數(shù)量大大降低，顯著提升推理效率效果。