數(shù)據(jù)處理方法、裝置、芯片以及計算機(jī)可讀存儲介質(zhì)

基本信息

申請?zhí)?/td> CN202010142403.5 申請日 -
公開(公告)號 CN111428879A 公開(公告)日 2020-07-17
申請公布號 CN111428879A 申請公布日 2020-07-17
分類號 G06N20/00;G06N3/04;G06N3/063;G06N3/08 分類 計算;推算;計數(shù);
發(fā)明人 闖小明;楊龔軼凡;鄭瀚尋;高雷;侯覺 申請(專利權(quán))人 中昊芯英(杭州)科技有限公司
代理機(jī)構(gòu) - 代理人 -
地址 518057 廣東省深圳市南山區(qū)粵海街道科技生態(tài)園10棟B座5-15
法律狀態(tài) -

摘要

摘要 本發(fā)明實施例公開了一種數(shù)據(jù)處理方法、裝置、芯片以及計算機(jī)可讀存儲介質(zhì),用于加速深度學(xué)習(xí)模型訓(xùn)練中批標(biāo)準(zhǔn)化層的運(yùn)算。通過將多維張量數(shù)據(jù)按照預(yù)設(shè)規(guī)則存入第一存儲器,再以二維數(shù)據(jù)的形式取出來并進(jìn)行運(yùn)算,并通過幾個寄存器組以及第二存儲器配合使用構(gòu)建出第三矩陣,通過將第一矩陣和第三矩陣進(jìn)行矩陣相乘可同時求出第一矩陣中的每一行的元素和與元素平方和,實現(xiàn)了求元素和與求元平方和的并行計算,從而加速批標(biāo)準(zhǔn)化層中的涉及均值和方差的計算,解決了批標(biāo)準(zhǔn)化層運(yùn)算過程中因數(shù)據(jù)量過大而導(dǎo)致運(yùn)算耗時長的問題。最終使批標(biāo)準(zhǔn)化操作的運(yùn)算速度得以提高,極大地縮短了深度學(xué)習(xí)模型訓(xùn)練整體所需的時間。