模型分配方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)

基本信息

申請(qǐng)?zhí)?/td> CN202110997538.4 申請(qǐng)日 -
公開（公告）號(hào) CN113703975A 公開（公告）日 2021-11-26
申請(qǐng)公布號(hào) CN113703975A 申請(qǐng)公布日 2021-11-26
分類號(hào) G06F9/50（2006.01）I;G06N3/063（2006.01）I 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 張發(fā)恩;林國(guó)森 申請(qǐng)（專利權(quán)）人 創(chuàng)新奇智（重慶）科技有限公司
代理機(jī)構(gòu) 北京超凡宏宇專利代理事務(wù)所（特殊普通合伙） 代理人 衡滔
地址 400000重慶市九龍坡區(qū)火炬大道69號(hào)重慶啟迪科技園9號(hào)樓201室
法律狀態(tài) -

摘要

摘要 本申請(qǐng)?zhí)峁┮环N模型分配方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，方法包括：獲取各待分配模型；獲取針對(duì)所述待分配模型的所有分配組合方案中，各NPU中的第一資源使用指標(biāo)值；各所述NPU中的第一資源使用指標(biāo)值表征各所述NPU中的資源使用情況；根據(jù)各所述分配組合方案下的各NPU中的第一資源使用指標(biāo)值，確定出第一資源使用指標(biāo)值最均衡的目標(biāo)分配組合方案；按照所述目標(biāo)分配組合方案將各所述待分配模型分別加載至對(duì)應(yīng)的NPU中。這樣，加載待分配模型后的智能盒子中，各NPU的性能相對(duì)均衡，從而可以提高智能盒子的性能利用率。