一種數(shù)據(jù)處理方法及裝置

基本信息

申請(qǐng)?zhí)?/td> CN202111397146.0 申請(qǐng)日 -
公開（公告）號(hào) CN114326922A 公開（公告）日 2022-04-12
申請(qǐng)公布號(hào) CN114326922A 申請(qǐng)公布日 2022-04-12
分類號(hào) G06C3/00（2006.01）I;G06F17/18（2006.01）I 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 劉大可;唐云翔;劉磊 申請(qǐng)（專利權(quán)）人 極芯通訊技術(shù)（南京）有限公司
代理機(jī)構(gòu) 北京路浩知識(shí)產(chǎn)權(quán)代理有限公司 代理人 王宇楊
地址 211800江蘇省南京市自貿(mào)區(qū)南京片區(qū)江浦街道浦濱路320號(hào)科創(chuàng)總部大廈C座908室
法律狀態(tài) -

摘要

摘要 本發(fā)明提供一種數(shù)據(jù)處理方法及裝置，該方法包括：獲取待處理數(shù)據(jù)及其操作碼；其中，操作碼用于指示對(duì)待處理數(shù)據(jù)進(jìn)行計(jì)算的函數(shù)種類；對(duì)待處理數(shù)據(jù)進(jìn)行預(yù)處理；預(yù)處理后的待處理數(shù)據(jù)包括第一數(shù)據(jù)段、第二數(shù)據(jù)段和第三數(shù)據(jù)段，第一數(shù)據(jù)段用于生成查表地址，第二數(shù)據(jù)段用于參與函數(shù)計(jì)算，第三數(shù)據(jù)段用于指示第二數(shù)據(jù)段的小數(shù)點(diǎn)位置；根據(jù)第一數(shù)據(jù)段和操作碼生成查表地址，通過查表地址在系數(shù)表中查找二次多項(xiàng)式系數(shù)；根據(jù)二次多項(xiàng)式系數(shù)和第二數(shù)據(jù)段執(zhí)行內(nèi)插計(jì)算，對(duì)內(nèi)插計(jì)算結(jié)果進(jìn)行后處理，并根據(jù)第三數(shù)據(jù)段指示的小數(shù)點(diǎn)位置，得到待處理數(shù)據(jù)的計(jì)算結(jié)果。本發(fā)明實(shí)現(xiàn)了若干種不同函數(shù)的高精度、高速計(jì)算，且有效降低了計(jì)算和存儲(chǔ)資源的開銷。