網(wǎng)絡(luò)溯源系統(tǒng)及其數(shù)據(jù)處理方法、計(jì)算機(jī)存儲(chǔ)介質(zhì)

基本信息

申請(qǐng)?zhí)?/td> CN201910046934.1 申請(qǐng)日 -
公開（公告）號(hào) CN109800208B 公開（公告）日 2019-09-27
申請(qǐng)公布號(hào) CN109800208B 申請(qǐng)公布日 2019-09-27
分類號(hào) G06F16/13（2019.01）I; G06F16/182（2019.01）I 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 張武斌; 彭闖; 袁敏洵; 袁小坊 申請(qǐng)（專利權(quán)）人 湖南友道信息技術(shù)有限公司
代理機(jī)構(gòu) 長(zhǎng)沙國(guó)科天河知識(shí)產(chǎn)權(quán)代理有限公司 代理人 邱軼
地址 410000 湖南省長(zhǎng)沙市開福區(qū)芙蓉中路一段416號(hào)泊福商業(yè)廣場(chǎng)21025號(hào)
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及網(wǎng)絡(luò)溯源技術(shù)領(lǐng)域，公開一種網(wǎng)絡(luò)溯源系統(tǒng)及其數(shù)據(jù)處理方法、計(jì)算機(jī)存儲(chǔ)介質(zhì)，以提高HDFS的資源利用率并進(jìn)一步提高數(shù)據(jù)的存取效率。本發(fā)明方法包括：將網(wǎng)絡(luò)溯源系統(tǒng)劃分為用戶層、預(yù)處理層與存儲(chǔ)層，將預(yù)處理層設(shè)于用戶層與存儲(chǔ)層之間，并在數(shù)據(jù)文件的存儲(chǔ)過程中，由預(yù)處理層將至少兩個(gè)小數(shù)據(jù)文件合并成一個(gè)大文件并生成對(duì)應(yīng)的SMI索引和MDI索引，對(duì)應(yīng)地，存儲(chǔ)層將合并文件塊的位置元數(shù)據(jù)信息從NameNode內(nèi)存轉(zhuǎn)移到各對(duì)應(yīng)的分布式DataNode內(nèi)存上；在讀取數(shù)據(jù)時(shí)，基于SMI索引、MDI索引和轉(zhuǎn)移的合并文件塊的位置元數(shù)據(jù)信息快速確定目標(biāo)內(nèi)容。