一種基于主題特征和內(nèi)容語(yǔ)義的新型網(wǎng)頁(yè)去重方法

基本信息

申請(qǐng)?zhí)?/td> CN202110073759.2 申請(qǐng)日 -
公開(kāi)(公告)號(hào) CN112765940A 公開(kāi)(公告)日 2021-05-07
申請(qǐng)公布號(hào) CN112765940A 申請(qǐng)公布日 2021-05-07
分類(lèi)號(hào) G06K9/62(2006.01)I;G06F40/30(2020.01)I;G06F40/14(2020.01)I;G06F16/35(2019.01)I 分類(lèi) 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 朱海峰;顏小君;趙立為 申請(qǐng)(專(zhuān)利權(quán))人 南京萬(wàn)得資訊科技有限公司
代理機(jī)構(gòu) 上海申匯專(zhuān)利代理有限公司 代理人 徐俊
地址 210019江蘇省南京市建鄴區(qū)泰山路199號(hào)萬(wàn)得大廈
法律狀態(tài) -

摘要

摘要 本發(fā)明提供了一種基于主題特征和內(nèi)容語(yǔ)義的新型網(wǎng)頁(yè)去重方法,其特征在于,包括:利用HTML網(wǎng)頁(yè)標(biāo)簽分類(lèi)模型自動(dòng)抽取目標(biāo)網(wǎng)頁(yè)的網(wǎng)頁(yè)正文;基于網(wǎng)頁(yè)正文進(jìn)行主題計(jì)算和限定;網(wǎng)頁(yè)相似度計(jì)算。本發(fā)明提供的方法能夠一定程度地解決相關(guān)技術(shù)中存在的問(wèn)題,應(yīng)用于互聯(lián)網(wǎng)中不同來(lái)源、不同風(fēng)格、不同內(nèi)容的全網(wǎng)網(wǎng)頁(yè),并在執(zhí)行效率、計(jì)算準(zhǔn)確性等方面顯著地優(yōu)于現(xiàn)有的技術(shù)方法。??