文本摘要的生成方法、裝置及計算機設(shè)備

基本信息

申請?zhí)?/td> CN202111142825.3 申請日 -
公開（公告）號 CN113987162A 公開（公告）日 2022-01-28
申請公布號 CN113987162A 申請公布日 2022-01-28
分類號 G06F16/34（2019.01）I;G06N3/04（2006.01）I;G06N3/08（2006.01）I 分類 計算；推算；計數(shù);
發(fā)明人 王偉;黃勇其;于翠翠;張黔 申請（專利權(quán)）人 華潤數(shù)字科技（西安）有限公司
代理機構(gòu) 深圳市世聯(lián)合知識產(chǎn)權(quán)代理有限公司 代理人 姜妍
地址 710000陜西省西安市高新區(qū)天谷八路211號環(huán)普科技產(chǎn)業(yè)園C座303、304室
法律狀態(tài) -

摘要

摘要 本申請實施例屬于人工智能和自然語言處理領(lǐng)域，應(yīng)用于文本處理領(lǐng)域中，涉及一種文本摘要的生成方法、裝置、計算機設(shè)備及存儲介質(zhì)，方法包括獲取樣本文本序列進行編碼，得到所述樣本文本序列的文本輸入向量；從所述樣本文本序列的隨機位置開始進行掩碼，得到掩碼文本序列，所述掩碼的長度為等差變化；對所述掩碼文本序列進行位置編碼，生成位置向量；基于所述位置向量與所述文本輸入向量，對文本摘要模型進行訓(xùn)練，得到預(yù)訓(xùn)練的文本摘要模型；將目標(biāo)文本輸入到所述預(yù)訓(xùn)練的文本摘要模型，生成目標(biāo)文本的摘要內(nèi)容。該方法使得文本摘要模型能夠捕捉長距離的依賴信息，進一步捕捉原始文本內(nèi)蘊含的信息，解決長距離依賴帶來的信息丟失問題。