基于門機(jī)制的多級注意力模型的評論方面檢測方法及系統(tǒng)

基本信息

申請?zhí)?/td> CN202110669829.0 申請日 -
公開(公告)號 CN113254592B 公開(公告)日 2021-10-22
申請公布號 CN113254592B 申請公布日 2021-10-22
分類號 G06F16/33;G06F16/35;G06F40/211;G06F40/284;G06K9/62;G06N3/04;G06N3/08 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 王思宇;黃鵬;江嶺 申請(專利權(quán))人 成都曉多科技有限公司
代理機(jī)構(gòu) 成都睿道專利代理事務(wù)所(普通合伙) 代理人 薛波
地址 610000 四川省成都市天府新區(qū)興隆街道湖畔路西段123號
法律狀態(tài) -

摘要

摘要 本發(fā)明提供一種基于門機(jī)制的多級注意力模型的評論方面檢測方法及系統(tǒng),待處理的句子轉(zhuǎn)換為嵌入詞形式的詞向量矩陣后使用雙向LSTM神經(jīng)網(wǎng)絡(luò)對所述詞向量矩陣中的各個(gè)詞向量進(jìn)行處理,得到每個(gè)時(shí)間步的隱藏狀態(tài),并根據(jù)隱藏狀態(tài)得到整個(gè)句子的隱藏狀態(tài)向量矩陣作為該句子的編碼;根據(jù)該隱藏狀態(tài)向量矩陣計(jì)算對應(yīng)的句子級自注意特征矩陣;計(jì)算各個(gè)時(shí)間步相對于最后一個(gè)時(shí)間步的權(quán)重,并根據(jù)該權(quán)重和隱藏狀態(tài)計(jì)算得到對應(yīng)的詞級自注意特征向量;對句子級自注意特征矩陣進(jìn)行拉伸操作并通過全連接層得到句子級自注意力特征向量,通過一個(gè)門機(jī)制混合句級注意力的向量和詞級注意力的向量后根據(jù)得到的向量分析句子的方面類別概率,確定句子的方面類別。