一種對抗性類激活圖的生成方法

基本信息

申請?zhí)?/td> CN202111251738.1 申請日 -
公開（公告）號 CN113989590A 公開（公告）日 2022-01-28
申請公布號 CN113989590A 申請公布日 2022-01-28
分類號 G06V10/774（2022.01）I;G06V10/74（2022.01）I;G06V10/82（2022.01）I;G06K9/62（2022.01）I;G06N3/04（2006.01）I;G06N3/08（2006.01）I 分類 計算；推算；計數(shù);
發(fā)明人 馬宏賓;劉亞楠 申請（專利權(quán)）人 南京智凝人工智能研究院有限公司
代理機構(gòu) - 代理人 -
地址 210038江蘇省南京市經(jīng)濟技術(shù)開發(fā)區(qū)興智路6號興智科技園C棟第14層1410室
法律狀態(tài) -

摘要

摘要 本發(fā)明屬于可視化方法技術(shù)領(lǐng)域，具體公開一種對抗性類激活圖的生成方法，首先，計算兩類圖片，原始圖片與對應(yīng)對抗性樣本在不同網(wǎng)絡(luò)層的激活特征相似度，尋找特征相似度大幅下降的網(wǎng)絡(luò)層，確定該層為特征分歧層。接著，輸入一張原始圖片或?qū)箻颖?，在特征分歧層計算各個特征圖的權(quán)重，計算某個特征圖權(quán)重時，將該層其余所有特征圖均置0，記錄此時的類別置信度，對所有特征圖對應(yīng)的置信度記錄完后，對所有置信度進行歸一化處理，對應(yīng)置信度作為各個特征圖的權(quán)重。最后，將各個特征圖與對應(yīng)權(quán)重進行點乘并全部相加，得到輸入的原始圖片或?qū)箻颖镜淖罱K的對抗性類激活圖。本發(fā)明提供了一種代表性強，可解釋性強且全面的對抗性類激活圖的生成方法。