模型的后門檢測方法、裝置、介質(zhì)和計算設(shè)備

基本信息

申請?zhí)?/td> CN202011418502.8 申請日 -
公開（公告）號 CN112257816B 公開（公告）日 2021-09-21
申請公布號 CN112257816B 申請公布日 2021-09-21
分類號 G06K9/62（2006.01）I 分類 計算；推算；計數(shù);
發(fā)明人 張旭東;蕭子豪;董胤蓬;朱建威;唐家渝;田天 申請（專利權(quán)）人 北京瑞萊智慧科技有限公司
代理機(jī)構(gòu) 北京箴思知識產(chǎn)權(quán)代理有限公司 代理人 李春暉
地址 100084北京市海淀區(qū)清華科技園科技大廈B座18層
法律狀態(tài) -

摘要

摘要 本發(fā)明提供了一種模型的后門檢測方法、裝置、介質(zhì)和計算設(shè)備。該方法包括：提供用于檢測后門的材料，其中，所述材料至少包括用于檢測模型是否存在后門的檢測樣本集；基于所述檢測樣本集對所述模型的每一類別的輸出進(jìn)行搜索，以得到針對所述模型的每一類別的輸出的多個還原結(jié)果，其中，所述還原結(jié)果用于表征基于一個或多個同類別檢測樣本，使所述模型的輸出結(jié)果出錯的修改量；根據(jù)所述模型的不同類別的輸出的還原結(jié)果確定所述模型是否存在后門。根據(jù)本發(fā)明的技術(shù)方案，可以采用任何樣本檢測模型是否存在后門，而不必須是訓(xùn)練模型時使用的樣本，給用戶帶來了更加方便的體驗。且僅需提供輸入輸出反饋，無需模型具體結(jié)構(gòu)和參數(shù)，保護(hù)了用戶知識產(chǎn)權(quán)。