基于gstreamer的流媒體AI推理的延遲控制方法

基本信息

申請?zhí)?/td> CN202111297959.2 申請日 -
公開（公告）號 CN114140311A 公開（公告）日 2022-03-04
申請公布號 CN114140311A 申請公布日 2022-03-04
分類號 G06T1/20（2006.01）I;G06F9/48（2006.01）I 分類 計算；推算；計數(shù);
發(fā)明人 湯巍敏;杜劍鋒 申請（專利權）人 北京靈起科技有限公司
代理機構 蘇州中合知識產權代理事務所（普通合伙） 代理人 阮梅
地址 101300北京市順義區(qū)龍灣屯鎮(zhèn)府前街13號東樓347
法律狀態(tài) -

摘要

摘要 本發(fā)明公開基于gstreamer的流媒體AI推理的延遲控制方法，包括如下步驟：實時監(jiān)測infer推理插件的接口處的推理數(shù)據(jù)幀信息；獲取等待推理的數(shù)據(jù)幀的數(shù)量，判斷等待推理的數(shù)據(jù)幀的數(shù)量是否大于最大預設值，若是，則丟棄當前數(shù)據(jù)幀，返回；若否，則進入下一步；獲取最后一次加入等待推理的數(shù)據(jù)幀的時間戳與當前數(shù)據(jù)幀的時間戳的時間差，判斷時間差是否小于最小預設值，若是，則丟棄當前數(shù)據(jù)幀，返回；若否，則進入下一步；使當前數(shù)據(jù)幀加入infer推理插件的等待隊列。本發(fā)明通過外部監(jiān)測推理插件內部的幀數(shù)量，有效控制推理插件的內部數(shù)據(jù)幀緩存數(shù)量，來保證輸出延遲在控制范圍內，不至于一直累計放大，避免程序崩潰。