智能视频诊断技术在视频联网中的具体应用
2021/11/24 17:47:18
一、传统视频质量诊断系统定义
传统视频联网行业中的视频质量诊断系统是一种围绕视频联网系统,基于视频图像进行故障分析与预警的系统(如图1所示)。传统视频联网系统中的摄像机都是采集视频流,所以视频联网系统主要是围绕视频流(实况流和视频录像)进行。随着人工智能技术在安防行业的广泛应用,深度神经网络也逐渐应用于视频质量的诊断。
图1 传统视频质量诊断系统和视频联网系统的关系
随着卡口类系统(人卡、车卡)的普及,摄像机可能不输出视频流或不仅仅输出视频流,还要输出对象的结构化信息和图片,然后在后端系统/平台进一步分析比对。由于前端摄像机智能算力和能力的不同,输出的图片质量参差不齐,不一定能满足后端系统/平台的使用要求,所以视频质量诊断系统也需要满足图片质量诊断的需求。如图2所示,视频质量诊断系统逐步发展为现代视图信息运维系统/平台的一个子系统。从功能定位来看,视频质量诊断和预警确实是视图信息运维系统/平台的一个功能模块,同时从视频诊断的技术手段来看,对一个摄像机的视频流进行质量诊断可能还需要用到设备信息和网络状态信息,从用户应用角度来看,视频诊断不仅只需要对实时视音频流的质量诊断,还需要对录像设备(云存储)、录像质量以及录像的完整性进行诊断和预警。
图2 集成于视图信息运维系统/平台之中的视频质量诊断系统
如图1和图2所示,传统的视频质量诊断系统(包括集成于视图信息运维系统/平台中的视频质量诊断子系统)独立于视频联网系统之外,所以视频质量诊断系统内部需要集成一个视频联网系统与被诊断视频联网系统使用GB/T 28181协议进行互联,以便对被诊断视频联网系统中的视频流进行诊断,同时又不能对被诊断视频联网系统的业务造成干扰。基于这种互联方式,传统的视频质量诊断项目及其描述如表1所示。
表1 视频诊断项目描述
同理,若视图信息运维系统/平台中集成了卡口诊断子系统,需要对被诊断的卡口系统/视频图像信息应用系统使用GA/T 1400协议进行级联,同时为了支持必要的诊断功能,还需要进行接口协议扩展。不管是卡口诊断还是视频质量诊断都需要获得被诊断视频联网系统或被诊断卡口系统的设备资源列表及其设备目录树结构,这些信息都需要和被诊断系统互联或级联方式获取得到。
同时为了运维视频联网录像和图片存储系统(如云存储),只能使用企业标准进行互联运维系统/平台。若还需要进一步获取视图应用系统的网络拓扑结构、视频联网系统的连接拓扑结构以及视频图像信息应用系统的连接拓扑结构都需要对现有结构进行扩展,然而这部分功能以及接口协议的扩展目前在视图应用方面的国家标准和行业标准都还不支持,对行业内的系统间对接以及以视频质量诊断为代表的视图运维系统/平台的发展形成了制约。
二、传统视图运维系统架构
两级视图应用系统及其对应的视图运维系统/平台间的逻辑关系(如图3所示)。传统的视图运维系统/平*立于被运维的视图应用系统(包括以视频流互联和应用为主的视频联网系统和以结构化信息和图片互联应用为主的视频图像信息应用系统)之外。
视图运维系统/平台和被运维设备/系统/平台之间的接口关系(如图4所示)。使用现有的GB/T 28181接口、GA/T 1400的数据服务接口以及新定义的运维接口来收集运维信息。
视图运维系统/平台为了对被运维的视频联网系统或视频图像信息应用系统进行管理,其内部需要集成一个对应的视频联网系统或视频图像信息应用系统进行互联或级联。
注:(蓝线表示支撑使用运维的GB/T 28181协议、GA/T 1400协议、及其扩展协议、企业级协议)
图3 传统视图运维系统/平台和被运维系统间逻辑关系图
图4 传统视图运维系统/平台与被运维设备/系统/平台之间接口关系
三、下一代视图运维系统架构展望
下一代视图运维系统/平台和视图应用系统之间的关系(如图5所示)。在视频联网系统中增加视频联网运维管理模块,在视频图像信息应用系统中增加视频图像信息运维管理模块,其中视频联网运维管理模块中包含视频质量诊断模块,视频图像信息运维管理模块中包含图片质量诊断模块。
注:蓝线表示视频联网运维管理模块和视频图像信息运维管理模块提供的运维管理信息接口
图5 下一代视图运维系统/平台和视图应用系统之间关系
其核心思想是视频联网系统本身就可以了解视频质量等各种视频联网运维信息,视频图像信息应用系统本身也可以了解图像质量等各种视频图像信息运维信息。它们可以通过很少的算力资源收集得到这些信息,然后把这些信息通过GB/T 28181协议框架接口和GA/T 1400协议框架接口同步到视图运维系统/平台,同时同步到上级视图应用系统。
视图应用系统之所以能实现运维管理功能,除了把运维管理信息同步给视图运维系统/平台之外,起始视图应用系统本身为了维持其应用也需要收集这些运维管理信息,比如系统中的设备信息和设备目录树信息、视频实况流的点播率、摄像机或采集设备在线率、视频图像质量诊断情况以及统计情况、视频录像文件的完整性统计、抓拍人像图片的姿态角度、图片清晰度、抓拍目标ROI尺寸统计等,视图应用系统本身也需要这些信息。
如图6所示,摄像机内部的ISP(Imaging Signal Processing)模块中包含一系列的视频图像处理步骤。ISP的过程为Hot Pixel Correction->Demosaic->NoiseReduction->ShadingCorrection->GeomericCorrection->ColorCorrection->ToneCurveAdjustment->Edge Ehancement。
图6 摄像机内部ISP处理及相关流程示意图
比如只是ISP中的去噪处理模块就可以对图像中是否有噪声、噪声类型以及噪声程度进行判断和计算,而且现在的摄像机都是IPC,即输出都是IP报文对视频编码码流传输,即在传输环节排除网络丢包的情况,不会对数字图像质量有任何影响,去噪处理模块对视频画面中噪声的判断即为视频质量诊断系统对噪声的判断。
再比如,ISP中的颜色校正模块也是首先对视频画面中的整体颜色和各区域的颜色情况进行统计计算,并根据白平衡情况进行比较,分析得到整个画面的颜色情况。该颜色判断情况即通过视频质量诊断系统对颜色的判断。
四、结语
视图运维系统/平台要实现如表1所列的各种视频质量情况的诊断,需要使用视频图像分析技术和深度神经网络推理技术对获取的视频流进行解码,需要耗费大量的算力资源。由于在整个视图综合应用体系中,视图运维系统/平台仅仅起到辅助作用,所以视图应用系统才是核心应用。非核心运维系统的视频质量诊断算力消耗占据了整个视图综合应用体系的过多资源,所以整体的TCO比较低下。
这种架构制约了行业的发展,行业急需一种TCO比较高的架构进行革新,比如对视频图像质量的判断迁移到视图应用系统的各个计算模块中,甚至迁移到摄像机的ISP模块。但这样的革新需要对整个行业的架构慢慢调整,同时需要行业标准化机构的跟进和规范化的推广。