精华内容
下载资源
问答
  • 姊妹篇:ILSVRC2016目标检测任务回顾(上)--图像目标检测 图像目标检测任务在过去三年的时间取得了巨大的进展,检测性能得到明显提升。但在视频监控、车辆辅助驾驶等领域,基于视频的目标检测有着更为广泛的需求。...

    姊妹篇:ILSVRC2016目标检测任务回顾(上)--图像目标检测        

    -----------------------补充:近几年的几篇参考文献2018.5.30------------------------------------------

    [1]视频物体检测(VID) MR-FLOW & FlowNet 2.0

    [2]视频物体检测(VID) Impression Network for Video Object Detection

    [3]视频物体检测(VID) Object Detection from Video Tubelets with Convolutional Neural Network

    [4] 视频物体检测(VID) T-CNN: Tubelets with Convolutional Neural Networks for Object De

    [5]视频物体检测(VID) Deep Feature Flow for Video Recognition

    [6]视频物体检测(VID) FGFA:Flow-Guided Feature Aggregation for Video Object Detection

    [7] 视频物体检测(VID) NoScope:1000x的视频检索加速算法

    -------------------------------------------------------------------------------------------------------------------------

           图像目标检测任务在过去三年的时间取得了巨大的进展,检测性能得到明显提升。但在视频监控、车辆辅助驾驶等领域,基于视频的目标检测有着更为广泛的需求。由于视频中存在运动模糊,遮挡,形态变化多样性,光照变化多样性等问题,仅利用图像目标检测技术检测视频中的目标并不能得到很好的检测结果。如何利用视频中目标时序信息和上下文等信息成为提升视频目标检测性能的关键。

    ILSVRC2015新增加了视频目标检测任务(Object detection from video, VID),这为研究者提供了良好的数据支持。ILSVRC2015的VID评价指标与图像目标检测评价指标相同——计算检测窗口的mAP。然而对于视频目标检测来说,一个好的检测器不仅要保证在每帧图像上检测准确,还要保证检测结果具有一致性/连续性(即对于一个特定目标,优秀的检测器应持续检测此目标并且不会将其与其他目标混淆)。ILSVRC2016针对这个问题在VID任务上新增加了一个子任务(详见第四部分——视频目标检测时序一致性介绍)。

    在ILSVRC2016上,在不使用外部数据的VID两个子任务上,前三名由国内队伍包揽(见表1、表2)。本文主要结合NUIST,CUVideo,MCG-ICT-CAS以及ITLab-Inha四个队伍公布的相关资料对ILSVRC2016中的视频目标检测方法进行了总结。

    ILSVRC2016目标检测任务回顾——视频目标检测(VID)

    表1.  ILSVRC2016 VID results(无外部数据)

    ILSVRC2016目标检测任务回顾——视频目标检测(VID)

    表2.  ILSVRC2016 VID tracking result(无外部数据)

    通过对参赛队伍的相关报告[2-5]进行学习了解,视频目标检测算法目前主要使用了如下的框架:

    • 将视频帧视为独立的图像,利用图像目标检测算法获取检测结果;

    • 利用视频的时序信息和上下文信息对检测结果进行修正;

    • 基于高质量检测窗口的跟踪轨迹对检测结果进一步进行修正。

    本文分为四部分,前三个部分介绍如何提升视频目标检测的精度,最后介绍如何保证视频目标检测的一致性。

    一、单帧图像目标检测

    此阶段通常将视频拆分成相互独立的视频帧来处理,通过选取优秀的图像目标检测框架以及各种提高图像检测精度的技巧来获取较为鲁棒的单帧检测结果。ILSVRC2016目标检测任务回顾(上)--图像目标检测》已对此进行详细总结,这里不再重复。

    结合自己实验及各参赛队伍的相关文档,我们认为训练数据的选取以及网络结构的选择对提升目标检测性能有至关重要的作用。

    • 训练数据选取

    首先对ILSVRC2016 VID训练数据进行分析: VID数据库包含30个类别,训练集共有3862个视频片段,总帧数超过112万。单从数字上看,这么大的数据量训练30个类别的检测器似乎已经足够。然而,同一个视频片段背景单一,相邻多帧的图像差异较小。所以要训练现有目标检测模型,VID训练集存在大量数据冗余,并且数据多样性较差,有必要对其进行扩充。在比赛任务中,可以从ILSVRC DET和ILSVRC LOC数据中抽取包含VID类别的图片进行扩充。CUVideo、NUIST和MCG-ICT-CAS使用ILSVRC VID+DET作为训练集,ITLab-Inha使了ILSVRC VID+DET、COCO DET等作为训练集。需要注意的是在构建新的训练集的时候要注意平衡样本并去除冗余(CUVideo和MCG-ICT-CAS抽取部分VID训练集训练模型,ITLab-Inha在每个类别选择一定数量图像参与训练,NUIST使用在DET上训练的模型对VID数据进行筛选)。对于同样的网络,使用扩充后的数据集可以提高10%左右的检测精度。

    • 网络结构选取

    不同的网络结构对于检测性能也有很大影响。我们在VID验证集上进行实验:同样的训练数据,基于ResNet101[6]的Faster R-CNN[7]模型的检测精度比基于VGG16[8]的Faster R-CNN模型的检测精度高12%左右。这也是MSRA在2015年ILSVRC和COCO比赛上的制胜关键。今年比赛前几名的队伍基本上也是使用ResNet/Inception的基础网络,CUVideo使用269层的GBD-Net[9]

    二、改进分类损失

    目标在某些视频帧上会存在运动模糊,分辨率较低,遮挡等问题,即便是目前最好的图像目标检算法也不能很好地检测目标。幸运的是,视频中的时序信息和上下文信息能够帮助我们处理这类问题。比较有代表性的方法有T-CNN[10]中的运动指导传播(Motion-guided Propagation, MGP)和多上下文抑制(Multi-context suppression, MCS)。

    • MGP

    单帧检测结果存在很多漏检目标,而相邻帧图像检测结果中可能包含这些漏检目标。所以我们可以借助光流信息将当前帧的检测结果前向后向传播,经过MGP处理可以提高目标的召回率。如图1所示将T时刻的检测窗口分别向前向后传播,可以很好地填补T-1和T+1时刻的漏检目标。

    ILSVRC2016目标检测任务回顾——视频目标检测(VID)

    图1.  MGP示意图[10]

    • MCS

    使用图像检测算法将视频帧当做独立的图像来处理并没有充分利用整个视频的上下文信息。虽然说视频中可能出现任意类别的目标,但对于单个视频片段,只会出现比较少的几个类别,而且这几个类别之间有共现关系(出现船只的视频段中可能会有鲸鱼,但基本不可能出现斑马)。所以,可以借助整个视频段上的检测结果进行统计分析:对所有检测窗口按得分排序,选出得分较高的类别,剩余那些得分较低的类别很可能是误检,需对其得分进行压制(如图2)。经过MCS处理后的检测结果中正确的类别靠前,错误的类别靠后,从而提升目标检测的精度。

    ILSVRC2016目标检测任务回顾——视频目标检测(VID)

    图2. 多上下文抑制示意图[10]

    三、利用跟踪信息修正

    上文提到的MGP可以填补某些视频帧上漏检的目标,但对于多帧连续漏检的目标不是很有效,而目标跟踪可以很好地解决这个问题。CUVideo, NUIST, MCG-ICT-CAS以及ITLab-Inha四支参赛队伍都使用了跟踪算法进一步提高视频目标检测的召回率。使用跟踪算法获取目标序列基本流程如下:

    • 使用图像目标检测算法获取较好的检测结果;

    • 从中选取检测得分最高的目标作为跟踪的起始锚点;

    • 基于选取的锚点向前向后在整个视频片段上进行跟踪,生成跟踪轨迹;

    • 从剩余目标中选择得分最高的进行跟踪,需要注意的是如果此窗口在之前的跟踪轨迹中出现过,那么直接跳过,选择下一个目标进行跟踪;

    • 算法迭代执行,可以使用得分阈值作为终止条件。

    得到的跟踪轨迹既可以用来提高目标召回率,也可以作为长序列上下文信息对结果进行修正。

    四、网络选择与训练技巧

    对于视频目标检测,除了要保证每帧图像的检测精度,还应该保证长时间稳定地跟踪每个目标。为此,ILSVRC2016新增一个VID子任务,此任务计算每个目标跟踪轨迹(tracklet)/管道(tubelet)的mAP来评测检测算法的时序一致性或者说跟踪连续性的性能。

    评价指标:图像目标检测mAP评测对象是每个检测窗口是否精准,而视频时序一致性评测对象是目标跟踪轨迹是否精准;图像目标检测中如果检测窗口跟Ground Truth类别相同,窗口IoU大于0.5就认定为正例。而评价时序一致性时,如果检测得到的跟踪轨迹和Ground Truth(目标真实跟踪轨迹)是同一个目标(trackId相同),并且其中检测出的窗口与Ground Truth窗口的IoU大于0.5的数量超过一个比例,那么认为得到的跟踪轨迹是正例;跟踪轨迹的得分是序列上所有窗口得分的平均值。分析可知,如果一个目标的轨迹被分成多段或者一个目标的跟踪轨迹中混入其他的目标都会降低一致性。

    那么如何保证视频检测中目标的时序一致性呢?本文认为可以从以下三个方面入手:

    • 保证图像检测阶段每帧图像检测的结果尽量精准;

    • 对高质量检测窗口进行跟踪并保证跟踪的质量(尽量降低跟踪中出现的漂移现象);

    • 前面两步获取到的跟踪结果会存在重叠或者临接的情况,需针对性地进行后处理。

    ITLab-Inha团队提出了基于变换点检测的多目标跟踪算法[11],该算法首先检测出目标,然后对其进行跟踪,并在跟踪过程中对跟踪轨迹点进行分析处理,可以较好地缓解跟踪时的漂移现象,并能在轨迹异常时及时终止跟踪。

    针对视频目标检测的一致性问题,作者所在的MCG-ICT-CAS提出了基于检测和跟踪的目标管道生成方法。

    ILSVRC2016目标检测任务回顾——视频目标检测(VID)

    a.基于跟踪的目标管道/跟踪轨迹

    ILSVRC2016目标检测任务回顾——视频目标检测(VID)

    b.基于检测的目标管道

    ILSVRC2016目标检测任务回顾——视频目标检测(VID)

    c.基于检测和跟踪的融合管道

    图3. 基于检测/跟踪/检测+跟踪管道示意图

    图3-a表示使用跟踪算法获取到的目标管道(红色包围框),绿色包围框代表目标的Ground Truth。可以看到随着时间推移,跟踪窗口逐渐偏移目标,最后甚至可能丢失目标。MCG-ICT-CAS提出了基于检测的目标管道生成方法,如图3-b所示,基于检测的管道窗口(红色包围框)定位较为准确,但由于目标的运动模糊使检测器出现漏检。从上面分析可知:跟踪算法生成的目标管道召回率较高,但定位不准;而基于检测窗口生成的目标管道目标定位较为精准,但召回率相对前者较低。由于两者存在互补性,所以MCG-ICT-CAS进一步提出了管道融合算法,对检测管道和跟踪管道进行融合,融合重复出现的窗口并且拼接间断的管道。

    如图4所示,相对于单独的检测或者跟踪生成的目标管道,融合后目标管道对应的检测窗口的召回率随着IoU阈值的增加一直保持较高的值,说明了融合后的窗口既能保持较高的窗口召回率,也有较为精准的定位。融合后的目标管道mAP在VID测试集上提升了12.1%。

    ILSVRC2016目标检测任务回顾——视频目标检测(VID)

    图4.不同方法生成目标管道的召回率

    总结

    本文主要结合ILSVRC2016 VID竞赛任务对视频目标检测算法进行介绍。相对于图像目标检测,当前的视频目标检测算法流程比较繁琐且视频自身包含的信息没有被充分挖掘。如何精简视频目标检测流程使其具有实时性,如何进一步挖掘视频包含的丰富信息使其具有更高的检测精度,以及如何保证视频目标检测的一致性或许是视频目标检测接下来要着重解决的问题。

    参考文献

    [1]ILSVRC2016相关报告

    [2]CUVideo slide

    [3]NUIST slide

    [4]MCG-ICT-CAS slide

    [5]ITLab-Inha slide

    [6]He K, Zhang X, Ren S, et al. Deep residual learning for image recognition[J]. arXiv preprint arXiv:1512.03385, 2015.

    [7]Ren S, He K, Girshick R, et al. Faster R-CNN: Towards real-time object detection with region proposal networks[C]//Advances in neural information processing systems. 2015: 91-99.

    [8]Simonyan K, Zisserman A. Very deep convolutional networks for large-scale image recognition[J]. arXiv preprint arXiv:1409.1556, 2014.

    [9]Zeng X, Ouyang W, Yang B, et al. Gated bi-directional cnn for object detection[C]//European Conference on Computer Vision. Springer International Publishing, 2016: 354-369.

    [10]Kang K, Li H, Yan J, et al. T-cnn: Tubelets with convolutional neural networks for object detection from videos[J]. arXiv preprint arXiv:1604.02532, 2016.

    [11]Lee B, Erdenee E, Jin S, et al. Multi-class Multi-object Tracking Using Changing Point Detection[C]//European Conference on Computer Vision. Springer International Publishing, 2016: 68-83.

    鸣谢作者王斌,中科院计算所前瞻研究实验室跨媒体计算组博士生,导师张勇东研究员。2016年在唐胜副研究员的带领下,作为计算所MCG-ICT-CAS团队核心主力队员(王斌、肖俊斌),参加了ImageNet大规模视觉识别挑战赛(ILSVRC)的视频目标检测(VID)任务并获得第三名。目标检测相关工作受邀在ECCV 2016 ImageNet和COCO竞赛联合工作组会议(ImageNet and COCO Visual Recognition Challenges Joint Workshop)上做大会报告。


    展开全文
  • 姊妹篇:ILSVRC2016目标检测任务回顾——视频目标检测(VID) 计算机视觉领域权威评测——ImageNet大规模图像识别挑战赛(Large Scale Visual Recognition Challenge)自2010年开始举办以来,一直备受关注。...

    姊妹篇:ILSVRC2016目标检测任务回顾——视频目标检测(VID

            计算机视觉领域权威评测——ImageNet大规模图像识别挑战赛(Large Scale Visual Recognition Challenge)自2010年开始举办以来,一直备受关注。2016年,在该比赛的图像目标检测任务中,国内队伍大放异彩,包揽该任务前五名(如图1所示)。我们将根据前五名参赛队伍提交的摘要与公开发表的论文或技术文档,简析比赛中用到的图像目标检测方法。

    ILSVRC2016目标检测任务回顾:图像目标检测(DET)

    图1. ILSVRC2016目标检测(无额外数据)任务比赛结果

    总体上说,参赛队伍大多采用ResNet/Inception网络+Faster R-CNN框架,注重网络的预训练,改进RPN,并利用Context信息,测试时结合普遍被使用的多尺度测试、水平翻转、窗口投票等方法,最终融合多个模型得到结果。

    下面我们将细数参赛方法中的诸多亮点。

    一、利用Context信息

    1、GBD-Net

    GBD-Net(Gated Bi-Directional CNN)是CUImage团队的成果,也是今年DET任务中的一大亮点。该方法利用双向门控的CNN网络在不同尺度的上下文窗口中选择性地传递信息,以此对context建模。

    GBD-Net的研究动机源于对context信息在候选窗口分类过程中起到的作用的仔细分析。首先,Context信息在对窗口分类时能起到关键的作用,如图2(a)(b)所示,图中的红框必须结合Context信息才能准确判断其类别(包括判断为背景)。所以很多时候,我们可以利用context信息作出如图1(c)所示的判断。但是如图1(d)所示,并不是所有的context信息都能给我们正确的指导,所以context信息需要选择性的利用。

    ILSVRC2016目标检测任务回顾:图像目标检测(DET)

    图2. GBD-Net的研究动机

    基于这一点,CUImage提出了GBD-Net。如图3所示,GBD-Net采集Context信息的方式与[2][3]一脉相承,直接在目标窗口基础上放大窗口以获得更多的context信息,或缩小窗口以保留更多的目标细节,以此得到多个support region,双向连接的网络让不同尺度和分辨率的信息在每个support region之间相互传递,从而综合学习到最优的特征。然而如研究动机中所说,并非所有的上下文信息都能给决策带来“正能量”,所以在双向互通的连接上都加了一个“门”,以此控制context信息的相互传播。GBD-Net在ImageNet DET数据集上,在ResNet-269为基础网络,带来了2.2%的mAP提升。

    ILSVRC2016目标检测任务回顾:图像目标检测(DET)

    图3. GBD-Net框架图

    2、Dilation as context

    360+MCG-ICG-CAS_DET团队将用膨胀卷积获取context信息的方法迁移至目标检测任务,将8个膨胀卷积层削减到3层,在ROI pooling前就组织好每个像素点对应的context信息,如图4,省去了对每个ROI反复提取context特征的操作。该方法在VOC07数据集上,以Res50为基础网络,能获得1.5%的提升。

    ILSVRC2016目标检测任务回顾:图像目标检测(DET)

    图4. Dilation as context方法示意图

    3、Global context

    2015年提出利用ROI pooling对全图进行pooling获取context信息的方法,Hikvision团队在此基础上进一步细化,提出了图5(a)所示的global context方法,在ILSVRC DET验证集上获得了3.8%的mAP性能提升。该方法此前的文章中有详细描述,此处不再赘述。

    除了基于ROI pooling的global context方法,CUImage沿用[6]中提到的global context方法,为每个ROI加入全局的分类结果信息,如图5(b)示。该方法在GBD-net局部context的基础上又加入了全局的context信息,进一步将mAP提高了1.3%。

    ILSVRC2016目标检测任务回顾:图像目标检测(DET)

    图5. Global context方法示意图

    二、改进分类损失

    360+MCG-ICG-CAS_DET团队提出了两种改进的softmax损失:将背景类分成若干隐式子类别(Implicit sub-categories for background)、必要时加入sink类别(Sink class when necessary)

    Faster R-CNN中将所有与Ground Truth的IOU大于0.5的窗口当做正样本,IOU介于0.1~0.4之间的当做背景类别样本,所以虽然正常目标类别的样本之间有较大的相似性,但背景类别的样本之间差异却非常大,在这种情况下,仍然同等对待目标类别和背景类别对背景类别来说是不公平的。所以背景隐式子类别方法将背景类别分为若干个子类别,想让更多的参数去描述多变的背景,在softmax之前重新将所有子类别聚合为一个背景类,以避免显式定义各个子类别的问题(如图6(a)所示)。

    ILSVRC2016目标检测任务回顾:图像目标检测(DET)

    图6 改进分类损失

    另外,由于训练数据本身的一些冲突性(比如同样的图像内容在不同场景下会同时成为正样本和负样本,或不同类别的样本之间非常相似),对于某些窗口,ground truth类别的得分始终不是很高,而其他一些错误类别的得分会超过ground truth类别。所以sink方法加入一个sink类,在ground truth得分不在Top-K时,同时优化sink类别和ground truth类别,否则正常优化ground truth类别。以此将那些错误类别上的得分引流到sink类别上,使得在对窗口分类时,即使ground truth类别得分不是特别高,仍然可以高于其他类别,如图6(b)所示。

    三、改进RPN

    CUImage和Hikvision都提出改进RPN,并且两者的改进策略都源于CRAFT(如图7所示),在RPN之后再连接一个二分类的Fast R-CNN,进一步减少窗口数量并提高定位精度。

    ILSVRC2016目标检测任务回顾:图像目标检测(DET)

    图7 CRAFT

    CUImage进一步将CRAFT升级为CRAFT-v3,训练过程加入随机crop,测试中采取多尺度策略,并且平衡正负样本比例,用2个模型进行融合,将ILSVRC DET val2上的recall@300 proposal提升到95.3%。

    Hikvision则是直接按照box refinement的思想,直接在RPN网络基础上进行一次级联,如图8所示。同时他们注意到,Faster R-CNN在理想情况下希望PRN的正负样本比是1:1,而实际运行中,正样本数量往往较少,使得正负样本比差异较大,所以将正负样本比强制限制在不超过1:1.5后,recall提升3%。

    ILSVRC2016目标检测任务回顾:图像目标检测(DET)

    图8 级联的RPN

    四、网络选择与训练技巧

    自ILSVRC2015后,ResNet和后续的Inception v4,Identity mapping由于其强大的分类性能,被广泛使用到目标检测、场景分割等应用中。不同的网络通常能收敛到不同的极值点,这种网络差异性是模型融合获得较大提升的关键。CUImage、Hikvision、Trimps Soushen、360+MCG-ICT-CAS_DET、NUIST都用不同的基础网络训练了多个模型用于融合。

    在训练目标检测模型之前,具有针对性的模型预训练通常可以使得最后训练的目标检测模型能收敛到更优的位置。Hikvision提到在初始化global context的分支时使用预训练的模型效果远远好于随机初始化。另外,他们用ILSVRC LOC的数据首先在1000个类别上预训练一个精细分类的目标检测模型,再迁移到DET数据上训练200类的模型。CUImage同样提到模型预训练的重要性。他们在1000类Image-centric方式训练分类网络后,又采取基于ROI-Pooling的Object-centric方式训练分类网络,预训练网络使最终目标检测模型的mAP提升约1%。

    此外,Hikvision提出在训练过程中强制平衡正负样本比会产生积极的影响。OHEM、多尺度训练等技巧都是简单有效的提高mAP的方式。

    五、测试技巧

    测试过程中可采用的技巧很多,会对最终目标检测结果起到锦上添花的作用。多尺度测试、水平翻转、窗口微调与多窗口投票、多模型融合、NMS阈值调整、多模型融合等方法被广泛使用,并经过普遍验证证明了其有效性。

    Trimps Soushen、360+MCG-ICT-CAS_DET采用了Feature Maxout的方法融入多尺度测试,尽量让每个窗口都缩放到接近224x224的尺度上进行测试,充分利用预训练网络的性能。窗口微调与多窗口投票(box refinement and box voting)方法首先利用Fast R-CNN系列框架中对窗口进行回归的这个过程,反复迭代,然后用所有窗口投票,决定最终的目标类别与位置。在往年比赛中很少提到目标检测如何进行模型融合,ILSVRC2016中,CUImage、Hikvision、Trimps Soushen、360+MCG-ICT-CAS_DET都采用了几乎一致的融合策略,即先用一个或多个模型的RPN网络产生固定的ROI,再把这些ROI经过不同模型得到的分类和回归结果相加,得到最终的融合结果。经过多种融合方法的实验,分数相加的方式能获得较好的融合性能。

    总结

    本文对2016年ILSVRC DET任务中用到的方法进行了概括性的归纳和介绍。目标检测系统步骤甚多,过程繁琐,其中的每一个细节都非常重要。研究过程中,在把握整体结构的同时,如何处理好重要的细节会成为一种方法是否有效的关键。

    thx作者李瑜,中科院计算所前瞻研究实验室跨媒体组硕博士生,硕士导师唐胜副研究员,博士导师李锦涛研究员。2016年,作为360+MCG-ICT-CAS_DET团队核心主力参加了ImageNet大规模视觉识别挑战赛(ILSVRC)的 DET任务并获得第四名。目标检测相关工作受邀在ECCV 2016 ImageNet和COCO视觉识别挑战赛联合工作组会议上做大会报告。

    展开全文
  • 图像目标检测任务在过去三年的时间取得了巨大的进展,检测性能得到明显提升。但在视频监控、车辆辅助驾驶等领域,基于视频的目标检测有着更为广泛的需求。由于视频中存在运动模糊,遮挡,形态变化多样性,光照变化...

    图像目标检测任务在过去三年的时间取得了巨大的进展,检测性能得到明显提升。但在视频监控、车辆辅助驾驶等领域,基于视频的目标检测有着更为广泛的需求。由于视频中存在运动模糊,遮挡,形态变化多样性,光照变化多样性等问题,仅利用图像目标检测技术检测视频中的目标并不能得到很好的检测结果。如何利用视频中目标时序信息和上下文等信息成为提升视频目标检测性能的关键。

    ILSVRC2015新增加了视频目标检测任务(Object detection from video, VID),这为研究者提供了良好的数据支持。ILSVRC2015的VID评价指标与图像目标检测评价指标相同——计算检测窗口的mAP。然而对于视频目标检测来说,一个好的检测器不仅要保证在每帧图像上检测准确,还要保证检测结果具有一致性/连续性(即对于一个特定目标,优秀的检测器应持续检测此目标并且不会将其与其他目标混淆)。ILSVRC2016针对这个问题在VID任务上新增加了一个子任务(详见第四部分——视频目标检测时序一致性介绍)。

    在ILSVRC2016上,在不使用外部数据的VID两个子任务上,前三名由国内队伍包揽(见表1、表2)。本文主要结合NUIST,CUVideo,MCG-ICT-CAS以及ITLab-Inha四个队伍公布的相关资料对ILSVRC2016中的视频目标检测方法进行了总结。

    图片描述
    表1 ILSVRC2016 VID results(无外部数据)

    图片描述
    表2 ILSVRC2016 VID tracking result(无外部数据)

    通过对参赛队伍的相关报告[2-5]进行学习了解,视频目标检测算法目前主要使用了如下的框架:

    • 将视频帧视为独立的图像,利用图像目标检测算法获取检测结果;
    • 利用视频的时序信息和上下文信息对检测结果进行修正;
    • 基于高质量检测窗口的跟踪轨迹对检测结果进一步进行修正。

    本文分为四部分,前三个部分介绍如何提升视频目标检测的精度,最后介绍如何保证视频目标检测的一致性。

    单帧图像目标检测

    此阶段通常将视频拆分成相互独立的视频帧来处理,通过选取优秀的图像目标检测框架以及各种提高图像检测精度的技巧来获取较为鲁棒的单帧检测结果。《ILSVRC2016目标检测任务回顾(上)–图像目标检测》已对此进行详细总结,这里不再重复。

    结合自己实验及各参赛队伍的相关文档,我们认为训练数据的选取以及网络结构的选择对提升目标检测性能有至关重要的作用。

    • 训练数据选取

    首先对ILSVRC2016 VID训练数据进行分析: VID数据库包含30个类别,训练集共有3862个视频片段,总帧数超过112万。单从数字上看,这么大的数据量训练30个类别的检测器似乎已经足够。然而,同一个视频片段背景单一,相邻多帧的图像差异较小。所以要训练现有目标检测模型,VID训练集存在大量数据冗余,并且数据多样性较差,有必要对其进行扩充。在比赛任务中,可以从ILSVRC DET和ILSVRC LOC数据中抽取包含VID类别的图片进行扩充。CUVideo、NUIST和MCG-ICT-CAS使用ILSVRC VID+DET作为训练集,ITLab-Inha使了ILSVRC VID+DET、COCO DET等作为训练集。需要注意的是在构建新的训练集的时候要注意平衡样本并去除冗余(CUVideo和MCG-ICT-CAS抽取部分VID训练集训练模型,ITLab-Inha在每个类别选择一定数量图像参与训练,NUIST使用在DET上训练的模型对VID数据进行筛选)。对于同样的网络,使用扩充后的数据集可以提高10%左右的检测精度。

    • 网络结构选取

    不同的网络结构对于检测性能也有很大影响。我们在VID验证集上进行实验:同样的训练数据,基于ResNet101[6]的Faster R-CNN[7]模型的检测精度比基于VGG16[8]的Faster R-CNN模型的检测精度高12%左右。这也是MSRA在2015年ILSVRC和COCO比赛上的制胜关键。今年比赛前几名的队伍基本上也是使用ResNet/Inception的基础网络,CUVideo使用269层的GBD-Net[9]。

    改进分类损失

    目标在某些视频帧上会存在运动模糊,分辨率较低,遮挡等问题,即便是目前最好的图像目标检算法也不能很好地检测目标。幸运的是,视频中的时序信息和上下文信息能够帮助我们处理这类问题。比较有代表性的方法有T-CNN[10]中的运动指导传播(Motion-guided Propagation, MGP)和多上下文抑制(Multi-context suppression, MCS)。

    • MGP

    单帧检测结果存在很多漏检目标,而相邻帧图像检测结果中可能包含这些漏检目标。所以我们可以借助光流信息将当前帧的检测结果前向后向传播,经过MGP处理可以提高目标的召回率。如图1所示将T时刻的检测窗口分别向前向后传播,可以很好地填补T-1和T+1时刻的漏检目标。

    图片描述
    图1 MGP示意图[10]

    • MCS

    使用图像检测算法将视频帧当做独立的图像来处理并没有充分利用整个视频的上下文信息。虽然说视频中可能出现任意类别的目标,但对于单个视频片段,只会出现比较少的几个类别,而且这几个类别之间有共现关系(出现船只的视频段中可能会有鲸鱼,但基本不可能出现斑马)。所以,可以借助整个视频段上的检测结果进行统计分析:对所有检测窗口按得分排序,选出得分较高的类别,剩余那些得分较低的类别很可能是误检,需对其得分进行压制(如图2)。经过MCS处理后的检测结果中正确的类别靠前,错误的类别靠后,从而提升目标检测的精度。

    图片描述
    图2 多上下文抑制示意图[10]

    利用跟踪信息修正

    上文提到的MGP可以填补某些视频帧上漏检的目标,但对于多帧连续漏检的目标不是很有效,而目标跟踪可以很好地解决这个问题。CUVideo, NUIST, MCG-ICT-CAS以及ITLab-Inha四支参赛队伍都使用了跟踪算法进一步提高视频目标检测的召回率。使用跟踪算法获取目标序列基本流程如下:

    • 使用图像目标检测算法获取较好的检测结果;
    • 从中选取检测得分最高的目标作为跟踪的起始锚点;
    • 基于选取的锚点向前向后在整个视频片段上进行跟踪,生成跟踪轨迹;
    • 从剩余目标中选择得分最高的进行跟踪,需要注意的是如果此窗口在之前的跟踪轨迹中出现过,那么直接跳过,选择下一个目标进行跟踪;
    • 算法迭代执行,可以使用得分阈值作为终止条件。

    得到的跟踪轨迹既可以用来提高目标召回率,也可以作为长序列上下文信息对结果进行修正。

    网络选择与训练技巧

    对于视频目标检测,除了要保证每帧图像的检测精度,还应该保证长时间稳定地跟踪每个目标。为此,ILSVRC2016新增一个VID子任务,此任务计算每个目标跟踪轨迹(tracklet)/管道(tubelet)的mAP来评测检测算法的时序一致性或者说跟踪连续性的性能。

    评价指标:图像目标检测mAP评测对象是每个检测窗口是否精准,而视频时序一致性评测对象是目标跟踪轨迹是否精准;图像目标检测中如果检测窗口跟Ground Truth类别相同,窗口IoU大于0.5就认定为正例。而评价时序一致性时,如果检测得到的跟踪轨迹和Ground Truth(目标真实跟踪轨迹)是同一个目标(trackId相同),并且其中检测出的窗口与Ground Truth窗口的IoU大于0.5的数量超过一个比例,那么认为得到的跟踪轨迹是正例;跟踪轨迹的得分是序列上所有窗口得分的平均值。分析可知,如果一个目标的轨迹被分成多段或者一个目标的跟踪轨迹中混入其他的目标都会降低一致性。

    那么如何保证视频检测中目标的时序一致性呢?本文认为可以从以下三个方面入手:(1)保证图像检测阶段每帧图像检测的结果尽量精准;(2)对高质量检测窗口进行跟踪并保证跟踪的质量(尽量降低跟踪中出现的漂移现象);(3)前面两步获取到的跟踪结果会存在重叠或者临接的情况,需针对性地进行后处理。

    ITLab-Inha团队提出了基于变换点检测的多目标跟踪算法[11],该算法首先检测出目标,然后对其进行跟踪,并在跟踪过程中对跟踪轨迹点进行分析处理,可以较好地缓解跟踪时的漂移现象,并能在轨迹异常时及时终止跟踪。

    针对视频目标检测的一致性问题,作者所在的MCG-ICT-CAS提出了基于检测和跟踪的目标管道生成方法。

    图片描述
    图3 基于检测/跟踪/检测+跟踪管道示意图

    图3-a表示使用跟踪算法获取到的目标管道(红色包围框),绿色包围框代表目标的Ground Truth。可以看到随着时间推移,跟踪窗口逐渐偏移目标,最后甚至可能丢失目标。MCG-ICT-CAS提出了基于检测的目标管道生成方法,如图3-b所示,基于检测的管道窗口(红色包围框)定位较为准确,但由于目标的运动模糊使检测器出现漏检。从上面分析可知:跟踪算法生成的目标管道召回率较高,但定位不准;而基于检测窗口生成的目标管道目标定位较为精准,但召回率相对前者较低。由于两者存在互补性,所以MCG-ICT-CAS进一步提出了管道融合算法,对检测管道和跟踪管道进行融合,融合重复出现的窗口并且拼接间断的管道。

    如图4所示,相对于单独的检测或者跟踪生成的目标管道,融合后目标管道对应的检测窗口的召回率随着IoU阈值的增加一直保持较高的值,说明了融合后的窗口既能保持较高的窗口召回率,也有较为精准的定位。融合后的目标管道mAP在VID测试集上提升了12.1%。

    图片描述
    图4 不同方法生成目标管道的召回率

    总结

    本文主要结合ILSVRC2016 VID竞赛任务对视频目标检测算法进行介绍。相对于图像目标检测,当前的视频目标检测算法流程比较繁琐且视频自身包含的信息没有被充分挖掘。如何精简视频目标检测流程使其具有实时性,如何进一步挖掘视频包含的丰富信息使其具有更高的检测精度,以及如何保证视频目标检测的一致性或许是视频目标检测接下来要着重解决的问题。

    [1]ILSVRC2016相关报告:
    http://image-net.org/challenges/ilsvrc+coco2016
    [2]CUVideo slide下载链接:
    http://image-net.org/challenges/talks/2016/GBD-Net.pdf
    [3]NUIST slide下载链接
    http://image-net.org/challenges/talks/2016/Imagenet%202016%20VID.pptx
    [4]MCG-ICT-CAS slide下载链接
    http://image-net.org/challenges/talks/2016/MCG-ICT-CAS-ILSVRC2016-Talk-final.pdf
    [5]ITLab-Inha slide 下载链接
    http://image-net.org/challenges/talks/2016/ILSVRC2016_ITLab_for_pdf.pdf
    [6]He K, Zhang X, Ren S, et al. Deep residual learning for image recognition[J]. arXiv preprint arXiv:1512.03385, 2015.
    [7]Ren S, He K, Girshick R, et al. Faster R-CNN: Towards real-time object detection with region proposal networks[C]//Advances in neural information processing systems. 2015: 91-99.
    [8]Simonyan K, Zisserman A. Very deep convolutional networks for large-scale image recognition[J]. arXiv preprint arXiv:1409.1556, 2014.
    [9]Zeng X, Ouyang W, Yang B, et al. Gated bi-directional cnn for object detection[C]//European Conference on Computer Vision. Springer International Publishing, 2016: 354-369.
    [10]Kang K, Li H, Yan J, et al. T-cnn: Tubelets with convolutional neural networks for object detection from videos[J]. arXiv preprint arXiv:1604.02532, 2016.
    [11]Lee B, Erdenee E, Jin S, et al. Multi-class Multi-object Tracking Using Changing Point Detection[C]//European Conference on Computer Vision. Springer International Publishing, 2016: 68-83.

    作者简介:王斌,中科院计算所前瞻研究实验室跨媒体计算组博士生,导师张勇东研究员。2016年在唐胜副研究员的带领下,作为计算所MCG-ICT-CAS团队核心主力队员(王斌、肖俊斌),参加了ImageNet大规模视觉识别挑战赛(ILSVRC)的视频目标检测(VID)任务并获得第三名。目标检测相关工作受邀在ECCV 2016 ImageNet和COCO竞赛联合工作组会议(ImageNet and COCO Visual Recognition Challenges Joint Workshop)上做大会报告。
    本文来源微信公众号:深度学习大讲堂。
    原文:ILSVRC2016目标检测任务回顾(下)–视频目标检测(VID)
    欢迎技术投稿、约稿、给文章纠错,请发送邮件至heyc@csdn.net

    展开全文
  • 多项工作并行进展是很多研发团队都面临的情况,团队实践中组织目标个人目标的如何协调、目标任务分解及分工怎么规划更合理?CTO俱乐部CSDN《程序员》杂志联合打造系列专栏,面向CTO俱乐部会员约稿,邀请您参与...

    《程序员》杂志面向俱乐部会员约稿啦!CTO俱乐部与CSDN《程序员》杂志联合打造系列专栏,面向CTO俱乐部会员约稿,邀请您参与分享。

    话题讨论一:多任务下的时间管理《程序员》9月刊,8月17日截稿

    软件领域著名专家Gerald M.Weinberg曾提出一个经验法则,用来计算由于切换项目而引起的浪费。根据测算,当工作中增加一个项目时,会影响工作效率,损失20%的时间,再增加一个任务时,有近一半的时间会浪费在任务切换上。

    但不可否认的是,多项工作并行进展是很多研发团队都面临的情况。“忽左忽右”、工作的不连贯让团队的很多成员抱怨连连,面对这种境况,也许直接对多个项目说“不”很难,你所在的团队是如何处理这种问题的?

    话题讨论二:目标计划与任务分解《程序员》10月刊,9月5日截稿

    《西游记》中的唐僧团队历经千难万险,终于求得真经,目标明确、分工合理为这支队伍最终走向成功奠定了的基础。唐僧从一开始,就为这个团队设定了西天取经的目标,虽然经历各种挫折与磨难,但目标从未动摇。悟空探路、八戒牵马、 沙僧挑担,几位徒弟一起肩负着保护唐僧的任务。虽然性格迥异、各有缺点,但目标分解合理及成员分工合作,最终风雨同舟,取得真经。

    《西游记》的故事引申到实际团队技术管理中,也一样有借鉴意义,本期我们邀请CTO俱乐部会员来谈谈“技术团队的目标计划与任务分解怎么做”,分享您在具体团队实践中组织目标与个人目标的协调、技术团队的目标任务分解及团队成员的分工合作等问题。

    稿件要求

    参与分享的嘉宾结合所讨论的话题写一篇观点性短文:

    1. 篇幅为1500字左右
    2. 提供一张个人正面半身清晰照(像素不低于1500*1500);
    3. 提供个人简介(公司、职务、简单履历及关注领域)约100~150字。 

    稿件将刊登在《程序员》杂志。我们将支付相应稿费,并赠送当期杂志。由于栏目篇幅限制,未能在杂志上刊登的文章,我们将会选登在CSDN网站专栏中,并在CSDN全站及CTO俱乐部周刊推广。如果您对以上话题感兴趣,请先邮件通知我们可以参与。并希望您在所示截稿日期前把文章发给我们,感谢您的支持。

    往期话题稿件

    穷游网CTO黄向阳:一个技术团队就像一个UGC社区

    技术人员如何参与产品设计讨论:激活那一潭死水

    联系方式

    • 电话:400-600-2320转6
    • 邮箱:ctoclub@csdn.net 
    ---------------------------------------------------------------------------------------------------------

    展开全文
  • 图像目标检测任务在过去三年的时间取得了巨大的进展,检测性能得到明显提升。但在视频监控、车辆辅助驾驶等领域,基于视频的目标检测有着更为广泛的需求。由于视频中存在运动模糊,遮挡,形态变化多样性,光照变化...
  • 但凡要给自己定目标,考虑时间管理、效能提升的人,都绕不开这三个概念:任务目标和计划。 弄不清楚三者关系并且各种混用的大有人在,比如说:周计划和周任务、月目标和月计划、年目标和年计划的区别是什么?你...
  • 软件测试的任务目标

    千次阅读 2017-07-10 17:17:00
    当我们一款软件的功能实现以后,我们需要做就是,对其进行测试,找错误,不断改正,使其趋于完整!  首先我们从测试的流程来看两张图,来... 1、测试前首先需要明确我们的任务目标:  2、知道了测试的目标和任...
  • 2016年,在该比赛的图像目标检测任务中,国内队伍大放异彩,包揽该任务前五名(如图1所示)。我们将根据前五名参赛队伍提交的摘要公开发表的论文或技术文档,简析比赛中用到的图像目标检测方法。
  • 优秀的前端工程师任务目标和实践

    千次阅读 2017-11-01 10:12:54
    前端工程师的工作目标: 在设计师和工程师之间创建可视化的语言;用可视化的设计,定义一组代表内容、品牌和功能的组件;为 Web 应用程序的公约、框架、需求、可视化的语言和规格设定底线;定义 Web 应用程序的...
  • 本文旨在介绍常用的目标检测模型,目标检测的任务是除了给出待检测目标的类别信息外,还需要给出物体在图像中的位置,并用一个最小的矩形框将其包围起来,即分类+定位。自从卷积神经网络被提出以来,目标检测领域也...
  • NLP————目标情感分析(TSA任务)

    千次阅读 2019-05-15 21:04:42
    目标情感分析任务(Targeted Sentiment Analysis, TSA)旨在提取目标实体并对其进行情感分类。因此可以理解为命名实体识别(NER)和情感分析(SA)两个任务的联合学习。例如,给出一句“ESPN调查显示迈克尔乔丹是最...
  • 软件配置管理的目标任务

    千次阅读 2014-04-29 12:55:34
    软件配置管理过程中定义的一系列任务具有四个主要目标:    1.统一标识软件配置项(Software Configuration Item SCI);  2.管理一个或多个软件配置项的变更;  3.便于构造应用系统的不同版本;  4.在...
  • 数据集名称 描述 DAVIS2016 单目标分割,30个训练视频,20个验证视频 DAVIS2017 多目标分割 YouTUbeObjecs ...视多目标频分割数据集,一共14个视频,包含24个目标,有947帧 ECSSD 语义分割 MSRA...
  • 迁移学习基础知识 源域 多任务学习 目标

    万次阅读 多人点赞 2018-01-02 15:27:53
    简单的将就是举一反三,是将已经学习到的知识迁移到另一种未知的知识的学习,即从源域迁移到目标域。小故事 从前有一个商人,在帝都以卖猫的玩偶为生,他叫CNN,很厉害,是一个分辨高手,擅长区分不同的猫咪,如果...
  • (1)细化系统需求导出软件...(2)解决需求间的冲突:需求协商,用户进行讨论,数据处理(功能、硬件要求、性能要求是否合理) (3)确定软件边界(核心任务):界面,use-case图,system类方法的前后置条件 ...
  • 本文简要介绍了目标检测PASCAL VOC数据集。 PASCAL VOC数据集简介二级目录三级目录 简介 二级目录 三级目录
  • Python 为目标检测任务绘制 ROC 和 PR 曲线

    万次阅读 热门讨论 2018-08-05 20:51:07
    需要两个分别记录检测结果和标准答案的 .txt 文件,记录格式 FDDB 的要求相同,即 ... image name i number of faces in this image =im face i1 face i2 ... face im ... 当检测框为矩形时,...
  • 目录(?)[-] 前言Ubuntu源码安装Ubuntu pip安装Windows环境下安装 安装Anaconda 420安装PyQt包下载源码并运行 使用方法后续说明 项目地址:LabelImg ...我们知道,图片标注主要是用来创建自己的数据集,方便进行深度...
  • 深度学习之目标检测与目标识别

    万次阅读 多人点赞 2018-06-05 21:58:54
    本文主要讲述了目标识别中的第一种类型---基于region proposal的目标检测和目标识别的算法, 主要主要包括R-CNN,Fast R-CNN,Faster R-CNN等网络, 揭示了基于region proposal的目标检测和目标识别的算法的发展历程....
  • 1)目标分割,任务是把目标对应的部分分割出来。 2)目标检测,检测到图片当中的目标的具体位置 3) 目标识别,即是在所有的给定数据中,分类出哪一些sample是目标,哪一些不是。这个仅仅做一下分类任务。 4)目标...
  • 目标检测综述

    万次阅读 多人点赞 2019-07-09 21:36:26
    图片分类任务我们已经熟悉了,就是算法对其中的对象进行分类。而今天我们要了解构建神经网络的另一个问题,即目标检测问题。这意味着,我们不仅要用算法判断图片中是不是一辆汽车, 还要在图片中标记出它的位置, 用...
  • 数据挖掘过程:从目标任务再到技术

    千次阅读 热门讨论 2013-04-27 13:34:14
    制定数据挖掘问题:从目标任务再到技术 一般数据挖掘的良性循环描述为一个业务流程,其中把数据挖掘划分为4个阶段: (1) 识别问题 (2) 将数据转换为信息 (3) 采取行动 (4) 度量结果  本文的重点转向把...
  • 从命令行运行Ant: ...还可以指定许多命令行选项,后面跟着任意数量的生成目标,Ant 将按顺序生成这其中的每个目标,并在此过程中解决所有依赖关系.   命令行选项:  默认情况下,Ant 寻找一个名为bui
  • 2、Ant目标详解及使用Ant的各种任务

    千次阅读 2013-12-17 10:47:14
    该生成文件中指定的默认目标就是Ant尝试要生成的目标。还可以指定许多命令行选项,后面跟着任意数量的生成目标,Ant将按顺序生成这其中的每个目标,并在此过程中解决所有依赖关系。 2、默认情况下,Ant寻找一个名字...
  • 作者 |Slumbers,毕业于中山大学,深度学习工程师,主要方向是目标检测,语义分割,GAN 责编 | Jane 人工智能的现状及今后发展趋势如何? https://edu.csdn.net/topic/ai30?utm_source=csdn_bw 本文是对 ...
  • 目标检测识别算法研究

    千次阅读 2019-05-03 16:20:33
    目标检测识别是很多计算机视觉任务的基础,通俗地讲,其目的是在目标场景中将目标用一个个框框出来,并且识别出这个框中的物体。即包括加测(where)和识别(what)两个过程。 1.技术难点 目标检测识别任务...
  • 目标检测评价指标
  • 在Node.js中实现任务调度执行

    千次阅读 2016-05-08 20:08:53
    在Node.js中实现任务调度执行作者:chszs,未经博主允许不得转载。经许可的转载需注明作者和博客主页:http://blog.csdn.net/chszs批处理是业务开发中经常会遇到的需求,比如银行对账单的处理,又比如广告邮件的推...
  • 基于视觉的目标检测跟踪

    千次阅读 2018-09-19 15:12:08
    目标检测的目的是从不同复杂程度的背景中辨识出运动目标 , 并分离背景 , 从而完成跟踪、识别等后续任务 。 根据所处理的数据对象的不同 , 将目标检测分为基于背景建模和基于前景建模的方法: 基于背景建模的...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 791,486
精华内容 316,594
关键字:

任务目标与目标任务的意思