1、问题动机
下图的是直升机的QA测试中的一些指标，x1为热量，x2为震动频率，图中的点都是正常的点，也就是质量合格的，现在给定一个测试数据，如何去判断它是否能够通过质量检验？具体的判定方式是什么？



根据给定的质量合格的数据及集，要想知道 x_test 是不是异常的，相当于计算这个测试数据不属于该组数据的概率大小。我们想要构建的模型，应该能根据该测试数据告诉我们，该测试样本属于这组正常数据的可能性 p(x)。
这种方法称为密度估计，表达如下：



应用举例：

通过记录用户的工作信息、访问网页频率、发言频率、打字速度等特征，判断用户是否处于异常区域，如果某个用户被盗号，或者是通过某种程序进行恶意访问，那么系统将会判定为异常行为，然后中止服务或者提醒用户，并且要求用户进行身份认证。许多购物网站都有此功能。
工业制造后的QA检验
计算机群的监管（大数据中心），为每一个计算机建立特征（CPU是用率，内存消耗，硬盘温度等），实时监控异常的计算机并排查故障。

2、高斯分布
高斯分布表达式


高斯分布概率密度函数：


利用已有的数据来预测总体中的μ和σ^2的计算方法如下：

在大样本条件下，任何分布可以被估计成正态分布（大数定律），根据极大似然估计，估计方差的m应该为 m - 1，这是为了满足无偏估计，但是当样本足够多的时候，m 可被认为等于 m - 1.


3、异常检测的算法实现

选择特征，假设有m个样本，特征式n维度的，则X -> (m, n)
在列上，求平均值，得到每个维度的平均值u，然后再算出每列，也就是一个维度的方差，sigma^2。
对测试样本进行密度估计，算出结果后和阈值 epsilon 进行比较，判断是否小于阈值，如果是则判定为异常点


**下面是一个二维特征 (n = 2) 的例子：**计算出的 p(x) 就是3D图中的高度。


4、评估异常检测
理论：

假设我们有一些带标签的数据，用0表示无异常，1表示异常。
然后用样本中的无异常点，在去除标签后，将其当做训练集，去训练异常检测程序；

接着用有标签的交叉验证集和测试集去验证和测试训练结果的性能（每个集合里面有1也有0）
具体实例：


算法评估过程：

和之前的监督学习评估方式一致，以及评判指标查准率、召回率、F1_sore都保持一致。

在用交叉验证集选取 epsilon 的时候，可以用不同的 epsilon 候选值去计算验证集的F1_score。选取最大的即可。


5、异常检测与监督学习
我们在评估异常检测的时候，使用的也是带有标签的数据，那么为什么不使用逻辑回归或者神经网络等监督学习的方式，使用带有标签的训练集去训练，然后进行验证和测试，而是使用异常检测呢？
它们的使用场景选择如下：

异常检测：

非常少量的正向类（异常数据 y = 1，2 ~ 50）, 大量的负向类（y = 0，10000）。或者说某一类样本少，因为0，1可以自己标记。
存在许多不同种类的异常，根据非常少量的正向类数据来训练算法去学习预测异常是非常难得。
未来遇到的异常可能与已掌握的异常、非常的不同。
具体例子：欺诈行为检测、生产（例如飞机引擎）、检测数据中心的计算机运行状况等。出现异常的情况可能从来没遇到过，或者说之前的正样本中没有相似的。

监督学习：

有大量的正样本和负样本。
有足够多的正向类实例，足够用于训练 算法，未来遇到的正向类实例可能与训练集中的非常近似。
具体例子：邮件过滤器、天气预报、肿瘤分类。可能有非常相似的样本存在于训练集中。

总结：

通常来说，正样本的数量很少，甚至有时候是0，也就是说，出现了太多没见过的不同的异常类型，那么对于这些问题，通常应该使用的算法就是异常检测算法。
6、特征对数转换处理和构造特征
选择什么特征去实现异常检测算法？如何设计和选择异常检测算法的特征？
对数转换：

当使用的数据X，它的所有样本的同一个特征 x_i ，也就是（m，n）矩阵中列的分布，是非高斯特征分布的时候可以通过对数转化变成近似于高斯的分布
使用注意事项：

使用对数函数：x=log(x+c)，其中 c 为非负常数；
或者 x = x^c，c为 0-1 之间的一个分数，等方法。
在python中，通常用np.log1p()函数，log1p就是 log(x+1)，可以避免出现负数结果，反向函数就是np.expm1()



异常检测算法的误差分析：

当在一维正态分布下判断不出来是否正确的情况下，如左图，可以构建新的特征，将特征变为2维的，那么就可以判断出来，但是第二个特征的选取一定要有区别性。


具体实例：如何创建新的特征

通常可以通过将一些相关的特征进行组合，来获得一些新的更好的特征（异常数据的该特征值异常地大或小），例如，在检测数据中心的计算机状况的例子中，我们可以用CPU负载与网络通信量的比例作为一个新的特征，如果该值异常地大，便有可能意味着该服务器是陷入了一些问题中，比如陷入了死循环。


7、多变量高斯分布
参考链接：https://www.cnblogs.com/bingjianing/p/9117330.html

以下是独立不相关的关键部分的截图：




独立不相关的具体的例子：

方差越大，越胖，方差越小，越瘦。




高度相关的具体例子：

从第三个投影看出来，x2随着x1近似于 y = x的线性变化。



改变均值的具体例子：



总结：

描述两个特征变量之间可能存在的正相关，或者负相关的情况，
8、使用多变量高斯分布进行异常检测
**第一步：**计算均值和协方差


**第二步：**计算测试样本的概率值，并判断给出结论


注意： 之前的连乘形式的高斯模型只是多变量高斯模型的一种特殊形式。对应的是协方差只有主对角线元素不为0的情况，此时两者的图像都是一样的，都为轴对称的圆或者椭圆（如第二个图）。如果协方差不仅仅是主对角线有值，那么，多变量高斯分布将是有相关特性的斜着的椭圆（如图一），而原来的累积形式的模型将是轴对称的椭圆！




两个模型的选择使用：

原始连乘模型：

使用的较多。对待有相关性的特征的时候需要手动创建新的模型。例如之前的网络流量和计算机内存的使用比例。
计算规模较小，适合于n比较大（1000， 100000）的情况。
训练集样本个数m可以小一些。

多变量高斯模型：

使用较少。可以自动捕获特征之间的相关性。
计算成本大，因为要计算协方差的逆矩阵（n,n），代价很大。
训练集样本个数m必须大于n，否则协方差矩阵就是不可逆的了，因为它的秩就会小于n。实际使用中，要求m >> n，而n不是很大，就会使用多变量高斯。

注意：如果在拟合模型的时候发现协方差矩阵是不可逆的：检查矩阵的秩和线性相关性

注意m >> n
存在冗余特征，比如x1 = x2，或者，x3 = x4+x5

1.客户与开发经理对项目成本估算意见不一致，在项目经理与客户和开发经理开会后，大家获得一致意见。项目经理使用的是什么技术？A

A.冲突管理

B.成本估算

C.项目治理

D.客户批准

2.由于可交付成果不满足项目要求，项目团队成员收到质量保证团队的关于问题的描述，以及改进的措施，这属于哪项内容？c

A.测试和评估文件

B.质量测量指标

C.质量报告

D.质量管理计划

3.在定义范围时，项目团队识别到一个重大预算限制，并得到项目发起人的确认，若要提早识别到这个问题，项目经理应该事先做什么？D

A.将其纳入总体预算中

B.定义项目的描述和边界

C.创建一份相关方名单

D.记录假设日志

4.项目经理发现团队成员对项目有许多不同意见和观点，这描述的是塔克曼阶梯的哪个阶段？A

A.震荡阶段

B.规范阶段

C.形成阶段

D.解散阶段

5.项目经理正在创建一份活动清单，希望使用一份已被验证且被组织接受的模板，项目经理可以从哪里找到？B

A.活动模板清单

B.组织过程资产

C.进度管理计划

D.事业环境因素

1.A

解析：解决矛盾冲突，让相关方或团队成员达成一致，这属于冲突管理中的合作/解决策略

2.C

解析：质量报告的信息包含团队上报的质量管理问题，针对过程、项目和产品的改善建议，纠正措施建议，以及在控制质量过程中发现的情况的概述。

3.D

解析：定义范围的输入包括假设日志，用于记录整个项目生命周期中的所有假设条件和制约因素，也别是在项目启动之前编制商业论证是，应识别高层次的假设条件和制约因素。

4.A

解析：在塔克曼阶段模型中，震荡阶段的特点是存在较多的冲突矛盾，不能以合作和开放的态度对待不同观点和一件。

5.B

解析：组织过程资产包括经验教训知识库、历史信息知识库、政策、制度及流程，以及组织所接受的模板等。 

ReID技术概述
什么是ReID
一般流程
Re-ID特点
研究现状
难点
数据集
reid常用数据集以及下载链接
评价指标
实现思路
研究方式
基于表征学习
基于度量学习
基于局部特征
全局特征
切片
姿态
基于视频序列
RQEN
基于GAN
CamStyle
DG-Net
GAN总结对比
未来方向
建议文献

什么是ReID
行人重识别是指利用计算机视觉技术，判断在不同时间段、不同监控下出现的行人图像是否属于同一人员的技术。行人重识别是最近几年在视频分析领域下热门的研究领域，可以看做是人脸识别应用的拓展。现在大街上的监控较多，由于设备质量、成像光线、成像角度、以及成像距离的因素，在监控视频中得到的人的特征往往是不清晰的，人脸的分辨率是不足以做人脸识别的，所以提出了根据行人的穿着、体态、发型等信息认知行人的reid。可与行人检测、行人跟踪技术相结合，可以弥补目前监控摄像头的视觉局限性，可以广泛应用于监控、安防等领域。

本质上可以看做是图像匹配任务，比如给你一张要匹配的行人的图，要你从数据库中搜索出此人的其他照片。


一般流程
行人重识别的流程大概可以用下图表示：

获取监控的视频流，通过YOLO或者Fast RCNN等目标检测算法，检测出视频帧中的行人，并框选截图并命名保存。在进行行人重识别时，给定目标行人图片，通过行人重识别算法，在保存的图片数据库以及实时视频流中进行查找。若当前查找到，则下次查找在当前行人出现的位置周边进行查找，减小计算量。最后大致分析出行人轨迹，生成视频片段或图片。
Re-ID特点


研究对象：

研究的对象是人的整个特征，不以人脸识别作为手段，包括衣着、体态、发型、姿态等等。


跨摄像头：

关注跨摄像头上的行人再识别问题。


人脸的关系：

可以作为人脸识别技术的延伸，并相互作用，应用于更多场景。


具有时空连续性以及短时性。


研究现状
ReID已经在学术界研究多年，但直到最近几年随着深度学习的发展，才取得了非常巨大的突破。

在行人重识别方向上，2005年到2013年间，传统算法一直都占据主要地位；自2014年起，深度学习开始慢慢出现在人们的视线中，并在行人再识别研究中取得了显著性的突破，性能指标远超传统算法。但是根据最近的发展来看，虽然最新的算法达到甚至超越了人类的水平，但是性能指标又到达了一个平台期，目前的研究方向主要是复杂环境、开放环境以及无监督学习领域。


目前SOTA的方法：

难点


姿态各异：人体姿态可以是非常动态可变的，捕捉这类可变的对象本身就是一个挑战；




光照变化：日光强度，阴影，彩色表面的反光，室内光线，都会导致同一个目标在摄像头中展现出不同的光影和颜色；




分辨率变化：由于目标距离摄像头距离不一致, 拍摄得到的图片分辨率也不一样；




遮挡：拍摄的行人经常会被移动物体或者静态物体遮挡, 造成行人图片信息的不完整；




拍摄条件：不同相机、不同天气、不同时间、不同城市拍摄的图像风格均可能不同。


数据集
reid数据集的特点：

数据集规模小，依赖人工标注，耗时巨大且辛苦
图片数量在几万张
ID数量较少
摄像头10个以下
大多数是学生
必须跨摄像头数据
影响因素复杂多样
连续视频截图
同一个人多张全身照片


reid常用数据集以及下载链接


Market-1501：

Market-1501 数据集在清华大学校园中采集，夏天拍摄，在 2015 年构建并公开。它包括由6个摄像头（其中5个高清摄像头和1个低清摄像头）拍摄到的 1501 个行人、32668 个检测到的行人矩形框。每个行人至少由2个摄像头捕获到，并且在一个摄像头中可能具有多张图像。训练集有 751 人，包含 12,936 张图像，平均每个人有 17.2 张训练数据；测试集有 750 人，包含 19,732 张图像，平均每个人有 26.3 张测试数据。3368 张查询图像的行人检测矩形框是人工绘制的，而 gallery 中的行人检测矩形框则是使用DPM检测器检测得到的。该数据集提供的固定数量的训练集和测试集均可以在single-shot或multi-shot测试设置下使用。

链接：https://drive.google.com/drive/folders/0By55MQnF3PHCTmgtV1R2cUpWZjA?usp=sharing


DukeMTMC-reID：

DukeMTMC-reID 于杜克大学内采集。DukeMTMC 数据集是一个大规模标记的多目标多摄像机行人跟踪数据集。它提供了一个由 8 个同步摄像机记录的新型大型高清视频数据集，从视频中每 120 帧采样一张图像，得到了 36,411 张图像。一共有 1,404 个人出现在大于两个摄像头下，有 408 个人 (distractor ID) 只出现在一个摄像头下。

链接：https://drive.google.com/open?id=1jjE85dRCMOgRtvJ5RQV9-Afs-2_5dY3O


CUHK03：

CUHK03是第一个足以进行深度学习的大规模行人重识别数据集，该数据集的图像采集于香港中文大学校园。数据以”cuhk-03.mat”的 MAT 文件格式存储，含有 1467 个不同的人物，由 5 对摄像头采集。

链接：https://drive.google.com/drive/folders/0By55MQnF3PHCd3h3cjFoeTM4cnM?usp=sharing


MSMT17：

数据集采用了安防在校园内的15个摄像头网络，其中包含12个户外摄像头和3个室内摄像头。为了采集原始监控视频，在一个月里选择了具有不同天气条件的4天。每天采集3个小时的视频，涵盖了早上、中午、下午三个时间段。因此，总共的原始视频时长为180小时。

最后，训练集包含1041个行人共32621个包围框，而测试集包括3060个行人共93820个包围框。对于测试集，11659个包围框被随机选出来作为query，而其它82161个包围框作为gallery.

（1）数目更多的行人、包围框、摄像头数；

（2）复杂的场景和背景；

（3）涵盖多时段，因此有复杂的光照变化；

复制这段内容后打开百度网盘App，操作更方便哦。 链接:https://pan.baidu.com/s/1E6V-4JYMeIqIPM4lmnaKbw 提取码:v352


评价指标
评价指标：

Rank1:首位命中率(Rank-1 Accuracy)

mAP:平均精度均值（Mean Average Precision,mAP)
Rank5:   前五位命中率(Rank-1 Accuracy)

Rank10: 前十位命中率(Rank-1 Accuracy)

CMC:     计算rank-k的击中率，形成rank-acc的曲线


实现思路

先抽取特征再进行比对
检索图经过网络抽取图片特征（Feature）
检索库里的所有图片全部抽取图片特征（Feature）
将检索图与检索库图的特征计算距离（例如欧式距离）
根据计算距离进行排序，排序越靠前表示是相似率越高


Resnet50是很多Reid算法实现的基础骨干网络，在Imagenet上训练完全后基础上进行网络修改得到。

比如节选自AlignedReID中的代码：
class ResNet50(nn.Module):
    def __init__(self, num_classes, loss={'softmax'}, aligned=False, **kwargs):
        super(ResNet50, self).__init__()
        self.loss = loss
        resnet50 = torchvision.models.resnet50(pretrained=True)
        self.base = nn.Sequential(*list(resnet50.children())[:-2])
        self.classifier = nn.Linear(2048, num_classes)
        self.feat_dim = 2048 # feature dimension
        self.aligned = aligned
        self.horizon_pool = HorizontalMaxPool2d()
        if self.aligned:
            self.bn = nn.BatchNorm2d(2048)
            self.relu = nn.ReLU(inplace=True)
            self.conv1 = nn.Conv2d(2048, 128, kernel_size=1, stride=1, padding=0, bias=True)

代码大致流程：


研究方式
根据罗浩博士的分类方法，大致可以分成5类：
基于表征学习
基于表征学习的方法是非常常用的行人重识别方法，没有直接去考虑图片之间的相似度，而是当做分类问题或者验证问题来对待。
1）分类问题是指利用行人的ID或者属性等作为训练标签来训练模型；

2）验证问题是指输入一对（两张）行人图片，让网络来学习这两张图片是否属于同一个行人。


基于度量学习
度量学习(Metric learning)是广泛用于图像检索领域的一种方法。不同于特征学习，度量学习旨在通过网络学习出两张图片的相似度（聚类）。在行人重识别问题上，具体为同一行人的不同图片相似度大于不同行人的不同图片。最后网络的损失函数使得相同行人图片（正样本对）的距离尽可能小，不同行人图片（负样本对）的距离尽可能大。常用的度量学习损失方法有 对比损失、 三元组损失、 四元组损失等。
三元组损失示意图：


基于局部特征
早期的ReID研究大家还主要关注点在全局的global feature上，就是用整图得到一个特征向量进行图像检索。但是后来大家逐渐发现全局特征遇到了瓶颈，于是开始渐渐研究起局部的local feature。常用的提取局部特征的思路主要有图像切块、利用骨架关键点定位以及姿态矫正等等。
全局特征

全局特征是指每一张行人图片的全局信息进行一个特征抽取，这个全局特征没有任何的空间信息。
向大家推荐一下OSNet（全尺度网络）




轻量级网络




性能好


用途广




不易过拟合




切片
PCB方法



PCB+RPP


网络关注部分对比：

姿态
姿态是一种很有意思、很典型的基于局部特征的方法。

首先要有关键点检测


以Spindle Net为例

FEN网络提取特征，FFN网络层次性地融合特征。
基于视频序列
基于单帧图像 的 ReID 方法可以通过一个简单方法扩展到视频序 列, 即用所有序列图像特征向量的平均池化或者最大池化作为该序列的最终特征。

这类方法除了考虑了图像的内容信息, 还会考虑:

帧与帧之间的运动信息;
更好的特征融合;
对图像帧进行质量判断等

RQEN

通过关键点检测，对每一张图片进行打分，希望让网络多学习完整的没有被遮挡的图片，最后进行合成。

基于GAN
GAN的一个重要应用就是图片生成，深度学习依赖大量的训练数据，而目前的行人重识别数据集总体来说规模还是比较小的，CycleGAN等可以实现图片风格的转换，进一步促进了GAN在行人重识别领域的应用。
例如：由于相机的光线、角度等差异，不同相机拍摄的图片存在风格偏差，可以使用CycleGAN来实现相机风格的迁移，从而减小相机之间的风格差异。


CamStyle
基于CycleGAN的相机风格之间的转换，减小光照等影响。




DG-Net
不需要额外标注（如姿态pose，属性attribute，关键点keypoints等），就能生成高质量行人图像。通过交换提取出的特征，来实现两张行人图像的外表互换。这些外表都是训练集中真实存在的变化，而不是随机噪声。
不需要部件匹配来提升行人重识别的结果。仅仅是让模型看更多训练样本就可以提升模型的效果。给定N张图像，我们首先生成了NxN的训练图像，用这些图像来训练行人重识别模型。
训练中存在一个循环： 生成图像喂给行人重识别模型来学习好的行人特征，而行人重识别模型提取出来的特征也会再喂给生成模型来提升生成图像的质量。

如下图所示，由网络合成得到：


网络结构：

距离得分和结构相似度



性能指标


GAN总结对比



未来方向
目前顶尖的行人重识别算法，在一些常用数据集上的表现已经超过人类。

未来需要着力解决的方向应该有：

无监督学习和迁移学习
构建更大规模的高质量复杂数据集：（DGNet生成DG-Market）
构建更强大的特征：OSNet
丰富场景：半身照
与行人检测和行人跟踪结合

建议文献

罗浩,姜伟,范星,张思朋.基于深度学习的行人重识别研究进展[J].自动化学报,2019,45(11):2032-2049.
Ye M, Shen J, Lin G, et al. Deep learning for person re-identification: A survey and outlook[J]. arXiv preprint arXiv:2001.04193, 2020.（首推）
Zhou, K., Yang, Y., Cavallaro, A., & Xiang, T. (2019). Omni-scale feature learning for person re-identification. In Proceedings of the IEEE/CVF International Conference on Computer Vision (pp. 3702-3712).
Zhang, X., Luo, H., Fan, X., Xiang, W., Sun, Y., Xiao, Q., … & Sun, J. (2017). Alignedreid: Surpassing human-level performance in person re-identification. arXiv preprint arXiv:1711.08184.