自相关（Autocorrelation），也叫序列相关，是一个信号与其自身在不同时间点的互相关。非正式地来说，自相关是对同一信号在不同时间的两次观察，通过对比来评判两者的相似程度。自相关函数就是信号x(t)和它的时移信号x(t-τ)的乘积平均值。它是时移变量τ的函数。

这是从书上抄来的话，到底是什么意思呢？

说人话！好吧，让我来编一个有关潜伏的故事：

话说余则成要到火车站去交换情报，他需要在火车靠站的短短几分钟内找到这位情报员并完成交换工作，在熙熙攘攘的火车站里，除非事先知道情报员所在的车厢，否则根本来不及。任务的前一天，他收到了含有情报员所在车厢的密电，密电如下：

这是什么鬼？

这是一段随机信号，但在其中隐藏了一个正弦，你能看得出来吗？

余则成同志的智商是比较高的，也是上过大学的，他的眼睛在杂乱无章的随机曲线上来回快速扫描，运用自己所有的知识，希望能找出那个正弦来。半个小时后……终于，

他什么也没发现。

余则成想了一个笨办法，他让翠平把曲线照猫画虎地描出一小段来，然后拿着翠平的画样在整个曲线上一点一点地进行对比。

怎么对比呢？无非是“加、减、乘、除”之类。但因为“加、减”属于同量级的变化，用肉眼就能大概地完成，而“除”则具有缩小功能。所以，为放大曲线中的差异，显然“乘法”大概是比较好的选择。

然后怎么办呢？总不能用“有点像”、“很像”、“很不像”这样的词来评价吧。他将整个比较过程分为四个步骤：

第一步：将“画样”与原信号中的开始端对齐，逐点一一对应地相乘，得到一小段新曲线；

第二步：将新曲线上各个点的值进行算术平均，得到一个均值；

第三步：将得到的均值描绘在最终曲线图中；

第四步：将“画样”向后挪动一点（“步距”），重复上述过程，直至“画样”移动到曲线末端。

这个工作很繁琐，但好在不太难，余则成教会翠平后就忙着应付陆桥山去了，等晚上回到家，看到的结果虽然不是太满意，但最终的曲线中还是表现出了很强的规律性，他拿尺子量了所有“锯齿”的间距，取了个平均值，得到了Δt≈0.2s，取倒数便是5Hz。第二天，余则成顺利地在5号车厢与情报员完成了交接。

好吧，我承认，这个故事编的不太认真，不过戏剧性本来也不是我们这里讨论的重点哈。

我们只是想通过这个小栗子来说明，“自相关”这种数据处理方法，可以发现隐藏在杂乱信号中的有用信息。这个能力是相当重要的，因为工程实际中的信号，不可避免地要受到各种干扰，严重的时候会完全淹没真正有用的数据。自相关能找出重复信息（被噪声掩盖的周期信号），或识别隐含在信号谐波频率中消失的基频，它常用于时域信号的分析。

用数学的语言表述，则是：自相关函数是信号在时域中特性的平均度量，它用来描述信号在一个时刻的取值与另一时刻取值的依赖关系。

另外，上面的这个例子也仅是故事性的，并不满足数学的严格性。实际上，数学上是这样定义的：

这个公式中，τ是进行“比较”时移动的“步距”。而整个公式的意思是“将x(t)进行时移，得到x(t+τ)，然后将其与x(t)在整个范围内逐点进行相乘，得到一条新曲线，这条曲线下方所围成的面积就是一个R值。改变τ的取值，再来一次，……，如此不断重复，R的一系列值将成为R(τ)曲线，这就是自相关曲线”。

自相关函数就是信号x(t)和它的时移信号x(t+τ)乘积的平均值，它是时移变量τ的函数。

如果能明确地看出原始数据有周期性，那么就不必在整个数轴范围（-∞~+∞）内进行移动比较了，只需要移动一个周期（T）即可：

明白了自相关，互相关也就好懂了。其实，大多数教材都是先讲互相关的。因为，所谓相关性，从字面的意思就是指两组数据，把它们相互比较，看看有没有关联。自相关是自己和自己比，互相关呢，自然就是两个不同信号之间相互比：

基本定义介绍完了，我们来看看，自相关函数有什么特点。

假设有一个余弦信号： 

它的自相关函数是什么呢？根据定义，有：

可以看到，自相关函数仍为余弦，且频率不变。如果信号是由两个频率与初相角不同的频率分量组成，同样可以证明，余弦信号的自相关函数还是是一个余弦函数。它保留了原信号的频率成分，其频率不变，幅值等于原幅值平方的一半，即等于该频率分量的平均功率，但丢失了相角的信息。

自相关函数具有如下主要性质：

(1). 自相关函数为偶函数， ，其图形对称于纵轴。因此，不论时移方向是导前还是滞后（τ为正或负），函数值不变；

(2). 当τ＝0时，自相关函数具有最大值，且等于信号的均方值；

(3). 周期信号的自相关函数仍为同频率的周期信号；

(4). 若随机信号不含周期成分，当τ趋于无穷大时，自相关函数趋于信号平均值的平方。

典型应用：

(1). 检测信号回声（反射）。若在宽带信号中存在着带时间延迟τ0的回声，那么该信号的自相关函数将在τ=τ0处也达到峰值（另一峰值在τ=0处），这样可根据τ0确定反射体的位置。

(2). 检测淹没在随机噪声中的周期信号。由于周期信号的自相关函数仍是周期性的，而随机噪声信号随着延迟增加，它的自相关函数将减到零。因此在一定延迟时间后，被干扰信号的自相关函数中就只保留了周期信号的信息，而排除了随机信号的干扰。

另外，相关函数的计算与卷积的计算有点关系。

从定义式中可以看到，互相关函数和卷积运算类似，也是两个序列滑动相乘，但是区别在于：互相关的两个序列都不翻转，直接滑动相乘，求和；卷积的其中一个序列需要先翻转，然后滑动相乘，求和。所以，x(t)和y(t)做相关等于x(t)与y(-t)做卷积。

1) 首先我们仅考虑实信号。
自相关的直观含义就是：把一个信号平移一段距离，跟原来有多相似。
于是就有了自相关的定义：

它代表了“移、乘、积”这三步操作。

如果只谈自相关，其实到此就可以结束了。
只不过，在信号处理领域中还有一个叫“卷积”的东西，在别的地方（已知线性时不变系统的冲激响应和输入，求响应）有用。
它跟自相关的定义很相似，包含了“卷、移、乘、积”四步操作：

左边有时也写作，表示这个函数是由x(t)和y(t)卷积而得的，但它的自变量是。

我们发现卷积比自相关多了一步“卷”的操作，为了去掉这个多余的操作，我们先把原信号自己卷一下，就可以抵消掉卷积中的“卷”操作了。这就是自相关与卷积的关系：

2) 现在扩展到复数域。
自相关是要刻画一个信号平移后与原始信号的相似性。显然，不平移时应该是最相似的。
我们希望x(t)与x(t)本身相乘后积分时，各时间点的值能够因叠加而增强。
在实数域上x(t)直接自乘没有问题。在复数域上，x(t)自乘后辐角还是乱的。
如果对其中一个x(t)取一下共轭，相乘后辐角就统一变成0了，积分时就能够取得叠加增强的效果。
所以在复数域上，自相关是这样的：

（共轭取在前者还是后者上都可以，取决于作者的习惯）

扩展一下，复数域上线性空间的内积的定义中也有共轭，其动机与此处相同。
“相关”这个运算其实就是一种内积。

 

相关函数的应用案例

目录

1 概念

2 自相关函数

2.1 定义

2.2 性质

3 互相关（cross-correlation）函数

3.1 定义

3.2 性质

3.3 线性互相关（linear cross-correlation）

3.4 循环互相关（Circular Cross-Correlation）的定义和计算

3.5 用线性互相关处理周期性信号

3.6 相关问题QA

3.7 参考资料

---

1 概念

      相关函数是描述信号X(s)，Y(t)（这两个信号可以是随机的，也可以是确定的）在任意两个不同时刻s、t的取值之间的相关程度。两个信号之间的相似性大小用相关系数来衡量。定义：

        

        称为变量 X 和 Y 的相关系数。若相关系数 = 0，则称 X与Y 不相关。相关系数越大，相关性越大，但肯定小于或者等于1.。

        

        相关函数分为自相关和互相关。

• 自相关函数是描述随机信号 x(t) 在任意不同时刻 t1,t2 的取值之间的相关程度。
• 互相关函数是描述随机信号 x(t)、y(t) 在任意两个不同时刻s，t的取值之间的相关程度

2 自相关函数

2.1 定义

        自相关函数是描述随机信号 x(t) 在任意不同时刻 t1,t2的取值之间的相关程度。自相关函数，是对信号自身的互相关， 表示同一序列不同时刻的相关程度。是用寻找重复模式的数字工具，就如一个存在被覆盖噪声的周期信号，或识别丢失的基频。它经常被用于信号处理中的分析函数或序列，如时域信号 。定义式：

        

或者：

        

2.2 性质

主要性质如下：

自相关系数：

3 互相关（cross-correlation）函数

3.1 定义

        自相关是互相关的一种特殊情况.。互相关函数是描述随机信号 x(t)、y(t) 在任意两个不同时刻 s，t 的取值之间的相关程度,其定义为： 

           

        对于连续函数，有定义：

      

       对于离散的，有定义：

      

        从定义式中可以看到，互相关函数和卷积运算类似，也是两个序列滑动相乘，但是区别在于：互相关的两个序列都不翻转，直接滑动相乘，求和；卷积的其中一个序列需要先翻转，然后滑动相乘，求和。所以，f(t)和g(t) 做相关等于 f*(-t) 与 g(t) 做卷积。

        在图象处理中，自相关和互相关函数的定义如下：设原函数是 f(t)，则自相关函数定义为 R(u)=f(t)*f(-t)，其中*表示卷积；设两个函数分别是f(t)和g(t)，则互相关函数定义为R(u)=f(t)*g(-t)，它反映的是两个函数在不同的相对位置上互相匹配的程度。

3.2 性质

互相关函数的性质：

互相关系数：

        正如卷积有线性卷积（linear convolution）和循环卷积（circular convolution）之分；互相关也有线性互相关（linear cross-correlation）和循环互相关（circular cross-correlation）。线性互相关和循环互相关的基本公式是一致的，不同之处在于如何处理边界数据。其本质的不同在于它们对原始数据的看法不同。

3.3 线性互相关（linear cross-correlation）

        假设我们手里有两组数据，分别为个和个，表示为：和，比长，即。序列和之间的线性互相关操作表示为，其结果也是一个序列，表示为。具体的操作是用这两个序列进行的一种类似“滑动点积”的操作，如图1和图2所示。

图1. 线性互相关的计算过程示意

图2. 线性互相关结果序列中单个值计算示意

        得到的互相关序列总长度为，该序列的前和后个数值是无效的，有效的数据共个。线性互相关的有效数据第个分量的值为：

注意，线性互相关并不满足交换律，即：

        

        一个简单的应证是，等式两侧操作所得结果的有效数据个数都不一致。

        线性相关的实际意义是，向量中的各个与向量等长的子向量与向量的相似程度。这样，中值最大的索引就是与向量中与最相似的子向量的起始索引。通常，为了获得有效的互相关数据，我们总是用较短的数据去滑动点积较长的数据。

        用一个实际的应用例子来验证一下吧。如图3的第一个子图表示雷达声纳发射了一个探测信号。经过一段时间之后，收到了如图3的第二个子图所示的回波（带有一定的噪声）。此时我们关注的是如何确定回波中从何时开始是对探测信号的响应，以便计算目标距雷达的距离，这就需要用到线性互相关。在第三个子图中的‘Valid’曲线即是有效互相关数据，其中清晰地呈现出两处与探测信号相似的回波的位置。

图3. 相关计算的一个例子：雷达回波分析

        线性互相关中，还有一些概念值得注意：

• 一是补零。由线性相关的计算式不难发现，为了计算出个完整的相关系数序列（包含那些“无效数据”在内的所有结果），需要用到一些“不存在”的点。这就需要人为地对这些值进行补充，在线性相关的计算中，对这些超出原始数据储存的区域取值为零。
• 二是末端效应。由图1可以发现，一头一尾的个互相关数据并没有完全“嵌入”两个原始数组的全部信息，它们或多或少地受到了人为补零的影响。因此一般认为这些数据是不可用的。
• 三是计算模式的选择。这个问题其实是由问题二衍生而来的，就Python语言中的函数而言，至少有两个可以直接计算线性相关：

numpy.correlate(a, v, mode)和scipy.signal.correlate(a, v, mode)

它们的调用参数完全相同。在调用时有三种模式可供选择，它们计算的内容是相同的，但是返回值长度各不相同：
mode = ‘valid’：只返回有效的那一部分相关数据，共$M-N+1$个；
mode = ‘same’：只返回与 等长的那一部分相关数据，共$N$个；
mode = ‘full’：返回全部相关数据，共$M+N-1$个。
图3的第三个子图展示了这三种模式的计算结果，在那个例子中，‘valid’模式是最合适的。

3.4 循环互相关（Circular Cross-Correlation）的定义和计算

        循环互相关是表征两组等长的周期性数据之间相似性的操作，其与线性互相关的区别也正由“等长”和“周期性”这个两特点产生。在循环互相关中，被处理的原始数据是等长的，即和。序列和之间的线性互相关操作表示为，其结果也是一个序列，表示为。其计算式与线性互相关的写法是一致的：

        

        只是得到的互相关序列长度也为。循环互相关的计算的具体过程如图4所示，注意到在计算时要用到超出原始数据索引范围的数据，其数据补充方式并不是“补零”而是“周期延拓”：即。这意味着对于循环互相关，不存在不同的计算模式之分，所有的数据都是有效数据。

图4. 循环互相关的计算过程示意

        注意，循环互相关也不满足交换律。

        这里给出了一个关于循环相关的算例。两路原始数据分别由如下函数生成：

        

        

        如果视为某个线性系统的周期输入信号，而视为这个线性系统的输出信号。由于存在外接干扰，因此输出信号不完全由输入信号决定。此时，循环互相关的实际意义是，分辨输出信号中的哪一个部分（频率成分）是由该输入信号产生的。

 

图5. 时域数据，从上到下：，和他们的循环互相关

图6. 频谱，从上到下：，和他们的循环互相关

        从图5和图6可以看出，循环互相关的频谱准确地说明了那些测试信号的相关性。

        遗憾的是，在Python几大数值计算库中，并没有直接可计算循环相关的函数。但是可以采用如下代码构造出一个可用的（经过归一化的）cxcorr(a, v)函数出来：

def cxcorr(a,v):
nom = np.linalg.norm(a[:])*np.linalg.norm(v[:])
return fftpack.irfft(fftpack.rfft(a)*fftpack.rfft(v[::-1]))/nom

        图4中的数据就是通过这个函数计算出来的。其中用到了傅里叶变换和反变换来计算循环互相关，这是可行的。它们之间的关系在第四小节的QA中专门讨论。

3.5 用线性互相关处理周期性信号

        实际上，线性相关也可以处理周期信号，前提是将两组信号采样成长度差异较大的序列。这样，其有效线性互相关也可以完美地反应数据之间的相关性。

        同样采用第二节中的例子。这时为了保证足够的有效线性互相关数据，两组数据的长度故意不一致（但都足够表征其特征），如图7所示。它们的频谱如图8所示，仍然完美地体现了测试数据的相关性。

图7. 时域数据，从上到下：，和他们的线性互相关

图8. 频谱，从上到下：，和他们的线性互相关

        既然线性互相关也能处理周期性数据，为什么还要专门搞一个基于等长序列和周期延拓的循环互相关呢？实际上，正如后文QA中专门讨论的，这是为了利用快速傅利叶变换加速计算。

3.6 相关问题QA

        至此，两种常用的互相关评价方法及其计算已经总结完毕。然而其中还有一些细节尚待分辨。例如，序列和之间的互相关的计算式：

        

        与卷积（convolution）的定义式：

        

如此类似，如果再联想起傅里叶变换的卷积定理，那么，至少会产生如下的问题：

Q.1：它们之间有更深意义上的联系吗？
A.1：文献[1]的答复是坚决的：“不要让求卷积和互相关的数学相似性迷惑你，它们描述了不同的信号处理过程。卷积是系统输入信号、输出信号和冲激响应之间的关系。互相关是一种在噪声背景下检测已知信号的方法。二者在数学上的相似仅仅是一种巧合。”实际上，只要注意到卷积操作是满足交换律的，而互相关操作并不满足交换律。仅此一点也许就能说明它们有着本质的不同吧。

Q.2：可以利用Python中计算卷积的函数来计算互相关吗？
A.2：可以，但是只能用以计算线性互相关。Python中的numpy.convolve()函数就可以计算两个序列之间的卷积。在卷积的计算过程中也会自动进行补零（而不是周期延拓，这就是为什么只能计算线性相关的原因），这种卷积有时被称为线性卷积，同样涉及末端效应、有效数据长度等考虑。具体地，根据相关和卷积的表达式，如果希望计算序列和之间的线性互相关序列。等效地，只需要计算序列和之间的卷积。表示序列的“反置”，即将序列[1,2,3]反置为[3,2,1]。

Q.3：可以根据傅立叶变换的性质中有卷积定理，利用傅立叶正/逆变换计算互相关吗？
A.3：可以，但是只能用于计算循环互相关。傅立叶变换的卷积定理中所涉及的卷积是循环卷积。与前述的线性卷积是不同的。实际上不同的并不是卷积本身，它们的计算式是一致的，而是在如何看待参与卷积计算的数据，线性卷积认为参与计算的序列之外都是零，而循环卷积认为参与计算的序列是一个无限循环的数据的一段——这导致了它们对“越界”数据的补齐方式不一样。正如线性互相关和循环互相关的区别！先将循环互相关等效为一个循环卷积，再利用快速傅里叶变换计算卷积即可。实际上本文给出的cxcorr(a, v)函数正是利用这一性质来计算循环相关的。其对计算速度的提升是相当明显的。

Q.4：怎样进行归一化（normalization），以便于比较互相关数据？
A.4：根据参考[4]，用公式：

3.7 参考资料

[1] Steven W. Smith. Digital Signal Processing: A Practical Guide for Engineering and Scientists [M].
张瑞峰, 詹敏晶 等译. 实用数字信号处理，从原理到应用[M]. 人民邮电出版社, 北京, 2010.
[2] Mark Owen. Practical Signal Processing [M].
丘天爽, 李丽, 赵林 译. 实用信号处理 [M]. 电子工业出版社, 北京, 2009.
[3] 关于MATLAB中的xcorr() 的论述
http://www.mathworks.cn/cn/help/signal/ref/xcorr.html
[4] 关于MATLAB中的cxcorr() 的论述
http://www.mathworks.com/matlabcentral/fileexchange/4810-circular-cross-correlation
[5] 网络论坛Stackoverflow关于此问题的讨论
http://stackoverflow.com/questions/6991471/computing-cross-correlation-function
http://stackoverflow.com/questions/12323959/fast-cross-correlation-method-in-python
http://stackoverflow.com/questions/9281102/n-fold-fft-convolution-and-circular-overlap
http://stackoverflow.com/questions/6855169/convolution-computations-in-numpy-scipy
http://stackoverflow.com/questions/4688715/find-time-shift-between-two-similar-waveforms
[6] 关于Cross-correlation的定义
http://mathworld.wolfram.com/Cross-Correlation.html
http://paulbourke.net/miscellaneous/correlate/
http://en.wikipedia.org/wiki/Cross-correlation
[7] 关于 Circular Cross-correlation的定义
http://en.wikipedia.org/wiki/Circular_convolution
http://cnx.org/content/m22974/latest/

 

 

 

自相关函数与互相关函数：http://www.doc88.com/p-5129647069822.html

互相关（cross-correlation）及其在Python中的实现：https://blog.csdn.net/icameling/article/details/85238412

第五章：自相关: https://thinkdsp-cn.readthedocs.io/zh_CN/latest/05-autocorrelation.html