指数加权平均算法的原理
 
在书上看到了滑动平均模型，不懂什么意思，然后博客上有一篇写的很明白，摘抄了一段，然后附上书中的代码。
 
TensorFlow中的滑动平均模型使用的是滑动平均（Moving Average）算法，又称为指数加权移动平均算法（exponenentially weighted average），这也是ExponentialMovingAverage()函数的名称由来。 
 先来看一个简单的例子，这个例子来自吴恩达老师的DeepLearning课程，个人强烈推荐初学者都看一下。 
 开始例子。首先这是一年365天的温度散点图，以天数为横坐标，温度为纵坐标，你可以看见各个小点分布在图上，有一定的曲线趋势，但是并不明显。
  
 接着，如果我们要看出这个温度的变化趋势，很明显需要做一点处理，也即是我们的主题，用滑动平均算法处理。 
 首先给定一个值v0，然后我们定义每一天的温度是a1，a2，a3····· 
 接着，我们计算出v1，v2，v3····来代替每一天的温度，也就是上面的a1，a2，a3 
 计算方法是：v1 = v0 * 0.9 + a1 （1-0.9），v2= v1 0.9 + a2 （1-0.9），v3= v2 0.9 + a3 （1-0.9）···，也就是说，每一天的温度改变为前一天的v值 0.9 + 当天的温度 * 0.1，vt = v(t-1) * 0.9 + at * 0.1，把所有的v计算完之后画图，红线就是v的曲线： 
  
 v值就是指数加权平均数，整个过程就是指数加权平均算法，它很好的把一年的温度曲线给拟合了出来。把0.9抽象为β，总结为vt = v(t-1) * β + at * (1-β)。
 
β这个值的意义是什么？实际上vt ≈ 1/(1 - β) 天的平均温度，例如：假设β等于0.9，1/(1 - β) 就等于10，也就是vt等于前十天的平均温度，这个说可能不太看得出来；假设把β值调大道接近1，例如，将β等于0.98，1/(1-β)=50，按照刚刚的说法也就是前50天的平均温度，然后求出v值画出曲线，如图所示： 
  
 绿线就是β等于0.98时候的曲线，可以明显看到绿线比红线的变化更迟，红线达到某一温度，绿线要过一阵子才能达到相同温度。因为绿线是前50天的平均温度，变化就会更加缓慢，而红线是最近十天的平均温度，只要最近十天的温度都是上升，红线很快就能跟着变化。所以直观的理解就是，vt是前1/(1-β)天的平均温度。 
 再看看另一个极端情况：β等于0.5，意味着vt≈最近两天的平均温度，曲线如下黄线： 
  
 和原本的温度很相似，但曲线的波动幅度也相当大！
 
然后说一下这个滑动平均模型和深度学习有什么关系：通常来说，我们的数据也会像上面的温度一样，具有不同的值，如果使用滑动平均模型，就可以使得整体数据变得更加平滑——这意味着数据的噪音会更少，而且不会出现异常值。但是同时β太大也会使得数据的曲线右移，和数据不拟合。需要不断尝试出一个β值，既可以拟合数据集，又可以减少噪音。 
 滑动平均模型在深度学习中还有另一个优点：它只占用极少的内存 
 当你在模型中计算最近十天（有些情况下远大于十天）的平均值的时候，你需要在内存中加载这十天的数据然后进行计算，但是指数加权平均值约等于最近十天的平均值，而且根据vt = v(t-1) * β + at * (1-β)，你只需要提供at这一天的数据，再加上v(t-1)的值和β值，相比起十天的数据这是相当小的数据量，同时占用更少的内存。
 
偏差修正
 
指数加权平均值通常都需要偏差修正，TensorFlow中提供的ExponentialMovingAverage()函数也带有偏差修正。
 
首先看一下为什么会出现偏差，再来说怎么修正。当β等于0.98的时候，还是用回上面的温度例子，曲线实际上不是像绿线一样，而是像紫线： 
  
 你可以注意到在紫线刚刚开始的时候，曲线的值相当的低，这是因为在一开始的时候并没有50天（1/(1-β)为50）的数据，而是只有寥寥几天的数据，相当于少加了几十天的数据，所以vt的值很小，这和实际情况的差距是很大的，也就是出现的偏差。 
 而在TensorFlow中的ExponentialMovingAverage()采取的偏差修正方法是：使用num_updates来动态设置β的大小 
 
在数据迭代的前期，数据量比较少的时候，(1+num_updates)/(10+num_updates)的值比较小，使用这个值作为β来进行vt的计算，所以在迭代前期就会像上面的红线一样，和原数据更加接近。举个例子，当天数是第五天，β为0.98，那么(1+num_updates)/(10+num_updates) = 6/15 = 0.4，相当于最近1.6天的平均温度，而不是β=0.98时候的50天，这样子就做到了偏差修正。
 
滑动平均模型的代码实现
 
看到这里你应该大概了解了滑动平均模型和偏差修正到底是怎么回事了，接下来把这个想法对应到TensorFlow的代码中。
 
首先明确一点，TensorFlow中的ExponentialMovingAverage()是针对权重weight和偏差bias的，而不是针对训练集的。如果你现在训练集中实现这个效果，需要自己设计代码。 
 为什么要对w和b使用滑动平均模型呢？因为在神经网络中， 
 更新的参数时候不能太大也不能太小，更新的参数跟你之前的参数有联系，不能发生突变。一旦训练的时候遇到个“疯狂”的参数，有了滑动平均模型，疯狂的参数就会被抑制下来，回到正常的队伍里。这种对于突变参数的抑制作用，用专业术语讲叫鲁棒性，鲁棒性就是对突变的抵抗能力，鲁棒性越好，这个模型对恶性参数的提抗能力就越强。 
 在TensorFlow中，ExponentialMovingAverage()可以传入两个参数：衰减率（decay）和数据的迭代次数（step），这里的decay和step分别对应我们的β和num_updates，所以在实现滑动平均模型的时候，步骤如下： 
 1、定义训练轮数step 
 2、然后定义滑动平均的类 
 3、给这个类指定需要用到滑动平均模型的变量（w和b） 
 4、执行操作，把变量变为指数加权平均值
 
实现代码如下：
 
import tensorflow as tf

v1 = tf.Variable(0, dtype=tf.float32)
step = tf.Variable(0, trainable=False)
ema = tf.train.ExponentialMovingAverage(0.99, step)
maintain_averages_op = ema.apply([v1])

with tf.Session() as sess:
    
    # 初始化
    init_op = tf.global_variables_initializer()
    sess.run(init_op)
    print (sess.run([v1, ema.average(v1)]))
    
    # 更新变量v1的取值
    sess.run(tf.assign(v1, 5))
    sess.run(maintain_averages_op)
    print (sess.run([v1, ema.average(v1)]))
    
    # 更新step和v1的取值
    sess.run(tf.assign(step, 10000))  
    sess.run(tf.assign(v1, 10))
    sess.run(maintain_averages_op)
    print (sess.run([v1, ema.average(v1)])   )    
    
    # 更新一次v1的滑动平均值
    sess.run(maintain_averages_op)
    print(sess.run([v1, ema.average(v1)]))    
 
 
 
原文：https://blog.csdn.net/m0_38106113/article/details/81542863

在涉及时间序列数据的回归分析中，一般由于经济变量自身、决策者心理、技术、制度等方面的原因，解释变量需要经过一段时间才能完全作用于因变量，同时由于经济活动的连续性，因变量的当前变化也往往受到自身过去取值水平的影响，即模型中不仅包含解释变量的当前值，还包含它们的滞后值（过去值），这样的模型称为分布滞后模型（distribution-lag model）。
 分布滞后模型可表示为：
 $y_t=\alpha +{\beta }_0{x}_t+{\beta }_1{x}_{t-1}+{\beta }_2{x}_{t-2}+\cdots +{\beta }_k{x}_{t-k}+{\mu }_t(1)$
 或
 $y_t=\alpha +{\beta }_0{x}_t+{\beta }_1{x}_{t-1}+{\beta }_2{x}_{t-2}+\cdots +{\mu }_t(2)$ 
 式(1)为有限滞后模型，式(2)为无限滞后模型。其中$k$为滞后解释变量的滞后期长度。
 
例：消费滞后。按照一般规律，人们的消费不仅依赖于当期收入，还依赖于前期收入，即人们会分期消费。假定某人收入每年增加1000元，那么这种收入的增加对该消费者的年消费支出会产生什么影响？它也许会在收入增加后的第一年增加400元的消费支出，第二年增加300元，第三年增加200元，把余下的100元作为储蓄。到第三年末此人的消费将增加900元。则消费函数为$y_t=\alpha +0.4x_t+0.3x_{t-1}+0.2x_{t-2}+{\mu }_t$。
 
 分布滞后模型的核心思想是多元回归，其一般步骤为：
 （1）确定滞后期；
 （2）选择适当的方法对模型进行估计；
 （3）对所得的回归方程和回归系数进行显著性检验；
 （4）分析滞后效应。
 
第一步：确定滞后期
 
对于分布滞后模型，首先要确定能够达到的最大滞后期，可以从一个很大的滞后期开始，而不对分布滞后的形状施加任何约束，然后看模型的拟合是否会随滞后期的减小而恶化。也可以通过一些统计检验获取信息，通过多个统计检验综合判断。常用的统计检验有：
 
（1）相关系数
 
对于序列
    
     
      
       
        X
       
       
        =
       
       
        
         {
        
        
         
          x
         
         
          1
         
        
        
         ,
        
        
         
          x
         
         
          2
         
        
        
         ,
        
        
         ⋯
         
        
         ,
        
        
         
          x
         
         
          n
         
        
        
         }
        
       
      
      
       X=\left\{ {{x}_{1}},{{x}_{2}},\cdots ,{{x}_{n}} \right\}
      
     
    X={x1​,x2​,⋯,xn​}和
    
     
      
       
        Y
       
       
        =
       
       
        
         {
        
        
         
          y
         
         
          1
         
        
        
         ,
        
        
         
          y
         
         
          2
         
        
        
         ,
        
        
         ⋯
         
        
         ,
        
        
         
          y
         
         
          n
         
        
        
         }
        
       
      
      
       Y=\left\{ {{y}_{1}},{{y}_{2}},\cdots ,{{y}_{n}} \right\}
      
     
    Y={y1​,y2​,⋯,yn​}，二者在滞后$l$处的相关系数
 $R\left(l\right)=\frac{\sum _{t=l+1}^n\left(x_t-\bar{x}\right)\left(y_{t-l}-\bar{y}\right)}{\sqrt{\sum _{t=l+1}^n{\left(x_t-\bar{x}\right)}^2}\sqrt{\sum _{t=1}^{n-l}{\left(y_t-\bar{y}\right)}^2}}$
 $\bar{x}=\frac{1}{n-l}\sum _{t=l+1}^n{x}_t,\bar{y}=\frac{1}{n-l}\sum _{t=1}^{n-l}{y}_t$
 其中，$l$的最大取值为${}^n/{}_2$。当$l$的值从0变化到${}^n/{}_2$时就可以得到多个$R\left(l\right)$，令$R\left(l\right)$最大值所对应的滞后为$l_{\max }$，如果$R\left(l_{\max }\right)>\sigma （\sigma \in \left[0,1\right]$为用户定义的阈值），那么就说时间序列$X,Y$具有滞后相关性。
 
 由上图可知，当l=6时，R(l)最大，即居民蛋消费价格指数和棉花产值相关系数最大为0.77，若用户指定的阈值 $\sigma >0.5$ ，则认为居民蛋消费价格指数和棉花产值具有滞后相关性，且棉花产值滞后于居民蛋消费价格指数的量为6。
 
（2）调整的判定系数${\bar{R}}^2$
 
依次添加滞后项，直到$R^2$取得极大值，对应的滞后期为最优
 
${\bar{R}}^2=1-\left(1-R^2\right)\frac{n-1}{n-k-1},R^2=\frac{ESS}{TSS}=1-\frac{RSS}{TSS}$
 其中$RSS=\sum _{i=1}^n{\left(y-\hat{y}\right)}^2,ESS=\sum _{i=1}^n{\left(\hat{y}-\bar{y}\right)}^2,TSS=\sum _{i=1}^n{\left(y-\bar{y}\right)}^2$分别为残差平方和、回归平方和、总平方和，$n$为数据数量，$k$为变量个数。
 
（3）施瓦茨（$SC$）准则
 
依次添加滞后项，直到$SC$达到极小值，对应的滞后期为最优
 $SC=\ln \left(\frac{RSS}{n}\right)+\frac{k+1}{n}\ln n$
 其中$RSS=\sum _{i=1}^n{\left(y-\hat{y}\right)}^2$为残差平方和，$n$为数据数量，$k$为变量个数。
 
（4）赤池（$AIC$）准则
 
依次添加滞后项，直到$AIC$达到极小值，对应的滞后期为最优
 $AIC=\ln \left(\frac{RSS}{n}\right)+\frac{2\left(k+1\right)}{n}$
 其中$RSS=\sum _{i=1}^n{\left(y-\hat{y}\right)}^2$为残差平方和，$n$为数据数量，$k$为变量个数。
 例如，有某产品1990年-2008年的库存和销售额数据。
 
 依次添加滞后项，即当期时$Y_t=\alpha +{\beta }_0{X}_t$；添加滞后一期项时，$Y_t=\alpha +{\beta }_0{X}_t+{\beta }_1{X}_{t-1}+{\beta }_2{x}_{t-2}+\cdots +{\beta }_k{x}_{t-k}+{\mu }_t(1)$；添加滞后二期项时，$Y_t=\alpha +{\beta }_0{X}_t+{\beta }_1{X}_{t-1}+{\beta }_2{X}_{t-2}$…依次对各模型进行最小二乘法（OLS）估计，得到判定系数${\bar{R}}^2$、$SC$、$AIC$，根据$SC$、$AIC$最小，判定系数${\bar{R}}^2$最大，最优滞后期应为2。
 
 
第二步：模型估计
 
分布滞后模型估计不能直接使用最小二乘法（OLS）估计，会遇到多重共线性、损失自由度、滞后长度难以确定等问题。所以实践中很少用OLS方法直接估计分布滞后模型，一般使用限定诸$\beta$遵从某种先验变化的模式或理论模式。对于有限分布滞后模型，常用的修正估计方法有经验加权法、阿尔蒙多项式法（Almon）等；对于无限分布滞后模型，主要通过适当的模型变换转化为自回归模型进行估计，代表性的方法有考伊克法（Koyck）等。下面介绍有限分布滞后模型的两种估计方法。
 
（1）经验加权法
 
根据实际经济问题的特点及经验判断，对滞后变量赋予一定的权数，利用这些权数构成各滞后变量的线性组合，以形成新的变量，再应用最小二乘法进行估计。基本思路是设法减少模型中被估计的参数个数，模型中参数的个数主要由解释变量的个数来决定，要减少模型中被估计的参数个数，就要对解释变量进行归并，并通过解释变量的归并，消除或削弱多重共线性问题。该方法的优点是简单易行、少损失自由度、避免多重共线性。缺点是权数设置主观随意性大。通常的做法是依据先验信息，多选几组权数进行估计模型，最后选择能通过统计和计量经济检验的模型。根据滞后结构特点，常使用的权数类型有：
 
递减滞后结构
 例如，消费函数中近期收入对消费的影响较大，而远期收入的影响将越来越小；如果设滞后期为2，各期权数取成$1/2,1/4,1/6$，
 则组合成新的解释变量：$w_t=\frac{1}{2}{x}_t+\frac{1}{4}{x}_{t-1}+\frac{1}{6}{x}_{t-2}$
 估计模型（此时模型已无多重共线性）：$y_t=\alpha +\beta w_t+{\epsilon }_t$
 用最小二乘法得到$\alpha ,\beta$的估计值，将$w_t$带入原模型得，${\hat{\beta }}_0=\frac{\hat{\beta }}{2},{\hat{\beta }}_1=\frac{\hat{\beta }}{4},{\hat{\beta }}_2=\frac{\hat{\beta }}{6}$
不变滞后结构
 设滞后期为2，各期权数为$1/3$，则$w_t=\frac{1}{3}\left(x_t+x_{t-1}+x_{t-2}\right)$
 同理得到原模型各参数的估计值为：${\hat{\beta }}_i=\frac{\hat{\beta }}{3}$
A型滞后结构
 例如，历年投资对产出的影响一般为A型滞后结构，设滞后期为4，各期权数为$1/6,1/4,1/2,1/4,1/6$，则$w_t=\frac{1}{6}{x}_t+\frac{1}{4}{x}_{t-1}+\frac{1}{2}{x}_{t-2}+\frac{1}{4}{x}_{t-3}+\frac{1}{6}{x}_{t-4}$
 同理得到原模型各参数的估计值${\hat{\beta }}_0=\frac{\hat{\beta }}{6},{\hat{\beta }}_1=\frac{\hat{\beta }}{4},{\hat{\beta }}_2=\frac{\hat{\beta }}{2},{\hat{\beta }}_3=\frac{\hat{\beta }}{4},{\hat{\beta }}_4=\frac{\hat{\beta }}{6}$
 
 
（2）阿尔蒙（Almon）多项式法
 
为了消除多重共线性的影响，阿尔蒙于1965年提出利用有限多项式来减少待估计参数的个数，以消除多重共线性及参数估计中的自由度损失。现实生活中，解释变量系数随滞后期的变化轨迹并不完全遵从几何级数衰减的假定，其变化形式多种多样。
 
 对于有限分布滞后模型
 $y_t=\alpha +{\beta }_0{x}_t+{\beta }_1{x}_{t-1}+{\beta }_2{x}_{t-2}+\cdots +{\beta }_k{x}_{t-k}+{\mu }_t$
 可改写为
 $y_t=\alpha +\sum _{i=0}^k{\beta }_i{x}_{t-i}+{\mu }_t$
 其中${\beta }_i=a_0+a_{1}i+a_2{i}^2+a_3{i}^3+\cdots +a_m{i}^m$，一般多项式次数$m$取2或者3，很少超过4；且多项式的次数$m$小于最大滞后期$k$。即参数${\beta }_i$可近似的用一个关于滞后期$i$的低阶多项式表示，进而减少模型中的参数。取$m=2$为例进一步说明阿尔蒙方法，有阿尔蒙多项分布滞后模型
 
 其中，$z_{0t}=\sum _{i=0}^k{x}_{t-i},z_{1t}=\sum _{i=0}^{k}i{x}_{t-i},z_{2t}=\sum _{i=0}^k{i}^2{x}_{t-i}$。如果随机误差项$\mu$满足经典线性回归的假定，该模型仍可采用最小二乘法估计，且$\alpha$和$a_i$的估计值将具有全部的优良统计性质。估计出诸$a$，进而估计出原始的$\beta$系数
 
 阿尔蒙多项式的应用示例。
 
 阿尔蒙方法的优点：在阿尔蒙模型中，解释变量不再是x，而是x的线性组合，多重线性可以相对减弱；在使用阿尔蒙方法时，不必担心因滞后变量出现可能产生的估计问题（非随机解释变量和序列相关问题），它依然可以用最小二乘法进行估计；可以拟合一个足够低次的多项式，使估计系数的个数要比原先的系数的个数少很多。
 阿尔蒙方法的缺点：（a）滞后期的最大长度和多项式的次数是一种主观判断。若选择了过小的长度将导致“漏掉有关变量”的偏倚，这时系数虽然可以用OLS估计，但系数的方差不那么有效；（b）z变量的个数(m+1) 与m有关，一旦确定了滞后期k和多项式次数m就可以构造出诸z。然而z变量是x变量的线性组合,虽然多重共线问题可以减轻,但并不能消除。因此，在确定选择多项式的次数时，必须先肯定多重共线性的问题可以用前面给的技术方法进行处理。
 
第三步：模型检验与评估
 
回归方程的显著性检验
 
统计量：$F=\frac{ESS/k}{RSS/\left(n-k-1\right)}\sim F\left(k,n-k-1\right)$
 其中$RSS=\sum _{i=1}^n{\left(y-\hat{y}\right)}^2,ESS=\sum _{i=1}^n{\left(\hat{y}-\bar{y}\right)}^2$分别为残差平方和、回归平方和，$n$为数据数量，$k$为变量个数。若$F>F_{\alpha }$或$p<\alpha$，则回归方程显著。
 
回归系数的显著性检验
 统计量：$t_i=\frac{{\hat{\beta }}_i/\sqrt{l^{ii}}}{\sqrt{RSS/\left(n-k-1\right)}}\sim t\left(n-k-1\right)$
 其中$RSS=\sum _{i=1}^n{\left(y-\hat{y}\right)}^2$为残差平方和，$n$为数据数量，$k$为变量个数，$l^{ii}$为$L^{-1}$的第$i$个对角元素，而$L^{-1}={\tilde{X}}^{\prime }\tilde{X}$,$\tilde{X}$是中心化的数据阵。若$t>t_{\alpha }$或$p<\alpha$，则回归系数显著。
 
回归直线对观测值的拟合程度
 拟合优度$R^2$：$R^2=\frac{ESS}{TSS}=1-\frac{RSS}{TSS}$
 调整的判定系数${\bar{R}}^2$：${\bar{R}}^2=1-\left(1-R^2\right)\frac{n-1}{n-k-1}$
 其中$RSS=\sum _{i=1}^n{\left(y-\hat{y}\right)}^2,ESS=\sum _{i=1}^n{\left(\hat{y}-\bar{y}\right)}^2,TSS=\sum _{i=1}^n{\left(y-\bar{y}\right)}^2$分别为残差平方和、回归平方和、总平方和，$n$为数据数量，$k$为变量个数。$R^2$和${\bar{R}}^2$越接近于1，说明回归直线对观测值的拟合程度越好；反之，越接近于零说明回归直线对观测值的拟合程度越差。
 
第四步：滞后效应分析
 
分布滞后变量模型的各系数体现了解释变量的当期值和各期滞后值对被解释变量的不同影响程度。
 
滞后效应的乘数分析
 对于分布滞后模型$y_t=\alpha +{\beta }_0{x}_t+{\beta }_1{x}_{t-1}+{\beta }_2{x}_{t-2}+\cdots +{\beta }_k{x}_{t-k}+{\mu }_t$
 ${\beta }_0$：短期乘数，表示解释变量变化一个单位对同期被解释变量所产生的影响，即短期影响；
 ${\beta }_i(i>0)$：延期乘数或动态乘数，反映解释变量在各滞后时期的单位变化对$y_t$产生的影响，即滞后影响。
 $\sum _{i=0}^s{\beta }_i$：为（s期）中期乘数，反映了解释变量对$y_t$的s期累计影响；
 $\sum _{i=0}^{\infty }{\beta }_i$：为长期乘数，表示$x_t$变动一单位对$y_t$产生的累计总影响。
 利用乘数可以分析解释变量对解释变量的滞后影响过程。
 例如，${\hat{y}}_t=\hat{\alpha }+0.4x_t+0.3x_{t-1}+0.2x_{t-2}$，则短期乘数为0.4，延期乘数为0.3/0.2，长期乘数为0.9。即当收入增加1元时，消费者将在本期增加0.4元的消费，下一期增加0.3元，再下期增加0.2元，增加1元收入对消费的长期作用为0.9元。
滞后效应的速度分析
 乘数效用比：$D_s=\frac{s}{}\text{=}\frac{\sum _{i=0}^s{\beta }_i}{\sum _{i=0}^{\infty }{\beta }_i}$
 $D_s$为截止到第$s$期为止的乘数效应比，它反映了$x_t$的变动在经历$s$期后，对$y_t$的影响所达到的程度，使$D_s$达到某个百分比（如90%）的$s$值越小，则作用时间越快，滞后时间越短。
 平均滞后时间：$MLT\text{=}\frac{\sum _{i=0}^{\infty }i{\beta }_i}{\sum _{i=0}^{\infty }{\beta }_i}$
 称$MLT$为平均滞后时间（或平均滞后），实际上是以各期延期乘数为权数的、各滞后期的加权平均数，反映了滞后期的平均长度，其值越小，则平均滞后期越短，表明$y$对$x$变化的反映速度越快。
 
 ps：初衷是通过撰写博文记录自己所学所用，实现知识的梳理与积累；将其分享，希望能够帮到面临同样困惑的小伙伴儿。如发现博文中存在问题，欢迎随时交流~~

作者：石川
 链接：https://zhuanlan.zhihu.com/p/38276041
 来源：知乎
 已获得作者同意转载。
  
 
1 前言
 
移动平均（Moving Average，MA），又称移动平均线，简称均线。作为技术分析中一种分析时间序列的常用工具，常被应用于股票价格序列。移动平均可过滤高频噪声，反映出中长期低频趋势，辅助投资者做出投资判断。
 
根据计算方法的不同，流行的移动平均包括简单移动平均、加权移动平均、指数移动平均，更高阶的移动平均算法则有分形自适应移动平均、赫尔移动平均等。这其中，简单移动平均又最为常见。下图为上证指数日线的 5 个不同计算窗口（20 日，50 日，120 日，200 日，300 日）的简单移动平均线。
 
 
简单移动平均（Simple Moving Average, SMA）就是对时间序列直接求等权重均值，因此使用简单。但其最令人诟病的就是它的滞后性。从上图不难看出，随着计算窗口   的增大，移动平均线越来越平滑，但同时也越来越滞后。以 120 日均线为例，在 2015 年 6 月份之后的大熊市开始了很长一段时间之后，120 日均线才开始呈现下降趋势。如果我们按照这个趋势进行投资，那这个滞后无疑造成了巨额的亏损。
 
事实上，任何移动平均算法都会呈现一定的滞后性。它以滞后性的代价换来了平滑性，移动平均必须在平滑性和滞后性之间取舍。然而，滞后性是怎么产生的呢？简单移动平均在时间上滞后多少呢？有没有什么高级的移动平均算法能在保证平滑性的同时将滞后性减小到最低呢？这些就是本文要回答的问题。
 
2 移动平均的本质
 
移动平均的本质是一种低通滤波。它的目的是过滤掉时间序列中的高频扰动，保留有用的低频趋势。如何从时间序列中抽取出真正的低频趋势呢？无论采取哪种移动平均算法，理论上的计算方法都相同，下面我们简要说明。同时，我们也会清晰地阐述该计算方法仅在理论上有效，而在实际应用中是无法实现的，并由此揭示产生滞后性的原因。
 
假设我们有一个时间序列 ，如下图所示。另外，假设我们有一个作用在时域 t 上的过滤函数 F（注：这个 F 的具体形式根据不同的移动平均算法而不同）。
 
 
在理论上，在任意   时刻的低频滤波（用  表示）在数学上可以表示为该时间序列   和过滤函数  在整个时域上的卷积，即
 
 
其中，  为过滤函数  在时刻  的取值。由于在实际中不可能用到无穷多的数据，因此可以考虑给过滤加一个窗函数，即过滤函数  只在窗口长度  内有效、在窗口之外为 0，如下图所示：
 
 
加入长度为  的窗函数后，在时刻t的低频滤波变为该时间序列  和过滤函数  在这个窗口内的卷积：
 
 
然而，无论是否使用加窗函数，上述公式最大的问题是，在计算   时刻的低频分量时，利用到了未来的数据。换句话说，理论上的低通滤波（或者移动平滑）必须要用事后数据，其假设所有数据都发生后再在全局上计算所有时点的低频分量。但这在实时数据中是不可能的，因为在任何当前时刻  ，我们都没有未来数据可以利用。
 
正因如此，在实际应用中，我们无法使用  到  之间的数据，只能退而求其次使用  到  之间的数据。这相当于我们把计算低频趋势的过滤窗函数在时域上向左平移  个单位，如下图所示：
 
 
如此处理后，对于实时数据，在当前时刻  的低频滤波变为该时间序列  和过滤函数  在  到  之间的卷积：
 
 
没有未来数据便是滞后的根本原因。
 
对于简单移动平均来说，在窗口   内，过滤函数在每个时点的取值都是 。利用上述公式计算得到的实际上是  时刻（而非   时刻）的低频趋势，而我们把它当作   时刻的低频趋势使用，这便产生了  的滞后。当我们使用简单移动平均时，在当前时刻  ，对于给定的时间窗口  ，我们仅能求出  时刻之前的低频趋势，而无法求出  之后的低频趋势。这也解释了为什么时间窗口  越大，滞后  越多。这就是为什么看股票数据里面 MA20、MA30、MA50 等日均线这种，计算均线的窗口  越大，得到的移动平滑曲线越滞后。
 
既然无论如何都没有未来数据，那么是否意味着我们就只能接受移动平均的滞后性呢？答案是否定的。换个角度来考虑这个问题，滞后性说明由简单移动平均计算得到的低频趋势对近期的最新数据不够敏感。这是由于它在计算低频趋势时，对窗口内所有的数据点都给予相同的权重。按着这个思路延伸，自然的想法就是在计算移动平均时，给近期的数据更高的权重，而给窗口内较远的数据更低的权重，以更快的捕捉近期的变化。由此便得到了加权移动平均和指数移动平均。
 
3 加权移动平均
 
在计算加权移动平均（Weighted Moving Average, WMA）时，窗口内的过滤函数的取值从当前数据到之前第  期的数据依次线性递减。因此，第  期的  为 。该权重是  的单调线性递减函数。下图为  时不同  的取值对应的权重（图片来自 wiki）。
 
 
在确定了权重后，  时刻的加权移动平均（记为  ）由下式得到：
 
 
值得一提的是，由于严格的按照线性递减，因此权重会最终在当前时刻之前的第  期时点衰减为 0。
 
以上证指数过去 10 年的日数据为例，下图比较了  时的简单移动平均和加权移动平均的过滤效果。加权移动平均比简单移动平均对近期的变化更加敏感，尤其是在牛熊市转换的时候，加权移动平均的滞后性小于简单移动平均。但是，由于仅采用线性权重衰减，加权移动平均仍然呈现出滞后性。
 
 
4 指数移动平均
 
指数移动平均（Exponential Moving Average, EMA）和加权移动平均类似，但不同之处是各数值的加权按指数递减，而非线性递减。此外，在指数衰减中，无论往前看多远的数据，该期数据的系数都不会衰减到 0，而仅仅是向 0 逼近。因此，指数移动平均实际上是一个无穷级数，即无论多久远的数据都会在计算当期的指数移动平均数值时有一定的作用，只不过离当前太远的数据权重非非常低，因此它们的作用往往可以忽略。
 
在实际应用中，  时刻的指数移动平均（记为  ）可以按如下方法得到：
 
 
其中  表示权重的衰减程度，取值在 0 和 1 之间。 越大，过去的观测值衰减的越快。虽然指数移动平均是一个无穷级数，但在实际应用时，我们也经常看到  期指数移动平均的说法。这里的  是用来计算 的参数，它不表示指数衰减在 T 期后结束。 和  的关系为 。下图为  时不同时刻的权重（图片来自 wiki）。可以看到，任何一期的权重都不会衰减到 0。
 
 
下图比较了  时简单移动平均、加权移动平均和指数移动平均的平滑效果。指数移动平均由于对近期的数据赋予了更高的权重，因此它比加权移动平均对近期的变化更加敏感，但这种效果在本例中并不显著，指数移动平均也存在一定的滞后。
 
 
当  时，得到的指数移动平均又称为修正移动平均（Modified Moving Average，MMA）或平滑移动平均（SMoothed Moving Average，SMMA），它们在应用中也十分常见。比如，在计算技术指标 ADX 的时候，就应用到了平滑移动平均。
 
无论是加权还是指数移动平均，它们都是通过对近期的数值赋予更高的权重来提高低频趋势对近期变化的敏感程度。然而，它们的计算表达式（或算法结构）是固定的，在整个时间序列上的各个时点都使用同样的结构（即一成不变的权重分配方法）计算移动平均，而不考虑时间序列自身的特点。
 
一个优秀的移动平均算法计算出来的均线应在时间序列自身波动不明显的时点足够平滑，而在时间序列自身发生巨变时迅速捕捉、将滞后最小化。要想达到这种效果，就必须利用时间序列自身的特点。分形自适应移动平均算法就是这样一个有力的工具。
 
5 分形自适应移动平均
 
顾名思义，分形自适应移动平均（FRactal Adaptive Moving Average，FRAMA）利用了投资品价格序列的分形特征。简单的说，该算法通过一个简单的公式计算从时间序列从当前时点往前  长度的时间窗口内的分形维数   ，并利用分形维数进一步求解指数移动平均的参数  。
 
分形维数描述时间序列的趋势，其取值在 1 到 2 之间，越大说明趋势越明显，越小说明时间序列越随机。因此，通过连续的计算时间序列局部的分形维数，该算法可以动态的、自适应的根据时间序列的特征计算平滑所用的参数。由于  是  的减函数，因此  越大（趋势越明显）， 越小，即指数平滑时对过去的数值衰减的越慢；  越小（随机性越强），  越大，即指数平滑时对过去的数值衰减的越快、对最新数据的变化越敏感。
 
具体的，对于当前时点  和给定的窗口  ，该方法用到了三个时间窗口，即  到  （记为窗口  ，长度为  ），  到  （记为窗口  ，长度为  ），以及  到  （记为窗口  ，长度为  ）。不难看出，  。该方法的步骤如下：
 
计算 FRAMA 均线的步骤：
 
用窗口  内的最高价和最低价计算 
用窗口  内的最高价和最低价计算 
用窗口  内的最高价和最低价计算 
计算分形维数 
计算指数移动平均的参数 ，并使其满足在 0.01 和 1 之间
将  带入指数移动平均的公式求解  时刻的 FRAMA 移动平均值
下图比较了  时指数移动平均以及分形自适应移动平均的平滑效果。很明显，由于利用了时间序列自身的分形特征，FRAMA 均线对滞后性的提高非常明显，这意味着在价格趋势发生变化的时候它捕捉的更加及时。当然，取决于选取的参数，FRAMA 均线在一些局部可能不够平滑，它体现了一种动态的对平滑度和灵敏度的取舍。
 
 
6 赫尔移动平均
 
最后，我们再介绍一种业界常用的高级移动平均算法，即赫尔移动平均（Hull Moving Average，HMA）。它由 Alan Hull 发明，故由此得名。该算法最大的特点是在减少滞后的同时有效的提高了均线的平滑程度。
 
在本文中，我们并不对它背后的逻辑做太多的剖析，这将留到今后介绍。我们直接给出它的计算步骤。对于给定的窗口  ：
 
计算 HMA 均线的步骤：
 
计算窗口为  的加权移动平均，并把结果乘以 2（如果  不是整数则取整）
计算窗口为  的加权移动平均
用第 1 步的结果减去第 2 部的结果，得到一个新的时间序列
以第 3 步得到的时间序列为对象，计算窗口为  ，的加权移动平均（如果  不是整数则取整）
上述步骤的数学表达式为  。
 
最后，比较  时分形自适应移动平均和赫尔移动平均的平滑效果。令人惊喜的看到，HMA 均线有着不输 FRAMA 均线的灵敏性（滞后性非常低），并且在局部也提高了平滑性，确实做到了在保证平滑性的同时最大的降低了滞后性。
 
 
7 结语
 
作为技术分析的利器，移动平均线人人都在看、人人都在用。可又有多少人想得清楚、用的明白呢？本文详尽的分析了移动平均技术的本质，揭示了滞后性产生的原因。通过对五种不同过滤技术的分析和对比，说明了高级的移动平均技术（比如 FRAMA 和 HMA）可以有效的降低滞后性并保证均线的平滑性。
 
 

 
 
在时间序列分析中，滞后算子（lag operator (L)）或后移算子（backshift operator (B)）对时间序列的元素进行操作以产生前一个元素。例如，给定一些时间序列
 
 
 
 

 然后
 
 

 或者类似的：
 
 
 对全部
 
 
或者等价的
 
 
 
 

 其中L是滞后算子。有时用反移位的符号B代替。注意，滞后运算符可以被提升到任意整数幂，比如
 
 
 和
 
 
滞后多项式
 
也可以使用滞后算子的多项式，这是ARMA（自回归移动平均）模型的常用符号。例如，
 
 
 
 

 指定AR（p）模型。
 
滞后算子的多项式称为滞后多项式，因此，例如，ARMA模型可以简明地指定为
 
 
 
 

 其中， 
 
 
 和 
 
 
 分别代表滞后多项式
 
 

 和
 
 

 滞后算子的多项式遵循类似的乘法和除法规则，与变量的数和多项式一样。例如，
 
 
 与
 
 
 意思是一样的。
 
与变量的多项式一样，滞后算子中的多项式可以使用多项式长除法除以另一个多项式。通常将一个这样的多项式除以另一个，当每个多项式具有有限阶数（最高指数）时，得到无穷多项式。
 
注意 
 
 
 表示系数之和：