时间序列分析方法第章Kalman滤波

在本章中，我们介绍一种被称为卡尔曼滤波的十分有用的工具。卡尔曼滤波的基本思想是将动态系统表示成为一种称为状态空间表示的特殊情形。卡尔曼滤波是对系统线性投影进行序列更新的算法。除了一般的优点以外，这种算法对计算确切的有限样本预测、计算Gauss ARMA模型的确切似然函数、估计具有时变参数的自回归模型等，都提供了重要方法。

§13.1 动态系统的状态空间表示

我们已经介绍过一些随机过程的动态表示方法，下面我们在以前的假设基础上，继续分析动态系统的表示方法。

13.1.1 继续使用的假设

假设yt表示时刻t观测到的n维随机向量，一类非常丰富的描述yt动态性的模型可以利用一些可能无法观测的被称为状态向量(state vector)的r维向量ξt表示，因此表示yt动态性的状态空间表示(state-space representation)由下列方程系统给出：

ξt1Fξtvt1 状态方程(state model)

(13.1)

ytAxtHξtwt 量测方程(observation model)

(13.2)

这里F，A和H分别是阶数为rr，nk和nr的参数矩阵，xt是k1的外生或者前定变量。方程(13.1)被称为状态方程(state model)，方程(13.2)被称为量测方程(observation model)，r1维向量vt和n1维向量wt都是向量白噪声，满足：

Q,t)E(vtv (13.3)

0,tR,t)E(wtw (13.4)

0,t这里Q和R是rr和nn阶矩阵。假设扰动项vt和wt对于所有阶滞后都是不相关的，即对所有t和，有：

)0 (13.5) E(vtw在除了包含在yt1,yt2,,y1内的信息以外，xt没xt是外生或者前定变量的假定意味着，

有为ξts和wts(s0,1,2,)提供任何新的信息。例如，xt可以包括yt的滞后值，也可以包括与ξ和w(任意)不相关的变量。

方程系统中方程(13.1)至方程(13.5)可以表示有限观测值的序列{y1,y2,,yT}，这时需要状态向量初始值ξ1。假设ξ1与vt和wt的任何实现都不相关：

)0，对任意t1,2,,T (13.6) E(vtξ1)0，对任意t1,2,,T (13.7) E(wtξ1状态方程(13.1)表明，ξt可以表示成为{ξ1,v2,v3,,vt}的线性函数：

ξtvtFvt1F2vt2Ft2v2Ft1ξ1，t2,3,,T (13.8)

因此，方程(13.6)和方程(13.3)意味着vt与所有ξ的滞后值都是不相关的：

)0，t1,t2,,1 (13.9) E(vtξ类似地，可以得到：

)0，1,2,,T (13.10) E(wtξ)E[wt(AxtHξtwt)]E(wty0，t1,t2,,1 (13.11)

)0，t1,t2,,1 (13.12) E(vty上述系统是相当灵活的，它的一些结论也可以推广到vt与wt相关的系统中，而且系数矩阵(F,Q,A,H,R)也可以是时间的函数。如果我们仅仅关注到上述系统的基本形式，则下面的论述将是十分清晰的。

13.1.2 状态空间表示的例子

考虑一元AR(p)过程：

这个AR(p)过程可以表示成为下面的状态空间模型形式： 状态方程(rp)

y2p1pt11y1000yttt10100yt10 (13.13)ytp20010ytp10量测方程：

ytyyt[100]1t (13.14)ytp1对应地，我们指定：

12p1pyt00020ξtty11t，F0100，v0Q00t，ytp10010000这里变量和参数矩阵对应为：

00 0ytyt，A，xt1，H100，wt0，R0

注意到这里的状态方程只是一个一阶向量自回归方程，量测方程只是一个简单的等式。因此，我们已经看到，状态空间表示只是总结AR(p)过程的另外一种方式。将AR(p)过程表示成为这种方式的原因在于，这样可以获得归纳AR(p)过程动态性的合适方式，这是我们对任何系统状态空间表示感兴趣的基本原因。

另外一个例子是，我们考虑一元MA(1)过程： 对应地，它可以表示成为状态空间模型形式为： 状态方程(r2)： 量测方程(n1)： 这里：

2t00t1ξt，F，vt0，Q10t100 0ytyt，A，xt1，H1，wt0，R0

将给定系统表示成为状态方程的方式有多种。例如，可以将MA(1)过程表示成为下面类型的状态空间模型：

状态方程(r2)： 量测方程(n1)：

显然上面的MA(1)过程、两种状态空间模型表示都是具有相同特征的过程表示，这三种表示都具有相同的预测和相同的似然函数值，也就无须讨论哪一种方式更为合适。

更一般地，一元ARMA(p,q)模型可以通过定义rmax{p,q1}进行状态空间模型表示：

yt1(yt1)2(yt2)r(ytr)t1t12t2r1tr1 (13.15)

这里的参数约束是：当jp时，j0；当jq时，j0。 考虑下列状态空间模型表示为： 状态方程(rmax{p,q1})：

11002010r1r001ξt1t100 (13.16) 0ξt00量测方程(n1)：

yt112r1ξt (13.15)

为了验证方程(13.16)和方程(13.17)表示了系统与方程(13.15)一致，假设jt表示向量

ξt的第j个元素，因此状态方程的第2行表示：

第3行表明：

更一般地，第j行表示： 因此状态方程的第1行意味着： 或者：

(11L2L2rLr)1,t1t1 (13.18)

量测方程表明：

yt(11L2L2r1Lr1)ξ1,t (13.19)

在方程(13.19)两端乘以算子多项式(11L2L2rLr)，并利用方程(13.18)，可以得到：

这就是原来的ARMA(p,q)模型，即方程(13.15)。

状态空间形式是描述随机过程的和，或者测量误差结果的模型的非常合适的方式。例如，Fama和Gibbons (1982)开始着手研究事前实际利率(ex ante real interest rate )行为 (事前实际利率是名义利率it减去预期通货膨胀率te)。由于经济计量学家通过证券市场推断的预期通货膨胀率的数据，因此这个变量不是可以观测的。因此在这种应用中状态

titte，变量是一个标量，即：这里表示平均事前实际利率。Fama和Gibbons (1982)

假设事前实际利率服从AR(1)过程：

t1tvt1 (13.20)

经济计量学家可以观测到事后实际利率(名义利率it减去真实通货膨胀率t)，这可以表示为：

itt(itte)(tet)ttwt (13.21)

这里wt(tet)是人们预测通货膨胀率时的误差。如果人们以最优的方式形成通货膨胀率预测，则wt与自身的滞后值和事前实际利率是无关的。因此方程(13.20)和方程(13.21)是状态空间模型，这里rn1，F，ytitt，Axt，H1，wttet。

状态空间模型框架的另外一个有趣例子是Stock和Waston (1991)的研究，他们假设存在表示经济周期状态的不可观测变量Ct。假设(y1t,y2t,,ynt)是n个可以观测的宏观经济变量，每个都受到经济周期的影响，并且具有与yjt,ji中移动不相关的奇异成分(表示为

it)。如果经济周期和每个奇异成分可以利用一元AR(1)过程描述，则[(n1)1]维状态向量

是：

Ct1tξt2t (13.22)

nt该状态变量具有的状态方程为：

Ct1C001t10C02t100Cnt10000CtvC,t1v01t1t102tv2t1 (13.23)

Cntvnt1量测方程为：

y1t11y2t22y3t33yntnn100100000Ct01t02t (13.24) 1nt因此，参数i描述第i个序列对经济周期反应的敏感性。为了出现和描述p阶动态性，Stock和Waston (1991)将方程(13.22)中的Ct和it替换为(p1)阶向量(Ct,Ct1,,Ctp1)和(it,it1,,itp1)，这时ξt是[(n1)p1]维向量。这时方程(13.23)中的标量i需要利用(pp)阶矩Fi阵替换，该矩阵结构与方程(13.13)类似。还需要在量测方程(13.24)中H的列中加入阶数为([n(p1)]的零子块。

§13.2 卡尔曼滤波的推导

卡尔曼滤波是估计状态空间模型的重要方法，也是应用广泛的参数估计方法。下面我们介绍卡尔曼滤波的有关公式。

13.2.1 卡尔曼滤波的回顾 Overview of the Kalman Filter

考虑上述讨论的状态空间模型的一般形式，为了方便，我们将使用的一些关键方程在这里重复表示如下：

Q,t)rr， E(vtv0,t假设我们已经得到了观测值y1,y2,,yT，x1,x2,,xT；一个最终目标是基于这些观测值估计系统的所有未知参数。但是，目前我们暂时假设参数矩阵(F,Q,A,H,R)的特定数值都是确定性已知的。如何估计这些参数在后面的内容中讨论。

卡尔曼滤波具有多种应用。它的基本动因是作为一种计算状态向量基于时刻t观测到的数据进行最小二乘预测的算法。

ˆˆξt1|tE(ξt1|Υt) (13.25)

这里：

ˆ(ξ|Υ)表示ξ基于Υ和常数的线性投影。卡尔曼滤波是采用叠代算法计算这这里Et1tt1t

ˆ，ξˆ，……，ξˆ些预测的，按顺序分别产生ξ1|02|1T|T1。与这些预测有关的是均方误差矩阵，

可以由一个rr阶矩阵表示：

ˆˆPt1|tE[(ξt1ξt1|t)(ξt1ξt1|t)] (13.26)

13.2.2 叠代的开始

ˆ开始，ξˆ表示在没有y和x观测值的基础上对ξ的预测。这就是ξ的叠代首先从ξ111|01|0无条件均值：

与此相关的MSE为：

例如，对MA(1)系统的状态空间表示，状态向量为： 这时有：

P1|t1202E(t2) ，E10200更一般地，如果矩阵F的特征根都落在单位圆内，则状态方程表示的过程{ξt}是协方差平稳的。因此，对状态方程两端取无条件数学期望，可以得到：

由于过程{ξt}是协方差平稳的，则有：

由于矩阵F没有单位根，因此矩阵(IrF)是非奇异的，因此这个方程存在唯一零解，也就是有：E(ξt)0。则{ξt}的无条件方差也可以类似地得到，取矩阵的转置并取数学期望，可以得到(由于存在正交性，下面的交叉项的数学期望为零)：

假设矩阵Σ表示{ξt}的协方差矩阵，则有： 这个方程的解可以表示为：

因此，一般情况下，如果矩阵F的特征根都落在单位圆内，因此卡尔曼滤波的叠代可以

ˆ0和P开始，这里的P表示成为列向量可以从下式得到： 从ξ1|01|01|0如果矩阵F的部分特征根落在单位圆上或者单位圆外，或者ξ1无法从状态方程中获得，

ˆ可以利用分析者对初始ξ的最优猜测来替代，这时ξ而P1|0是归纳这种预测置信区间的正11|0定矩阵。P1|0中对角线上比较大的数值对应着对ξ1真实取值较高的非确定性。

13.2.3 预测yt

ˆ和P。由于计算ˆ和P，下一步是计算下一个时期类似的数量ξ给定开始的初值ξ1|02|11|02|1ˆ对t2,3,,T都具有相同的形式，因此我们讨论在时刻t的一般形式。给定ξt|t1和Pt|t1，ˆ目的是计算ξt1|t和Pt1|t。

首先，我们需要注意到，我们假设除了包含在t1内的信息以外，xt不再包含关于ξt的信息，因此有：

下面我们考虑对yt的预测： 注意到根据状态方程，可以得到： 因此，根据投影的叠代定律，有： 这个预测的误差为： 因此预测的MSE为：

ˆ)]0，因此上式中交叉项为零。这个正交条件需要根据假设和投影由于E[wt(ξtξt|t1性质加以验证。这时可以将MSE表示为：

13.2.4 关于ξt推断的更新

ˆ和P。ˆ和P，给定开始的初值ξ下一步是计算下一个时期类似的数量ξ由于计算1|02|11|02|1对

13.2.5 产生ξt1的预测

ˆ和P。ˆ和P，给定开始的初值ξ下一步是计算下一个时期类似的数量ξ由于计算1|02|11|02|1对

13.2.6 归纳和注释

ˆ和P。ˆ和P，给定开始的初值ξ下一步是计算下一个时期类似的数量ξ由于计算1|02|11|02|1对

§13.3 基于状态空间表示的预测 Forecasts Based on the State-Space Representation

§13.4 参数的极大似然估计 Maximum Likelihood Estimation of Parameters

§13.5 稳态卡尔曼滤波 The Steady-State Kalman Filter

13.5.1 卡尔曼滤波的收敛性

§13.6 光滑 Smoothing

§13.7 利用卡尔曼滤波的统计推断 Statistical Inference with Kalman Filter

我们已经介绍过一些随机过程的动态表示方法，下面我们在以前的假设基础上，继续分析动

§13.8 时变参数 Time Varying Parameter

我们已经介绍过一些随机过程的动态表示方法，下面我们在以前的假设基础上，继续

分析动