图1描述了DSS模型中状态转移和似然函数的关系。假设初始时刻系统的状态分布已知，k时刻的已知信息序列表示。

图1  动态状态空间模型(DSSM)

这样，贝叶斯估计的问题理解为：利用观测到的信息Yk，求解系统状态的概率分布。若系统状态的变化是隐马尔柯夫过程，即当前系统的状态信息只与上一个时刻的状态有关，可以通过预测和更新的途径求解。

(3)

这里：

(4)

假设xk，wk是相互独立的随机变量，满足

。于是，参考(1)式可以把(4)式写为

(5)

其中，是采样函数。当是已知时，xk可以通过确定性方程(1)得到。 依据贝叶斯准则，系统状态估计量

(6)

其中，

(7)

另外，在给定 xk，vk，分布的条件下， yk的条件概率依据测量方程(2)可以表示为如下形式

(8)

由(6)式可以看出，后验概率密度包含3个部分。先验概率似然函数和证据。如何获得这三项的近似是贝叶斯滤波的核心问题。更新方程(5)中观测值 用来对 的先验预测值修正，从而获得状态 的后验概率。方程(3)和(6)的递归关系构成了求解贝叶斯估计问题的两个步骤：预测与更新。如果(1)，(2)中的hk，fk是线性的，且噪声wk，vk满足高斯白噪声，可以把贝叶斯估计问题简化为卡尔曼分析解。但这类问题仅仅是实际问题中很小的一个部分。对于更多的问题，很难得到分析解。只有通过对问题的近似线性处理(扩展卡尔曼滤波)或其它途径(蒙特卡洛方法)实现非线性、非高斯问题的解。依据后面分析问题需要，这里重点对蒙特卡洛方法积分进行说明。

蒙特卡洛方法

在过去的二十多年，蒙特卡洛方法得到了很大的发展。其优点就是用系列满足条件的采样点及其权重来表示后验概率密度。蒙特卡洛方法采用统计抽样和估计对数学问题进行求解。按照其用途，可以把蒙特卡洛方法分为三类：蒙特卡洛抽样、计算、优化。其中，蒙特卡洛抽样是寻找有效的、方差很小的、用于估计的抽样方法。蒙特卡洛计算则是设计产生满足特定要求随机数的随机发生器的问题。而蒙特卡洛优化是采用蒙特卡洛思想对实际中的非凸非差分函数优化求解。对于，可以由概率空间p(x)中抽取N个样本，用近似值作为的解。大数定理证明：收敛于，并且满足条件。这里，是的方差。不同于确定性的数字计算，蒙特卡洛近似的一个重要特点就是估计的精度独立于状态空间的维数。而且，积分估计的方差与采样点的个数成反比。显然，蒙特卡洛近似方法的关键点有两个：首先如何由一个样本空间中抽取N个采样点，用来表征后验概率密度。其次就是计算。

重要性抽样(Important Sampling)解决了如何借助于已知分布来对实现有效采样的问题，由Marshall 1965年提出。当数据空间十分巨大时，重要性抽样只对其中“重要”区域进行采样，节省了计算量。对于高维采样空间模型，如统计物理学、贝叶斯统计量，这一点尤为重要。重要性抽样的中心思想是选择一个覆盖真实分布p(x)的建议分布q(x)。这样，

(9)

对q(x)作蒙特卡洛抽样，假设粒子数目为N，有

(10)

其中，称为重要性权重，再作归一处理，

(11)

是归一化权重。为了减小估计的方差，选择的建议性分布q(x)与p(x)尽可能匹配。通常，建议分布q(x)需要一个长的拖尾，这样可以解决区间之外的干扰。确切的说，匹配的q(x)必须与p(x)f(x)成正比。当q(x)与p(x)不匹配时，w(x(i))是不均匀分布的，在整个递归迭代的过程中，存在大量的权值极小的样本，而这些样本对估计的贡献很小。事实上，权值较大的少数样本决定蒙特卡洛采样的估计精度。大量时间损耗在这些“无关紧要”的粒子计算上，即所谓的粒子退化现象(Degeneracy Problem)。目前，标准的粒子滤波器选择先验概率(Prior)作为建议分布。

对于粒子退化现象，采样—重要性重采样方法给出了很好的解决途径。其基本思想就是通过在两次重要性采样之间增加重采样步骤，消除权值较小的样本，并对权值较大的样本复制，降低了计算的复杂度。在o(N)时间复杂度范围内可以已排序的均匀分布序列作重采样处理。

编辑老师为大家整理了蒙特卡洛方法的高斯混合采样粒子滤波算法，希望对大家有所帮助。

相关推荐：

浅谈物理换角度解题的弊论文 

试论物理教学类比法论文