是否可以通过其自相关函数完全描述随机过程？
是否需要附加属性？
#1 楼
随机过程的完整描述是什么意思？好吧，在数学上，一个随机过程是在随机变量{\ mathbb T} \} $中的集合$ \ {X（t）\冒号t \ in，在索引集$ \ mathbb T中的每个瞬时$ t $ $，其中通常$ \ mathbb T $是整条实线或正实线，完整的描述意味着对于每个整数$ n \ geq 1 $和$ n $时间点$ t_1，t_2，\ ldots，t_n在\ mathbb T $中，我们知道$ n $随机变量$ X（t_1）$，$ X（t_2）$，$ \ ldots，X（t_n）$的（联合）分布。这是大量的信息：我们需要知道每个时刻$ t $的CDF，$ X（t_1）$和$ X（t_2）的（二维）联合CDF。 $用于所有时刻$ t_1 $和$ t_2 $的选择，$ X（t_1）$，$ X（t_2）$和$ X（t_3）$的（三维）CDF，等等，等等等等。因此，人们自然希望找到更简单的描述和更严格的模型。当过程对于时间原点的变化不变时，就会发生一种简化。这意味着
进程中的所有随机变量具有相同的CDF：$ F_ {X（t_1）}（x）= F_ {X（t_2） }（x）$代表所有$ t_1，t_2 $。
任何两个以指定的时间间隔分隔开的随机变量都具有与任何其他以相同的数量分隔开来的随机变量对相同的联合CDF。时间。例如，随机变量$ X（t_1）$和$ X（t_1 + \ tau）$相隔$ \ tau $秒，随机变量$ X（t_2）$和$ X（t_2 + \ tau ）$，因此$ F_ {X（t_1），X（t_1 + \ tau）}（x，y）= F_ {X（t_2），X（t_2 + \ tau）}（x，y）$
任意三个随机变量$ X（t_1）$，$ X（t_1 + \ tau_1）$，$ X（t_1 + \ tau_1 + \ tau_2）$间隔$ \ tau_1 $和$ \ tau_2 $具有与$ X（t_2）$，$ X（t_2 + \ tau_1）$，$ X（t_2 + \ tau_1 + \ tau_2）$相同的联合CDF，也将$ \ tau_1 $和$ \ tau_2 $隔开。等效地，$ X（t_1），X（t_2），X（t_3）$的联合CDF与$ X（t_1 + \ tau），X（t_2 + \ tau），X（t_3 + \ tau）的联合CDF相同）$
和所有多维CDF的相似。
有效地，随机过程的概率描述不依赖于我们选择在时间轴上称呼原点的方式：移动所有时刻$ t_1 ，t_2，\ ldots，t_n $固定值$ \ tau $到$ t_1 + \ tau，t_2 + \ tau，\ ldots，t_n + \ tau $给出了随机变量的相同概率描述。此属性称为严格意义平稳性，而享有此属性的随机过程称为严格平稳的随机过程，或更简单地说，是平稳的随机过程。请注意，在一些统计资料（尤其是与计量经济学和时间序列分析有关的部分）中，平稳过程的定义有些不同；实际上，正如该答案稍后将描述为广义的平稳过程。
请注意，严格的平稳性本身不需要任何特定形式的CDF。例如，它并不是说所有变量都是高斯变量。
形容词严格建议可以定义更宽松的平稳形式。如果
$ X（t_1），X（t_2），\ ldots，X（t_N）$的$ N ^ {\ text {th}} $阶联合CDF与$ N ^ { \ text {th}} $的所有$ br
对于定购$ N $是平稳的，被称为$ N ^ {\ text {th}} $阶平稳随机过程。请注意，
$ N ^ {\ text {th}} $阶平稳随机过程也是平稳的
，以便为每个正$ n
如果一个随机过程平稳地（至少）要订购$ 1 $，则所有$ X（t）$都具有相同的分布，因此，假设存在均值，则$ E [X（t）] = \ mu $对于所有$ t $都是相同的。类似地，
$ E [（X（t））^ 2] $对于所有$ t $都是相同的，称为过程的幂。
所有物理过程都具有有限的幂，并且因此通常会假设
$ E [（X（t））^ 2] <\ infty $，在这种情况下，尤其是在较早的工程学
文学中，该过程称为第二步-订购流程。名称的选择很不幸，因为它会引起二阶平稳性的混淆（请参阅stats.SE上我的回答），因此在这里我们将称其为
的过程$ E [（X（t））^ 2] $对于所有$ t $是有限的（无论
不是$ E [（X（t））^ 2] $是常数）处理并避免这种混乱。
但要再次注意
一阶平稳过程不必是有限幂过程。固定订购$ 2 $的过程。现在，由于$ X（t_1）$和$ X（t_1 + \ tau）$的联合分布与$ X（t_2）$和$ X（t_2 + \ tau）$的联合分布函数相同，因此E [X（t_1）X（t_1 + \ tau）] = E [X（t_2）X（t_2 + \ tau）] $，该值仅取决于$ \ tau $。这些期望对于有限幂过程是有限的，其值称为过程的自相关函数：$ R_X（\ tau）= E [X（t）X（t + \ tau）] $是一个函数$ \ tau $的值，随机变量$ X（t）$和$ X（t + \ tau）$的时间间隔，完全不依赖于$ t $。另请注意，
$$ E [X（t）X（t + \ tau）] = E [X（t + \ tau）X（t）] = E [X（t + \ tau）X（t + \ tau-\ tau）] = R_X（-\ tau），$$等
自相关函数是其参数的偶函数。
有限次幂阶平稳随机过程具有以下属性：
表示$ E [X（t）] $是常数
它的自相关函数$ R_X（\ tau）= E [X（t）X（t + \ tau）] $是$ \ tau $的函数，即随机变量$ X（t）$和$ X（ t + \ tau）$，并且完全不依赖于$ t $。
平稳性的假设简化了对某些随机过程的描述但是，对于对从实验数据中构建模型感兴趣的工程师和统计学家而言，估计所有这些CDF并非易事，特别是当只有一个样本路径（或实现）$ x（t）$的一部分可以进行测量时制作。相对容易进行的两个测量
（因为工程师已经在他的工作台上有了必要的仪器（或者他的软件库中的MATLAB / Python / Octave / C ++中的程序））的直流值
$ \ $ x（t）$的frac 1T \ int_0 ^ T x（t）\，\ mathrm dt $和自相关函数$ R_x（\ tau）= \ frac 1T \ int_0 ^ T x（t）x（t + \ tau ）\，\ mathrm dt $（或其傅里叶变换，$ x（t）$的功率谱）。将这些测量值作为均值和有限幂过程的自相关函数的估计，得出接下来讨论的非常有用的模型。
有限次幂随机过程称为广义平稳（WSS）过程（也很弱的平稳随机过程，所幸如果
具有恒定的均值并且其自相关函数$ R_X（t_1，t_2）= E [X（t_1）X（t_2）] $也取决于时间差$ t_1- t_2 $（或$ t_2-t_1 $）。
请注意，该定义一无所有确定构成该过程的随机变量的CDF；它完全限制了随机变量的一阶和二阶矩。当然，有限功率的二阶平稳（或$ N ^ {\ text {th}} $阶平稳（对于$ N> 2 $）或严格平稳）随机过程是WSS过程，但相反的说法不一定正确。
WSS流程不必固定在任何顺序上。
例如，考虑随机过程
$ \ {X（t）\冒号X（t）= \ cos（t + \ Theta），-\ infty
请注意，每个$ X（t）$是离散的随机变量，通常，取四个相等的可能值$ \ cos（t），\ cos（t + \ pi / 2）=-\ sin（t），\ cos（t + \ pi）=-\ cos（t）$和$ \ cos（ t + 3 \ pi / 2）= \ sin（t）$，很容易看出，通常$ X（t）$和$ X（s）$具有不同的分布，因此该过程甚至不是第一个-订购平稳。另一方面，
$$ E [X（t）] = \ frac 14 \ cos（t）+
\ frac 14（-\ sin（t））+ \ frac 14（-\ cos（t））+ \ frac 14 \ sin（t）= $$$每$ t $，而
\ begin {align}
E [X（t）X（s）]＆= \ left。\ left。\ frac 14 \ right [\ cos（t）\ cos（s）+（-\ cos（t））（-\ cos（s））+ \ sin（t）\ sin（s） +（-\ sin（t））（-\ sin（s））\ right] \\
＆= \ left。\ left。\ frac 12 \ right [\ cos（t）\ cos（s） + \ sin（t）\ sin（s）\ right] \\
＆= \ frac 12 \ cos（ts）。
\ end {align}
总之，该过程具有零均值及其自相关函数仅取决于时间差$ ts $，因此该过程在广义上是平稳的。但是它不是一阶平稳的，因此也不能固定到高阶。
即使是二阶平稳（或严格平稳）随机过程的WSS进程，对于随机变量分布的具体形式也几乎不能说。简而言之，WSS过程不一定是平稳的（以任何顺序排列），WSS过程的均值和自相关函数不足以提供完整的统计信息该过程的说明
。
WSS流程是所谓的协方差平稳随机流程的子类。协方差平稳过程具有该过程的_covariance函数的属性，
\开始{align} C_X（t_1，t_2）＆= \ operatorname {cov}（X（t_1），X（t_2））\\
＆= E [（X（t_1）-\ mu_X（t_1））（X（t_2）-\ mu_X（t_2））] \\
＆= E [X（t_1）X（t_2 ）]-\ mu_X（t_1）\ mu_X（t_2），\ end {align}仅是$ t_1-t_2 $的函数，而不是$ t_1 $和$ t_2 $的单个值的函数。 （请注意，没有任何声称均值是常数）。由于是WSS流程，因此$$ C_X（t_1，t_2）= R_X（t_1，t_2）-\ mu_X（t_1）\ mu_X（t_2）= R_X（t_1-t_2）-\ mu_X ^ 2 $$
是仅$ t_1-t_2 $的函数，我们看到每个WSS过程都是协方差平稳过程。实际上，原型协方差平稳过程的形式为
$$ \ {X（t）\冒号t \ in {\ mathbb T} \} = \ {Y（t）+ s（t）\冒号t \ in {\ mathbb T} \} $$
其中$ \ {Y（t）\冒号t \ in {\ mathbb T} \} $是零均值WSS进程。它是在噪声$ Y（t）$中观察到的确定性信号$ s（t）$的模型。对于读者来说。
最后，假设随机过程被认为是高斯过程（以任何合理的置信度“证明”这不是一件容易的事）。
这意味着对于每个$ t $，$ X（t）$是一个高斯随机变量，对于所有正整数$ n \ geq 2 $和$ n $个时间点的选择$ t_1 $，$ t_2 $，$ \ ldots，t_n $，$ N $
随机变量$ X（t_1）$，$ X（t_2）$，$ \ ldots，X（t_n）$共同是高斯随机变量。现在，联合高斯密度函数由$ E [X（t_i）] = \ mu_X（t_i）$，方差
\ begin {align} \ operatorname {var}（X（t_i））和= E [（X（t_i）-\ mu_X（t_i））^ 2] \\
＆= E [（X（t_i）^ 2]-（\ mu_X（t_i））^ 2 \\＆= R_X（t_i，t_i）-（\ mu_X（t_i））^ 2，\ end {align}和协方差
\ begin {align} \ operatorname {cov}（X（t_i），X（t_j））＆= E [（X（t_i）-\ mu_X（t_i）]）（X（t_j）-\ mu_X（t_j）） ] \\＆= E [X（t_i）X（t_j）]-\ mu_X（t_i）\ mu_X（t_j）\\
＆= R_X（t_i，t_j）-\ mu_X（t_i）\ mu_X（ t_j）\ end {align}
。因此，知道均值函数$ \ mu_X（t）= E [X（t）] $（不需要像广义意义上的平稳性那样是常数），而自相关函数$ R_X（t_1，t_2）=所有$ t_1，t_2 $的E [X（t_1）X（t_2）] $（它不需要仅依赖于$ t_1-t_2 $，因为广泛意义上的平稳性是必需的）足以确定该过程的统计信息完全。
如果高斯过程是WSS过程，那么
它也是严格平稳的高斯过程。幸运的是，对于工程师和信号处理器，许多物理噪声过程可以很好地建模为WSS高斯过程（因此严格地是平稳过程），因此可以对
进行实验观察自相关函数很容易提供所有关节分布。
此外，由于高斯过程通过线性系统时仍保留其高斯特征，输出自相关函数与输入自相关函数有关，如
$$ R_y = h * \ tilde {h} * R_X $$
，以便也可以轻松确定输出统计信息，一般是WSS
过程，尤其是WSS高斯过程
在工程应用中非常重要。
评论
$ \ begingroup $
请您这样说“白噪声”吗？根据定义，在$ \ tau = 0 $处的自相关是随机变量的方差。这是否意味着AWGN（加性高斯白噪声）具有无限方差？我问这是因为通常人们写$ n（t）〜N（0，{N} _ {0} / 2）$，这是错误的吗？应该写成$ n（t）〜N（0，\ delta（0）{N} _ {0} / 2）$吗？谢谢。
$ \ endgroup $
–罗伊
2012年1月9日在6:57
$ \ begingroup $
@Drazick请问一个单独的问题。
$ \ endgroup $
– Dilip Sarwate
2012年1月9日14:23
$ \ begingroup $
这是定义平稳过程的绝佳微型课程。我从未见过这样的东西-如此有条理和清晰地布置。社区Wiki？
$ \ endgroup $
– abalter
18年2月3日在21:57
$ \ begingroup $
@Dilip Sarwate对不起，对不起。在示例中。为什么对所有t来说E [X（t）] = 0？你承担过遍历吗？您如何从theta的概率密度函数中得出X（t）的概率密度函数，以计算期望值？ E [X（t）X（s）] = E [cos（t + theta）* cos（s + theta）]对吗？您采取了哪些步骤来简化该表达式并获得所写内容？谢谢
$ \ endgroup $
– VMMF
18年2月8日在16:12
$ \ begingroup $
@VMMF没有使用遍历。 $ X（t）= \ cos（t + \ Theta）$是离散的随机变量，因为$ \ Theta $是离散的随机变量，并且取值$ \ pm \ cos（t）$和$ \ pm \ sin（ t）$具有相等概率$ \ frac 14 $。因此，$ E [X（t）] = 0 $。 $ X（t）X（s）$取值为$ \ cos（t）\ cos（s）$，$（-\ cos（t））（-\ cos（s））= \ cos（t）\ cos（s）$，$ \ sin（t）\ sin（s）$和$（-\ sin（t））（-\ sin（s））= \ sin（t）\ sin（s）$概率$ \ frac 14 $。因此，$ E [X（t）（X（s）] = \ frac 12 \ big（\ cos（t）\ cos（s）+ \ sin（t）\ sin（s）\ big）= \ frac 12 \ cos（ts）$。因此，
$ \ endgroup $
– Dilip Sarwate
18年2月9日在0:12