平稳过程是一种随机过程,其统计属性不会随时间变化。对于严格意义上的平稳过程,这意味着其联合概率分布是恒定的。对于广义的平稳过程,这意味着其一阶和二阶矩是恒定的。
遍历过程是可以从足够长的样本中推导出其统计特性(如方差)的过程。例如,如果您平均的时间足够长,则样本均值会收敛到信号的真实均值。
什么样的信号可能是固定的,但不是遍历的?
例如,如果一个信号在所有时间内都具有相同的方差,那么时间平均方差怎么能不收敛到真实值呢?
那么,这两个概念的真正区别是什么?
能否给我一个不遍历的固定过程或不静止的遍历的示例?
#1 楼
随机过程是一组随机变量,在考虑中的每个瞬时都有一个。通常,这可以是连续时间($-\ infty平稳性是指随机变量的分布。具体而言,在平稳过程中,所有随机变量都具有相同的分布函数,更一般而言,对于每个正整数$ n $和$ n $瞬时时刻$ t_1,t_2,\ ldots,t_n $, $ n $随机变量$ X(t_1),X(t_2),\ cdots,X(t_n)$与$ X(t_1 + \ tau),X(t_2 + \ tau),\ cdots, X(t_n + \ tau)$。也就是说,如果我们将所有时刻都移动$ \ tau $,则该过程的统计描述根本不会改变:该过程是固定的。
遍历性则不关注统计属性随机变量,但在样本路径上,即您实际观察到的。回到随机变量,回想一下随机变量是从样本空间到实数的映射。每个结果都映射到一个实数,并且不同的随机变量通常会将任何给定的结果映射到不同的数。因此,假设实验进行了更高的结果,导致样本空间中的结果为\\ omega $,并且该结果已被过程中的所有随机变量映射到(通常是不同的)实数上:随机变量$ X(t)$已将$ \ omega $映射到实数,我们将其表示为$ x(t)$。数字$ x(t)$被视为波形,是与$ \ omega $相对应的样本路径,不同的结果将为我们提供不同的样本路径。然后,遍历性处理样本路径的属性以及这些属性与构成随机过程的随机变量的属性之间的关系。
现在,对于来自固定过程的样本路径$ x(t)$,我们可以计算时间平均
$ \ bar {x} = \ frac {1} {2T} \ int _ {-T} ^ T x(t)\,\ mathrm dt $$但是,$ \ bar {x} $与$ \ mu = E [X(t)] $(随机过程的平均值)有什么关系? (请注意,我们使用$ t $的哪个值都没有关系;所有随机变量具有相同的分布,因此具有相同的均值(如果均值存在))。正如OP所说,如果在足够长的时间内观察到采样路径,且该过程是遍历和固定的,则采样路径的平均值或DC分量会收敛到过程的平均值。连接两个计算的结果并断言
$$ \ lim_ {T \至\ infty} \ bar {x} = \ lim_ {T \至\ infty} \ frac {1} {2T} \ int _ {-T} ^ T x(t)\,\ mathrm dt $$
等于$$ \ mu = E [X(t)] = \ int _ {-\ infty} ^ \ infty uf_X(u )\,\ mathrm du。$$称具有这样的相等性的过程是均等遍历的,并且如果其自协方差函数$ C_X(\ tau)$具有以下属性,则该过程是均等遍历的:
$$ \ lim_ {T \ to \ infty} \ frac {1} {2T} \ int _ {-T} ^ T C_X(\ tau)\ mathrm d \ tau = 0。$$
因此,并非所有平稳过程都需要遍历遍历。但是,还有其他各种形式的遍历。例如,对于自协方差遍历过程,有限段的自协方差函数(例如,样本路径$ x(t)$的$ t \ in(-T,T)$,收敛到自协方差函数$ C_X(\ tau)$以$ T \ to \ infty $表示。过程是遍历遍历的笼统声明可能表示各种形式中的任何一种,也可能表示一种特定形式;只是不知道,
作为两个概念之间差异的示例,假设对于所有正在考虑的$ t $,$ X(t)= Y $。这里$ Y $是随机变量。这是一个固定过程:每个$ X (t)$具有相同的分布(即$ Y $的分布),相同的均值
$ E [X(t)] = E [Y] $,相同的方差等;
每个$ X(t_1)$和$ X(t_2)$具有相同的
关节分布(尽管它是退化的)等等。但是该过程不是遍历遍历的,因为每个采样路径都是一个常数。具体来说,如果一项实验
(由您或由上级执行)的结果
导致$ Y $的值
$ \ alpha $,则与此实验结果相对应的随机过程的所有$ t $值均为$ \ alpha $,样本路径的DC
值为$ \ alpha $,而不是$ E [X(t) ] = E [Y] $,无论您观察(相当无聊)采样路径的时间长短如何。在平行宇宙中,该试验将导致$ Y = \ beta $,并且该宇宙中的样本路径将对所有$ t $值$ \ beta $。
要写出数学规范以将这些琐碎性从平稳过程中排除是不容易的,因此这是一个非遍历平稳平稳过程的极小例子。
会不会有一个不稳定的但遍历遍历的随机过程?好吧,不是,不是说遍历遍历意味着人们可以想到的遍历遍历:例如,如果我们测量采样路径$ x(t)$的一长段最多具有$的时间的比例\ alpha $,这是对$ P(X(t)\ leq \ alpha)= F_X(\ alpha)$的良好估计,即$ X(t)$的CDF $ F_X $的值。如果假定过程相对于分布函数是遍历的,则为$ \ alpha $。但是,我们可以有一些随机过程,这些过程不是平稳的,而是均值遍历和自协方差遍历的。例如,考虑以下过程:
$ \ {X(t)\冒号X(t)= \ cos(t + \ Theta),-\ infty
请注意,每个$ X(t)$是一个离散随机变量,通常具有四个相等的可能值$ \ cos(t),\ cos(t + \ pi / 2)=-\ sin(t),\ cos(t + \ pi)=-\ cos(t)$和$ \ cos(t + 3 \ pi / 2)= \ sin(t)$,很容易看出,通常$ X(t)$和$ X(s)$具有不同的分布,因此该过程甚至不是一阶平稳的。另一方面,
$$ E [X(t)] = \ frac 14 \ cos(t)+
\ frac 14(-\ sin(t))+ \ frac 14(-\ cos(t))+ \ frac 14 \ sin(t)= $$$每$ t $,而
\ begin {align}
E [X(t)X(s)]&= \ left。\ left。\ frac 14 \ right [\ cos(t)\ cos(s)+(-\ cos(t))(-\ cos(s))+ \ sin(t)\ sin(s) +(-\ sin(t))(-\ sin(s))\ right] \\
&= \ left。\ left。\ frac 12 \ right [\ cos(t)\ cos(s) + \ sin(t)\ sin(s)\ right] \\
&= \ frac 12 \ cos(ts)。
\ end {align}
总之,该过程具有零均值及其自相关(和自协方差)函数仅取决于时间差$ ts $,因此该过程在广义上是平稳的。但是它不是一阶平稳的,因此也不能固定到高阶。现在,当执行实验并知道$ \ Theta $的值时,我们得到了示例函数,该函数显然必须是$ \ pm \ cos(t)$和$ \ pm \ sin(t)$之一, DC值$ 0 $等于$ 0 $,其自相关函数为$ \ frac 12 \ cos(\ tau)$,与$ R_X(\ tau)$相同,因此即使该过程也是均值遍历和自相关遍历的它根本不是静止的。最后,我指出,就分配函数而言,该过程不是遍历遍历的,也就是说,不能说它在所有方面都是遍历遍历的。
评论
$ \ begingroup $
我不明白这个例子。如果说Y是常数,则x(t)的任何路径都是常数。常数的平均值本身就是常数,因此E [X(t)] = E [Y] =Y。除非我错过了一些事情。
$ \ endgroup $
–罗伊
2012年1月18日在17:20
$ \ begingroup $
我添加了一些单词来阐明其含义。 $ Y $是随机变量,而不是常量。在任何实验中,其值都不必与$ E [Y] $相同。
$ \ endgroup $
– Dilip Sarwate
2012年1月18日17:40
$ \ begingroup $
如果信号是遍历遍历的,则意味着时间平均值收敛到总体平均值,但是由于过程不稳定,各个$ X $具有不同的含义,那么该时间的总体平均值是什么平均收敛?
$ \ endgroup $
– Dilip Sarwate
2012年1月23日在21:35
$ \ begingroup $
@Matt在“通信系统”一书的解决方案中,西蒙·海金(Simon Haykin)写道:“要使随机过程具有遍历性,它必须是平稳的”
$ \ endgroup $
–罗尼岛
2012年8月17日下午4:46
$ \ begingroup $
@ColinHicks是的,这是我的答复中的一个错字,我将尽快纠正。谢谢您引起我的注意。
$ \ endgroup $
– Dilip Sarwate
19-09-22在13:51
#2 楼
让我们考虑一个假设的随机过程,其中样本函数是DC值并且彼此不同:X1(t)=常数= X1(t)的平均值
X2(t) =常数= X2(t)的均值
$ X_1(t)$和$ X_2(t)$的时间均值是常数,但不相等。
如果我的过程是平稳的$ X(t_1)$和$ X(t_2)$相等且RVs(请参阅Dilip的答案)
因此$ X(t)$的集合均值是恒定的。
这个集合均值当然不等于$ X_1(t)$和$ X_2(t)$的时间平均值(它们本身不相等)。可以将其称为平稳过程而不是遍历过程。
相反,$ X(t)= Acos(\ omega t + \ theta)$其中$ \ theta $是RV是遍历的。
#3 楼
我希望这段视频(来自佛罗里达理工学院。视频由Ivica Kostanic博士在“传播理论”课上题为“什么是宽泛的,严格的意义,遍历信号”从16:55开始)可以消除您的疑问评论
$ \ begingroup $
欢迎使用DSP.SE!我建议您在视频上添加名称和一些说明,以防某天被删除并且链接无效。谢谢。
$ \ endgroup $
– lennon310
2014年7月7日13:38
#4 楼
遍历过程是可以用遍历平均值代替时间平均值的过程。真实的均值,方差等是通过随时间推移进行处理并求平均值等来定义的。例如,如果您想知道我的尺寸的均值,则可以从出生到死亡的平均时间。显然,后面的示例不是平稳过程。
遍历均值是,如果您不固定时间来跟踪我的身高,而是冻结时间,并取不同个体的均值作为平均值。这两种方法没有相同的理由,因此我的规模并非遍历整个过程。
这是一个不好的例子,但是如果考虑气体处于平衡状态的简单情况,它将变得更加重要。例如,均方速度记为$ \ bar {V ^ 2} $(随时间的平均值),但通常通过采用集合均值$ \ left
大多数热力学定理要求使用$ \ bar {V ^ 2} $,但计算和使用$ \ left <更容易V ^ 2 \ right> $。遍历假说是指出用另一种替换是正确的假设。遍历过程是遍历假设为真的过程。
遍历假设在一般情况下是错误的。
评论
$ \ begingroup $
我不明白这个答案。 Jolow的大小过程既不是平稳的也不是遍历的,而OP则想知道是否存在一个非遍历的平稳过程。答案是否实质上是遍历遍历假设是错误的,并且样本均值与集合均值不同(只是习惯并接受)是普遍的(某种程度上)?
$ \ endgroup $
– Dilip Sarwate
2012年1月17日19:09
$ \ begingroup $
@DilipSarwate:重新阅读后,答案很糟糕,无法回答问题,我正在考虑删除它。我想起了我的热力学讲座,而问题更多是关于统计的……
$ \ endgroup $
–让·伊夫
2012年1月17日20:00
$ \ begingroup $
@DilipSarwate Jolow的大小是多少?
$ \ endgroup $
–罗尼岛
2012年8月17日下午5:01
$ \ begingroup $
@MichaelCorleone我不记得提到Jolow的意思。我的猜测是Jean-Yves在nom-de-plume Jolow下发布了他的答案,而我在答案中使用了该名称,从那时起,他决定在堆栈交换中使用Jean-Yves作为他的用户名。这样的名称更改会反映在屏幕上显示的内容中,但不会记录为答案的编辑。
$ \ endgroup $
– Dilip Sarwate
2012年8月17日下午13:29
$ \ begingroup $
@DilipSarwate:你确实是对的。乔洛只是我的昵称。
$ \ endgroup $
–让·伊夫
2012年8月18日在6:28
#5 楼
对于相反情况的示例(即,遍历但不平稳的随机过程),请考虑由确定性方波进行幅度调制的白噪声过程。每个样本函数的时间平均值等于零,所有时间的集合平均值也是如此。因此,该过程是遍历的。但是,任何单个样本函数的方差都显示出原始方波对时间的依赖性,因此该过程不是平稳的。这个特殊的例子是广义的平稳的,但是可以编造相关的例子:仍然是遍历的,但甚至没有宽广的静止。
#6 楼
正如我所理解的,下面的示例显示了遍历和平稳的过程 X1 X2 X3 | mean var ...
1 2 3 | 2 1
2 3 1 | 2
3 1 2 | 2
----------
平均值2 2 2
因为均值每列的方差沿着时间是恒定的
每行的均值和方差沿着时间是恒定的
评论
您可能想看看有关相关问题的答案。这堂课的字面意思是遍历是平稳的子集。我只是不明白Wikipedia中的Stationary Ergodic Process文章在做什么?这是否意味着存在非平稳的遍历过程?
@Val我不会捍卫Wikipedia所说的内容,但是会指出,我在下面的回答的最后一部分包含一个WSS流程的示例,该流程不是固定的,而是遍历的。