白高斯噪声的离散傅立叶变换的统计量是多少？

#1 楼

数学工具

我们可以使用概率论和傅里叶分析的一些基本元素进行计算。
有三个元素（我们表示值$的随机变量$ X $的概率密度。 x $ as $ P_X（x）$）：给定一个随机变量$ X $，分布为$ P_X（x）$，缩放变量$ Y = aX $的分布是$ P_Y（y）=（1 / a）P_X（y / a）$。
两个随机变量之和的概率分布等于求和概率分布的卷积。换句话说，如果$ Z = X + Y $，则$ P_Z（z）=（P_X \ otimes P_Y）（z）$其中$ \ otimes $表示卷积。
两个函数的卷积的傅立叶变换等于这两个函数的傅立叶变换的乘积。换句话说：

$$ \ int dx \，（f \ otimes g）（x）e ^ {-ikx} =
\ left（\ int dx \，f（x ）e ^ {-ikx} \ right）
\ left（\ int dx \，g（x）e ^ {-ikx} \ right）\，..
$$

计算

将随机过程表示为$ x（t）$。
离散采样会产生一个序列$ x_n $，我们认为它们在统计上是不相关的。
我们还假设每个$ n $ $ x_n $是高斯分布，其标准偏差为$ \ sigma $。我们用符号$ G_ \ sigma $表示标准偏差为$ \ sigma $的高斯函数，因此我们可以说$ P_ {x_n}（x）= G _ {\ sigma}（x）$。
$$ X_k \ equiv \ sum_ {n = 0} ^ {N-1} x_n e ^ {-i 2 \ pi nk / N} \，。$$
现在仅关注真实部分，我们有
$$ \ Re X_k = \ sum_ {n = 0} ^ {N-1} x_n \ cos（2 \ pi nk / N）\，。$$
这只是一个和，因此根据规则2，$ \的概率分布Re X_k $等于概率分布的多重卷积
我们将总和重写为
$$ \ Re X_k = \ sum_ {n = 0} ^ {N-1} y_n $$
其中
$$ y_n \ equiv x_n \ cos（2 \ pi nk / N）\，。$$
余弦因子是确定性比例因子。
我们知道$ x_n $的分布是$ G_ \ sigma $，因此我们可以从上面使用规则＃1来写$ y_n $的分布：
$$ P_ {y_n}（y）= \ frac { 1} {\ cos（2 \ pi nk / N）} G_ \ sigma \ left（\ frac {y} {\ cos（2 \ pi nk / N）} \ right）= G _ {\ sigma c_ {n，k }}（y）$$
为了简便起见，我们定义了$ c_ {n，k} \ equiv \ cos（2 \ pi nk / N）$。

因此，则$ \ Re X_k $的分布是函数$ G _ {\ sigma c_ {n，k}} $$的多重卷积：
$$ P _ {\ Re X_k}（x）= \ left（G_ {\ sigma c_ {0，k}} \ otimes G _ {\ sigma c_ {1，k}} \ otimes \ cdots \ right）（x）\，。$$

如何运行尚不明显进行多次卷积，但是使用规则＃3很容易。
用$ \ mathcal {F} $表示函数的傅立叶变换，我们有Re X_k}）= \ prod_ {n = 0} ^ {N-1} \ mathcal {F}（G _ {\ sigma c_ {n，k}}）\，。$$

The宽度为$ \ sigma $的高斯的傅立叶变换是宽度为$ 1 / \ sigma $的另一个高斯，因此我们得到
\ begin {align}
\ mathcal {F}（P _ {\ Re X_k} ）（\ nu）
＆= \ prod_ {n = 0} ^ {N-1} G_ {1 / \ sigma c_ {n，k}} \\
＆= \ prod_ {n = 0} ^ {N -1} \ sqrt {\ frac {\ sigma ^ 2 c_ {n，k} ^ 2} {2 \ pi}} \ exp \ left [\ frac {-\ nu ^ 2} {2（1 / \ sigma ^ 2 c_ {n，k} ^ 2）} \ right] \\
＆= \ left（\ frac {\ sigma ^ 2} {2 \ pi} \ right）^ {N / 2} \ left（ \ prod_ {n = 0} ^ {N-1} c_ {n，k} \ right）\ exp \ left [-\ frac {\ nu ^ 2} {2} \ sigma ^ 2 \ sum_ {n = 0} ^ {N-1} \ cos（2 \ pi nk / N）^ 2 \ right] \，..
\ end {align}
指数前的所有东西都与$ \ nu独立$，因此是归一化因子，因此我们将其忽略。
总和仅为$ N / 2 $，因此我们得到
\ begin {align}
\ mathcal {F}（P _ {\ Re X_k}）＆\ propto
\ exp \ left [-\ frac {\ nu ^ 2} {2} \ sigma ^ 2 \ frac {N} {2} \ right] \\
＆ = G _ {\ sqrt {2 / / sigma ^ 2 N}}
\ end {align}
，因此
$$ P _ {\ Re X_k} = G _ {\ sigma \ sqrt { N / 2}} \，。$$

因此，我们计算了傅立叶系数$ X_k $实部的概率分布。
它是具有标准偏差$ \ sigma \ sqrt {N / 2} $的高斯分布。
请注意，该分布独立于频率索引$ k $，这对于不相关的噪声是有意义的。
对称

直觉上，我们期望增加更多的积分会减小所得噪声分布的宽度。 $ X_k $随$ \ sqrt {N} $增长。
这是由于我们选择对离散傅里叶变换进行归一化。 X_k = \ frac {1} {N} \ sum_ {n = 0} ^ {N-1} x_n e ^ {-i 2 \ pi nk / N} $$
，那么我们会发现
$$ P _ {\ Re X_k} = G _ {\ sigma / \ sqrt {2N}} $$
，这与直觉是一致的，即随着我们添加更多数据，噪声分布会变小。
归一化，相干信号将解调为固定的振幅相量，因此我们恢复了通常的关系信噪比的tio缩放为$ \ sqrt {N} $。

评论

---

$ \ begingroup $
所有这一切都很好，但在处理多个随机变量，尤其是高斯随机变量时，协方差具有重要意义，因为哪个随机变量是独立的也是很重要的。您能在回答中解决这个问题吗？ （边际高斯随机变量也不必是联合高斯；您的$ 2N $随机变量是联合高斯吗？它们是独立的吗？
$ \ endgroup $
– Dilip Sarwate
15年6月16日在19:01

---

$ \ begingroup $
@DilipSarwate这是一个很好的问题。不幸的是，我还不知道答案。我正在经历您可能对随机信号处理进行的“自我研究”，并且我还不明白为什么经常将不同时间的物理过程的值建模为联合高斯模型（甚至是真正的含义）。我怀疑这与控制基本过程的微分方程有关，但是我还是不知道。如果您想进行自我问答，那将非常有用。否则，我最终将在此站点上询问相关问题。
$ \ endgroup $
–DanielSank
2015年6月16日在21:49

---

$ \ begingroup $
@DilipSarwate我注意到您在回答其他问题时使用了高斯过程的假设。您甚至注意到，“高斯过程”与仅说固定$ t $的过程的分布是高斯分布的感觉不同。这表明高斯过程在自然/工程学中很常见。这是真的？如果是这样，您能给我提示我在哪里可以学习为什么吗？
$ \ endgroup $
–DanielSank
15年6月16日在21:58

---

$ \ begingroup $
@DanielSank根据中心极限定理，无论单个随机变量的原始分布如何，大量独立随机变量的组合将始终产生正态分布。由于对正态分布进行了很好的研究，因此通常假定观察到的过程符合中心极限定理。情况并非总是如此（例如，例如CCD上的光子），但是对于许多宏观物理问题，它往往是安全的近似值。
$ \ endgroup $
– PhilMacKay
17年12月19日14:37

---

$ \ begingroup $
@ anishtain4这是一条模拟thr过程的Python单行（长！）：import numpy as np; np.std（np.real（np.sum（np.random.normal（0，1，（10000，10000）））* np.exp（1.0j * 2 * np.pi * np.linspace（0，1， 10000）* 50），轴= 1）））。当我这样做时，我得到的输出70应该等于$ \ sqrt {10,000 / 2} $。也许您可以将仿真与该行进行比较。
$ \ endgroup $
–DanielSank
18年11月21日在18:14

---

#2 楼

我想对@DanielSank的答案再说一遍。我们首先假设$ v_ {n} \ sim \ mathcal {CN}（0，\ sigma ^ {2}）$为i.i.d。然后，它的离散傅立叶变换为：

$$ V_ {k} = \ frac {1} {N} \ sum_ {n = 0} ^ {N-1} v_ {n} e ^ { -j 2 \ pi \ frac {n} {N} k} $$。

我们要计算$ V_ {k} $的分布首先，请注意，由于$ v_ {n } $是高斯白噪声，它是圆形对称的，因此其傅立叶变换的实部和虚部将分布相同。因此，我们只需要计算实部的分布，然后将其与虚部组合即可。

因此，我们将$ V_ {k} $分为实部和虚部。我们有：

$$ V_ {k} = \ frac {1} {N} \ sum_ {n = 0} ^ {N-1} v_ {n} e ^ {-j 2 \ pi \ frac {n} {N} k} $$
$$ V_ {k} = \ frac {1} {N} \ sum_ {n = 0} ^ {N-1} \ big（R \ {v_ {n} \} + j I \ {v_ {n} \} \ big）\ cdot \ big（cos（2 \ pi \ frac {n} {N} k）+ j sin（2 \ pi \ frac {n} {N} k）\ big）$$
$$ V_ {k} = R \ {V_ {k} \} _ {1} + R \ {V_ {k} \} _ {2 } + jI \ {V_ {k} \} _ {1} + jI \ {V_ {k} \} _ {2} $$
$$ V_ {k} = R \ {V_ {k} \ } + jI \ {V_ {k} \} $$

其中：

$$ R \ {V_ {k} \} = R \ {V_ {k} \} _ {1} + R \ {V_ {k} \} _ {2} $$
$$ I \ {V_ {k} \} = I \ {V_ {k} \} _ {1 } + I \ {V_ {k} \} _ {2} $$

并且：

$$ R \ {V_ {k} \} _ {1} = \ frac {1} {N} \ sum_ {n = 0} ^ {N-1} R \ {v_ {n} \} cos（2 \ pi \ frac {n} {N} k）$$

$$ R \ {V_ {k} \} _ {2} =-\ frac {1} {N} \ sum_ {n = 0} ^ {N-1} I \ {v_ {n } \} sin（2 \ pi \ frac {n} {N} k）$$

$$ I \ {V_ {k} \} _ {1} = \ frac {1} { N} \ sum_ {n = 0} ^ {N-1} R \ {v_ {n} \} sin（2 \ pi \ frac {n} {N} k）$$

$ $ I \ {V_ {k} \} _ {2} = \ frac {1} {N} \ sum_ {n = 0} ^ {N-1} I \ {v_ {n} \} cos（2 \ pi \ frac {n} {N} k）$$

现在我们致力于推导发行版$ R \ {V_ {k} \} _ {1} $和$ R \ {V_ {k} \} _ {2} $美元。就像@DanielSank的答案一样，我们定义：

$$ x_ {n，k} = \ frac {1} {N} cos（2 \ pi \ frac {n} {N} k）R \ {v_ {n} \} = \ frac {1} {N} c_ {n，k} R \ {v_ {n} \} $$

因此我们可以这样写：
$$ R \ {V_ {k} \} _ {1} = \ sum_ {n = 0} ^ {N-1} x_ {n，k} $$

这使我们可以轻松地应用以下有关高斯随机变量线性组合的事实。即，我们知道：


当$ x \ sim \ mathcal {CN}（0，\ sigma ^ {2}）$时，则$ R \ {x \} \ sim \ mathcal {N}（0，\ frac {1} {2} \ sigma ^ {2}）$

当$ x \ sim \ mathcal {N}（\ mu，\ sigma ^ {2 }} $然后$ cx \ sim \ mathcal {N}（c \ mu，c ^ {2} \ sigma ^ {2}）$ {n，k} \ sim \ mathcal {N}（0，\ frac {c ^ {2} _ {n，k}} {2N ^ {2}} \ sigma ^ {2}）$。现在我们进行总结。我们知道：


当$ x_ {n} \ sim \ mathcal {N}（\ mu_ {n}，\ sigma ^ {2} _ {n}）$然后$ y = \ sum_ {n = 0} ^ {N-1} x_ {n} \ sim \ mathcal {N}（\ sum_ {n = 0} ^ {N-1} \ mu_ {n}，\ sum_ {n = 0} ^ {N-1} \ sigma ^ {2} _ {n}）$

$ \ sum_ {n = 0} ^ {N-1} c ^ {2} _ { n，k} = \ frac {N} {2} $

这意味着：

$$ R \ {V_ {k} \} _ {1} \ sim \ mathcal {N}（0，\ sum_ {n = 0} ^ {N-1} \ frac {c_ {n，k} ^ {2}} {2N ^ {2}} \ sigma ^ {2}） = \ mathcal {N}（0，\ frac {\ frac {N} {2}} {2N ^ {2}} \ sigma ^ {2} = \ mathcal {N}（0，\ frac {\ sigma ^ { 2}} {4N}）$$

因此我们证明了：

$$ R \ {V_ {k} \} _ {1} \ sim \ mathcal {N}（0，\ frac {\ sigma ^ {2}} {4N}）$$

现在我们将相同的参数应用于$ R \ {V_ {k} \} _ {2 } $。滥用我们的符号，我们重写：

$$ x_ {n，k} = \ frac {1} {N} sin（2 \ pi \ frac {n} {N} k） I \ {v_ {n} \} = \ frac {1} {N} s_ {n，k} I \ {v_ {n} \} $$

重复相同的参数并注意高斯是对称分布（因此我们可以忽略符号差），从而得出：

$$ R \ {V_ {k} \} _ {2} \ sim \ mathcal {N} （0，\ frac {\ sigma ^ {2}} {4N}）$$

由于$ \ sum_ {n = 0} ^ {N-1} s ^ {2} _ {n，k} = \ frac {N} {2} $。因此，由于$ R \ {V_ {k} \} = R \ {V_ {k} \} _ {1} + R \ {V_ {k} \} _ {2} $，我们得到：

$$ R \ {V_ {k} \} \ sim \ mathcal {N}（0，\ frac {\ sigma ^ {2}} {4N} + \ frac {\ sigma ^ {2}} { 4N}）= \ mathcal {N}（0，\ frac {\ sigma ^ {2}} {2N}）$$

因此我们证明了：

$$ R \ {V_ {k} \} \ sim \ mathcal {N}（0，\ frac {\ sigma ^ {2}} {2N}）$$

通过圆对称，我们然后也知道：

$$ I \ {V_ {k} \} \ sim \ mathcal {N}（0，\ frac {\ sigma ^ {2}} {2N}）$$

因此$ V_ { k} = R \ {V_ {k} \} + jI \ {V_ {k} \} $，我们最终得出：

$$ V_ {k} \ sim \ mathcal {CN} （0，\ frac {\ sigma ^ {2}} {N}）$$

因此，采用DFT将方差除以DFT窗口的长度-假设窗口当然是矩形-与@DanielSank的答案相同。