第1页:第3章随机过程
第3章随机过程
第2页:3.1随机过程的基本概念
3.1随机过程的基本概念
- 什么是随机过程?随机过程是一类随时间作随机变化的过程,它不能用确切的时间函数描述。可从两种不同角度看:
- 角度1:对应不同随机试验结果的时间过程的集合。
第3页:随机过程的定义
随机过程的定义
设Sk(k=1, 2, …)是随机试验。每一次试验都有一条时间波形(称为样本函数或实现),记作xi(t),所有可能出现的结果的总体{x1(t), x2(t),…, xn(t),…}就构成一随机过程,记作ξ(t)。
简言之,无穷多个样本函数的总体叫做随机过程
第4页:图3-1样本函数的总体样本函数xi
图3-1样本函数的总体样本函数xi
- 图3-1样本函数的总体样本函数xi(t):随机过程的一次实现,是确定的时间函数。随机过程:
- (t)={x1(t),x2(t), …,xn(t)}是全部样本函数的集合。
第5页:例n台示波器同时观测并记录
例n台示波器同时观测并记录
记录这n台接收机的输出噪声波形
第6页:角度2:随机过程是随机变量概念
角度2:随机过程是随机变量概念
的延伸其一,它是一个时间函数;其二,在固定的某一观察时刻t1,全体样本在t1时刻的取值ξ(t1)是一个不含t变化的随机变量。可见,随机过程具有随机变量和时间函数的特点。因此,我们又可以把随机过程看成依赖时间参数的一族随机变量。
这个角度更适合对随机过程理论进行精确的数学描述
第7页:3.1.1随机过程的分布函数
3.1.1随机过程的分布函数
- 设
- (t)表示一个随机过程,则它在任意时刻t1的值
- (t1)是一个随机变量,其统计特性可以用分布函数或概率密度函数来描述。
- 随机过程
- (t)的一维分布函数:
- 随机过程
- (t)的一维概率密度函数:若上式中的偏导存在的话。
第8页:随机过程
随机过程
- (t)的二维分布函数:
- 随机过程
- (t)的二维概率密度函数:若上式中的偏导存在的话。
- 随机过程
- (t)的n维分布函数:
- 随机过程
- (t)的n维概率密度函数:
第9页:显然,n越大
显然,n越大
对随机过程统计特性的描述就越充分,但问题的复杂性也随之增加。在一般实际问题中,掌握二维分布函数就已经足够了
第10页:3.1.2随机过程的数字特征
3.1.2随机过程的数字特征
- 均值(数学期望):定义:在任意给定时刻t1的取值
- (t1)是一个随机变量,其均值式中f(x1,t1)-
- (t1)的概率密度函数由于t1是任取的,可以把t1直接写为t,x1改为x,上式变为
第11页:随机过程的均值
t)的均值是时间的确定函数
- 均值
- (t)的均值是时间的确定函数,常记作a(t),它表示随机过程的n个样本函数曲线的摆动中心:a(t)
第12页:方差方差常记
方差方差常记
- 方差
- 方差方差常记为
- 2(t)。这里也把任意时刻t1直接写成了t。所以,方差等于均方值与均值平方之差,它表示随机过程在时刻t对于均值a(t)的偏离程度。均方值均值平方
第13页:相关函数
相关函数
- 相关函数式中,
- (t1)和
- (t2)分别是在t1和t2时刻观测得到的随机变量。可以看出,R(t1,t2)是两个变量t1和t2的确定函数。
第14页:协方差函数
协方差函数
- 协方差函数式中a(t1)a(t2)-在t1和t2时刻得到的
- (t)的均值f2(x1,x2;t1,t2)-
- (t)的二维概率密度函数。
- 相关函数和协方差函数之间的关系若a(t1) =a(t2),则B(t1,t2) =R(t1,t2)
第15页:互相关函数
互相关函数
- 互相关函数式中
- (t)和
- (t)分别表示两个随机过程。因此,R(t1,t2)又称为自相关函数。
第16页:3.2平稳随机过程
3.2平稳随机过程
- 3.2.1平稳随机过程的定义
- 定义:若一个随机过程
- (t)的任意有限维分布函数与时间起点无关,也就是说,对于任意的正整数n和所有实数
- ,有则称该随机过程是在严格意义下的平稳随机过程,简称严平稳随机过程。
第17页:性质:该定义表明
性质:该定义表明
- 性质:该定义表明,平稳随机过程的统计特性不随时间的推移而改变,即它的一维分布函数与时间t无关:而二维分布函数只与时间间隔
- = t2–t1有关:
第18页:数字特征
数字特征
- 数字特征:可见,(1)其均值与t无关,为常数a;(2)自相关函数只与时间间隔
- 有关。
第19页:把同时满足(1)和(2
把同时满足(1)和(2
的过程定义为广义平稳随机过程。显然,严平稳随机过程必定是广义平稳的,反之不一定成立。在通信系统中所遇到的信号及噪声,大多数可视为平稳的随机过程。因此,研究平稳随机过程有着很大的实际意义
第20页:3.2.2各态历经性
3.2.2各态历经性
- 问题的提出:随机过程的数字特征(均值、相关函数)是对随机过程的所有样本函数的统计平均,但在实际中常常很难测得大量的样本,这样,我们自然会提出这样一个问题:能否从一次试验而得到的一个样本函数x(t)来决定平稳过程的数字特征呢?
- 回答是肯定的。平稳过程在满足一定的条件下具有一个有趣而又非常有用的特性,称为“各态历经性”(又称“遍历性”)。具有各态历经性的过程,其数字特征(均为统计平均)完全可由随机过程中的任一实现的时间平均值来代替。
- 下面,我们来讨论各态历经性的条件。
第21页:各态历经性条件设:x(t)是平稳过程
各态历经性条件设:x(t)是平稳过程
(t)的任意一次实现(样本),则其时间均值和时间相关函数分别定义为:如果平稳过程使下式成立则称该平稳过程具有各态历经性。
第22页:“各态历经”的含义
“各态历经”的含义
- “各态历经”的含义是:随机过程中的任一次实现都经历了随机过程的所有可能状态。因此,在求解各种统计平均(均值或自相关函数等)时,只要获得一次考察,用一次实现的“时间平均”值代替过程的“统计平均”值即可,从而使测量和计算的问题大为简化。
- 具有各态历经的随机过程一定是平稳过程,反之不一定成立。在通信系统中所遇到的随机信号和噪声,一般均能满足各态历经条件。
第23页:[例3-1]设一个随机相位的正弦波
[例3-1]设一个随机相位的正弦波
- c均为常数;
- 是在(0, 2π)内均匀分布的随机变量。试讨论
- (t)是否具有各态历经性。【解】(1)先求
- (t)的统计平均值:数学期望
第24页:自相关函数令t2–t1=
自相关函数令t2–t1=
- ,得到可见,
- (t)的数学期望为常数,而自相关函数与t无关,只与时间间隔
- 有关,所以
- (t)是广义平稳过程。
第25页:t)的时间平均值比较统计平均
t)的时间平均值比较统计平均
- (2)求
- (t)的时间平均值比较统计平均与时间平均,有因此,随机相位余弦波是各态历经的。
第26页:对于平稳随机过程而言
对于平稳随机过程而言
- 对于平稳随机过程而言,它的自相关函数是特别重要的一个函数:☆其一,平稳随机过程的统计特性,如数字特征等,可通过自相关函数来描述;☆其二,自相关函数与平稳随机过程的谱特性有着内在的联系。
- 设ξ(t)为实平稳随机过程,则它的自相关函数
- R(τ)=E[(ξ(t)ξ(t+τ)]3.2.3平稳过程的自相关函数
第27页:平稳过程自相关函数的性质
平稳过程自相关函数的性质
- —
- (t)的平均功率
- —
- 的偶函数
- —R(
- )的上界即自相关函数R(
- )在
- = 0有最大值。
- —
- (t)的直流功率
- 表示平稳过程
- (t)的交流功率。当均值为0时,有R(0) =
- 2。
第28页:3.2.4平稳过程的功率谱密度
3.2.4平稳过程的功率谱密度
- 定义:
- 对于任意的确定功率信号f(t),它的功率谱密度定义为式中,FT(f)是f(t)的截短函数fT(t)所对应的频谱函数
第29页:对于平稳随机过程
对于平稳随机过程
- (t),可以把f(t)当作是
- (t)的一个样本;某一样本的功率谱密度不能作为过程的功率谱密度。过程的功率谱密度应看作是对所有样本的功率谱的统计平均,故
- (t)的功率谱密度可以定义为
第30页:功率谱密度的计算
功率谱密度的计算
维纳-辛钦关系周期功率型确知信号的自相关函数与其功率谱密度是一对傅里叶变换。这种关系对平稳随机过程同样成立,即有简记为以上关系称为维纳-辛钦关系。它是联系频域和时域两种分析方法的基本关系式。
第31页:在维纳-辛钦关系基础
在维纳-辛钦关系基础
- 对功率谱密度进行积分,可得平稳过程的总功率:上式从频域的角度给出了过程平均功率的计算法。
- 各态历经过程的任一样本函数的功率谱密度等于过程的功率谱密度。也就是说,每一样本函数的谱特性都能很好地表现整个过程的的谱特性。
第32页:功率谱密度P
功率谱密度P
- (f)具有非负性和实偶性,即有和这与R(
- )的实偶性相对应。因此,可定义单边谱密度Pξ1(ω)为
第33页:[例3-2]求随机相位余弦波
[例3-2]求随机相位余弦波
- (t) =Acos(
- ct+
- )的自相关函数和功率谱密度。【解】在[例3-1]中,我们已经考察随机相位余弦波是一个平稳过程,并且求出其相关函数为因为平稳随机过程的相关函数与功率谱密度是一对傅里叶变换,即有以及由于有所以,功率谱密度为平均功率为
第34页:3.3高斯随机过程
3.3高斯随机过程
- 3.3.1定义
- 如果随机过程
- (t)的任意n维(n=1,2,...)分布均服从正态分布,则称它为正态过程或高斯过程。
- n维正态概率密度函数表示式为:式中
第35页:式中|B|-归一化协方差矩阵的行列式
式中|B|-归一化协方差矩阵的行列式
即|B|jk-行列式|B|中元素bjk的代数余因子bjk-为归一化协方差函数,即
第36页:3.3.2重要性质
3.3.2重要性质
- 由高斯过程的定义式可看出,高斯过程的n维分布只依赖各个随机变量的均值、方差和归一化协方差。因此,对于高斯过程,只需要研究它的数字特征就可以了。
- 广义平稳的高斯过程也是严平稳的。因为,若高斯过程是广义平稳的,即其均值与时间无关,协方差函数只与时间间隔有关,而与时间起点无关,则它的n维分布也与时间起点无关,故它也是严平稳的。所以,高斯过程若是广义平稳的,则也严平稳。
第37页:高斯过程在不同时刻的取值
高斯过程在不同时刻的取值
- k,有bjk=0,则其概率密度可以简化为这表明,如果高斯过程在不同时刻的取值是不相关的,那么它们也是统计独立的。
- 高斯过程经过线性变换后生成的过程仍是高斯过程。也可以说,若线性系统的输入为高斯过程,则系统输出也是高斯过程。
第38页:3.3.3高斯随机变量
3.3.3高斯随机变量
- 定义:高斯过程在任一时刻上的取值是一个正态分布的随机变量,也称高斯随机变量,其一维概率密度函数为式中a-均值
- 2-方差曲线如右图:
第39页:f(x)对称于直线x=a
f(x)对称于直线x=a
- 性质
- f(x)对称于直线x=a,即
- a表示分布中心,
- 称为标准偏差,表示集中程度,图形将随着
- 的减小而变高和变窄。当a= 0和
- = 1时,称为标准化的正态分布:
第40页:正态分布函数这个积分
正态分布函数这个积分
- 正态分布函数这个积分的值无法用闭合形式计算,通常利用其他特殊函数,用查表的方法求出:
- 用误差函数表示正态分布函数:令则有及式中-误差函数,可以查表求出其值。
第41页:用互补误差函数erfc(x)表示正态分布
用互补误差函数erfc(x)表示正态分布
函数:式中当x> 2时
第42页:用Q函数表示正态分布函数
用Q函数表示正态分布函数
- Q函数定义:
- Q函数和erfc函数的关系:
- Q函数和分布函数F(x)的关系:
- Q函数值也可以从查表得到。
第43页:3.4平稳随机过程通过线性系统
3.4平稳随机过程通过线性系统
确知信号通过线性系统(复习):式中vi-输入信号,vo-输出信号对应的傅里叶变换关系:
第44页:随机信号通过线性系统
随机信号通过线性系统
- 假设:
- i(t)-是平稳的输入随机过程,a-均值,Ri(
- )-自相关函数,Pi(
- )-功率谱密度;求输出过程
- o(t)的统计特性,即它的均值、自相关函数、功率谱以及概率分布。
第45页:输出过程
输出过程
o(t)的均值对下式两边取统计平均:得到设输入过程是平稳的,则有式中,H(0)是线性系统在f= 0处的频率响应,因此输出过程的均值是一个常数。
第46页:输出过程:o(t)的自相关函数:根
输出过程:o(t)的自相关函数:根
- o(t)的自相关函数:根据自相关函数的定义根据输入过程的平稳性,有于是上式表明,输出过程的自相关函数仅是时间间隔
- 的函数。由上两式可知,若线性系统的输入是平稳的,则输出也是平稳的。
第47页:输出过程:o(t)的功率谱密度对下
输出过程:o(t)的功率谱密度对下
- o(t)的功率谱密度对下式进行傅里叶变换:得出令
- =
- +
- -
- ,代入上式,得到即结论:输出过程的功率谱密度是输入过程的功率谱密度乘以系统频率响应模值的平方。应用:由Po(f)的反傅里叶变换求Ro(
- )
第48页:输出过程:o(t)的概率分布
输出过程:o(t)的概率分布
- o(t)的概率分布
- 如果线性系统的输入过程是高斯型的,则系统的输出过程也是高斯型的。因为从积分原理看,可以表示为:由于已假设
- i(t)是高斯型的,所以上式右端的每一项在任一时刻上都是一个高斯随机变量。因此,输出过程在任一时刻上得到的随机变量就是无限多个高斯随机变量之和。由概率论理论得知,这个“和”也是高斯随机变量,因而输出过程也为高斯过程。注意,与输入高斯过程相比,输出过程的数字特征已经改变了。
第49页:3.5窄带随机过程
3.5窄带随机过程
- 什么是窄带随机过程?若随机过程
- (t)的谱密度集中在中心频率fc附近相对窄的频带范围
- f内,即满足
- f<<fc的条件,且fc远离零频率,则称该
- (t)为窄带随机过程。
第50页:典型的窄带随机过程的谱密度
典型的窄带随机过程的谱密度
典型的窄带随机过程的谱密度和样本函数
第51页:窄带随机过程的表示式式中,a
窄带随机过程的表示式式中,a
- (t)-随机包络,
- (t)-随机相位
- c-中心角频率显然,a
- (t)和
- (t)的变化相对于载波cos
- ct的变化要缓慢得多。
第52页:窄带随机过程表示式展开可以展开为式
窄带随机过程表示式展开可以展开为式
- (t)的同相分量-
- (t)的正交分量可以看出:
- (t)的统计特性由a
- (t)和
- (t)或
- c(t)和
- s(t)的统计特性确定。若
- (t)的统计特性已知,则a
- (t)和
- (t)或
- c(t)和
- s(t)的统计特性也随之确定。
第53页:c(t)和
c(t)和
- 3.5.1
- c(t)和
- s(t)的统计特性
- 数学期望:对下式求数学期望:得到因为
- (t)平稳且均值为零,故对于任意的时间t,都有E[
- (t)] = 0,所以
第54页:t)的自相关函数
t)的自相关函数
- (t)是平稳的,故有这就要求上式的右端与时间t无关,而仅与
- 有关。因此,若令t= 0,上式仍应成立,它变为
第55页:因与时间t无关
因与时间t无关
- 因与时间t无关,以下二式自然成立所以,上式变为再令t=π/2
- c,同理可以求得由以上分析可知,若窄带过程
- (t)是平稳的,则
- c(t)和
- s(t)也必然是平稳的。
第56页:进一步分析
进一步分析
- c(t)和正交分量
- s(t)具有相同的自相关函数。根据互相关函数的性质,应有代入上式,得到上式表明Rsc(
- )是
- 的奇函数,所以同理可证
第57页:将代入下两式得到即上式表明
将代入下两式得到即上式表明
- (t)、
- c(t)和
- s(t)具有相同的平均功率或方差。
第58页:根据平稳性
根据平稳性
- (t)是高斯过程,所以,
- c(t1),
- s(t2)一定是高斯随机变量,从而
- c(t)、
- s(t)也是高斯过程。
- 根据可知,
- c(t)与
- s(t)在
- = 0处互不相关,又由于它们是高斯型的,因此
- c(t)与
- s(t)也是统计独立的。
第59页:结论:一个均值为零
结论:一个均值为零
- (t),它的同相分量
- c(t)和正交分量
- s(t)同样是平稳高斯过程,而且均值为零,方差也相同。此外,在同一时刻上得到的
- c和
- s是互不相关的或统计独立的。
第60页:t)和
t)和
- 3.5.2a
- (t)和
- (t)的统计特性
- 联合概率密度函数f(a
- ,
- )根据概率论知识有由可以求得
第61页:于是有式中a
于是有式中a
第62页:的一维概率密度函数可见,a
的一维概率密度函数可见,a
- a
- 的一维概率密度函数可见,a
- 服从瑞利(Rayleigh)分布。
第63页:的一维概率密度函数可见
的一维概率密度函数可见
服从均匀分布。
第64页:结论一个均值为零,方差
结论一个均值为零,方差
- 2的窄带平稳高斯过程
- (t),其包络a
- (t)的一维分布是瑞利分布,相位
- (t)的一维分布是均匀分布,并且就一维分布而言,a
- (t)与
- (t)是统计独立的,即有
第65页:3.6正弦波加窄带高斯噪声
3.6正弦波加窄带高斯噪声
- 正弦波加窄带高斯噪声的表示式式中-窄带高斯噪声
- -正弦波的随机相位,均匀分布在0~2
- 间A和
- c-确知振幅和角频率于是有式中
第66页:正弦波加窄带高斯噪声的包络
正弦波加窄带高斯噪声的包络
和相位表示式包络:相位
第67页:正弦波加窄带高斯噪声的包络
正弦波加窄带高斯噪声的包络
- 包络的概率密度函数f(z)利用上一节的结果,如果
- 值已给定,则zc、zs是相互独立的高斯随机变量,且有所以,在给定相位
- 的条件下的zc和zs的联合概率密度函数为
第68页:利用与上一节分析a
利用与上一节分析a
- 和
- 相似的方法,根据zc,zs与z,
- 之间的随机变量关系可以求得在给定相位
- 的条件下的z与
- 的联合概率密度函数然后求给定条件下的边际分布,即
第69页:由于故有式中
由于故有式中
- 由于故有式中I0(x)-第一类零阶修正贝塞尔函数因此由上式可见,f(
- ,z)与
- 无关,故的包络z的概率密度函数为-称为广义瑞利分布,又称莱斯(Rice)分布。
第70页:当信号很小时,即A
当信号很小时,即A
- 讨论
- 当信号很小时,即A
- 0时,上式中(Az/
- n2)很小,I0(Az/
- n2)
- 1,上式的莱斯分布退化为瑞利分布。
- 当(Az/
- n2)很大时,有这时上式近似为高斯分布,即
第71页:包络概率密度函数f(z)曲线
包络概率密度函数f(z)曲线
第72页:正弦波加窄带高斯噪声的相位
正弦波加窄带高斯噪声的相位
)
第73页:3.7高斯白噪声和带限白噪声
3.7高斯白噪声和带限白噪声
- 白噪声n(t)
- 定义:功率谱密度在所有频率上均为常数的噪声,即-双边功率谱密度或-单边功率谱密度式中n0-正常数
- 白噪声的自相关函数:对双边功率谱密度取傅里叶反变换,得到相关函数:
第74页:白噪声和其自相关函数的曲线
白噪声和其自相关函数的曲线
第75页:白噪声的功率由于白噪声的带宽无限
白噪声的功率由于白噪声的带宽无限
- 白噪声的功率由于白噪声的带宽无限,其平均功率为无穷大,即或
- 因此,真正“白”的噪声是不存在的,它只是构造的一种理想化的噪声形式。
- 实际中,只要噪声的功率谱均匀分布的频率范围远远大于通信系统的工作频带,我们就可以把它视为白噪声。
- 如果白噪声取值的概率分布服从高斯分布,则称之为高斯白噪声。
- 高斯白噪声在任意两个不同时刻上的随机变量之间,不仅是互不相关的,而且还是统计独立的。
第76页:低通白噪声
低通白噪声
- 定义:如果白噪声通过理想矩形的低通滤波器或理想低通信道,则输出的噪声称为低通白噪声。
- 功率谱密度
- 由上式可见,白噪声的功率谱密度被限制在|f|
- fH内,通常把这样的噪声也称为带限白噪声。
- 自相关函数
第77页:功率谱密度和自相关函数曲线
功率谱密度和自相关函数曲线
由曲线看出,这种带限白噪声只有在上得到的随机变量才不相关。
第78页:带通白噪声
带通白噪声
- 定义:如果白噪声通过理想矩形的带通滤波器或理想带通信道,则其输出的噪声称为带通白噪声。
- 功率谱密度设理想带通滤波器的传输特性为式中fc-中心频率,B-通带宽度则其输出噪声的功率谱密度为
第79页:自相关函数
自相关函数
第80页:带通白噪声的功率谱和自相关函数曲线
带通白噪声的功率谱和自相关函数曲线
第81页:窄带高斯白噪声
窄带高斯白噪声
- 通常,带通滤波器的B<<fc,因此称窄带滤波器,相应地把带通白高斯噪声称为窄带高斯白噪声。
- 窄带高斯白噪声的表达式和统计特性见3.5节。
- 平均功率