1.7 概率空间
定义1.7.1 设（Ω，
）是一个可测空间，即
为非空集合Ω上的一个σ-代数，定义
上的一个非负集函数如下：
（1）对任意A∈
，有0≤P（A）≤1；
（2）P（Ω）=1；
（3）若A1，A2，…∈
，且Ai∩Aj=∅，i≠j，则
；
则称P为
上的概率测度，简称概率，称（Ω，
，P）是一个概率空间.若A∈
，则称P（A）的值为事件A发生的概率.
定义1.7.2 设（Ω，
，P）是一个概率空间，称非空集合Ω为样本空间，称Ω中每个元素为一个样本点，称σ-代数
中的每一元素为一个随机事件，简称事件.集合Ω也是一个随机事件，称其为必然事件，称空集∅为不可能事件，称事件Ω\A为事件A的对立事件或逆事件，记为Ac或
.
与集合运算法则一致，可以定义事件的运算：A\B=A-B，A∩B，A∪B等.A∩B也记为AB，当AB=∅时，A∪B也记为A+B.如果AB=∅，则称事件A与B是互不相容的.
定理1.7.1 设A，B，C是任意事件，则它们满足：
（1）交换律：A∪B=B∪A，A∩B=B∩A；
（2）结合律：A∪（B∪C）=（A∪B）∪C，A∩（B∩C）=（A∩B）∩C；
（3）分配律：A∪（B∩C）=（A∪B）∩（A∪C），A∩（B∪C）=（A∩B）∪（A∩C）；
（4）DeMorgan律：对任意事件列
，有
，且
定义1.7.3 对任意事件列
，如果A1⊂A2⊂…⊂An⊂…，则称
是单调递增的事件列，记为An↑.如果A1⊃A2⊃…⊃An⊃…，则称
是单调递减的事件列，记为An↓.记
称
为单调事件列
的极限.
定义1.7.4 对任意两个事件A与B，如果P（AB）=P（A）P（B），则称A与B相互独立.
概率测度有下列性质.
定理1.7.2 （1）P（∅）=1；
（2）有限可加性：若A1，A2，…，An∈
，且Ai∩Aj=∅，i≠j，则
=
；
（3）对立事件的概率：
=1-P（A）；
（4）若A⊂B，则P（A）≤P（B），且P（B-A）=P（B）-P（A）；
（5）半可加性：对任意A1，A2，…，An∈
，有
；
（6）连续性：如果{An}是单调事件列（单调递增或单调递减），则
定义1.7.5 对事件列
，记
，则
是单调递减序列，{Dn}是单调递增序列，称
为
的上极限，记为
An.称
为
的下极限，记为
.
显然，
等价于存在N，当n>N时，ω属于所有An.同理，
等价于ω属于无穷多个An，有时也记
，i.o.是infinitely often的缩写.显然，
.
由概率的连续性知，
.
定理1.7.3（Borel-Cantelli引理） 对事件列
，（1）如果
＜∞，则P（Ani.o.）=0；（2）如果{An}相互独立，且
=∞，则P（Ani.o.）=1.
证明 （1）
=0.
（2）由基本不等式1-|x|≤e-|x|知，
所以，
=0.
从而得到
有时也将Borel-Cantelli引理叙述为下列形式：
定理1.7.3′（Borel-Cantelli引理） 对事件列
，（1）如果
＜∞，则
，a.e.inΩ；（2）如果
相互独立，且
，则
=∞，a.e.inΩ.
推论1.7.1 设
是独立事件列，则P（Ani.o.）=1，或者P（Ani.o.）=0.
证明 当
=∞时，P（Ani.o.）=1；当
＜∞时，P（Ani.o.）=0.
■
随机变量是随机数学中最重要的概念之一，下面介绍随机变量及其分布的相关知识.
定义1.7.6 设（Ω，
，P）是一个概率空间，ζ=ζ（ω）是Ω到R的映射，且任给实数C，有{ω|ζ（ω）≤C}∈
，则称ζ=ζ（ω）为一个随机变量.
对于随机变量X，下列结论是容易证明的：∀A∈β（R），X-1（A）∈
.
事实上，记
={A|X-1（A）∈
，A⊂R}，只需证明β（R）⊂
即可.先证明
是一个σ-代数，因为X-1（R）=Ω∈
，故R∈
；又因为对任一A∈
，有X-1（A）∈
，于是
故
；进一步，对任意Aj∈
，满足X-1（Aj）∈
，j=1，2，…，因为
所以
，故
是一个σ-代数.另外，由于（-∞，x]∈
，β（R）=σ（（-∞，x]，x∈R），所以结论成立.
定义1.7.7 设（Ω，
，P）是一个概率空间，ζ是其上的一个随机变量，称集函数
Pζ：β（R）→[0，1]，∀B∈β（R），Pζ（B）=P（ζ-1（B））
为随机变量ζ的分布.易证（R，β（R），Pξ）是一个新的概率空间.设ζ与η是两个随机变量，可以是不同概率空间中的随机变量，如果任给B∈β（R），均有Pζ（B）=Pη（B），则称ζ与η同分布.称
Fζ（x）=Pζ（（-∞，x］）=P（ω|ζ（ω）≤x），x∈（-∞，+∞）
为随机变量ζ的分布函数.易证同一概率空间中的随机变量同分布的充要条件是它们的分布函数相等.
定义1.7.8 设（Ω，
，P）是一个概率空间，ζ=ζ（ω）=（ζ1（ω），ζ2（ω），…，ζn（ω））是Ω到Rn的映射，且任给实数向量（C1，C2，…，Cn），有{ω|ζ1（ω）≤C1，ζ2（ω）≤C2，…，ζn（ω）≤Cn}∈
，则称ζ=ζ（ω）为一个n维随机变量.称函数
为n维随机变量ζ的分布函数.
定义1.7.9 设（Ω，
，P）是一个概率空间，X是其上的一维随机变量，如果积分
存在，则称积分值为X的数学期望，记为E（X）.
因为可测函数不一定可积，故随机变量的数学期望不一定存在.随机变量是特殊的测度空间（Ω，
，P）上的可测函数，因而可测函数的收敛性质全部成立.
对随机变量，我们有下列常用的收敛定理及不等式.
记{Xn}在Ω上几乎处处收敛于X为Xn→X，a.s.in Ω，其中a.s.是almost sure的简写，也称{Xn}以概率1收敛于X.称{Xn}依测度P收敛于X为{Xn}依概率收敛于X，记为Xn→PX.
定理1.7.4 设Xn，X是定义在（Ω，
，P）上的随机变量，则Xn→X，a.s.inΩ⇔∀ε＞0，有
推论1.7.2 若对任意ε>0有
则Xn→X，a.s.in Ω.
定理1.7.5 （1）如果Xn→X，a.s.in Ω，则
；
（2）若
，则存在子列
，使得当k→∞时，
→X，a.s.；
（3）如果m，n→∞时，
，则可找到随机变量X，使得
定义1.7.10 设随机变量列{Xn}，X对应的分布函数列分别为{Fn（x）}，F（x）.A为F（x）的连续点组成的集合，如果
则称{Xn}依分布收敛于X，记为
，或
，或
，或
.
定理1.7.6 （1）设
，则
.
（2）如果
，且
，则
.
一般情况下，依分布收敛推不出依概率收敛，但下列结论成立：
定理1.7.7 设
，其中，C为常数.
定义1.7.11 设（Ω，
，P）为一概率空间，0≤p<∞，称集合
为（Ω，
，P）上的Lp空间，简记为Lp（Ω）.这里，X∈
|β（R）表示X：Ω→R，且对任意A∈β（R），有X-1（A）∈
.
称集合L∞（Ω，
，P）={X：X∈
|β（R），且存在实数a，使
≤a，a.s.}为（Ω，
，P）上的L∞空间，简记为L∞（Ω）.用‖X‖p=
表示Lp（Ω）中的范数；用‖X‖∞=inf{a：
≤a，a.e.}表示L∞（Ω）中的范数.若X，Y∈L2（Ω，
，P）且
=0，则称X，Y是互相垂直的，记为X⊥Y；若Xn∈L2（Ω，
，P），n≥0，且两两垂直，则称{Xn，n≥0}为L2（Ω，
，P）的一个正交集.
定义1.7.12 如果{Xn，X}⊂Lr（Ω），r＞0，且
=0，则称{Xn}Lr-收敛于X，简记为
，或
.当r=2时，也称{Xn}均方收敛于X.
下面我们不加证明地列出一些常用的收敛定理，对其证明感兴趣的读者请查阅相关资料.
定理1.7.8 （1）如果
，p＞0，则有E|X|p＜∞；
（2）如果
，p＞0，则有
；
（3）如果存在常数p＞0，使得
，则有
；反之，若
，且{Xn}几乎处处一致有界，即‖Xn‖∞＜M（常数），则有
.
定理1.7.9 设所涉及的矩均存在，则有
（1）Chebyshev不等式：设λ>0，对任意p>0，有
（2）Cr不等式：对任意r>0，有
（3）Hölder不等式：设p＞1，
=1，有
特别地，当p=q=2时，称为Schwartz不等式；
（4）Minkowski不等式：设r≥1，有
（5）函数
是r≥0时的凸函数；函数
是r＞0时的非降函数；
（6）Jensen不等式：设ϕ：R↦R为凸函数，且E（ϕ（X））＜∞，则有
ϕ（E（X））≤E（ϕ（X））
特别地，
，及对p≥1，有
（7）矩不等式：设X为任意随机变量，g为R上的非负Borel可测偶函数，并且g在［0，∞）上非降，则对每个a≥0，有
如果g只在R上非降，则上面不等式里中间那一项可以换为P{X≥a}，∀a∈R.特别地，取g（x）=erx，r＞0，则有
取
，r＞0，则有
不等式右边就是Chebyshev不等式.
定理1.7.10 设{Xn，X}⊂L1（Ω），则
，且
.
前面，我们介绍了随机事件的独立性，现我们将其推广如下：
定义1.7.13 给定概率空间（Ω，
，P），若P（A∩B）=P（A）P（B），则称事件A，B∈
独立；若对任意有限指标集{i1，i2，…，ik}⊂I，均有
则称事件族{Ai，i∈I}独立；若任给
，均有A与B独立，则两个σ-代数
和
是独立的.设{ξi，i∈I}是一族随机变量，若它们生成的σ-代数σ（ξi）族相互独立，则称这个随机变量族是独立的.
类似地，我们可以定义一个随机变量和一个σ-代数的独立性.
可以证明，随机变量X和Y独立当且仅当对任意有界连续函数f和g，均有
E[f（X）g（Y）]=E[f（X）]E[g（Y）]
并且若随机变量X和Y相互独立且E（|f（X，Y）|）<∞，则
E[f（X，Y）]=E[g（X）]
其中，g（x）=E[f（x，Y）].