概率论与数理统计教程(三)-多维随机变量及其分布05：条件分布与条件期望

§ 3.5 条件分布与条件期望

二维随机变量 $(X,Y)$ 之间主要表现为独立与相依两类关系。由于在许多问题中有关的随机变量取值往往是彼此有影响的，这就使得条件分布成为研究变量之间的相依关系的一个有力工具。

3.5.1 条件分布

对二维随机变量 $(X,Y)$ 而言，所谓随机变量 $X$ 的条件分布，就是在给定 $Y$ 取某个值的条件下 $X$ 的分布。例如，记 $X$ 为人的体重，$Y$ 为人的身高，则 $X$ 与 $Y$ 之间一般有相依关系。现在如果限定 $Y=1.7(\mathrm{m})$，在这个条件下，体重 $X$ 的分布显然与 $X$ 的无条件分布（无此限制下体重的分布）会有很大的不同。本节将给出条件分布的定义，以便进一步在条件分布的基础上给出条件期望的概念。

一、离散随机变量的条件分布

设二维离散随机变量 $(X,Y)$ 的联合分布列为

$$p_{ij}=P\left(X=x_i,Y=y_j\right),i=1,2,\cdots ,j=1,2,\cdots$$

仿照条件概率的定义，我们很容易地给出如下离散随机变量的条件分布列。

定义 3.5.1 对一切使 $P\left(Y=y_j\right)=p_{\cdot j}={\sum }_{i=1}^{\infty }{p}_{ij}>0$ 的 $y_j$，称

$$p_{i|j}=P\left(X=x_i\mid Y=y_j\right)=\frac{P\left(X=x_i,Y=y_j\right)}{P\left(Y=y_j\right)}=\frac{p_{ij}}{p_{\cdot j}},i=1,2,\cdots$$

为给定 $Y=y_j$ 条件下 $X$ 的条件分布列。

同理，对一切使 $P\left(X=x_i\right)=p_{i\cdot }={\sum }_{j=1}^{\infty }{p}_{ij}>0$ 的 $x_i$，称

$$p_{j|i}=P\left(Y=y_j\mid X=x_i\right)=\frac{P\left(X=x_i,Y=y_j\right)}{P\left(X=x_i\right)}=\frac{p_{ij}}{p_{i\cdot }},j=1,2,\cdots$$

为给定 $X=x_i$ 条件下 $Y$ 的条件分布列。

有了条件分布列，我们就可以给出离散随机变量的条件分布函数。

定义 3.5.2 给定 $Y=y_j$ 条件下 $X$ 的条件分布函数为

$$F\left(x\mid y_j\right)=\sum _{x_i⩽x}P\left(X=x_i\mid Y=y_j\right)=\sum _{x_i⩽x}{p}_{i|j}$$

给定 $X=x_i$ 条件下 $Y$ 的条件分布函数为

$$F\left(y\mid x_i\right)=\sum _{y_j⩽y}P\left(Y=y_j\mid X=x_i\right)=\sum _{y_j⩽y}{p}_{j|i}$$

例 3.5.1 设二维离散随机变量 $(X,Y)$ 的联合分布列为

因为 $P(X=1)=p_{1\cdot }=0.6$，所以用第一行各元素分别除以 0.6，就可得给定 $X=1$ 下，$Y$ 的条件分布列为

用第二行各元素分别除以 0.4，就可得给定 $X=2$ 下，$Y$ 的条件分布列为

用第一列各元素分别除以 0.3，就可得给定 $Y=1$ 下，$X$ 的条件分布列为

用第二列各元素分别除以 0.35，就可得给定 $Y=2$ 下，$X$ 的条件分布列为

用第三列各元素分别除以 0.35，就可得给定 $Y=3$ 下，$X$ 的条件分布列为

从这个例子看出，二维联合分布列只有一个，而条件分布列有 5 个。若 $X$ 与 $Y$ 的取值更多，则条件分布也更多。每个条件分布都从一个侧面描述了一种状态下的特定分布。可见条件分布的内容丰富，其应用也更广。

例 3.5.2 设随机变量 $X$ 与 $Y$ 相互独立，且 $X\sim P\left({\lambda }_1\right),Y\sim P\left({\lambda }_2\right)$。在已知 $X+Y=n$ 的条件下，求 $X$ 的条件分布。

解 因为独立泊松变量的和仍为泊松变量，即 $X+Y\sim P\left({\lambda }_1+{\lambda }_2\right)$，所以

$$\begin{array}{rl}P(X=k\mid X+Y=n)& =\frac{P(X=k,X+Y=n)}{P(X+Y=n)}\\ & =\frac{P(X=k)P(Y=n-k)}{P(X+Y=n)}\\ & =\frac{\frac{{\lambda }_1^k}{k!}{\mathrm{e}}^{-{\lambda }_1}\cdot \frac{{\lambda }_2^{n-k}}{(n-k)!}{\mathrm{e}}^{-{\lambda }_2}}{\frac{{\left({\lambda }_1+{\lambda }_2\right)}^n}{n!}{\mathrm{e}}^{-\left({\lambda }_1+{\lambda }_2\right)}}\\ & =\frac{n!}{k!(n-k)!}\frac{{\lambda }_1^k{\lambda }_2^{n-k}}{{\left({\lambda }_1+{\lambda }_2\right)}^n}\\ & =\left(\genfrac{}{}{0ex}{}{n}{k}\right){\left(\frac{{\lambda }_1}{{\lambda }_1+{\lambda }_2}\right)}^k{\left(\frac{{\lambda }_2}{{\lambda }_1+{\lambda }_2}\right)}^{n-k},k=0,1,\cdots ,n\end{array}$$

即在 $X+Y=n$ 的条件下，$X$ 服从二项分布 $b(n,p)$，其中 $p={\lambda }_1/\left({\lambda }_1+{\lambda }_2\right)$。

例 3.5.3 设在一段时间内进入某一商店的顾客人数 $X$ 服从泊松分布 $P(\lambda )$，每个顾客购买某种物品的概率为 $p$，并且各个顾客是否购买该种物品相互独立，求进入商店的顾客购买这种物品的人数 $Y$ 的分布列。

解 由题意知

$$P(X=m)=\frac{{\lambda }^m}{m!}{\mathrm{e}}^{-\lambda },m=0,1,2,\cdots$$

在进入商店的人数 $X=m$ 的条件下，购买某种物品的人数 $Y$ 的条件分布为二项分布 $b(m,p)$，即

$$P(Y=k\mid X=m)=\left(\genfrac{}{}{0ex}{}{m}{k}\right)p^k(1-p{)}^{m-k},k=0,1,2,\cdots ,m$$

由全概率公式有

$$\begin{array}{rl}P(Y=k)& =\sum _{m=k}^{\infty }P(X=m)P(Y=k\mid X=m)\\ & =\sum _{m=k}^{\infty }\frac{{\lambda }^m}{m!}{\mathrm{e}}^{-\lambda }\cdot \frac{m!}{k!(m-k)!}{p}^k(1-p{)}^{m-k}\\ & ={\mathrm{e}}^{-\lambda }\sum _{m=k}^{\infty }\frac{{\lambda }^m}{k!(m-k)!}{p}^k(1-p{)}^{m-k}\\ & ={\mathrm{e}}^{-\lambda }\frac{(\lambda p{)}^k}{k!}\sum _{m=k}^{\infty }\frac{[(1-p)\lambda {]}^{m-k}}{(m-k)!}\\ & =\frac{(\lambda p{)}^k}{k!}{\mathrm{e}}^{-\lambda }{\mathrm{e}}^{\lambda (1-p)}\\ & =\frac{(\lambda p{)}^k}{k!}{\mathrm{e}}^{-\lambda p},k=0,1,2,\cdots \end{array}$$

即 $Y$ 服从参数为 $\lambda p$ 的泊松分布。

这个例子告诉我们：在直接寻求 $Y$ 的分布有困难时，有时借助条件分布可把困难克服。

二、连续随机变量的条件分布

设二维连续随机变量 $(X,Y)$ 的联合密度函数为 $p(x,y)$，边际密度函数为 $p_X(x),p_Y(y)$。

在离散随机变量场合，其条件分布函数为 $P(X⩽x\mid Y=y)$。但是，因为连续随机变量取某个值的概率为零，即 $P(Y=y)=0$，所以无法用条件概率直接计算 $P(X⩽x\mid Y=y)$。一个很自然的想法是：将 $P(X⩽x\mid Y=y)$ 看成是 $h\to 0$ 时 $P(X⩽x\mid y⩽Y⩽y+h)$ 的极限，即

$$\begin{array}{rl}P(X⩽x\mid Y=y)& =\underset{h\to 0}{\lim }P(X⩽x\mid y⩽Y⩽y+h)\\ & =\underset{h\to 0}{\lim }\frac{P(X⩽x,y⩽Y⩽y+h)}{P(y⩽Y⩽y+h)}\\ & =\underset{h\to 0}{\lim }\frac{{\int }_{-\infty }^x{\int }_y^{y+h}p(u,v)\mathrm{d}v\mathrm{d}u}{{\int }_y^{y+h}{p}_Y(v)\mathrm{d}v}\\ & =\underset{h\to 0}{\lim }\frac{{\int }_{-\infty }^x\left\{\frac{1}{h}{\int }_y^{y+h}p(u,v)\mathrm{d}v\right\}\mathrm{d}u}{\frac{1}{h}{\int }_y^{y+h}{p}_Y(v)\mathrm{d}v}\end{array}$$

当 $p_Y(y),p(x,y)$ 在 $y$ 处连续时，由积分中值定理可得

$$\begin{array}{rl}\underset{h\to 0}{\lim }\frac{1}{h}{\int }_y^{y+h}{p}_Y(v)\mathrm{d}v& =p_Y(y)\\ \underset{h\to 0}{\lim }\frac{1}{h}{\int }_y^{y+h}p(u,v)\mathrm{d}v& =p(u,y)\end{array}$$

所以

$$P(X⩽x\mid Y=y)={\int }_{-\infty }^x\frac{p(u,y)}{p_Y(y)}\mathrm{d}u$$

上式左端就是在 $Y=y$ 条件下 $X$ 的条件分布函数，可记为 $F(x\mid y)$。再由密度函数定义知，上式右端的被积函数不是别的，正是在 $Y=y$ 条件下 $X$ 的条件密度函数，它可记为 $p(x\mid y)$。至此，连续随机变量的条件分布函数与条件密度函数可定义如下。

定义 3.5.3 对一切使 $p_Y(y)>0$ 的 $y$，给定 $Y=y$ 条件下 $X$ 的条件分布函数和条件密度函数分别为

$$\begin{array}{rl}F(x\mid y)& ={\int }_{-\infty }^x\frac{p(u,y)}{p_Y(y)}\mathrm{d}u\\ p(x\mid y)& =\frac{p(x,y)}{p_Y(y)}\end{array}$$

同理，对一切使 $p_X(x)>0$ 的 $x$，给定 $X=x$ 条件下 $Y$ 的条件分布函数和条件密度函数分别为

$$\begin{array}{rl}F(y\mid x)& ={\int }_{-\infty }^y\frac{p(x,v)}{p_X(x)}\mathrm{d}v\\ p(y\mid x)& =\frac{p(x,y)}{p_X(x)}\end{array}$$

要注意：无论条件分布函数 $F(x\mid y)$，还是条件密度函数 $p(x\mid y)$，它们还是条件 $Y=y$ 的函数，不同的条件（如 $Y=y_1$ 和 $Y=y_2$）下，其分布函数 $F\left(x\mid y_1\right)$ 和 $F\left(x\mid y_2\right)$ 是不同的，条件密度函数 $p\left(x\mid y_1\right)$ 和 $p\left(x\mid y_2\right)$ 也是不同的。由此可见，条件分布（密度）函数 $F(x\mid y)(p(x\mid y))$ 表示一簇分布（密度）函数。对 $F(y\mid x)$ 和 $p(y\mid x)$ 也可作出类似的认识，这些都可以从下面例子中具体看出。

例 3.5.4 设 $(X,Y)$ 服从二维正态分布 $N\left({\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,\rho \right)$，由边际分布知 $X$ 服从正态分布 $N\left({\mu }_1,{\sigma }_1^2\right)$，$Y$ 服从正态分布 $N\left({\mu }_2,{\sigma }_2^2\right)$。现在来求条件分布。

根据 (3.5.6) 式得

$$\begin{array}{rl}p(x\mid y)& =\frac{p(x,y)}{p_Y(y)}\\ & =\frac{\frac{1}{2\pi {\sigma }_1{\sigma }_2\sqrt{1-{\rho }^2}}\exp \left\{-\frac{1}{2\left(1-{\rho }^2\right)}\left[\frac{{\left(x-{\mu }_1\right)}^2}{{\sigma }_1^2}-2\rho \frac{\left(x-{\mu }_1\right)\left(y-{\mu }_2\right)}{{\sigma }_1{\sigma }_2}+\frac{{\left(y-{\mu }_2\right)}^2}{{\sigma }_2^2}\right]\right\}}{\frac{1}{\sqrt{2\pi }{\sigma }_2}\exp \left\{-\frac{{\left(y-{\mu }_2\right)}^2}{2{\sigma }_2^2}\right\}}\\ & =\frac{1}{\sqrt{2\pi }{\sigma }_1\sqrt{1-{\rho }^2}}\exp \left\{-\frac{1}{2{\sigma }_1^2\left(1-{\rho }^2\right)}{\left[x-\left({\mu }_1+\rho \frac{{\sigma }_1}{{\sigma }_2}\left(y-{\mu }_2\right)\right)\right]}^2\right\}\end{array}$$

这正是正态密度函数，其均值 ${\mu }_3$ 和方差 ${\sigma }_3^2$ 分别为

$${\mu }_3={\mu }_1+\rho \frac{{\sigma }_1}{{\sigma }_2}\left(y-{\mu }_2\right),{\sigma }_3^2={\sigma }_1^2\left(1-{\rho }^2\right)$$

类似可得，在给定 $X=x$ 的条件下，$Y$ 的条件分布仍为正态分布 $N\left({\mu }_4,{\sigma }_4^2\right)$，其均值和方差分别为

$${\mu }_4={\mu }_2+\rho \frac{{\sigma }_2}{{\sigma }_1}\left(x-{\mu }_1\right),{\sigma }_4^2={\sigma }_2^2\left(1-{\rho }^2\right)$$

由此也可以看出：二维正态分布的边际分布和条件分布都是一维正态分布，这是正态分布的一个重要性质。

例 3.5.5 设二维随机变量 $(X,Y)$ 服从 $G=\left\{(x,y)\mid x^2+y^2⩽1\right\}$ 上的均匀分布，试求给定 $Y=y$ 条件下 $X$ 的条件密度函数 $p(x\mid y)$。

解 因为

$$p(x,y)=\{\begin{array}{ll}\frac{1}{\pi },& x^2+y^2⩽1\\ 0,& \text{其他}\end{array}$$

由此得 $Y$ 的边际密度函数为

$$p_Y(y)=\{\begin{array}{ll}\frac{2}{\pi }\sqrt{1-y^2},& -1⩽y⩽1\\ 0,& \text{其他}\end{array}$$

所以当 $-1<y<1$ 时，有

$$\begin{array}{rl}p(x\mid y)& =\frac{p(x,y)}{p_Y(y)}\\ & =\{\begin{array}{ll}\frac{1/\pi }{(2/\pi )\sqrt{1-y^2}}=\frac{1}{2\sqrt{1-y^2}},& -\sqrt{1-y^2}⩽x⩽\sqrt{1-y^2}\\ 0,& \text{其他}\end{array}\end{array}$$

将 $y=0$ 和 $y=0.5$ 分别代入上式可得（两个均匀分布）

$$p(x\mid y=0)=\{\begin{array}{ll}\frac{1}{2},& -1⩽x⩽1\\ 0,& \text{其他}\end{array}$$

$$p(x\mid y=0.5)=\{\begin{array}{ll}\frac{1}{\sqrt{3}},& -\frac{\sqrt{3}}{2}⩽x⩽\frac{\sqrt{3}}{2}\\ 0,& \text{其他}\end{array}$$

进一步有：当 $-1<y<1$ 时，给定 $Y=y$ 条件下，$X$ 服从 $\left(-\sqrt{1-y^2},\sqrt{1-y^2}\right)$ 上的均匀分布。同理有：当 $-1<x<1$ 时，给定 $X=x$ 条件下，$Y$ 服从 $\left(-\sqrt{1-x^2},\sqrt{1-x^2}\right)$ 上的均匀分布。

三、连续场合的全概率公式和贝叶斯公式

有了条件分布密度函数的概念，我们可以给出连续随机变量场合的全概率公式和贝叶斯公式。将 (3.5.6) 式和 (3.5.8) 式改写为

$$\begin{array}{rl}p(x,y)& =p_X(x)p(y\mid x)\\ p(x,y)& =p_Y(y)p(x\mid y)\end{array}$$

再对 $p(x,y)$ 求边际密度函数，就得全概率公式的密度函数形式：

$$\begin{array}{rl}{p}_Y(y)& ={\int }_{-\infty }^{\infty }{p}_X(x)p(y\mid x)\mathrm{d}x\\ p_X(x)& ={\int }_{-\infty }^{\infty }{p}_Y(y)p(x\mid y)\mathrm{d}y\end{array}$$

将 (3.5.9) 式代入 (3.5.6) 式的分子，(3.5.11) 式代入 (3.5.6) 式的分母，就得贝叶斯公式的密度函数形式：

$$p(x\mid y)=\frac{p_X(x)p(y\mid x)}{{\int }_{-\infty }^{\infty }{p}_X(x)p(y\mid x)\mathrm{d}x}$$

或

$$p(y\mid x)=\frac{p_Y(y)p(x\mid y)}{{\int }_{-\infty }^{\infty }{p}_Y(y)p(x\mid y)\mathrm{d}y}$$

注意，虽然由边际分布无法得到联合分布，但 (3.5.9) 式和 (3.5.10) 式说明，由边际分布和条件分布就可以得到联合分布。

例 3.5.6 设随机变量 $X\sim N\left(\mu ,{\sigma }_1^2\right)$，在 $X=x$ 下 $Y$ 的条件分布为 $N\left(x,{\sigma }_2^2\right)$。试求 $Y$ 的（无条件）密度函数 $p_Y(y)$。

解 由题意知

$$\begin{array}{rl}{p}_X(x)& =\frac{1}{\sqrt{2\pi }{\sigma }_1}\exp \left\{-\frac{(x-\mu {)}^2}{2{\sigma }_1^2}\right\}\\ p(y\mid x)& =\frac{1}{\sqrt{2\pi }{\sigma }_2}\exp \left\{-\frac{(y-x{)}^2}{2{\sigma }_2^2}\right\}\end{array}$$

所以由 (3.5.11) 式得

$$\begin{array}{rl}{p}_Y(y)& ={\int }_{-\infty }^{\infty }{p}_X(x)p(y\mid x)\mathrm{d}x\\ & =\frac{1}{2\pi {\sigma }_1{\sigma }_2}{\int }_{-\infty }^{\infty }\exp \left\{-\frac{(x-\mu {)}^2}{2{\sigma }_1^2}-\frac{(y-x{)}^2}{2{\sigma }_2^2}\right\}\mathrm{d}x\\ & =\frac{1}{2\pi {\sigma }_1{\sigma }_2}{\int }_{-\infty }^{\infty }\exp \left\{-\frac{1}{2}\left[\left(\frac{1}{{\sigma }_1^2}+\frac{1}{{\sigma }_2^2}\right)x^2-2\left(\frac{y}{{\sigma }_2^2}+\frac{\mu }{{\sigma }_1^2}\right)x+\frac{y^2}{{\sigma }_2^2}+\frac{{\mu }^2}{{\sigma }_1^2}\right]\right\}\mathrm{d}x\end{array}$$

记 $c=\frac{{\sigma }_1^2{\sigma }_2^2}{{\sigma }_1^2+{\sigma }_2^2}$，则上式化成

$$\begin{array}{rl}{p}_Y(y)& =\frac{1}{2\pi {\sigma }_1{\sigma }_2}{\int }_{-\infty }^{\infty }\exp \left\{-\frac{1}{2}{c}^{-1}{\left[x-c\left(\frac{\mu }{{\sigma }_1^2}+\frac{y}{{\sigma }_2^2}\right)\right]}^2-\frac{1}{2}\frac{(y-\mu {)}^2}{{\sigma }_1^2+{\sigma }_2^2}\right\}\mathrm{d}x\\ & =\frac{1}{2\pi {\sigma }_1{\sigma }_2}\sqrt{2\pi c}\exp \left\{-\frac{(y-\mu {)}^2}{2\left({\sigma }_1^2+{\sigma }_2^2\right)}\right\}\\ & =\frac{1}{\sqrt{2\pi }\sqrt{{\sigma }_1^2+{\sigma }_2^2}}\exp \left\{-\frac{(y-\mu {)}^2}{2\left({\sigma }_1^2+{\sigma }_2^2\right)}\right\}\end{array}$$

这表明 $Y$ 仍服从正态分布 $N\left(\mu ,{\sigma }_1^2+{\sigma }_2^2\right)$。

3.5.2 条件数学期望

条件分布的数学期望称为条件数学期望，它的定义如下。

定义 3.5.4 条件分布的数学期望（若存在）称为条件期望，其定义如下：

$$E(X\mid Y=y)=\{\begin{array}{ll}{\sum }_i{x}_{i}P\left(X=x_i\mid Y=y\right),& (X,Y)\text{为二维离散随机变量}\\ {\int }_{-\infty }^{\infty }xp(x\mid y)\mathrm{d}x,& (X,Y)\text{为二维连续随机变量}\end{array}$$

$$E(Y\mid X=x)=\{\begin{array}{ll}{\sum }_j{y}_{j}P\left(Y=y_j\mid X=x\right),& (X,Y)\text{为二维离散随机变量}\\ {\int }_{-\infty }^{\infty }yp(y\mid x)\mathrm{d}y,& (X,Y)\text{为二维连续随机变量}\end{array}$$

注意：条件期望 $E(X\mid Y=y)$ 是 $y$ 的函数，它与无条件期望 $E(X)$ 的区别，不仅在于计算公式上，而且在于其含义上。譬如，$X$ 表示中国成年人的身高，则 $E(X)$ 表示中国成年人的平均身高。若用 $Y$ 表示中国成年人的足长（脚趾到脚跟的长度），则 $E(X\mid Y=y)$ 表示足长为 $y$ 的中国成年人的平均身高，我国公安部门研究获得

$$E(X\mid Y=y)=6.876y$$

这个公式对公安部门破案起着重要的作用，例如，测得案犯留下的足印长为 $25.3\mathrm{cm}$，则由此公式可推算出此案犯身高约 $174\mathrm{cm}$。

其实以上公式的得出并不复杂，一般认为人的身高和足长 $(X,Y)$ 可以当作一个二维正态变量来处理，即 $(X,Y)$ 服从二维正态分布 $N\left({\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,\rho \right)$。由例 3.5.4 知，在给定 $Y=y$ 的条件下，$X$ 服从一维正态分布

$$N\left({\mu }_1+\rho \frac{{\sigma }_1}{{\sigma }_2}\left(y-{\mu }_2\right),{\sigma }_1^2\left(1-{\rho }^2\right)\right)$$

由此得

$$E(X\mid Y=y)={\mu }_1+\rho \frac{{\sigma }_1}{{\sigma }_2}\left(y-{\mu }_2\right)$$

这是 $y$ 的线性函数。再用统计的方法（后面第六章的内容），从大量实际数据中得出 ${\mu }_1$，${\mu }_2$，${\sigma }_1$，${\sigma }_2$，$\rho$ 的估计后，就可得以上公式。

因为条件期望是条件分布的数学期望，所以它具有数学期望的一切性质，例如

$$E\left(a_1{X}_1+a_2{X}_2\mid Y=y\right)=a_{1}E\left(X_1\mid Y=y\right)+a_{2}E\left(X_2\mid Y=y\right)$$

其他性质在此不一一列举，读者可以自行写出。

我们特别要强调的是：$E(X\mid Y=y)$ 是 $y$ 的函数，对 $y$ 的不同取值，条件期望 $E(X\mid Y=y)$ 的取值也在变化。为此我们可以记

$$g(y)=E(X\mid Y=y)$$

进一步还可以将条件期望看成是随机变量 $Y$ 的函数，记为 $E(X\mid Y)=g(Y)$，而将 $E(X\mid Y=y)$ 看成是 $Y=y$ 时 $E(X\mid Y)$ 的一个取值，由此看出：$E(X\mid Y)$ 本身也是一个随机变量。

引进 $E(X\mid Y)$ 不仅使我们前面所定义的 $E(X\mid Y=y)$ 得到了统一的处理，而且可以得到更深刻的结果。

定理 3.5.1（重期望公式） 设 $(X,Y)$ 是二维随机变量，且 $E(X)$ 存在，则

$$E(X)=E(E(X\mid Y))$$

证明 在此仅对连续场合进行证明，而离散场合可类似证明。设二维连续随机变量 $(X,Y)$ 的联合密度函数为 $p(x,y)$。记 $g(y)=E(X\mid Y=y)$，则 $g(Y)=E(X\mid Y)$。由此利用 $p(x,y)=p(x\mid y)p_Y(y)$，可得

$$\begin{array}{rl}E(X)& ={\int }_{-\infty }^{\infty }{\int }_{-\infty }^{\infty }xp(x,y)\mathrm{d}x\mathrm{d}y\\ & ={\int }_{-\infty }^{\infty }{\int }_{-\infty }^{\infty }xp(x\mid y)p_Y(y)\mathrm{d}x\mathrm{d}y\\ & ={\int }_{-\infty }^{\infty }\left\{{\int }_{-\infty }^{\infty }xp(x\mid y)\mathrm{d}x\right\}{p}_Y(y)\mathrm{d}y\end{array}$$

其中花括号中的积分不是别的，正是条件期望 $E(X\mid Y=y)$，所以

$$\begin{array}{rl}E(X)& ={\int }_{-\infty }^{\infty }E(X\mid Y=y)p_Y(y)\mathrm{d}y\\ & ={\int }_{-\infty }^{\infty }g(y)p_Y(y)\mathrm{d}y\\ & =E(g(Y))\\ & =E(E(X\mid Y))\end{array}$$

这就证明了 (3.5.17) 式。

重期望公式是概率论中较为深刻的一个结论，它在实际中很有用。譬如，要求在一个取值于很大范围上的指标 $X$ 的均值 $E(X)$，这时会遇到计算上的各种困难。为此，我们换一种思维方式，去找一个与 $X$ 有关的量 $Y$，用 $Y$ 的不同取值把大范围划分成若干个小区域，先在小区域上求 $X$ 的平均，再对此类平均求加权平均，即可得大范围上 $X$ 的平均 $E(X)$。如要求全校学生的平均身高，可先求出每个班级学生的平均身高，然后再对各班级的平均身高作加权平均，其权重就是班级人数在全校学生中所占的比例。

重期望公式的具体使用如下：

(1) 如果 $Y$ 是一个离散随机变量，则 (3.5.17) 式成为

$$E(X)=\sum _{j}E\left(X\mid Y=y_j\right)P\left(Y=y_j\right)$$

(2) 如果 $Y$ 是一个连续随机变量，则 (3.5.17) 式成为

$$E(X)={\int }_{-\infty }^{\infty }E(X\mid Y=y)p_Y(y)\mathrm{d}y$$

例 3.5.7 一矿工被困在有三个门的矿井里。第一个门通一坑道，沿此坑道走 3 小时可到达安全区；第二个门通一坑道，沿此坑道走 5 小时又回到原处；第三个门通一坑道，沿此坑道走 7 小时也回到原处。假定此矿工总是等可能地在三个门中选择一个，试求他平均要用多少时间才能到达安全区。

解 设该矿工需要 $X$ 小时到达安全区，则 $X$ 的可能取值为

$$3,5+3,7+3,5+5+3,5+7+3,7+7+3,\cdots$$

要写出 $X$ 的分布列是困难的，所以无法直接求 $E(X)$。为此记 $Y$ 表示第一次所选的门，{Y=i}\{Y=i\}{Y=i} 就是选择第 $i$ 个门。由题设知

$$P(Y=1)=P(Y=2)=P(Y=3)=\frac{1}{3}$$

因为选第一个门后 3 小时可到达安全区，所以 $E(X\mid Y=1)=3$。

又因为选第二个门后 5 小时回到原处，所以 $E(X\mid Y=2)=5+E(X)$。

又因为选第三个门后 7 小时也回到原处，所以 $E(X\mid Y=3)=7+E(X)$。

综上所述，由 (3.5.18) 式得

$$E(X)=\frac{1}{3}[3+5+E(X)+7+E(X)]=5+\frac{2}{3}E(X)$$

解得 $E(X)=15$，即该矿工平均要 15 小时才能到达安全区。

上例的解题方法带有某种普遍性，请读者从下例中再体会一下这种方法。

例 3.5.8 口袋中有编号为 $1,2,\cdots ,n$ 的 $n$ 个球，从中任取 1 球。若取到 1 号球，则得 1 分，且停止摸球；若取到 $i$ 号球 $(i⩾2)$，则得 $i$ 分，且将此球放回，重新摸球。如此下去，试求得到的平均总分数。

解 记 $X$ 为得到的总分数，$Y$ 为第一次取到的球的号码。则

$$P(Y=1)=P(Y=2)=\cdots =P(Y=n)=\frac{1}{n}$$

又因为 $E(X\mid Y=1)=1$，而当 $i⩾2$ 时，$E(X\mid Y=i)=i+E(X)$。所以

$$E(X)=\sum _{i=1}^{n}E(X\mid Y=i)P(Y=i)=\frac{1}{n}[1+2+\cdots +n+(n-1)E(X)]$$

由此解得

$$E(X)=\frac{n(n+1)}{2}$$

例 3.5.9 设电力公司每月可以供应某工厂的电力 $X$ 服从 $(10,30)$（单位：$10^4\mathrm{kW}$）上的均匀分布，而该工厂每月实际需要的电力 $Y$ 服从 $(10,20)$（单位：$10^4\mathrm{kW}$）上的均匀分布。如果工厂能从电力公司得到足够的电力，则每 $10^4\mathrm{kW}$ 电可以创造 30 万元的利润，若工厂从电力公司得不到足够的电力，则不足部分由工厂通过其他途径解决，由其他途径得到的电力每 $10^4\mathrm{kW}$ 电只有 10 万元的利润。试求该厂每个月的平均利润。

解 从题意知，每月供应电力 $X\sim U(10,30)$，而工厂实际需要电力 $Y\sim U(10,20)$。若设工厂每个月的利润为 $Z$ 万元，则按题意可得

$$Z=\{\begin{array}{ll}30Y,& \text{当 }Y⩽X\\ 30X+10(Y-X),& \text{当 }Y>X\end{array}$$

在 $X=x$ 给定时，$Z$ 仅是 $Y$ 的函数，于是当 $10⩽x<20$ 时，$Z$ 的条件期望为

$$\begin{array}{rl}E(Z\mid X=x)& ={\int }_{10}^{x}30y{p}_Y(y)\mathrm{d}y+{\int }_x^{20}(10y+20x)p_Y(y)\mathrm{d}y\\ & ={\int }_{10}^{x}30y\frac{1}{10}\mathrm{d}y+{\int }_x^{20}(10y+20x)\frac{1}{10}\mathrm{d}y\\ & =\frac{3}{2}\left(x^2-100\right)+\frac{1}{2}\left(20^2-x^2\right)+2x(20-x)\\ & =50+40x-x^2\end{array}$$

当 $20⩽x⩽30$ 时，$Z$ 的条件期望为

$$E(Z\mid X=x)={\int }_{10}^{20}30y{p}_Y(y)\mathrm{d}y={\int }_{10}^{20}30y\frac{1}{10}\mathrm{d}y=450$$

然后用 $X$ 的分布对条件期望 $E(Z\mid X=x)$ 再作一次平均，即得

$$\begin{array}{rl}E(Z)& =E(E(Z\mid X))\\ & ={\int }_{10}^{20}E(Z\mid X=x)p_X(x)\mathrm{d}x+{\int }_{20}^{30}E(Z\mid X=x)p_X(x)\mathrm{d}x\\ & =\frac{1}{20}{\int }_{10}^{20}\left(50+40x-x^2\right)\mathrm{d}x+\frac{1}{20}{\int }_{20}^{30}450\mathrm{d}x\\ & =25+300-\frac{700}{6}+225\approx 433\end{array}$$

所以该厂每月的平均利润为 433 万元。

例 3.5.10（随机个随机变量和的数学期望） 设 $X_1,X_2,\cdots$ 为一列独立同分布的随机变量，随机变量 $N$ 只取正整数值，且 $N$ 与 {Xn}\left\{X_{n}\right\}{Xn​} 独立，证明

$$E\left(\sum _{i=1}^N{X}_i\right)=E\left(X_1\right)E(N)$$

证明 由定理 3.5.1 知

$$\begin{array}{rl}E\left(\sum _{i=1}^N{X}_i\right)& =E\left[E\left(\sum _{i=1}^N{X}_i\mid N\right)\right]\\ & =\sum _{n=1}^{\infty }E\left(\sum _{i=1}^N{X}_i\mid N=n\right)P(N=n)\\ & =\sum _{n=1}^{\infty }E\left(\sum _{i=1}^n{X}_i\right)P(N=n)\\ & =\sum _{n=1}^{\infty }nE\left(X_1\right)P(N=n)\\ & =E\left(X_1\right)\sum _{n=1}^{\infty }nP(N=n)\\ & =E\left(X_1\right)E(N)\end{array}$$

得证。

利用此题的结论，我们可以解很多实际问题，下面列举几个：

（1）设一天内到达某商场的顾客数 $N$ 是仅取非负整数值的随机变量，且 $E(N)=35000$。又设进入此商场的第 $i$ 个顾客的购物金额为 $X_i$，可以认为诸 $X_i$ 是独立同分布的随机变量，且 $E\left(X_i\right)=82$（元）。假设 $N$ 与 $X_i$ 相互独立是合理的，则此商场一天的平均营业额为

$$E\left(\sum _{i=1}^N{X}_i\right)=E\left(X_1\right)E(N)=82\times 35000=287\text{（万元）}$$

（2）一只昆虫一次产卵数 $N$ 服从参数为 $\lambda$ 的泊松分布，每个卵能成活的概率是 $p$，可设 $X_i$ 服从 0-1 分布，而 {Xi=1}\left\{X_{i}=1\right\}{Xi​=1} 表示第 $i$ 个卵成活，则一只昆虫一次产卵后的平均成活卵数为

$$E\left(\sum _{i=1}^N{X}_i\right)=E\left(X_1\right)E(N)=\lambda p$$