充分统计量和因子分解定理

原创

已于 2023-06-06 11:04:06 修改 · 3.2k 阅读

标签

#概率论 #贝叶斯

收录于

于 2023-05-29 00:19:43 首次发布

文章介绍了充分统计量的概念，通过例子展示了如何利用定义证明泊松分布情形下的样本总和是一个充分统计量。接着，文章引入因子分解定理来简化充分统计量的证明过程，并给出正态分布的例子，证明了样本均值与样本方差构成的统计量是充分统计量。充分统计量在简化计算和估计参数时起到关键作用。

充分统计量

定义： 设样本 $X$ 的服从分布 $f(X∣θ)f(X|\theta)$ ， $θ∈Θ\theta\in\Theta$ ，设 $T = T (X)$ 为一统计量，若在已知 $T$ 的条件下，样本 $X$ 的条件分布与参数 $θ\theta$ 无关，则称 $T = T (X)$ 为 $θ\theta$ 的充分统计量
Example：
设 $X=(x_1,x_2,..,x_n)$ 是从泊松分布 $P(λ)P(\lambda)$ 中抽取的随机样本，下面将从定义出发证明 $T(X)=∑i=1nxiT(X)=\sum_{i=1}^nx_i$ 是 $θ\theta$ 的充分统计量

$∵xi∼P(λ)，∴∑i=1nxi∼P(nλ)\because x_i \sim P(\lambda)，\therefore\sum_{i=1}^nx_i \sim P(n\lambda)$ ，我们将其记为 $T∼P(θ),θ=nλT\sim P(\theta),\theta=n\lambda$
由已知可得，样本的条件分布为 $f(X∣λ)=∏i=1ne−λλxixi!=e−nλλ∑i=1nxi∏i=1nxi!=e−θ(θn)T∏i=1nxi!f(X|\lambda)=\prod_{i=1}^n\frac{e^{-\lambda}\lambda^{x_i}}{x_i!}=\frac{e^{-n\lambda}\lambda^{\sum_{i=1}^nx_i}}{\prod_{i=1}^nx_i!}=\frac{e^{-\theta}(\frac{\theta}{n})^{T}}{\prod_{i=1}^nx_i!}$