3

【丢弃】条件概率,条件期望,条件方差

 3 years ago
source link: https://www.guofei.site/2017/08/02/conditionalprobability.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

【丢弃】条件概率,条件期望,条件方差

2017年08月02日

Author: Guofei

文章归类: ，文章编号: 450

版权声明：本文作者是郭飞。转载随意，但需要标明原文链接，并通知本人
原文链接：https://www.guofei.site/2017/08/02/conditionalprobability.html

Edit

这篇很多地方写的不够清楚，两年后做了更新，看这里

本文介绍概念：
条件概率
条件期望
条件方差

条件概率

给定一个样本空间S，一个完全事件集合ε={A∣A⊂S}ε={A∣A⊂S},一个概率测度 Pr:ε→[0,1]Pr:ε→[0,1]，
给定事件B∈ε,Pr(B)>0B∈ε,Pr(B)>0,
那么，对于A∈εA∈ε，定义 条件概率 为Pr(A∣B)=P(A∩B)P(B)Pr(A∣B)=P(A∩B)P(B)

这种定义的好处是，Pr(⋆∣B)Pr(⋆∣B)符合概率测度的定义

条件PDF

p.d.f是f(x,y)f(x,y)
定义：f(x∣y)=f(x,y)f(y)f(x∣y)=f(x,y)f(y)

定理： f(y)=∑yf(x∣y)f(y)f(y)=∑yf(x∣y)f(y)

条件期望

联合期望 定义为：
E[g(x1,x2)]=∑(x1,x2)g(x1,x2)f(x1,x2)E[g(x1,x2)]=∑(x1,x2)g(x1,x2)f(x1,x2)

条件期望 定义为：
E[g(X1)∣X2=x2]=∑x1g(x1)f(x1∣x2)E[g(X1)∣X2=x2]=∑x1g(x1)f(x1∣x2)
记为E(g(X1)∣X2)E(g(X1)∣X2)

注意:
条件期望可以视为这样一个函数：s∈S,s→E(g(X1)∣X2(s))s∈S,s→E(g(X1)∣X2(s))
E(g(X1)∣X2)E(g(X1)∣X2)本身是一个随机变量。

定理：全期望定理(law of total expactation)
EX2[EX1∣X2[g(X1)∣X2]]=∑x1g(x1)f(x1)EX2[EX1∣X2[g(X1)∣X2]]=∑x1g(x1)f(x1)
也就是说，
E[X]=E[E[X∣Y]]E[X]=E[E[X∣Y]]

条件方差

方差 定义为：
E[(X−EX)2]E[(X−EX)2]

定理：Var(X)=EX2−(EX)2Var(X)=EX2−(EX)2

条件方差 定义为：
Var[X∣Y]=∑i(xi−E[X∣Y])2f(xi∣Y)Var[X∣Y]=∑i(xi−E[X∣Y])2f(xi∣Y)
定理：Var[X]=E[Var[X∣Y]]+Var[E[X∣Y]]Var[X]=E[Var[X∣Y]]+Var[E[X∣Y]]

总结

f(x∣y)=f(x,y)/fY(y)f(x∣y)=f(x,y)/fY(y)
VarX=EX2−(EX)2VarX=EX2−(EX)2
E(X∣Y)=∑xf(x∣y)E(X∣Y)=∑xf(x∣y)
Var(X∣Y)=∑x(x−ux∣y)2f(x∣y)Var(X∣Y)=∑x(x−ux∣y)2f(x∣y)
EX=E(E(x∣y))EX=E(E(x∣y))
VarX=E(Var(X∣Y))+Var(E(X∣Y))VarX=E(Var(X∣Y))+Var(E(X∣Y))

您的支持将鼓励我继续创作！

report

Recommend

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK