条件数学期望

离散型随机变量

二维离散型随机变量 ( X , Y ) (X,Y) (X,Y)，其概率分布为 P { X = x i , Y = y i } = p i j , i , j = 1 , 2 , . . . P\{X=x_i,Y=y_i\}=p_{ij},i,j=1,2,... P{X=xi​,Y=yi​}=pij​,i,j=1,2,...

• 边缘概率分布
  p i ⋅ = P { X = x i } = ∑ j = 1 ∞ p i j p_{i\cdot}=P\{X=x_i\}=\sum_{j=1}^{\infty}p_{ij} pi⋅​=P{X=xi​}=∑j=1∞​pij​
  p ⋅ j = P { Y = y i } = ∑ i = 1 ∞ p i j p_{\cdot j}=P\{Y=y_i\}=\sum_{i=1}^{\infty}p_{ij} p⋅j​=P{Y=yi​}=∑i=1∞​pij​
• 条件概率分布
  P { Y = y j ∣ X = x i } = p i j p i ⋅ P\{Y=y_j|X=x_i\}=\frac{p_{ij}}{p_{i\cdot}} P{Y=yj​∣X=xi​}=pi⋅​pij​​
  P { X = x i ∣ Y = y j } = p i j p ⋅ j P\{X=x_i|Y=y_j\}=\frac{p_{ij}}{p_{\cdot j}} P{X=xi​∣Y=yj​}=p⋅j​pij​​
• 条件数学期望
  E ( Y ∣ X = x i ) = ∑ j = 1 ∞ y j p i j p i ⋅ ， i = 1 , 2 , . . . E(Y|X=x_i)=\sum_{j=1}^{\infty}y_j\frac{p_{ij}}{p_{i\cdot}}，i=1,2,... E(Y∣X=xi​)=∑j=1∞​yj​pi⋅​pij​​，i=1,2,...
  E ( X ∣ Y = y i ) = ∑ i = 1 ∞ x i p i j p ⋅ j ， j = 1 , 2 , . . . E(X|Y=y_i)=\sum_{i=1}^{\infty}x_i\frac{p_{ij}}{p_{\cdot j}}，j=1,2,... E(X∣Y=yi​)=∑i=1∞​xi​p⋅j​pij​​，j=1,2,...

连续型随机变量

二维连续型随机变量 ( X , Y ) (X,Y) (X,Y)，其概率密度为 f ( x , y ) f(x,y) f(x,y)

• 边缘概率分布
  f X ( x ) = ∫ − ∞ + ∞ f ( x , y ) d y f_X(x)=\int_{-\infty}^{+\infty}f(x,y)dy fX​(x)=∫−∞+∞​f(x,y)dy
  f Y ( y ) = ∫ − ∞ + ∞ f ( x , y ) d x f_Y(y)=\int_{-\infty}^{+\infty}f(x,y)dx fY​(y)=∫−∞+∞​f(x,y)dx
• 条件概率分布
  f Y ∣ X ( y ∣ x ) = f ( x , y ) f X ( x ) f_{Y|X}(y|x)=\frac{f(x,y)}{f_X(x)} fY∣X​(y∣x)=fX​(x)f(x,y)​
  f X ∣ Y ( x ∣ y ) = f ( x , y ) f Y ( y ) f_{X|Y}(x|y)=\frac{f(x,y)}{f_Y(y)} fX∣Y​(x∣y)=fY​(y)f(x,y)​
• 条件数学期望
  E ( Y ∣ X = x ) = ∫ − ∞ + ∞ y f Y ∣ X ( y ∣ x ) d y E(Y|X=x)=\int_{-\infty}^{+\infty}yf_{Y|X}(y|x)dy E(Y∣X=x)=∫−∞+∞​yfY∣X​(y∣x)dy
  E ( X ∣ Y = y ) = ∫ − ∞ + ∞ x f X ∣ Y ( x ∣ y ) d x E(X|Y=y)=\int_{-\infty}^{+\infty}xf_{X|Y}(x|y)dx E(X∣Y=y)=∫−∞+∞​xfX∣Y​(x∣y)dx

• 当 X X X与 Y Y Y互相独立，必有 E ( X ∣ Y ) = E ( X ) , E ( Y ∣ X ) = E ( Y ) E(X|Y)=E(X),E(Y|X)=E(Y) E(X∣Y)=E(X),E(Y∣X)=E(Y)
• 全期望公式： E ( X ) = E [ E ( X ∣ Y ) ] E(X)=E[E(X|Y)] E(X)=E[E(X∣Y)]
• E [ g ( Y ) X ∣ Y ] = g ( Y ) E ( X ∣ Y ) E[g(Y)X|Y]=g(Y)E(X|Y) E[g(Y)X∣Y]=g(Y)E(X∣Y)
• E [ g ( Y ) X ] = E [ g ( Y ) ⋅ E ( X ∣ Y ) ] E[g(Y)X]=E[g(Y)\cdot E(X|Y)] E[g(Y)X]=E[g(Y)⋅E(X∣Y)]
• E ( C ∣ Y ) = C ， C E(C|Y)=C，C E(C∣Y)=C，C是常数
• E [ g ( Y ) ∣ Y ] = g ( Y ) E[g(Y)|Y]=g(Y) E[g(Y)∣Y]=g(Y)
• E [ ( a X + b Y ) ∣ Z ] = a E ( X ∣ Z ) + b E ( Y ∣ Z ) E[(aX+bY)|Z]=aE(X|Z)+bE(Y|Z) E[(aX+bY)∣Z]=aE(X∣Z)+bE(Y∣Z)
• E [ X − E ( X ∣ Y ) ] 2 ⩽ E [ X − g ( Y ) ] 2 E[X-E(X|Y)]^2 \leqslant E[X-g(Y)]^2 E[X−E(X∣Y)]2⩽E[X−g(Y)]2