9

Условное математическое ожидание и условная вероятность, связанные свойства и результаты

[19/100%]
Показать
LaTeX
Задача 9.1

Если XX -- интегрируемая с.в., а {An,n=1,2,…}\left\{ A_{n}, n = 1,2, \ldots \right\} -- попарно непересекающиеся события, покажите, что

∫∑i=1∞AiXdP=∑i=1∞∫AiXdP \int _{\sum _{i = 1}^{\infty } A_{i}} X d P = \sum _{i = 1}^{\infty } \int _{A_{i}} X d P
?
Задача 9.2

Пусть XX -- интегрируемая с.в., и для B∈AB \in \mathcal{A} с P(B)>0\mathbb {P}\left(B\right) > 0 рассмотрим условную вероятность на A,P(⋅∣B)\mathcal{A}, \mathbb {P}\left( \cdot \mid B \right). Тогда покажите, что

∫ΩXdP(⋅∣B)=1P(B)∫BXdP \int _{\Omega } X d \mathbb {P}\left( \cdot \mid B \right) = \frac{1}{\mathbb {P}\left(B\right)} \int _{B} X d P
?
Задача 9.3

Рассмотрим вероятностное пространство (Ω,A,P)=([0,1],B[0,1],λ)(\Omega , \mathcal{A}, P) = \left([0,1], \mathcal{B}_{[0,1]}, \lambda \right), где λ\lambda -- мера Лебега, и пусть F\mathcal{F} -- σ\sigma-алгебра, порождённая классом {[0,14],(14,23]\left\{ \left[0, \frac{1}{4}\right],\left(\frac{1}{4}, \frac{2}{3}\right]\right., (23,1]}\left.\left(\frac{2}{3}, 1\right]\right\}. Также пусть XX -- с.в., определённая как: X(ω)=ω2,ω∈ΩX(\omega ) = \omega^{2}, \omega \in \Omega. Тогда покажите, что

E[X∣F]=α1I[0,14]+α2I(14,23]+α3I(23,1], \mathbb {E}\left[ X \mid \mathcal{F} \right] = \alpha _{1} I_{\left[0, \frac{1}{4}\right]}+\alpha _{2} I_{\left(\frac{1}{4}, \frac{2}{3}\right]}+\alpha _{3} I_{\left(\frac{2}{3}, 1\right]},

и вычислите α1,α2,α3\alpha_{1}, \alpha_{2}, \alpha_{3}.

?
Задача 9.4

Пусть XX и YY -- B\mathcal{B}-измеримые и интегрируемые с.в. Далее предположим, что ∫BXdP≥∫BYdP\int_{B} X d P \geq \int_{B} Y d P для каждого B∈B(⊆A)B \in \mathcal{B}(\subseteq \mathcal{A}). Тогда покажите, что X≥YX \geq Y п.н.

?
Задача 9.5
?
(i)

Пусть X≥0X \geq 0 п.н. на множестве AA с P(A)>0\mathbb {P}\left(A\right) > 0, и предположим, что ∫AXdP=0\int_{A} X d P = 0. Тогда покажите, что X=0X = 0 п.н. на AA.

(ii)

Пусть X≥0X \geq 0, интегрируема, и X=0X = 0 п.н. на множестве A∈B(⊆A)A \in \mathcal{B}(\subseteq A), с P(A)>0\mathbb {P}\left(A\right) > 0. Тогда покажите, что EB[X]=0\mathbb {E}_{\mathcal{B}}\left[X\right] = 0 п.н. на AA.

(iii)
Задача 9.6

Если E[∣X∣r]<∞\mathbb {E}\left[\left|X\right|^{r}\right] < \infty, то покажите, что ∣EB[X]∣r≤EB[∣X∣r]\left|\mathbb {E}_{\mathcal{B}}\left[X\right]\right|^{r} \leq \mathbb {E}_{\mathcal{B}}\left[\left|X\right|^{r}\right] п.н., r≥1r \geq 1.

?
Задача 9.7

Если с.в. XX интегрируема, то EB[X]\mathbb {E}_{\mathcal{B}}\left[X\right] конечна п.н.

?
Задача 9.8

Напомним, что функция g:Ig: I (открытый интервал) ⊆R→R\subseteq \mathbb {R} \rightarrow \mathbb {R} называется выпуклой, если g(α1x1+α2x2)≤α1g(x1)+α2g(x2)g\left(\alpha_{1} x_{1}+\alpha_{2} x_{2}\right) \leq \alpha_{1} g\left(x_{1}\right)+\alpha_{2} g\left(x_{2}\right) для всех α1,α2≥0\alpha_{1}, \alpha_{2} \geq 0 с α1+α2=1\alpha_{1}+\alpha_{2} = 1, и всех x1,x2∈Ix_{1}, x_{2} \in I. Докажите следующее обобщение: если gg такова, как указано выше, то:

g(α1x1+⋯+αnxn)≤α1g(x1)+⋯+αng(xn) g\left(\alpha _{1} x_{1}+\cdots +\alpha _{n} x_{n}\right) \leq \alpha _{1} g\left(x_{1}\right)+\cdots +\alpha _{n} g\left(x_{n}\right)

для любого n≥2n \geq 2, любых α1,…,αn≥0\alpha_{1}, \ldots , \alpha_{n} \geq 0 с α1+⋯+αn=1\alpha_{1}+\cdots +\alpha_{n} = 1, и всех x1,…,xn∈Ix_{1}, \ldots , x_{n} \in I.

?
Задача 9.9

Напомним следующую лемму (лемма 2). Пусть (Ω,BY,PY)\left(\Omega , \mathcal{B}_{Y}, P_{Y}\right), (Ω′,BY′,PY′)\left(\Omega^{\prime }, \mathcal{B}_{Y}^{\prime }, P_{Y}^{\prime }\right) такие же, как и ранее (т.е. BY′={A′⊆Ω′;Y−1(A′)=A для некоторого A∈A}\mathcal{B}_{Y}^{\prime } = \left\{ A^{\prime } \subseteq \Omega^{\prime } ; Y^{-1}\left(A^{\prime }\right) = A \text{ для некоторого } A \in \mathcal{A}\right\}, BY=Y−1(BY′)\mathcal{B}_{Y} = Y^{-1}\left(\mathcal{B}_{Y}^{\prime }\right), а PY,PY′P_{Y}, P_{Y}^{\prime } -- вероятностные меры, индуцированные на BY,BY′\mathcal{B}_{Y}, \mathcal{B}_{Y}^{\prime } соответственно мерой PP), и пусть g:(Ω′,BY′)→(R,B)g : \left(\Omega^{\prime }, \mathcal{B}_{Y}^{\prime }\right) \rightarrow \left(\mathbb {R}, \mathcal{B}\right) измерима, так что g(Y):(Ω,BY)→(R,B)g(Y) : (\Omega , \mathcal{B}_{Y}) \rightarrow (\mathbb {R}, \mathcal{B}) измерима (с.в.). Тогда

∫B′g(y) dPY′=∫Bg(Y) dPY,B′∈BY′,B=Y−1(B′), \int _{B^{\prime }} g(y) \, dP_{Y}^{\prime } = \int _{B} g(Y) \, dP_{Y}, \quad B^{\prime } \in \mathcal{B}_{Y}^{\prime }, \quad B = Y^{-1}\left(B^{\prime }\right),

в том смысле, что если один из этих интегралов существует, то существует и другой, и они равны.

Восполните детали в доказательстве леммы 2.

?
Задача 9.10

Пусть XX и YY -- дискретные с.в., и напомним (из применения, следующего за теоремой 11), что BY′\mathcal{B}_{Y}^{\prime } -- это σ\sigma-алгебра подмножеств R\mathbb {R}, определённая как BY′={B′⊆R\mathcal{B}_{Y}^{\prime } = \left\{ B^{\prime } \subseteq \mathbb {R}\right.; Y−1(B′)=AY^{-1}\left(B^{\prime }\right) = A для некоторого A∈A}\left.A \in \mathcal{A}\right\}. Для x,y∈Rx, y \in \mathbb {R} с P(Y=y)>0\mathbb {P}\left(Y = y\right) > 0 рассмотрим условную вероятность

P(X=x∣Y=y)=P(X=x,Y=y)/P(Y=y) \mathbb {P}\left( X = x \mid Y = y \right) = \mathbb {P}\left(X = x, Y = y\right) / \mathbb {P}\left(Y = y\right)

и покажите, что для каждого фиксированного xx функция P(X=x∣Y=⋅)\mathbb {P}\left( X = x \mid Y = \cdot \right) является BY′\mathcal{B}_{Y}^{\prime }-измеримой.

?
Задача 9.11

Теорема о мажорируемой сходимости в её классической форме утверждает: если ∣Xn∣≤Y\left|X_{n}\right| \leq Y п.н., n≥1,E[Y]<∞n \geq 1, \mathbb {E}\left[Y\right] < \infty, и либо Xn→n→∞ п.н. XX_{n} \xrightarrow [n \rightarrow \infty ]{\text{ п.н. }} X, либо Xn→n→∞PXX_{n} \xrightarrow [n \rightarrow \infty ]{P} X, то E[Xnn→∞]E[X]\mathbb {E}\left[X_{n_{n}}^{ \rightarrow \infty }\right] \mathbb {E}\left[X\right] конечно.

В рамках условных математических ожиданий мы показали, что: если ∣Xn∣≤Y\left|X_{n}\right| \leq Y п.н., n≥1,E[Y]<∞n \geq 1, \mathbb {E}\left[Y\right] < \infty, и Xn→n→∞ п.н. XX_{n} \xrightarrow [n \rightarrow \infty ]{\text{ п.н. }} X с конечным E[X]\mathbb {E}\left[X\right], то EB[Xn]→n→∞ п.н. EB[X]\mathbb {E}_{\mathcal{B}}\left[X_{n}\right] \xrightarrow [n \rightarrow \infty ]{\text{ п.н. }} \mathbb {E}_{\mathcal{B}}\left[X\right] для любой σ\sigma-алгебры B⊆A\mathcal{B} \subseteq \mathcal{A} (см. теорему 7 (iii')).

На примере покажите, что сходимость Xn→ п.н. XX_{n} \xrightarrow {\text{ п.н. }} X нельзя заменить на Xn→n→∞PXX_{n} \xrightarrow [n \rightarrow \infty ]{P} X и по-прежнему заключить, что EB[Xn]→→ п.н. EB[X]\mathbb {E}_{\mathcal{B}}\left[X_{n}\right] \xrightarrow {\xrightarrow {\text{ п.н. }}} \mathbb {E}_{\mathcal{B}}\left[X\right].

?
Задача 9.12

Пусть с.в. XX и YY имеют двумерное нормальное распределение с параметрами μ1,μ2\mu_{1}, \mu_{2} в R,0<σ1,σ2<∞\mathbb {R}, 0 < \sigma_{1}, \sigma_{2} < \infty, и ρ∈[−1,1]\rho \in [-1,1], так что их совместная плотность распределения (п.р.в.) задаётся формулой

pX,Y(x,y)=12πσ1σ21−ρ2e−q/2 p_{X, Y}(x, y) = \frac{1}{2 \pi \sigma _{1} \sigma _{2} \sqrt{1-\rho ^{2}}} e^{-q / 2}

где

q=11−ρ2[(x−μ1σ1)2−2ρ(x−μ1σ1)(y−μ2σ2)+(y−μ2σ2)2],x,y∈R \begin{aligned} q = \frac{1}{1-\rho ^{2}} \left[\left(\frac{x-\mu _{1}}{\sigma _{1}}\right)^{2}-2 \rho \left(\frac{x-\mu _{1}}{\sigma _{1}}\right)\left(\frac{y-\mu _{2}}{\sigma _{2}}\right)+\left(\frac{y-\mu _{2}}{\sigma _{2}}\right)^{2}\right], \quad x, y \in \mathbb {R} \end{aligned}
?
(i)

Покажите, что показатель степени можно записать так:

(1−ρ2)q=[(y−μ2σ2)−ρ(x−μ1σ1)]2+(1−ρ2)(x−μ1σ1)2=(y−bσ2)2+(1−ρ2)(x−μ1σ1)2, где b=μ2+ρσ2σ1(x−μ1). \begin{aligned} \left(1-\rho ^{2}\right) q = & {\left[\left(\frac{y-\mu _{2}}{\sigma _{2}}\right)-\rho \left(\frac{x-\mu _{1}}{\sigma _{1}}\right)\right]^{2}+\left(1-\rho ^{2}\right)\left(\frac{x-\mu _{1}}{\sigma _{1}}\right)^{2} } \\ = & \left(\frac{y-b}{\sigma _{2}}\right)^{2}+\left(1-\rho ^{2}\right)\left(\frac{x-\mu _{1}}{\sigma _{1}}\right)^{2}, \\ & \text{ где } b = \mu _{2}+\frac{\rho \sigma _{2}}{\sigma _{1}}\left(x-\mu _{1}\right) . \end{aligned}
(ii)

Из части (i) следует, что:

pX,Y(x,y)=12πσ1exp⁡[−(x−μ1)22σ12]×12π(σ21−ρ2)exp⁡[−(y−b)22(σ21−ρ2)2]. \begin{aligned} p_{X, Y}(x, y) = & \frac{1}{\sqrt{2 \pi } \sigma _{1}} \exp \left[-\frac{\left(x-\mu _{1}\right)^{2}}{2 \sigma _{1}^{2}}\right] \\ & \times \frac{1}{\sqrt{2 \pi }\left(\sigma _{2} \sqrt{1-\rho ^{2}}\right)} \exp \left[-\frac{(y-b)^{2}}{2\left(\sigma _{2} \sqrt{1-\rho ^{2}}\right)^{2}}\right] . \end{aligned}

Из этого выражения, без каких-либо фактических вычислений интеграла, заключите, что с.в. XX распределена как N(μ1,σ12)N\left(\mu_{1}, \sigma_{1}^{2}\right); т.е. X∼N(μ1,σ12)X \sim N\left(\mu_{1}, \sigma_{1}^{2}\right), и по симметрии Y∼N(μ2,σ22)Y \sim N\left(\mu_{2}, \sigma_{2}^{2}\right).

Задача 9.13

Со ссылкой на упражнение 12 (ii), и без каких-либо фактических операций, заключите, что условное распределение с.в. YY при условии X=xX = x есть N(b,σ22(1−ρ2))N\left(b, \sigma_{2}^{2}\left(1-\rho^{2}\right)\right), где b=μ2+ρσ2σ1(x−μ1)b = \mu_{2}+\frac{\rho \sigma_{2}}{\sigma_{1}}\left(x-\mu_{1}\right); и по симметрии условное распределение XX при условии Y=yY = y есть N(c,σ12(1−ρ2))N\left(c, \sigma_{1}^{2}\left(1-\rho^{2}\right)\right), где c=μ1+ρσ1σ2(y−μ2)c = \mu_{1}+\frac{\rho \sigma_{1}}{\sigma_{2}}\left(y-\mu_{2}\right).

?
Задача 9.14
?
(i)

Со ссылкой на упражнения 12 и 13, и записав E[XY]=E[E[XY]∣X]\mathbb {E}\left[X Y\right] = \mathbb {E}\left[ \mathbb {E}\left[X Y\right] \mid X \right], покажите, что E[XY]=μ1μ2+ρσ1σ2\mathbb {E}\left[X Y\right] = \mu_{1} \mu_{2}+\rho \sigma_{1} \sigma_{2}.

(ii)

Используйте определение ковариации двух с.в. XX и YY (с конечными вторыми моментами), Cov⁡[X,Y]=E[(X−E[X])(Y−E[Y])]=E[XY]−(E[X])(E[Y])\operatorname {Cov}\left[ X, Y \right] = \mathbb {E}\left[(X-\mathbb {E}\left[X\right])(Y-\mathbb {E}\left[Y\right])\right] = \mathbb {E}\left[X Y\right]-(\mathbb {E}\left[X\right])(\mathbb {E}\left[Y\right]), чтобы заключить, что в данном случае Cov⁡[X,Y]=ρσ1σ2\operatorname {Cov}\left[ X, Y \right] = \rho \sigma_{1} \sigma_{2}.

(iii)

Из части (ii) заключите, что в данном случае коэффициент корреляции с.в. XX и Y,ρ(X,Y)Y, \rho (X, Y), равен ρ\rho.

Задача 9.15

Если с.в. XX и YY имеют двумерное нормальное распределение с параметрами μ1,μ2\mu_{1}, \mu_{2} в R,0<σ1,σ2<∞\mathbb {R}, 0 < \sigma_{1}, \sigma_{2} < \infty и ρ∈[−1,1]\rho \in [-1,1], положим

U=X−μ1σ1 и V=Y−μ2σ2 U = \frac{X-\mu _{1}}{\sigma _{1}} \text{ и } V = \frac{Y-\mu _{2}}{\sigma _{2}}

и покажите, что с.в. UU и VV имеют двумерное нормальное распределение с параметрами 0,0,1,10,0,1,1 и ρ\rho, преобразовав совместную п.р.в. XX и YY в совместную п.р.в. UU и VV.

?
Задача 9.16

Пусть XX и YY -- с.в., определённые на вероятностном пространстве (Ω,A,P)(\Omega , \mathcal{A}, P), и предположим, что E[X2]<∞\mathbb {E}\left[X^{2}\right] < \infty. Тогда покажите, что

?
(i)

Условная дисперсия XX при условии YY задаётся формулой

Var⁡[X∣Y]=E[{[X−E[X∣Y]]2∣Y}]=E[X2∣Y]−[E[X∣Y]]2 п.н.  \begin{aligned} \operatorname {Var}\left[ X \mid Y \right] & = \mathbb {E}\left[\left\{ [X-\mathbb {E}\left[ X \mid Y \right]]^{2} \mid Y\right\} \right] \\ & = \mathbb {E}\left[ X^{2} \mid Y \right]-[\mathbb {E}\left[ X \mid Y \right]]^{2} \text{ п.н. } \end{aligned}
(ii)

Var⁡[X]=E[Var⁡[X∣Y]]+Var⁡[E[X∣Y]]\operatorname {Var}\left[X\right] = \mathbb {E}\left[\operatorname {Var}\left[ X \mid Y \right]\right]+\operatorname {Var}\left[\mathbb {E}\left[ X \mid Y \right]\right].

Задача 9.17

(Вальд)

?
(i)

Пусть X1,X2,…X_{1}, X_{2}, \ldots -- с.в., и пусть NN -- с.в., принимающая значения 1,2,…1,2, \ldots, все определённые на вероятностном пространстве (Ω,A,P)(\Omega , \mathcal{A}, P). Определим функцию XX как

X(ω)=X1(ω)+⋯+XN(ω)(ω) X(\omega ) = X_{1}(\omega )+\cdots +X_{N(\omega )}(\omega )

и покажите, что XX -- с.в.

(ii)

Теперь предположим, что XiX_{i} независимы и одинаково распределены, с E[X1]=μ∈R\mathbb {E}\left[X_{1}\right] = \mu \in \mathbb {R}, что NN не зависит от XiX_{i}, и что E[N]<∞\mathbb {E}\left[N\right] < \infty. Тогда покажите, что E[X∣N]=μN\mathbb {E}\left[ X \mid N \right] = \mu N, и, следовательно, E[X]=μ(E[N])\mathbb {E}\left[X\right] = \mu (\mathbb {E}\left[N\right]).

(iii)

Если в дополнение к предположениям, сделанным в части (ii), также выполняется Var⁡[X1]=σ2<∞\operatorname {Var}\left[X_{1}\right] = \sigma^{2} < \infty и Var⁡[N]<∞\operatorname {Var}\left[N\right] < \infty, то покажите, что Var⁡[X∣N]=σ2N\operatorname {Var}\left[ X \mid N \right] = \sigma^{2} N.

(iv)

Используя части (ii) и (iii) здесь и часть (ii) упражнения 16, заключите, что Var⁡[X]=σ2(E[N])+μ2Var⁡[N]\operatorname {Var}\left[X\right] = \sigma^{2}(\mathbb {E}\left[N\right])+\mu^{2} \operatorname {Var}\left[N\right].

Задача 9.18

Пусть B\mathcal{B} -- под-σ\sigma-алгебра в (Ω,A,P)(\Omega , \mathcal{A}, P), эквивалентная тривиальной σ\sigma-алгебре {∅,Ω}\left\{ \varnothing , \Omega \right\} (в том смысле, что для каждого B∈BB \in \mathcal{B} либо P(B)=0\mathbb {P}\left(B\right) = 0, либо P(B)=1\mathbb {P}\left(B\right) = 1), и пусть XX -- B\mathcal{B}-измеримая (интегрируемая) с.в. Тогда покажите, что X=E[X]X = \mathbb {E}\left[X\right] п.н.

?
Задача 9.19

Со ссылкой на пример 2, покажите, что для каждого t=0,1,…t = 0,1, \ldots действительно существует (n+t−1t)xi=(xi1,…,xin)\binom {n+t-1}{t} \mathbf{x}_{i} = \left(x_{i 1}, \ldots , x_{i n}\right), где каждое xi1,…,xinx_{i 1}, \ldots , x_{i n} принимает значения от 0 до tt, и xi1+⋯+xin=t,i=1,…,(n+t−1t)x_{i 1}+\cdots +x_{i n} = t, i = 1, \ldots ,\binom {n+t-1}{t}.

?