Банк задач по математике

Задача 1.8.1

(a)(b)

Лемма 9.3 утверждает: достаточным условием сходимости $Y_{n}$ по вероятности к $c$ является $\mathbb {E}\left[(Y_{n}-c)^{2}\right] \rightarrow 0$ .

?

(a)

Докажите неравенство Чебышёва: для любой случайной величины $X$ и неотрицательной функции $g(\cdot )$ ,

\mathbb {P}\left(g(X) \geq \varepsilon \right) \leq \frac{1}{\varepsilon } \mathbb {E}\left[g(X)\right]

для каждого $\varepsilon >0$ . (Во многих статистических приложениях полезно брать $g(x)= (x-a)^{2} / b^{2}$ для некоторых констант $a$ и $b$ .)

(b)

Докажите Лемму 9.3. [Указание: Примените неравенство Чебышёва.]

Задача 1.8.2

Чтобы убедиться, что обратное утверждение к Теореме 8.2 не верно, пусть $X_{1}, \ldots , X_{n}$ независимые одинаково распределённые с $\mathbb {E}\left[X_{i}\right]=\theta , \operatorname {var}\left(X_{i}\right)=\sigma^{2}<\infty$ , и пусть $\delta_{n}=\bar{X}$ с вероятностью $1-\varepsilon_{n}$ и $\delta_{n}=A_{n}$ с вероятностью $\varepsilon_{n}$ . Если $\varepsilon_{n}$ и $A_{n}$ — константы, удовлетворяющие

\varepsilon _{n} \rightarrow 0 \quad \text{ и } \quad \varepsilon _{n} A_{n} \rightarrow \infty ,

то $\delta_{n}$ состоятельна для оценивания $\theta$ , но $\mathbb {E}\left[(\delta_{n}-\theta )^{2}\right]$ не стремится к нулю.

?

Задача 1.8.3

Предположим, что $\rho (x)$ — чётная функция, не убывающая и неотрицательная при $x \geq 0$ и положительная при $x>0$ . Тогда $\mathbb {E}\left[\rho \left[\delta_{n}-g(\theta )\right]\right] \rightarrow 0$ для всех $\theta$ влечёт, что $\delta_{n}$ состоятельна для оценивания $g(\theta )$ .

?

Задача 1.8.4

(a)(b)

?

(a)

Если $A_{n}, B_{n}$ и $Y_{n}$ сходятся по вероятности к $a, b$ и $y$ соответственно, то $A_{n}+B_{n} Y_{n}$ сходится по вероятности к $a+b y$ .

(b)

Если $A_{n}$ принимает постоянное значение $a_{n}$ с вероятностью 1, и $a_{n} \rightarrow a$ , то $A_{n} \rightarrow a$ по вероятности.

Задача 1.8.5

Обращаясь к Примеру 8.4, покажите, что $c_{n} S_{n}^{2} \xrightarrow {P} \sigma^{2}$ для любой последовательности констант $c_{n} \rightarrow 1$ . В частности, MLE $\hat{\sigma }^{2}=\frac{n-1}{n} S_{n}^{2}$ является состоятельной оценкой $\sigma^{2}$ .

?

Задача 1.8.6

Проверьте уравнение (8.9).

?

Задача 1.8.7

Если $\left\{ a_{n}\right\}$ — последовательность действительных чисел, стремящаяся к $a$ , и если $b_{n}=\left(a_{1}+\ldots +a_{n}\right) / n$ , то $b_{n} \rightarrow a$ .

?

Задача 1.8.8

(a)(b)

?

(a)

Если $\delta_{n}$ состоятельна для $\theta$ , а $g$ непрерывна, то $g\left(\delta_{n}\right)$ состоятельна для $g(\theta )$ .

(b)

Пусть $X_{1}, \ldots , X_{n}$ независимые одинаково распределённые как $N(\theta , 1)$ , и пусть $g(\theta )=0$ , если $\theta \neq 0$ , и $g(0)=1$ . Найдите состоятельную оценку $g(\theta )$ .

Задача 1.8.9

(a)(b)

?

(a)

В Примере 8.5 найдите $\operatorname {cov}\left(X_{i}, X_{j}\right)$ для любых $i \neq j$ .

(b)

Проверьте (8.10).

Задача 1.8.10

(a)(b)

?

(a)

В Примере 8.5 найдите значение $p_{1}$ , при котором $p_{k}$ становится независимым от $k$ .

(b)

Если $p_{1}$ имеет значение, найденное в (a), то для любых целых $i_{1}<\cdots <i_{r}$ и $k$ совместное распределение $X_{i_{1}}, \ldots , X_{i_{r}}$ совпадает с распределением $X_{i_{1}+k}, \ldots , X_{i_{r}+k}$ .

Задача 1.8.11

(a)(b)

Предположим, что $X_{1}, \ldots , X_{n}$ имеют общее среднее $\xi$ и дисперсию $\sigma^{2}$ , и что $\operatorname {cov}\left(X_{i}, X_{j}\right)= \rho_{j-i}$ . Для оценивания $\xi$ покажите, что:

?

(a)

$\bar{X}$ не состоятельна, если $\rho_{j-i}=\rho \neq 0$ для всех $i \neq j$ ;

(b)

$\bar{X}$ состоятельна, если $\left|\rho_{j-i}\right| \leq M \gamma^{j-i}$ при $\left|\gamma \right|<1$ .

Задача 1.8.12

(a)(b)(c)

Предположим, что $k_{n}\left[\delta_{n}-g(\theta )\right]$ сходится по распределению к непрерывному предельному распределению $H$ . Докажите, что:

?

(a)

Если $k_{n}^{\prime } / k_{n} \rightarrow d \neq 0$ или $\infty$ , то $k_{n}^{\prime }\left[\delta_{n}-g(\theta )\right]$ также сходится к непрерывному предельному распределению.

(b)

Если $k_{n}^{\prime } / k_{n} \rightarrow 0$ или $\infty$ , то $k_{n}^{\prime }\left[\delta_{n}-g(\theta )\right]$ сходится по вероятности к нулю или бесконечности соответственно.

(c)

Если $k_{n} \rightarrow \infty$ , то $\delta_{n} \rightarrow g(\theta )$ по вероятности.

Задача 1.8.13

Покажите, что если $Y_{n} \rightarrow c$ по вероятности, то она сходится по распределению к случайной величине $Y$ , равной $c$ с вероятностью 1.

?

Задача 1.8.14

(a)(b)(c)

?

(a)

В Примере 8.7(i) и (ii) $Y_{n} \rightarrow 0$ по вероятности. Покажите, что:

(b)

Если $H_{n}$ обозначает функцию распределения $Y_{n}$ в Примере 8.7(i) и (ii), то $H_{n}(a) \rightarrow 0$ для всех $a<0$ и $H_{n}(a) \rightarrow 1$ для всех $a>0$ .

(c)

Найдите $\lim H_{n}(0)$ для Примера 8.7(i) и (ii).

Задача 1.8.15

(a)(b)

Если $T_{n}>0$ удовлетворяет $\sqrt{n}\left[T_{n}-\theta \right] \xrightarrow {\mathcal{L}} N\left(0, \tau^{2}\right)$ , найдите предельное распределение (надлежащим образом нормированных)

?

(a)

$\sqrt{T_{n}}$ и

(b)

$\log T_{n}$ .

Задача 1.8.16

(a)(b)(c)(d)

Если $T_{n}$ удовлетворяет $\sqrt{n}\left[T_{n}-\theta \right] \xrightarrow {\mathcal{L}} N\left(0, \tau^{2}\right)$ , найдите предельное распределение (надлежащим образом нормированных)

?

(a)

$T_{n}^{2}$ ,

(b)

$\log \left|T_{n}\right|$ ,

(c)

$1 / T_{n}$ , и

(d)

$e^{T_{n}}$ .

Задача 1.8.17

(a)(b)

Дисперсионно-стабилизирующие преобразования — это преобразования, при которых полученная статистика имеет асимптотическую дисперсию, не зависящую от интересующих параметров. Для каждого из следующих случаев найдите асимптотическое распределение преобразованной статистики и покажите, что оно стабилизирует дисперсию.

?

(a)

$T_{n}=\frac{1}{n} \sum_{i=1}^{n} X_{i}, X_{i} \sim \operatorname {Poisson}(\lambda ), h\left(T_{n}\right)=\sqrt{T_{n}}$ .

(b)

$T_{n}=\frac{1}{n} \sum_{i=1}^{n} X_{i}, X_{i} \sim \operatorname {Bernoulli}(p), h\left(T_{n}\right)=\arcsin \sqrt{T_{n}}$ .

Задача 1.8.18

(a)(b)

?

(a)

Функция $v(\cdot )$ является дисперсионно-стабилизирующим преобразованием, если оценка $v\left(T_{n}\right)$ имеет асимптотическую дисперсию $\tau^{2}(\theta )\left[v^{\prime }(\theta )\right]^{2}=c$ , где $c$ — константа, не зависящая от $\theta$ .

(b)

Для произвольного положительного целого $n$ найдите дисперсионно-стабилизирующее преобразование, если $\tau^{2}(\theta )=\theta^{n}$ . В частности, будьте внимательны в важном случае $n=2$ .

[Дисперсионно-стабилизирующее преобразование (если оно существует) является решением дифференциального уравнения, возникающего из приближения дельта-метода для дисперсии оценки (Теорема 8.12), и не зависит от распределения статистики (за исключением того, что распределение определяет вид дисперсии). Преобразования из пункта (b) известны как семейство степенных преобразований Бокса—Кокса и играют важную роль в прикладной статистике. Подробнее и для интересных обсуждений см. Bickel and Doksum 1981, Box and Cox 1982 и Hinkley and Runger 1984.]

Задача 1.8.19

(a)(b)

Serfling (1980, Раздел 3.1) отмечает, что можно установить следующие вариации Теоремы 8.12. Покажите, что:

?

(a)

Если $h$ дифференцируема в окрестности $\theta$ , а $h^{\prime }$ непрерывна в $\theta$ , то $h^{\prime }(\theta )$ можно заменить на $h^{\prime }\left(T_{n}\right)$ , получив

\sqrt{n} \frac{\left[h\left(T_{n}\right)-h(\theta )\right]}{\tau h^{\prime }\left(T_{n}\right)} \xrightarrow {\mathcal{L}} N(0,1).

(b)

Более того, если $\tau^{2}$ — непрерывная функция $\theta$ , скажем, $\tau^{2}(\theta )$ , её можно заменить на $\tau^{2}\left(T_{n}\right)$ , получив

\sqrt{n} \frac{\left[h\left(T_{n}\right)-h(\theta )\right]}{\tau \left(T_{n}\right) h^{\prime }\left(T_{n}\right)} \xrightarrow {\mathcal{L}} N(0,1).

Задача 1.8.20

Теорема 8.16 утверждает (она начинается в многомерной постановке, но её заключение одномерно): пусть $(X_{1 \nu }, \ldots , X_{s \nu })$ , $\nu =1, \ldots , n$ , — $n$ независимых $s$ -наборов случайных величин с $\mathbb {E}\left[X_{i \nu }\right]=\xi_{i}$ и $\operatorname {cov}(X_{i \nu }, X_{j \nu })=\sigma_{i j}$ . Пусть $\bar{X}_{i}=\sum_{\nu } X_{i \nu } / n$ , и предположим, что $h$ — вещественнозначная функция от $s$ аргументов с непрерывными первыми частными производными. Тогда,

\sqrt{n}\left[h\left(\bar{X}_{1}, \ldots , \bar{X}_{s}\right)-h\left(\xi _{1}, \ldots , \xi _{s}\right)\right] \xrightarrow {\mathcal{L}} N\left(0, v^{2}\right),

где $v^{2}=\sum_{i,j} \sigma_{i j} \dfrac {\partial h}{\partial \xi_{i}} \dfrac {\partial h}{\partial \xi_{j}}$ , при условии $v^{2}>0$ .

Докажите Теорему 8.16.

?

Задача 1.8.21

(a)(b)(c)(d)

Говорят, что последовательность чисел $R_{n}$ есть $o\left(1 / k_{n}\right)$ при $n \rightarrow \infty$ , если $k_{n} R_{n} \rightarrow 0$ , и есть $O\left(1 / k_{n}\right)$ , если существуют $M$ и $n_{0}$ , такие что $\left|k_{n} R_{n}\right|<M$ для всех $n>n_{0}$ , или, что эквивалентно, если $k_{n} R_{n}$ ограничена.

?

(a)

Если $R_{n}=o\left(1 / k_{n}\right)$ , то $R_{n}=0\left(1 / k_{n}\right)$ .

(b)

$R_{n}=0(1)$ тогда и только тогда, когда $R_{n}$ ограничена.

(c)

$R_{n}=o(1)$ тогда и только тогда, когда $R_{n} \rightarrow 0$ .

(d)

Если $R_{n}$ есть $O\left(1 / k_{n}\right)$ , а $k_{n}^{\prime } / k_{n}$ стремится к конечному пределу, то $R_{n}$ есть $O\left(1 / k_{n}^{\prime }\right)$ .

Задача 1.8.22

(a)(b)

?

(a)

Если $R_{n}$ и $R_{n}^{\prime }$ оба есть $O\left(1 / k_{n}\right)$ , то и $R_{n}+R_{n}^{\prime }$ есть $O\left(1 / k_{n}\right)$ .

(b)

Если $R_{n}$ и $R_{n}^{\prime }$ оба есть $o\left(1 / k_{n}\right)$ , то и $R_{n}+R_{n}^{\prime }$ есть $o\left(1 / k_{n}\right)$ .

Задача 1.8.23

(a)(b)

Предположим, что $k_{n}^{\prime } / k_{n} \rightarrow \infty$ .

?

(a)

Если $R_{n}=0\left(1 / k_{n}\right)$ и $R_{n}^{\prime }=0\left(1 / k_{n}^{\prime }\right)$ , то $R_{n}+R_{n}^{\prime }=0\left(1 / k_{n}\right)$ .

(b)

Если $R_{n}=o\left(1 / k_{n}\right)$ и $R_{n}^{\prime }=o\left(1 / k_{n}^{\prime }\right)$ , то $R_{n}+R_{n}^{\prime }=o\left(1 / k_{n}\right)$ .

Задача 1.8.24

Последовательность случайных величин $Y_{n}$ называется ограниченной по вероятности, если для любого $\varepsilon >0$ существуют $M$ и $n_{0}$ , такие что $\mathbb {P}\left(\left|Y_{n}\right|>M\right)<\varepsilon$ для всех $n>n_{0}$ . Покажите, что если $Y_{n}$ сходится по распределению, то $Y_{n}$ ограничена по вероятности.

?

Задача 1.8.25

В обобщение обозначений $o$ и $O$ , будем говорить, что $Y_{n}=o_{p}\left(1 / k_{n}\right)$ , если $k_{n} Y_{n} \rightarrow 0$ по вероятности, и что $Y_{n}=O_{p}\left(1 / k_{n}\right)$ , если $k_{n} Y_{n}$ ограничена по вероятности. Покажите, что результаты Задач 8.21-8.23 остаются справедливыми, если $o$ и $O$ заменить на $o_{p}$ и $O_{p}$ .

?

Задача 1.8.26

(a)(b)

Пусть $(X_{n}, Y_{n})$ имеет двумерное нормальное распределение со средними $\mathbb {E}\left[X_{n}\right]=\mathbb {E}\left[Y_{n}\right]=0$ , дисперсиями $\mathbb {E}\left[X_{n}^{2}\right]=\mathbb {E}\left[Y_{n}^{2}\right]=1$ и коэффициентом корреляции $\rho_{n}$ , стремящимся к 1 при $n \rightarrow \infty$ .

?

(a)

Покажите, что $\left(X_{n}, Y_{n}\right) \xrightarrow {\mathcal{L}}(X, Y)$ , где $X$ есть $N(0,1)$ и $\mathbb {P}\left(X=Y\right)=1$ .

(b)

Если $S=\left\{ (x, y): x=y\right\}$ , покажите, что (8.25) не выполняется.

Задача 1.8.27

Теорема 8.22 утверждает: предположим, что $[\sqrt{n}(Y_{1n}-\theta_{1}), \ldots , \sqrt{n}(Y_{rn}-\theta_{r})]$ сходится по распределению к многомерному нормальному распределению с вектором средних $0$ и ковариационной матрицей $\Sigma$ , и предположим, что $h_{1}, \ldots , h_{r}$ — $r$ вещественнозначных функций от $\theta =(\theta_{1}, \ldots , \theta_{r})$ , определённых и непрерывно дифференцируемых в окрестности $\omega$ точки параметра $\theta$ и таких, что матрица $B=\left\| \partial h_{i} / \partial \theta_{j}\right\|$ частных производных невырождена в $\omega$ . Тогда $[\sqrt{n}[h_{1}(Y_{n})-h_{1}(\theta )], \ldots , \sqrt{n}[h_{r}(Y_{n})-h_{r}(\theta )]]$ сходится по распределению к многомерному нормальному распределению с вектором средних $0$ и ковариационной матрицей $B\Sigma B'$ .

Докажите Теорему 8.22. [Указание: Проведите разложение Тейлора, как в доказательстве Теоремы 8.12, и используйте Задачу 4.16.]

?

Сходимость по вероятности и по распределению