Бутстреп

Предположим, что $\left\{ X_{n}\right\}_{n \geq 1}$ — последовательность н.о.р. случайных величин с $\mathbb {E}\left[X_{1}^{2} \right] < \infty$. Пусть $\tilde{R}_{n} = \sqrt{n}\left(\bar{X}_{n}-\mu \right) / \sigma$ и $\tilde{R}_{m, n}^{*} = \sqrt{n}\left(\bar{X}_{m}^{*}-\bar{X}_{n}\right) / s_{n}$ такие, как в (1.4). Покажите, что для любой последовательности $m_{n} \rightarrow \infty$,

Предположим, что $\left\{ X_{n}\right\}_{n \geq 1}$ — последовательность н.о.р. случайных величин с $\mu = \mathbb {E}\left[X_{1}\right], \sigma^{2} = \operatorname {Var}\left[X_{1}\right] \in (0, \infty )$. Пусть $\hat{F}_{n}$ — оценка $F$ такая, что $\hat{\mu }_{n} = \int x d \hat{F}_{n}(x) \in \mathbb {R}$ и $\hat{\sigma }_{n}^{2} = \int x^{2} d \hat{F}_{n}(x)-\left(\hat{\mu }_{n}\right)^{2} \in (0, \infty )$. Пусть $R_{n} = \sqrt{n}\left(\bar{X}_{n}-\mu \right) / \sigma$ и $T_{n} = \sqrt{n}\left(\bar{X}_{n}-\mu \right)$, и пусть $R_{n, n}^{*}$ и $T_{n}^{*} = \sqrt{n}\left(\bar{X}_{n}^{*}-\hat{\mu }_{n}\right)$ — бутстреп-версии $R_{n}$ и $T_{n}$ соответственно, основанные на повторной выборке размера $m = n$ из $\hat{F}_{n}$.

Покажите, что при условиях теоремы 17.1.3 выполняется (1.15).

Пусть $\left\{ X_{n}\right\}_{n > 1}$ — последовательность н.о.р. случайных величин с $X_{1} \sim \mathscr {N}\left(\theta , 1\right), \theta \in \mathbb {R}$. Для $n \geq 1$ пусть $\hat{\theta }_{n} = F_{n}^{-1}(1 / 2)$ — выборочная медиана $X_{1}, \ldots , X_{n}, \bar{X}_{n} = n^{-1} \sum_{i = 1}^{n} X_{i}$ — выборочное среднее $X_{1}, \ldots , X_{n}$, и $Y_{n}^{2} = \max \left\{ 1, n^{-1} \sum_{i = 1}^{n}\left(X_{i}-\bar{X}_{n}\right)^{2}\right\}$, где $F_{n}$ — эмпирическая функция распределения $X_{1}, \ldots , X_{n}$. Предположим, что $X_{1}^{*}, \ldots , X_{n}^{*}$ (условно) н.о.р. с $X_{1}^{*} \sim N\left(\hat{\theta }_{n}, Y_{n}^{2}\right)$, и пусть $\bar{X}_{n}^{*} = n^{-1} \sum_{i = 1}^{n} X_{i}^{*}$ — (параметрическое) бутстреп-выборочное среднее. Определим $T_{n} = \sqrt{n}\left(\bar{X}_{n}-\theta \right), T_{n}^{*} = \sqrt{n}\left(\bar{X}_{n}^{*}-\hat{\theta }_{n}\right)$ и $\quad T_{n}^{* *} = \sqrt{n}\left(\bar{X}_{n}^{*}-\bar{X}_{n}\right)$.

Пусть $\left\{ X_{n}\right\}_{n \geq 1}$ — последовательность н.о.р. случайных величин с $\mathbb {E}\left[X_{1}\right] = \mu$, $\operatorname {Var}\left[X_{1}\right] = \sigma^{2} \in (0, \infty )$ и $\mathbb {E}\left[\left|X_{1}\right|^{4}\right]< \infty$. Пусть $X_{1}^{*}, \ldots , X_{n}^{*}$ обозначают непараметрическую бутстреп-выборку, извлечённую случайно с возвращением из $X_{1}, \ldots , X_{n}$, и $\bar{X}_{n}^{*} = n^{-1} \sum_{i = 1}^{n} X_{i}^{*}$. Пусть

Покажите, что существует константа $K \in (0, \infty )$ такая, что

Найдите K. (Это показывает, что бутстреп-приближение для $T_{n}$ менее точно, чем для нормированного выборочного среднего.)

Пусть $R_{m, n}^{*}$ — бутстреп-версия случайной величины $R_{n}, n \geq 1$, и пусть $R_{n} \longrightarrow { }^{d} R_{\infty }$, где $R_{\infty }$ имеет непрерывное распределение на $\mathbb {R}$. Пусть $\hat{\phi }_{m, n}(t) = \mathbb {E}_{*}\left[\exp \left(\iota t R_{m, n}^{*}\right)\right]$ и $\phi_{n}(t) = \mathbb {E}\left[\exp \left(\iota t R_{n}\right)\right], 1 \leq n \leq \infty$.

Проверьте (1.45) в доказательстве теоремы 17.1.4.

(Athreya (1987a)). Пусть $\left\{ X_{n}\right\}_{n \geq 1}$ — последовательность н.о.р. случайных величин, удовлетворяющих (1.21), и пусть $T_{n}$ такая же, как в (1.23). Пусть $X_{1}^{*}, \ldots , X_{n}^{*}$ — условно н.о.р. случайные величины с функцией распределения $F_{n}$ из (1.1). Определим альтернативную бутстреп-версию $T_{n}$ как

где $\bar{X}_{n}^{*} = n^{-1} \sum_{i = 1}^{n} X_{i}^{*}, \quad \bar{X}_{n} = n^{-1} \sum_{i = 1}^{n} X_{i}$ и $X_{(n)} = \max \left\{ X_{1}, \ldots , X_{n}\right\}$. (Здесь масштабирующие константы $a_{n}$ заменяются бутстреп-аналогом (1.26), т.е. $n\left(1-F_{n}\left(\hat{a}_{n}\right)\right) \rightarrow 1$, что даёт $\hat{a}_{n} = X_{(n)}$.) Пусть

Покажите, что $\tilde{\phi }_{n}(t)$ сходится по распределению к случайному пределу при $n \rightarrow \infty$. Определите предел.

Предположим, что $\left\{ X_{n}\right\}_{n \geq 1}$ удовлетворяет условиям теоремы 17.1.4 и что $T_{m, n}^{*}$ такая же, как в (1.27). Покажите, что для любых $t_{1}, \ldots , t_{k} \in \mathbb {R}, k \in \mathbb {N}$,

где $\hat{\phi }_{n}(t) \equiv \mathbb {E}_{*}\left[\exp \left(\iota t T_{n, n}^{*}\right)\right], t \in \mathbb {R}$.

Покажите, что (4.17) и (4.18) эквивалентны.

Пусть $\left\{ X_{i}\right\}_{i \in \mathbb {Z}}$ — последовательность стационарных случайных величин. Пусть $T_{N} = \sqrt{n}\left(\bar{X}_{n}-\mu \right)$ и $T_{n}^{*} = \sqrt{n}\left(\bar{X}_{n}^{*}-\hat{\mu }_{n}\right)$, где $\bar{X}_{n}^{*}$ — выборочное среднее по методу MBB (бутстреп подвижных блоков), основанное на блоках длины $\ell$, где $\ell^{-1}+n^{-1} \ell = o(1)$ при $n \rightarrow \infty$. Предположим, что $X_{1}$ имеет конечные моменты всех порядков и что $\left\{ X_{i}\right\}$ $m$-зависима для $m \in \mathbb {Z}_{+}$. Предположим, что теорема Берри-Эссеена выполняется для $\bar{X}_{n}$.

Предположим, что $\left\{ X_{i}\right\}_{i \in \mathbb {Z}}, \bar{X}_{n}^{*}, \ell$ и т.д. такие же, как в задаче 17.13. Пусть $\bar{R}_{n} = \sqrt{n}\left(\bar{X}_{n}-\mu \right) / \sigma_{n}$ и $R_{n}^{* *} = \sqrt{n}\left(\bar{X}_{n}^{*}-\bar{X}_{n}\right) / \hat{\sigma }_{n}(\ell )$, где $\sigma_{n}^{2} = n \operatorname {Var}\left[\bar{X}_{n}\right]$ и $\hat{\sigma }_{n}^{2}(\ell ) = n \operatorname {Var}_{*}\left[\bar{X}_{n}^{*}\right]$.

Пусть $\left\{ X_{i}\right\}_{i \in \mathbb {Z}}, \bar{X}_{n}^{*}, \ell$ такие же, как в задаче 17.13.

Пусть $\left\{ X_{i}\right\}_{i \in \mathbb {Z}}, T_{n}, T_{n}^{*}, \ell$ такие же, как в задаче 17.13. Для $\alpha \in (0,1)$ пусть $t_{\alpha , n} = \alpha$-квантиль $T_{n} = \inf \left\{ x: x \in \mathbb {R}, \mathbb {P}\left(T_{n} \leq x\right) \geq \alpha \right\}$, и пусть $\hat{t}_{\alpha , n}(\ell )$ — $\alpha$-квантиль $T_{n}^{*} = \inf \left\{ x: x \in \mathbb {R}, \mathbb {P}_{*}\left(T_{n}^{*} \leq x\right) \geq \alpha \right\}$.