Банк задач по математике

Задача 2.1.1

(a)(b)

Проверьте

?

(a)

что (1.4) определяет вероятностное распределение, и

(b)

условие (1.5).

Задача 2.1.2

В Примере 1.5 покажите, что $a_{i}^{*}$ минимизирует (1.6) при $i=0,1$ , и упростите выражение для $a_{0}^{*}$ .

?

Задача 2.1.3

(a)(b)

Пусть $X$ принимает значения -1, 0, 1, 2, 3 с вероятностями $\mathbb {P}\left(X=-1\right)=2 p q$ и $\mathbb {P}\left(X=k\right)=p^{k} q^{3-k}$ при $k=0,1,2,3$ .

?

(a)

Проверьте, что это вероятностное распределение.

(b)

Найдите LMVU-оценку в точке $p_{0}$ для (i) $p$ и (ii) $p q$ , и для каждой определите, является ли она UMVU.

Задача 2.1.4

(a)(b)

Для выборки объёма $n$ предположим, что оценка $T(\mathbf{x})$ параметра $\tau (\theta )$ имеет математическое ожидание

\mathbb {E}\left[T(\mathbf{X})\right]=\tau (\theta )+\sum _{k=1}^{\infty } \frac{a_{k}}{n^{k}},

где $a_{k}$ может зависеть от $\theta$ , но не от $n$ .

?

(a)

Покажите, что математическое ожидание джекнайф-оценки $T_{J}$ из (1.3) равно

\mathbb {E}\left[T_{J}(\mathbf{X})\right]=\tau (\theta )-\frac{a_{2}}{n^{2}}+O\left(1 / n^{3}\right).

(b)

Покажите, что если var $T \sim c / n$ для некоторой константы $c$ , то var $T_{J} \sim c^{\prime } / n$ для некоторой константы $c^{\prime }$ . Таким образом, джекнайф уменьшает смещение, не увеличивая дисперсию.

Джекнайф второго порядка можно определить, применив джекнайф к $T_{J}$ , что приведёт к дальнейшему уменьшению смещения, но может не сохранить дисперсию того же порядка (Robson and Whitlock 1964; см. также Thorburn 1976 и Замечание 8.3).

Задача 2.1.5

(a)(b)

?

(a)

Любые две случайные величины $X$ и $Y$ с конечными вторыми моментами удовлетворяют неравенству для ковариации $[\operatorname {cov}(X, Y)]^{2} \leq \operatorname {var}(X) \cdot \operatorname {var}(Y)$ .

(b)

Неравенство из пункта (a) обращается в равенство тогда и только тогда, когда существуют константы $a$ и $b$ , для которых $\mathbb {P}\left(X=a Y+b\right)=1$ .

Задача 2.1.6

Альтернативное доказательство неравенства Шварца получается из наблюдения, что

\int (f+\lambda g)^{2} d P=\int f^{2} d P+2 \lambda \int f g d P+\lambda ^{2} \int g^{2} d P \geq 0 \text{ для всех } \lambda ,

так что этот квадратный трёхчлен относительно $\lambda$ имеет не более одного корня.

?

Задача 2.1.7

Предположим, что $X$ распределена на ( 0,1 ) с плотностью вероятности $p_{\theta }(x)=(1-\theta )+\theta / 2 \sqrt{x}$ для всех $0<x<1,0 \leq \theta \leq 1$ . Покажите, что не существует LMVU-оценки $\theta$ .

?

Задача 2.1.8

Если $\delta$ и $\delta^{\prime }$ имеют конечную дисперсию, то $\delta^{\prime }-\delta$ также имеет конечную дисперсию.

?

Задача 2.1.9

(a)(b)

В Примере 1.9,

?

(a)

найдите все несмещённые оценки нуля;

(b)

покажите, что ни одна непостоянная оценка не является UMVU.

Задача 2.1.10

Если оценки ограничены классом линейных оценок, характеризация наилучших несмещённых оценок несколько упрощается. Хотя приведённый ниже результат является следствием Теоремы 1.7, его следует установить, не используя эту теорему.

Пусть $\mathbf{X}_{p \times 1}$ удовлетворяет $\mathbb {E}\left[\mathbf{X}\right]=B \psi$ и $\operatorname {var}(\mathbf{X})=I$ , где $B_{p \times r}$ известна, а $\psi_{r \times 1}$ неизвестен. Линейная оценка — это оценка вида $a^{\prime } \mathbf{X}$ , где $a_{p \times 1}$ — известный вектор. Мы рассматриваем класс оценок

\mathcal{D}=\left\{ \delta (\mathbf{x}): \delta (\mathbf{x})=a^{\prime } \mathbf{x}, \text{ для некоторого известного вектора } a\right\} .

?

(a)

Для известного вектора $c$ покажите, что оценки из $\mathcal{D}$ , являющиеся несмещёнными оценками $c^{\prime } \psi$ , удовлетворяют $a^{\prime } B=c^{\prime }$ .

(b)

Пусть $\mathcal{D}_{c}=\left\{ \delta (\mathbf{x}): \delta (\mathbf{x})=a^{\prime } \mathbf{x}, a^{\prime } B=c^{\prime }\right\}$ — класс линейных несмещённых оценок $c^{\prime } \psi$ . Покажите, что наилучшая линейная несмещённая оценка (BLUE) величины $c^{\prime } \psi$ , то есть линейная несмещённая оценка с минимальной дисперсией, есть $\delta^{*}(\mathbf{x})=a^{* \prime } \mathbf{x}$ , где $a^{* \prime }=a^{\prime } B\left(B^{\prime } B\right)^{-1} B^{\prime }$ и $a^{* \prime } B=c$ , с дисперсией $\operatorname {var}\left(\delta^{*}\right)=c^{\prime } c$ .

(c)

Пусть $\mathcal{D}_{0}=\left\{ \delta (\mathbf{x}): \delta (\mathbf{x})=a^{\prime } \mathbf{x}, a^{\prime } B=0.\right\}$ — класс линейных несмещённых оценок нуля. Покажите, что если $\delta \in \mathcal{D}_{0}$ , то $\operatorname {cov}\left(\delta , \delta^{*}\right)=0$ .

(d)

Следовательно, установите аналог Теоремы 1.7 для линейных оценок: Теорема. Оценка $\delta^{*} \in \mathcal{D}_{c}$ удовлетворяет $\operatorname {var}\left(\delta^{*}\right)=\min_{\delta \in \mathcal{D}_{c}} \operatorname {var}(\delta )$ тогда и только тогда, когда $\operatorname {cov}\left(\delta^{*}, U\right)=0$ , где $U$ — произвольная оценка из $\mathcal{D}_{0}$ .

(e)

Покажите, что полученные здесь результаты можно непосредственно распространить на случай $\operatorname {var}(\mathbf{X})=\Sigma$ , где $\Sigma_{p \times p}$ — известная матрица, рассмотрев преобразованную задачу с $\mathbf{X}^{*}=\Sigma^{1 / 2} \mathbf{X}$ и $B^{*}=\Sigma^{1 / 2} B$ .

Задача 2.1.11

(a)(b)(c)(d)

Используя Теорему 1.7, найдите UMVU-оценки некоторых $\eta_{\theta }\left(d_{i}\right)$ в модели «доза-эффект» (1.6.16) с ограничением (1.6.17) (Messig and Strawderman 1993). Пусть классы $\Delta$ и $\mathcal{U}$ определены так же, как в Теореме 1.7.

?

(a)

Покажите, что оценка $U \in \mathcal{U}$ тогда и только тогда, когда $U\left(x_{1}, x_{2}\right)=a\left[I\left(x_{1}=0\right)-I\left(x_{2}=0\right)\right]$ для произвольной константы $a<\infty$ .

(b)

Используя пункт (a) и (1.7), покажите, что оценка $\delta$ является UMVU для своего математического ожидания, только если она имеет вид $\delta \left(x_{1}, x_{2}\right)=a I_{(0,0)}\left(x_{1}, x_{2}\right)+b I_{(0,1),(1,0),(2,0)}\left(x_{1}, x_{2}\right)+c I_{(1,1)}\left(x_{1}, x_{2}\right)+ d I_{(2,1)}\left(x_{1}, x_{2}\right)$ , где $a, b, c$ и $d$ — произвольные константы.

(c)

Покажите, что UMVU-оценки $\eta_{\theta }\left(d_{1}\right)=1-e^{-\theta }$ не существует, но UMVU-оценкой $\eta_{\theta }\left(d_{2}\right)=1-e^{-2 \theta }$ является $\delta \left(x_{1}, x_{2}\right)=1-\frac{1}{2}\left[I\left(x_{1}=0\right)+I\left(x_{2}=0\right)\right]$ .

(d)

Покажите, что LMVU-оценкой $1-e^{-\theta }$ является $\delta \left(x_{1}, x_{2}\right)=\frac{x_{1}}{2}+\frac{1}{2\left(1+e^{-\theta }\right)}\left[I\left(x_{1}=0\right)-I\left(x_{2}=0\right)\right]$ .

Задача 2.1.12

Покажите, что если $\delta (X)$ — UMVU-оценка $g(\theta )$ , то она является единственной UMVU-оценкой $g(\theta )$ . (Не предполагайте полноту, а вместо этого используйте неравенство для ковариации и условия, при которых оно обращается в равенство.)

?

Задача 2.1.13

Если $\delta_{1}$ и $\delta_{2}$ принадлежат $\Delta$ и являются UMVU-оценками $g_{1}(\theta )$ и $g_{2}(\theta )$ соответственно, то $a_{1} \delta_{1}+a_{2} \delta_{2}$ также принадлежит $\Delta$ и является UMVU-оценкой для $a_{1} g_{1}(\theta )+a_{2} g_{2}(\theta )$ при любых вещественных $a_{1}$ и $a_{2}$ .

?

Задача 2.1.14

Полнота $T$ не только достаточна, но и необходима для того, чтобы каждая функция $g(\theta )$ , допускающая несмещённую оценку, имела единственную несмещённую оценку, являющуюся функцией от $T$ .

?

Задача 2.1.15

(a)(b)

Пусть $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины, имеющие распределение Пуассона $(\lambda )$ .

?

(a)

Покажите, что $\bar{X}$ — UMVU-оценка для $\lambda$ .

(b)

Для $S^{2}=\sum_{i=1}^{n}\left(X_{i}-\bar{X}\right)^{2} /(n-1)$ имеем $\mathbb {E}\left[S^{2}\right]=\mathbb {E}\left[\bar{X}\right]=\lambda$ . Чтобы напрямую установить, что var $S^{2}>$ var $\bar{X}$ , докажите, что $\mathbb {E}\left[S^{2} \mid \bar{X}\right]=\bar{X}$ .

Замечание: Тождество $\mathbb {E}\left[S^{2} \mid \bar{X}\right]=\bar{X}$ показывает, как полноту можно использовать при вычислении условных математических ожиданий.

Задача 2.1.16

(a)(b)

?

(a)

Если $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины (не обязательно нормальные) с $\operatorname {var}\left(X_{i}\right)=\sigma^{2}<\infty$ , покажите, что $\delta =\Sigma \left(X_{i}-\bar{X}\right)^{2} /(n-1)$ является несмещённой оценкой $\sigma^{2}$ .

(b)

Если $X_{i}$ принимают значения 1 и 0 с вероятностями $p$ и $q=1-p$ , то оценка $\delta$ из пункта (a) зависит только от $T=\Sigma X_{i}$ и, следовательно, является UMVU-оценкой для $\sigma^{2}=p q$ . Сравните этот результат с результатом Примера 1.13.

Задача 2.1.17

Если $T$ имеет биномиальное распределение $b(p, n)$ с $n>3$ , используйте Метод 1, чтобы найти UMVU-оценку $p^{3}$ .

?

Задача 2.1.18

(a)(b)

Пусть $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые случайные величины, имеющие распределение Пуассона $P(\lambda )$ . Используйте Метод 1, чтобы найти UMVU-оценку

?

(a)

$\lambda^{k}$ для произвольного положительного целого $k$ и

(b)

$e^{-\lambda }$ .

Задача 2.1.19

Пусть $X_{1}, \ldots , X_{n}$ распределены так же, как в Примере 1.14. Используйте Метод 1, чтобы найти UMVU-оценку $\theta^{k}$ для произвольного целого $k>-n$ .

?

Задача 2.1.20

Решите Задачу 1.18(b) с помощью Метода 2, используя тот факт, что несмещённой оценкой $e^{-\lambda }$ является $\delta =1$ , если $X_{1}=0$ , и $\delta =0$ в противном случае.

?

Задача 2.1.21

В $n$ испытаниях Бернулли пусть $X_{i}=1$ или 0 в зависимости от того, является ли $i$ -е испытание успехом или неудачей, и пусть $T=\Sigma X_{i}$ . Решите Задачу 1.17 с помощью Метода 2, используя тот факт, что несмещённой оценкой $p^{3}$ является $\delta =1$ , если $X_{1}=X_{2}=X_{3}=1$ , и $\delta =0$ в противном случае.

?

Задача 2.1.22

(a)(b)

Пусть $X$ принимает значения 1 и 0 с вероятностями $p$ и $q$ соответственно, и предположим, что $1 / 4<p<3 / 4$ . Рассмотрим задачу оценивания $p$ с функцией потерь $L(p, d)=$ 1, если $\left|d-p\right| \geq 1 / 4$ , и 0 в противном случае. Пусть $\delta^{*}$ — рандомизированная оценка, равная $Y_{0}$ или $Y_{1}$ при $X=0$ или 1, где $Y_{0}$ и $Y_{1}$ распределены как $U(-1 / 2,1 / 2)$ и $U(1 / 2,3 / 2)$ соответственно.

?

(a)

Покажите, что $\delta^{*}$ несмещённа.

(b)

Сравните функцию риска $\delta^{*}$ с функцией риска $X$ .

Равномерно минимальные по дисперсии несмещённые оценки (UMVU)