Допустимость и минимаксность в экспоненциальных семействах

Лемма 2.1 была расширена Berger (1990a) для случая, когда оцениваемая функция не обязана быть ограничена конечным интервалом, а вместо этого достигает максимума или минимума в конечной точке параметра.

Лемма 8.1. Пусть оцениваемая функция $g(\theta )$ непостоянна и достигает глобального максимума или минимума в точке $\theta^{*} \in \Omega$, для которой $f\left(x \mid \theta^{*}\right)>0$ п.в. (относительно доминирующей меры $\mu$), и пусть функция потерь $L(\theta , d)$ удовлетворяет предположениям Леммы 2.1. Тогда любая оценка $\delta$, принимающая значения выше максимума $g(\theta )$ или ниже минимума, недопустима.

Определите байесовский риск оценки (2.4), когда $\theta$ имеет априорное распределение $N\left(\mu , \tau^{2}\right)$.

Докажите утверждение (d) во втором доказательстве Примера 2.8: что существует последовательность значений $\theta_{i} \rightarrow -\infty$, для которой $b^{\prime }\left(\theta_{i}\right) \rightarrow 0$.

Покажите, что оценка $a X+b(0 \leq a \leq 1)$ величины $\mathbb {E}_{\theta }\left[X\right]$ недопустима (при квадратичной функции потерь) при каждом из следующих условий:

Покажите, что оценка $[1 /(1+\lambda )+\varepsilon ] X$ величины $\mathbb {E}_{\theta }\left[X\right]$ недопустима (при квадратичной функции потерь) при каждом из следующих условий:

Покажите, что если $\operatorname {var}_{\theta }(X) / E_{\theta }^{2}(X)>\lambda >0$, то оценка $[1 /(1+\lambda )+\varepsilon ] X+b$ недопустима (при квадратичной функции потерь) при каждом из следующих условий:

Brown (1986a) указывает на связь между информационным неравенством и несмещённой оценкой риска оценок стейновского типа.

Функция плотности $f(x \mid \theta )$ называется понижающей вариацию порядка $n+1\left(V R_{n+1}\right)$, если для любой функции $g(x)$ с $k(k \leq n)$ переменами знака (без учёта нулей) математическое ожидание $\mathbb {E}_{\theta }\left[g(X)\right]= \int g(x) f(x \mid \theta ) d x$ имеет не более $k$ перемен знака. Если $\mathbb {E}_{\theta }\left[g(X)\right]$ имеет ровно $k$ перемен знака, они происходят в том же порядке. Покажите, что $f(x \mid \theta )$ обладает свойством $V R_{2}$ тогда и только тогда, когда она имеет монотонное отношение правдоподобия. (См. TSH2, Лемма 2, Раздел 3.3, для доказательства импликации «если».) Brown и др. (1981) дают подробное введение в эту тему, включая характеризации $V R$ для многих семейств распределений (экспоненциальное семейство обладает свойством $V R_{\infty }$, как и $\chi_{v}^{2}$ с параметром $\nu$, и нецентральное $\chi_{\nu }^{2}(\lambda )$ по параметру $\lambda$). Существует эквивалентность между $V R_{n}$ и $T P_{n}$ — полной положительностью порядка $n$ по Karlin (1968), а именно $V R_{n}=T P_{n}$.

Для ситуации из Примера 2.9 покажите, что:

Для ситуации из Примера 2.10 покажите, что:

Предположим, что $X$ имеет распределение $F_{\xi }$, а $Y$ имеет распределение $G_{\eta }$, где $\xi$ и $\eta$ изменяются независимо. Если известно, что $\eta =\eta_{0}$, то любая оценка $\delta (X, Y)$ может быть улучшена с помощью

В Примере 2.13 докажите, что оценка $a Y+b$ недопустима при $a>1 /(r+1)$.

Пусть $X_{1}, \ldots , X_{n}$ независимые одинаково распределённые случайные величины с плотностью $N\left(0, \sigma^{2}\right)$, и пусть $S^{2}=\sum X_{i}^{2}$. Нас интересует оценивание $\sigma^{2}$ при квадратичной функции потерь с помощью линейных оценок $c S^{2}+d$, где $c$ и $d$ — константы. Покажите, что:

Для ситуации из Примера 2.15 пусть $Z=\bar{X} / S$.

Покажите эквивалентность следующих соотношений:

В Примере 2.17 покажите, что оценка $a X / n+b$ недопустима для всех $(a, b)$ вне треугольника (2.39).

Докажите допустимость оценок, соответствующих внутренности треугольника (2.39), применив Теорему 2.4 и используя результаты Примера 4.1.5.

Используя Теорему 2.14, приведите альтернативное доказательство допустимости оценки $a \bar{X}+b$, удовлетворяющей (2.6), в Примере 2.5.

Определите, какие оценки $a X+b$ допустимы для оценивания $\mathbb {E}\left[X\right]$ при квадратичной функции потерь в следующих ситуациях:

Пусть $X$ имеет распределение $\operatorname {Poisson}(\lambda )$, и рассмотрим оценивание $\lambda$ при функции потерь $(d-\lambda )^{2} / \lambda$ с ограничением $0 \leq \lambda \leq m$, где $m$ известно.

Покажите, что условия (2.41) и (2.42) из Примера 2.22 являются не только достаточными, но и необходимыми для допустимости (2.40).

Пусть $X$ и $Y$ независимо распределены по закону Пуассона с $\mathbb {E}\left[X\right]=\xi$ и $\mathbb {E}\left[Y\right]=\eta$ соответственно. Покажите, что $a X+b Y+c$ допустима для оценивания $\xi$ при квадратичной функции потерь тогда и только тогда, когда либо $0 \leq a<1, b \geq 0, c \geq 0$, либо $a=1, b=c=0$ (Makani 1972).

Пусть $X$ имеет плотность $\frac{1}{2} \beta (\theta ) e^{\theta x} e^{-\left|x\right|},\left|\theta \right|<1$.

Пусть $X$ распределена как $N(\theta , 1)$, и пусть $\theta$ имеет несобственную априорную плотность $\pi (\theta )=e^{\theta }$ $(-\infty <\theta <\infty )$. При квадратичной функции потерь формальная байесовская оценка $\theta$ равна $X+1$, и она не является ни минимаксной, ни допустимой. (См. также Задачу 2.15.) Условия, при которых формальная байесовская оценка, соответствующая несобственному априорному распределению для $\theta$ в Примере 3.4, является допустимой, даны в Zidek (1970).

Покажите, что естественное параметрическое пространство семейства (2.16) есть $(-\infty , \infty )$ для нормального (с известной дисперсией), биномиального распределений и распределения Пуассона, но не в случае гамма-распределения или отрицательного биномиального распределения.