Банк задач по математике

Задача 4.2.1

(a)(b)

Обращаясь к Примеру 1.5, предположим, что $X$ имеет биномиальное распределение $b(p, n)$ , а семейство априорных распределений для $p$ является семейством бета-распределений $B(a, b)$ .

?

(a)

Покажите, что маргинальное распределение $X$ является бета-биномиальным распределением с функцией вероятности

\binom {n}{x} \frac{\Gamma (a+b)}{\Gamma (a) \Gamma (b)} \frac{\Gamma (x+a) \Gamma (n-x+b)}{\Gamma (n+a+b)}.

(b)

Покажите, что среднее и дисперсия бета-биномиального распределения задаются формулами

\mathbb {E}\left[X\right]=\frac{n a}{a+b} \quad \text{ и } \quad \text{ var } X=n\left(\frac{a}{a+b}\right)\left(\frac{b}{a+b}\right)\left(\frac{a+b+n}{a+b+1}\right).

[Указание: Для пункта (b) полезны тождества $\mathbb {E}\left[X\right]=E[\mathbb {E}\left[X \mid p\right]]$ и $\operatorname {var} X=\operatorname {var}[\mathbb {E}\left[X \mid p\right]]+ E[\operatorname {var}(X \mid p)]$ .]

Задача 4.2.2

(a)(b)(c)

Для ситуации Примера 2.1, Lindley и Phillips (1976) приводят подробное описание влияния правил остановки, которое мы можем проиллюстрировать следующим образом. Пусть $X$ — число успехов в $n$ испытаниях Бернулли с вероятностью успеха $p$ .

?

(a)

Предположим, что число проведённых испытаний Бернулли является заранее заданным числом $n$ , так что мы имеем биномиальную модель выборки, $\mathbb {P}\left(X=x\right)=\binom {n}{x} p^{x}(1-p)^{n-x}$ , $x=0,1, \ldots , n$ . Вычислите байесовский риск байесовской оценки (1.1.12) и UMVU-оценки $p$ .

(b)

Предположим, что число проведённых испытаний Бернулли является случайной величиной $N$ . Значение $N=n$ было получено, когда было замечено заранее заданное число $x$ успехов, так что мы имеем модель отрицательной биномиальной выборки, $\mathbb {P}\left(N=n\right)=\binom {n-1}{x-1} p^{x}(1- p)^{n-x}$ , $n=x$ . Вычислите байесовский риск байесовской оценки и UMVU-оценки $p$ .

(c)

Вычислите среднеквадратичные ошибки всех трёх оценок для каждой модели. Если неизвестно, какой механизм выборки породил данные, какую оценку вы предпочтёте в целом?

Задача 4.2.3

(a)(b)(c)

Покажите, что оценка (2.2.4) сходится по вероятности

?

(a)

к $\theta$ при $n \rightarrow \infty$ ,

(b)

к $\mu$ при $b \rightarrow 0$ , и

(c)

к $\theta$ при $b \rightarrow \infty$ .

Задача 4.2.4

(a)(b)(c)

Bickel и Mallows (1988) более подробно исследуют связь между несмещённостью и байесовским подходом, указывая условия, при которых эти свойства не могут выполняться одновременно. Кроме того, они показывают, что если априорное распределение несобственно, то апостериорное среднее может быть несмещённым. Пусть $X \sim \frac{1}{\theta } f(x / \theta ), x>0$ , где $\int_{0}^{\infty } t f(t) d t=1$ , и пусть $\pi (\theta )=\frac{1}{\theta^{2}} d \theta$ , $\theta >0$ .

?

(a)

Покажите, что $\mathbb {E}\left[X \mid \theta \right]=\theta$ , так что $X$ несмещена.

(b)

Покажите, что $\pi (\theta \mid x)=\frac{x^{2}}{\theta^{3}} f(x / \theta )$ является собственной плотностью.

(c)

Покажите, что $\mathbb {E}\left[\theta \mid x\right]=x$ , и, следовательно, апостериорное среднее несмещено.

Задача 4.2.5

DasGupta (1994) приводит тождество, связывающее байесовский риск со смещением, которое иллюстрирует, что небольшое смещение может помочь достичь малого байесовского риска. Пусть $X \sim f(x \mid \theta )$ и $\theta \sim \pi (\theta )$ . Байесовская оценка при квадратичной функции потерь равна $\delta^{\pi }=\mathbb {E}\left[\theta \mid x\right]$ . Покажите, что байесовский риск $\delta^{\pi }$ может быть записан как

r\left(\pi , \delta ^{\pi }\right)=\int _{\Theta } \int _{\mathcal{X}}\left[\theta -\delta ^{\pi }(x)\right]^{2} f(x \mid \theta ) \pi (\theta ) d x d \theta =\int _{\Theta } \theta b(\theta ) \pi (\theta ) d \theta

где $b(\theta )=\mathbb {E}\left[\delta^{\pi }(X) \mid \theta \right]-\theta$ — смещение $\delta^{\pi }$ .

?

Задача 4.2.6

Проверьте оценку (2.2.10).

?

Задача 4.2.7

В Примере 2.6 проверьте, что апостериорное распределение $\tau$ есть $\Gamma (r+g-1 / 2,1 /(\alpha +z))$ .

?

Задача 4.2.8

В Примере 2.6 при $\alpha =g=0$ покажите, что апостериорное распределение $\sqrt{n}(\theta -\bar{X}) / \sqrt{Z /(n-1)}$ при заданных $X$ является $t$ -распределением Стьюдента с $n-1$ степенями свободы.

?

Задача 4.2.9

В Примере 2.6 покажите, что апостериорное распределение $\theta$ симметрично относительно $\bar{x}$ , когда совместное априорное распределение $\theta$ и $\sigma$ имеет вид $h(\sigma ) d \sigma d \theta$ , где $h$ — произвольная плотность вероятности на $(0, \infty )$ .

?

Задача 4.2.10

Rukhin (1978) исследует ситуацию, когда байесовская оценка одна и та же для каждой функции потерь из некоторого множества функций потерь, называя такие оценки универсальными байесовскими оценками. Для случая Примера 2.6, используя априорное распределение вида, указанного в Задаче 2.9, покажите, что $\bar{X}$ является байесовской оценкой при любой чётной функции потерь.

?

Задача 4.2.11

(a)(b)

Пусть $X$ и $Y$ независимо распределены согласно распределениям $P_{\xi }$ и $Q_{\eta }$ соответственно. Предположим, что $\xi$ и $\eta$ являются вещественнозначными и независимы согласно некоторым априорным распределениям $\Lambda$ и $\Lambda^{\prime }$ . Если при квадратичной функции потерь $\delta_{\Lambda }$ — байесовская оценка $\xi$ на основе $X$ , а $\delta_{\Lambda^{\prime }}^{\prime }$ — байесовская оценка $\eta$ на основе $Y$ ,

?

(a)

покажите, что $\delta_{\Lambda^{\prime }}^{\prime }-\delta_{\Lambda }$ является байесовской оценкой $\eta -\xi$ на основе $(X, Y)$ ;

(b)

если $\eta >0$ и $\delta_{\Lambda^{\prime }}^{*}$ — байесовская оценка $1 / \eta$ на основе $Y$ , покажите, что $\delta_{\Lambda } \cdot \delta_{\Lambda^{\prime }}^{*}$ является байесовской оценкой $\xi / \eta$ на основе $(X, Y)$ .

Задача 4.2.12

Для плотности (2.2.13) и несобственного априорного распределения $(d \sigma / \sigma ) \cdot \left(d \sigma_{A} / \sigma_{A}\right)$ покажите, что апостериорное распределение $\left(\sigma , \sigma_{A}\right)$ остаётся несобственным.

?

Задача 4.2.13

(a)(b)

?

(a)

В Примере 2.7 получите априорное распределение Джеффриса для $(\sigma , \tau )$ .

(b)

Покажите, что для априорного распределения из пункта (a) апостериорное распределение $(\sigma , \tau )$ является собственным.

Задача 4.2.14

Проверьте байесовскую оценку (2.2.14).

?

Задача 4.2.15

(a)(b)(c)

Пусть $X \sim N(\theta , 1)$ и $L(\theta , \delta )=(\theta -\delta )^{2}$ .

?

(a)

Покажите, что $X$ является пределом байесовских оценок $\delta^{\pi_{n}}$ , где $\pi_{n}$ есть $N(0,1)$ . Следовательно, $X$ является одновременно обобщённой байесовской оценкой и пределом байесовских оценок.

(b)

Для априорной меры $\pi (\theta )=e^{a \theta }, a>0$ , покажите, что обобщённая байесовская оценка равна $X+a$ .

(c)

Для $a>0$ покажите, что не существует последовательности собственных априорных распределений, для которой $\delta^{\pi_{n}} \rightarrow X+a$ .

Этот пример принадлежит Farrell; см. Kiefer 1966. Heath и Sudderth (1989), опираясь на работу Stone (1976), показали, что выводы из этой модели некогерентны, и установили, когда обобщённые байесовские оценки приводят к когерентным (то есть непротиворечивым) выводам. Их работа связана с теорией «аппроксимируемости собственными априорными распределениями», развитой Stein (1965) и Stone (1965, 1970, 1976), которая показывает, когда обобщённые байесовские оценки можно рассматривать как байесовские оценки.

Задача 4.2.16

(a)(b)

?

(a)

Для ситуации Примера 2.8 проверьте, что $\delta (x)=x / n$ является обобщённой байесовской оценкой.

(b)

Если $X \sim N(0,1)$ и $L(\theta , \delta )=(\theta -\delta )^{2}$ , покажите, что $X$ является обобщённой байесовской оценкой при несобственном априорном распределении $\pi (\theta )=1$ .

Первые примеры