Обобщения

Рассмотрим $r$ независимых выборок с индексом $\alpha =1,\ldots ,r$ объёмов $n_\alpha$, таких что при стремлении общего объёма выборки $N=\sum_\alpha n_\alpha \to \infty$ имеем $n_\alpha /N \to \lambda_\alpha$, где $\sum_\alpha \lambda_\alpha =1$ и каждое $\lambda_\alpha >0$.

Теорема 7.1 утверждает: предположим, что предположения Теоремы 5.1 выполнены для каждой из плотностей $f_{\alpha ,\theta }$. Пусть $I^{(\alpha )}(\theta )$ обозначает информационную матрицу, соответствующую $f_{\alpha ,\theta }$, и пусть $I(\theta )=\sum_\alpha \lambda_\alpha I^{(\alpha )}(\theta )$. Логарифм правдоподобия $l(\theta )$ задаётся формулой $l(\theta )=\sum_{\alpha =1}^{r}\sum_{j=1}^{n_\alpha } \log f_{\alpha ,\theta }(x_{\alpha j})$, а уравнения правдоподобия — $\dfrac {\partial }{\partial \theta_j} l(\theta )=0$ $(j=1,\ldots ,s)$. При этих обозначениях выводы Теоремы 5.1 остаются в силе.

Докажите Теорему 7.1.

Для ситуации Примера 7.3 при $m=n$:

В Примере 7.4 определите совместное распределение

Рассмотрим выборки $\left(X_{1}, Y_{1}\right), \ldots ,\left(X_{m}, Y_{m}\right)$ и $\left(X_{1}^{\prime }, Y_{1}^{\prime }\right), \ldots ,\left(X_{n}^{\prime }, Y_{n}^{\prime }\right)$ из двух двумерных нормальных распределений с нулевыми средними и дисперсиями-ковариациями $\left(\sigma^{2}, \tau^{2}, \rho \sigma \tau \right)$ и $\left(\sigma^{\prime 2}, \tau^{\prime 2}, \rho^{\prime } \sigma^{\prime } \tau^{\prime }\right)$ соответственно. Используя Теорему 7.1 и Примеры 6.5 и 6.8, найдите предельное распределение

В предыдущей задаче найдите выигрыш в эффективности (если он есть)

Покажите, что уравнения правдоподобия (7.11) имеют не более одного решения.

В Примере 7.6 предположим, что $p_{i}=1-F\left(\alpha +\beta t_{i}\right)$ и что $\log F(x)$ и $\log [1- F(x)]$ строго вогнуты. Тогда уравнения правдоподобия имеют не более одного решения.

В Примере 7.7 покажите, что $Y_{n}$ менее информативна, чем $Y$.

Покажите, что оценка $\delta_{n}$ из Примера 7.7 удовлетворяет (7.14).

Найдите подходящие нормирующие константы для $\delta_{n}$ из Примера 7.7, когда

Пусть $X_{i}(i=1, \ldots , n)$ независимы, нормальны, с дисперсией 1 и средним $\beta t_{i}$ (где $t_{i}$ известны). Обсудите оценивание $\beta$ по аналогии с Примером 7.7.

Обобщите предыдущую задачу на ситуацию, в которой

Пусть $X_{j}(j=1, \ldots , n)$ независимо распределены с плотностями $f_{j}\left(x_{j} \mid \theta \right)$ ($\theta$ вещественнозначный), пусть $I_{j}(\theta )$ — информация о $\theta$, содержащаяся в $X_{j}$, и пусть $T_{n}(\theta )=\sum_{j=1}^{n} I_{j}(\theta )$ — полная информация о $\theta$ в выборке. Предположим, что $\hat{\theta }_{n}$ — состоятельный корень уравнения правдоподобия $L^{\prime }(\theta )=0$ и что, обобщая (3.18)–(3.20),

и

Покажите, что

Докажите, что последовательность $X_{1}, X_{2}, \ldots$ из Примера 7.8 стационарна при условии, что она удовлетворяет (7.17).

В Примере 7.8:

Покажите, что при $\tau =\sigma$ в (7.21) MLE существует и состоятельна.

Предположим, что в (7.21) сами $\xi$ являются случайными величинами, независимо одинаково распределёнными как $N\left(\mu , \gamma^{2}\right)$.

Проверьте корни (7.22).

Покажите, что правдоподобие (7.21) неограничено.

Покажите, что если $\rho$ определяется формулой (7.24), то $\rho$ и $\rho^{\prime }$ всюду непрерывны.

Пусть $F$ имеет дифференцируемую плотность $f$, и пусть $\int \psi^{2} f<\infty$.

Для состоятельности $M$-оценок достаточным условием является единственность и изолированность корня оценивающей функции. Установите следующую теорему.

Теорема 9.2 Предположим, что выполнены условия (A0)–(A3). Пусть $t_{0}$ — изолированный корень уравнения $\mathbb {E}_{\theta_{0}}\left[\psi (X, t)\right]=0$, где $\psi (\cdot , t)$ монотонна по $t$ и непрерывна в окрестности $t_{0}$. Если $T_{0}(\mathbf{x})$ — решение уравнения $\sum_{i=1}^{n} \psi \left(x_{i}, t\right)=0$, то $T_{0}$ сходится к $t_{0}$ по вероятности.

Теорема 9.3 При условиях Теоремы 9.2, если, кроме того

1. $\mathbb {E}_{\theta_{0}}\left[\left.\frac{\partial }{\partial t} \psi (X, t)\right|_{t=t_{0}}\right]$ конечно и отлично от нуля,

2. $\mathbb {E}_{\theta_{0}}\left[\psi^{2}\left(X, t_{0}\right)\right]<\infty$,

то

где $\sigma_{T_{0}}^{2}=\mathbb {E}_{\theta_{0}}\left[\psi^{2}\left(X, t_{0}\right)\right] /\left(\mathbb {E}_{\theta_{0}}\left[\left.\frac{\partial }{\partial t} \psi (X, t)\right|_{t=t_{0}}\right]\right)^{2}$. [Заметим, что это небольшое обобщение (7.27).]

Для каждой из следующих оценок выпишите определяющую её функцию $\psi$ и покажите, что оценка состоятельна и асимптотически нормальна при условиях Теорем 9.2 и 9.3.

В Примере 7.12 сравните

В Примере 7.12 покажите, что

В Примере 7.13 покажите, что

В Примере 7.13 определите UMVU-оценки $a$ и $c$ и асимптотические распределения этих оценок.

В предыдущей задаче сравните

В Примере 7.15,

Пусть $X_{1}, \ldots , X_{n}$ — независимые одинаково распределённые по трёхпараметрическому логнормальному распределению (7.37). Покажите, что

Производные всех порядков плотности (7.37) стремятся к нулю при $x \rightarrow \xi$.