Обобщенная линейная модель регрессии

Найдите ОМНК-оценку и дисперсию ее компонент в случае, когда ковариационная матрица ошибок $V_{n}$ является диагональной.

Получите матрицу вида (11.12).

Пусть $X_{k} = \theta_{1}+\theta_{2} h_{k}+\varepsilon_{k}, k = 1,2,3$, где вектор ошибок $E = \left\{ \varepsilon_{1}, \varepsilon_{2}, \varepsilon_{3}\right\}^{T}$ имеет математическое ожидание $\mathbb {E}\left[E\right] = 0$, а $\operatorname {Cov}\left[ E, E \right] = \sigma^{2} V$,

числа $a$ и $0 < \rho < 1$ неизвестны, $h_{1} = -1, h_{2} = 0, h_{3} = 1$. Покажите, что ОМНК-оценка вектора $\theta$ имеет вид

где $r = 1+\rho +2 a^{2}-4 a \rho$. Найдите такие значения $\rho , a, X_{k}, k = 1,2,3$, при которых линия регрессии лежит целиком ниже и целиком выше всех наблюдавшихся значений.

Пусть $X_{i} = \theta h_{i}+\varepsilon_{i}, i = 1,2$, где $\varepsilon_{1} \sim \mathcal{N}\left(0, \sigma^{2}\right), \varepsilon_{2} \sim \mathcal{N}\left(0,4 \sigma^{2}\right)$, причем $\varepsilon_{1}$ и $\varepsilon_{2}$ независимы. Для двух векторов $h: h^{(1)} = [-1,1]^{\top }, h^{(2)} = [1,-1]^{\top }$ найдите ОМНК-оценку и ее дисперсию для двух векторов $h$.

Пусть модель регрессии имеет вид

где $\varepsilon_{k}$ — независимые, центрированные СВ с дисперсиями $\sigma_{k}^{2} = h_{k}^{2}$. По наблюдениям, приведенным в табл. 11.5 найдите реализации МНК-оценки и ОМНК-оценки неизвестных параметров $\left[\theta_{1}, \theta_{2}\right]^{\top }$. Для каждой оценки вычислите ковариационную матрицу ее ошибки.

Таблица 11.5

Покажите, что использование ОМНК для модели простой линейной регрессии с дисперсиями ошибок, равными $\operatorname {Var}\left[e_{k}\right] = \sigma^{2} h_{k}^{2}$, равносильно использованию обычного МНК для модели наблюдений вида

где $\delta_{k}$ — независимые СВ с дисперсиями $\operatorname {Var}\left[\delta_{k}\right] = \sigma^{2}$ для $k = 1, \ldots , n$.

Пусть задана модель регрессии

где ошибки $\varepsilon_{k}$ удовлетворяют уравнению авторегрессии первого порядка

где $v_{k}$ — последовательность независимых нормально распределенных случайных величин с нулевым средним и дисперсией $\sigma_{0}^{2} = 1$. Найдите реализацию ОМНК-оценки вектора неизвестных параметров $\theta = \left[\theta_{1}, \theta_{2}\right]^{\top }$ по наблюдениям, приведенным в табл. 11.6.

Таблица 11.6

Сравните полученный вектор с реализацией МНК-оценки, построенной в предположении некоррелированности ошибок $\varepsilon_{k}$.

Рассмотрите модель, связывающую количество вакансий $w$ и уровень безработицы $u$

где $X_{k} = \ln w_{k}, h_{k} = \ln u_{k}, \varepsilon_{k} \sim \mathcal{N}\left(0 ; \sigma^{2}\right)$. Используя данные из табл. 11.7, найдите МНК-оценки параметров $\theta_{1}$ и $\theta_{2}$. Проверьте с помощью критерия Дарбина-Уотсона гипотезу $H_{0}: \rho = 0$ о некоррелированности ошибок наблюдений на уровне значимости $\alpha = 0,05$. Если гипотеза $H_{0}$ отвергается, то предположите, что последовательность случайных ошибок $\left\{ \varepsilon_{k}\right\}$ удовлетворяет уравнению авторегрессии первого порядка

где $e_{k}$ — центрированные гауссовские $\mathrm{СВ}$ с дисперсией $\operatorname {Var}\left[e_{k}\right] = \sigma_{0}^{2}$. Найдите оценку неизвестного коэффициента $\rho$ в уравнении авторегрессии.

Исследуйте потребительскую функцию Японии $X(h)$ за период 1951-1962 гг. на наличие коррелированности ошибок наблюдений. Если ошибки в наблюдениях являются коррелированными, то найдите реализацию ОМНК-оценки вектора неизвестных параметров. Найдите оценку ковариационной матрицы вектора ошибок $E$. Данные для расчетов приведены в табл. 11.8 (данные взяты из: U. N. Yearbook of National Accounts Statistics, 1963). Здесь $X$ — совокупное индивидуальное потребление (трлн иен), $h$ совокупные личные доходы (трлн иен).