Проверка гипотез

Проводятся аэронаблюдения $Y_{1}, Y_{2}, Y_{3}$ и $Y_{4}$ углов $\theta_{1}, \theta_{2}, \theta_{3}$ и $\theta_{4}$ соответственно у четырёхугольника на земле. Если наблюдения подвержены независимым нормальным ошибкам с нулевыми средними и общей дисперсией $\sigma^{2}$, выведите тестовую статистику для гипотезы о том, что четырёхугольник является параллелограммом, то есть $\theta_{1} = \theta_{3}$ и $\theta_{2} = \theta_{4}$. (Адаптировано из Silvey [1970].)

Даны две линии регрессии

покажите, что $F$-статистику для проверки $H: \beta_{1} = \beta_{2}$ можно записать в виде

Найдите RSS и $\mathrm{RSS}_{H}$ и проверьте, что

Покажите, что обычную регрессионную модель полного ранга и гипотезу $H: \mathbf{A} \mathbf{\beta } =$ 0 можно преобразовать к модели $\mathbf{Z} = \mathbf{\mu }+\mathbf{\eta }$, где $\mu_{p+1} = \mu_{p+2} = \cdots = \mu_{n} = 0$ и $\mathbf{\eta } \sim N_{n}\left(\mathbf{0}, \sigma^{2} I_{n}\right)$, и к гипотезе $H: \mu_{1} = \mu_{2} = \cdots = \mu_{q} = 0$. Указание: выберите ортонормированный базис из $p-q$ векторов $\left\{ \mathbf{\alpha }_{q+1}, \mathbf{\alpha }_{q+2}, \ldots , \mathbf{\alpha }_{p}\right\}$ для $\mathcal{C}\left(\mathbf{X}_{A}\right)$, где $\mathbf{X}_{A}$ определено в упражнениях 4a, № 4; дополните его до ортонормированного базиса $\left\{ \alpha_{1}, \alpha_{2}, \ldots , \alpha_{p}\right\}$ для $\mathcal{C}(\mathbf{X})$; а затем дополните ещё раз до ортонормированного базиса $\left\{ \alpha_{1}, \alpha_{2}, \ldots , \alpha_{n}\right\}$ для $\Re_{n}$. Рассмотрите преобразование $\mathbf{Z} = \mathbf{T}^{T} \mathbf{Y}$, где $\mathbf{T} = \left(\mathbf{\alpha }_{1}, \mathbf{\alpha }_{2}, \ldots , \mathbf{\alpha }_{n}\right)$ ортогональна.

Серия из $n+1$ наблюдений $Y_{i}(i = 1,2, \ldots , n+1)$ берётся из нормального распределения с неизвестной дисперсией $\sigma^{2}$. После первых $n$ наблюдений возникает подозрение, что произошло резкое изменение среднего распределения. Выведите тестовую статистику для проверки гипотезы о том, что $(n+1)$-е наблюдение имеет то же среднее значение генеральной совокупности, что и предыдущие наблюдения.

Докажите, что $\mathrm{RSS}_{H}-\mathrm{RSS} \geq 0$.

Если $H: \mathbf{A} \mathbf{\beta } = \mathbf{c}$ верна, покажите, что $F$ можно выразить в виде

Если $\widehat{\lambda }_{H}$ — оценка наименьших квадратов множителя Лагранжа, связанного с ограничениями $\mathbf{A} \mathbf{\beta } = \mathrm{c}$ (ср. раздел 3.8), покажите, что

(Эта идея используется для построения тестов на основе множителей Лагранжа.)

Предположим, что мы хотим проверить $\mathbf{A} \mathbf{\beta } = \mathbf{0}$, где $\mathbf{A}$ имеет размер $q \times p$ и ранг $q$. Предположим, что последние $q$ столбцов $\mathbf{A}$, скажем $\mathbf{A}_{2}$, линейно независимы, так что $\mathbf{A} = \left(\mathbf{A}_{1}, \mathbf{A}_{2}\right)$, где $\mathbf{A}_{2}$ — невырожденная матрица. Выразив $\mathbf{\beta }_{2}$ через $\beta_{1}$, найдите матрицу $\mathbf{X}_{A}$ такую, что при $H$ линейная модель принимает вид $\mathbb {E}\left[\mathbf{Y}\right] = \mathbf{X}_{A} \mathbf{\gamma }$. Докажите, что $\mathbf{X}_{A}$ имеет полный ранг.

Рассмотрим модель полного ранга с $\mathbf{X} \mathbf{\beta } = \left(\mathbf{X}_{1}, \mathbf{X}_{2}\right)\left(\mathbf{\beta }_{1}^{T}, \mathbf{\beta }_{2}^{T}\right)^{T}$, где $\mathbf{X}_{2}$ имеет размер $n \times q$.

Пусть $Y_{i} = \beta_{0}+\beta_{1} x_{i 1}+\cdots +\beta_{p-1} x_{i, p-1}+\varepsilon_{i}, i = 1,2, \ldots , n$, где $\varepsilon_{i}$ независимы и распределены как $N\left(0, \sigma^{2}\right)$. Докажите, что $F$-статистика для проверки гипотезы $H: \beta_{q} = \beta_{q+1} = \cdots = \beta_{p-1} = 0(0 < q \leq p-1)$ не изменяется, если из каждого $Y_{i}$ вычесть константу $c$.

Пусть $Y_{i} = \beta_{0}+\beta_{1} x_{i}+\varepsilon_{i},(i = 1,2, \ldots , n)$, где $\varepsilon_{i}$ независимы и распределены как $N\left(0, \sigma^{2}\right)$.

Считая, что $\bar{x} = 0$, выведите $F$-статистику для проверки гипотезы $H$ : $\beta_{0} = \beta_{1}$ в упражнении № 2 выше. Покажите, что она эквивалентна некоторому $t$-критерию.

Пусть

и

где $\varepsilon_{i}(i = 1,2,3)$ независимы и распределены как $N\left(0, \sigma^{2}\right)$. Выведите $F$-статистику для проверки гипотезы $H: \theta_{1} = 2 \theta_{2}$.

Дано $\mathbf{Y} = \theta +\varepsilon$, где $\varepsilon \sim N_{4}\left(\mathbf{0}, \sigma^{2} \mathbf{I}_{4}\right)$ и $\theta_{1}+\theta_{2}+\theta_{3}+\theta_{4} = 0$, покажите, что $F$-статистика для проверки $H: \theta_{1} = \theta_{3}$ равна

Предположим, что $\beta_{1} = \beta_{2} = \cdots = \beta_{p-1} = 0$. Найдите распределение $R^{2}$ и тем самым докажите, что

Для общей линейной регрессионной модели полного ранга докажите, что $R^{2}$ и $F$-статистика для проверки $H: \beta_{j} = 0(j \neq 0)$ не зависят от единиц измерения, в которых измеряются $Y_{i}$ и $x_{i j}$.

Дана модель полного ранга; предположим, что мы хотим проверить $H: \beta_{j} = 0$, $j \neq 0$. Пусть $R_{H}^{2}$ — коэффициент детерминации для модели с $\beta_{j} = 0$.

Выразите гипотезы из примеров 4.4 и 4.5 в каноническом виде.

Предположим, что у нас есть $n_{1}$ наблюдений над $w_{1}, w_{2}, \ldots , w_{p-1}$ и $U$, что даёт модель

Теперь нам даны ещё $n_{2}( > p$) дополнительных наблюдений, которые можно выразить таким же образом, а именно

Выведите $F$-статистику для проверки гипотезы $H$ о том, что дополнительные наблюдения получены из той же модели.