16

Квантильная регрессия

[4/0%]
LaTeX
Задача 16.1

Пусть gα(u):=u(α−  1u<0)g_{\alpha }(u) := u\left(\alpha - \; \mathbb {1}_{u < 0}\right), где α∈(0,1)\alpha \in (0, 1). Покажите, что E[gα(X−xα)]\mathbb {E}\left[g_{\alpha }\left(X-x_{\alpha }\right)\right] является выпуклой функцией по xαx_{\alpha }.

?
Задача 16.2

Для модели линейной регрессии Xk=hk⊤θ+ekX_{k} = h_{k}^{\top }\theta +e_{k} рассмотрим задачу квантильной регрессии θ^(α):=arg⁡min⁡θJα(θ)\widehat{\theta }(\alpha ) := \arg \min_{\theta } J_{\alpha }(\theta ), где Jα(θ):=∑k=1ngα(Xk−hk⊤θ)J_{\alpha }(\theta ) := \sum_{k = 1}^{n} g_{\alpha }\left(X_{k}-h_{k}^{\top }\theta \right) и gα(u):=u(α−  1u<0)g_{\alpha }(u) := u\left(\alpha - \; \mathbb {1}_{u < 0}\right). Покажите, что решения задач из примеров 14.5 и 14.6, полученные с помощью ВВНК-метода, совпадают с решениями этой задачи квантильной регрессии для α=0,5\alpha = 0,5, построенными по тем же наблюдениям.

?
Задача 16.3

Для модели простой регрессии

Xk=θ1+θ2hk+εk,k=1,…,n, X_{k} = \theta _{1}+\theta _{2} h_{k}+\varepsilon _{k}, \quad k = 1, \ldots , n,

где εk\varepsilon_{k} — независимые центрированные СВ с одинаковой дисперсией, решите задачу квантильной регрессии θ^(α):=arg⁡min⁡θ∑k=1ngα(Xk−θ1−θ2hk)\widehat{\theta }(\alpha ) := \arg \min_{\theta } \sum_{k = 1}^{n} g_{\alpha }\left(X_{k}-\theta_{1}-\theta_{2} h_{k}\right) (где gα(u):=u(α−  1u<0)g_{\alpha }(u) := u\left(\alpha - \; \mathbb {1}_{u < 0}\right)) по трем наблюдениям (hk,Xk)=[(−1,−1);(0,2);(1;0)]\left(h_{k}, X_{k}\right) = [(-1,-1) ;(0,2) ;(1 ; 0)] при различных значениях α∈(0,1)\alpha \in (0,1). Проанализируйте полученные результаты, используя теорему 16.2.

?
Задача 16.4

Для наблюдений, описываемых уравнением линейной регрессии Xk=θ1+θ2hk+εkX_{k} = \theta_{1}+\theta_{2} h_{k}+\varepsilon_{k}, k=1,…,nk = 1, \ldots , n, где εk∼N(0;σ2)\varepsilon_{k} \sim \mathcal{N}\left(0 ; \sigma^{2}\right), приведенных в табл. 11.3, постройте график, на котором изобразите наблюдения и решение задачи квантильной регрессии θ^(α):=arg⁡min⁡θ∑k=1ngα(Xk−θ1−θ2hk)\widehat{\theta }(\alpha ) := \arg \min_{\theta } \sum_{k = 1}^{n} g_{\alpha }\left(X_{k}-\theta_{1}-\theta_{2} h_{k}\right) (где gα(u):=u(α−  1u<0)g_{\alpha }(u) := u\left(\alpha - \; \mathbb {1}_{u < 0}\right)) для α=[0,05,0,1,…,0,95]\alpha = [0,05,0,1, \ldots , 0,95].

Таблица 11.3

hkh_{k}0,100,150,200,250,30,350,40,450,5
XkX_{k}0,0190,0190,0270,0510,0930,1360,1710,1980,267
hkh_{k}0,550,60,650,70,750,80,850,90,95
XkX_{k}0,3140,3650,3960,4820,5690,6270,7100,8350,913
?