1.7

Выпуклые функции потерь

[27/0%]
Показать
LaTeX
Задача 1.7.1

Проверьте выпуклость функций (i)-(vi) из Примера 7.3.

?
Задача 1.7.2

Покажите, что xpx^{p} вогнута на (0,∞)(0, \infty ), если 0<p<10<p<1.

?
Задача 1.7.3

Приведите пример, показывающий, что выпуклая функция не обязательно непрерывна на замкнутом интервале.

?
Задача 1.7.4

Если ϕ\phi выпукла на (a,b)(a, b), а ψ\psi выпукла и не убывает на области значений ϕ\phi, покажите, что функция ψ[ϕ(x)]\psi [\phi (x)] выпукла на (a,b)(a, b).

?
Задача 1.7.5

Докажите или опровергните контрпримером каждое из следующих утверждений. Если ϕ\phi выпукла на (a,b)(a, b), то выпукла и

  1. eϕ(x)e^{\phi (x)} и

  2. log⁡ϕ(x)\log \phi (x), если ϕ>0\phi >0.

?
Задача 1.7.6

Покажите, что если в (7.1) достигается равенство при некотором 0<γ<10<\gamma <1, то ϕ\phi линейна на [x,y][x, y].

?
Задача 1.7.7

Установите следующую лемму, полезную при исследовании функций риска некоторых оценок. (Дальнейшее обсуждение см. в Casella 1990).

Лемма 9.2. Пусть r:[0,∞)→[0,∞)r:[0, \infty ) \rightarrow [0, \infty ) вогнута. Тогда,

  1. r(t)r(t) не убывает и

  2. r(t)/tr(t) / t не возрастает.

?
Задача 1.7.8

Докажите неравенство Йенсена для случая, когда XX принимает значения x1,…,xnx_{1}, \ldots , x_{n} с вероятностями γ1,…,γn(Σγi=1)\gamma_{1}, \ldots , \gamma_{n}\left(\Sigma \gamma_{i}=1\right), непосредственно из (7.1) по индукции по nn.

?
Задача 1.7.9

Несколько иная форма теоремы Рао—Блэквелла, применимая только к дисперсии оценки, а не к произвольной выпуклой функции потерь, может быть установлена без неравенства Йенсена.

?
(a)

Для произвольной оценки δ(x)\delta (x) с var⁡[δ(X)]<∞\operatorname {var}[\delta (X)]<\infty и произвольной статистики TT покажите, что

var⁡[δ(X)]=var⁡[E[δ(X)∣T]]+E[var⁡(δ(X)∣T)]. \operatorname {var}[\delta (X)]=\operatorname {var}[\mathbb {E}\left[\delta (X) \mid T\right]]+\mathbb {E}\left[\operatorname {var}(\delta (X) \mid T)\right].
(b)

Опираясь на тождество из пункта (a), сформулируйте и докажите теорему типа Рао—Блэквелла для дисперсий.

(c)

Тождество из пункта (a) играет важную роль как в теоретической, так и в прикладной статистике. Например, объясните, как уравнение (1.2) можно интерпретировать как частный случай этого тождества.

Задача 1.7.10

Пусть UU равномерно распределена на (0,1)(0,1), и пусть FF — функция распределения на вещественной прямой.

?
(a)

Если FF непрерывна и строго возрастает, покажите, что F−1(U)F^{-1}(U) имеет функцию распределения FF.

(b)

Для произвольной FF покажите, что F−1(U)F^{-1}(U) по-прежнему имеет функцию распределения FF.

Задача 1.7.11

Покажите, что kk-мерный шар Σi=1kx12≤c\Sigma_{i=1}^{k} x_{1}^{2} \leq c выпуклый.

?
Задача 1.7.12

Покажите, что f(a)=∣x−a∣+∣y−a∣f(a)=\sqrt{\left|x-a\right|}+\sqrt{\left|y-a\right|} минимизируется при a=xa=x и a=ya=y.

?
Задача 1.7.13
?
(a)

Покажите, что ϕ(x)=eΣxi\phi (\mathbf{x})=e^{\Sigma x_{i}} выпукла, показав, что её матрица Гессе положительно полуопределена.

(b)

Покажите, что результат Задачи 7.4 остаётся справедливым, если ϕ\phi — выпуклая функция, определённая на открытом выпуклом множестве в EkE_{k}.

(c)

Используя (b), получите альтернативное доказательство результата из пункта (a).

Задача 1.7.14

Определите, являются ли следующие функции супер- или субгармоническими:

?
(a)

∑i=1kxip,p<1,xi>0\sum_{i=1}^{k} x_{i}^{p}, \quad p<1, x_{i}>0.

(b)

e−∑i=1kxi2e^{-\sum_{i=1}^{k} x_{i}^{2}}.

(c)

log⁡(∏i=1kxi)\log \left(\prod_{i=1}^{k} x_{i}\right).

Задача 1.7.15

Функция называется полунепрерывной снизу в точке yy, если f(y)≤lim inf⁡x→yf(x)f(y) \leq \liminf_{x \rightarrow y} f(x). Определение супергармоничности можно распространить с непрерывных функций на полунепрерывные снизу.

?
(a)

Покажите, что непрерывная функция полунепрерывна снизу.

(b)

Функция f(x)=I(a<x<b)f(x)=I(a<x<b) супергармонична на (−∞,∞)(-\infty , \infty ).

(c)

Для оценки dd параметра θ\theta покажите, что функция потерь

L(θ,d)={0 если ∣d−θ∣≤k2 если ∣d−θ∣>k L(\theta , d)= \begin{cases} 0 & \text{ если }\left|d-\theta \right| \leq k \\ 2 & \text{ если }\left|d-\theta \right|>k\end{cases}

субгармонична.

Задача 1.7.16
?
(a)

Если f:ℜp→ℜf: \Re^{p} \rightarrow \Re супергармонична, то φ(f(⋅))\varphi (f(\cdot )) также супергармонична, где φ:ℜ→ℜ\varphi : \Re \rightarrow \Re — дважды дифференцируемая возрастающая вогнутая функция.

(b)

Если hh супергармонична, то h∗(x)=∫g(x−y)h(y)dyh^{*}(x)=\int g(x-y) h(y) d y также супергармонична, где g(⋅)g(\cdot ) — плотность.

(c)

Если hγh_{\gamma } супергармонична, то и h∗(x)=∫hγ(x)dG(γ)h^{*}(x)=\int h_{\gamma }(x) d G(\gamma ) супергармонична, где G(γ)G(\gamma ) — функция распределения.

(Предполагается, что все необходимые интегралы существуют и что дифференцирование можно вносить под знак интеграла.)

Задача 1.7.17

Используя выпуклость функции ϕ\phi из Задачи 7.13, покажите, что естественное параметрическое пространство экспоненциального семейства (5.2) выпукло.

?
Задача 1.7.18

Покажите, что если ff определена и ограничена на (−∞,∞)(-\infty , \infty ) или (0,∞)(0, \infty ), то ff не может быть выпуклой (если только она не постоянна).

?
Задача 1.7.19

Покажите, что ϕ(x,y)=−xy\phi (x, y)=-\sqrt{x y} выпукла при x>0,y>0x>0, y>0.

?
Задача 1.7.20

Если ff и gg — вещественнозначные функции, такие что f2,g2f^{2}, g^{2} измеримы относительно σ\sigma-конечной меры μ\mu, докажите неравенство Шварца

(∫fgdμ)2≤∫f2dμ∫g2dμ \left(\int f g d \mu \right)^{2} \leq \int f^{2} d \mu \int g^{2} d \mu
?
Задача 1.7.21

Покажите, что функции потерь (7.24) непрерывно дифференцируемы.

?
Задача 1.7.22

Докажите утверждения, сделанные в Примере 7.20(i) и (ii).

?
Задача 1.7.23

Пусть ff — унимодальная плотность, симметричная относительно 0, и пусть L(θ,d)=ρ(d−θ)L(\theta , d)=\rho (d-\theta ) — функция потерь с ρ\rho, не убывающей на (0,∞)(0, \infty ) и симметричной относительно 0.

?
(a)

Функция ϕ(a)=E[ρ(X−a)]\phi (a)=\mathbb {E}\left[\rho (X-a)\right], определённая в Теореме 7.15, принимает минимум при 0.

(b)

Если

Sa={x:[ρ(x+a)−ρ(x−a)][f(x+a)−f(x−a)]≠0}, S_{a}=\left\{ x:[\rho (x+a)-\rho (x-a)][f(x+a)-f(x-a)] \neq 0\right\} ,

то ϕ(a)\phi (a) принимает своё единственное минимальное значение при a=0a=0 тогда и только тогда, когда существует a0a_{0}, такое что ϕ(a0)<∞\phi \left(a_{0}\right)<\infty, и μ(Sa)>0\mu \left(S_{a}\right)>0 для всех aa. [Указание: Заметьте, что ϕ(0)≤1/2[ϕ(2a)+ϕ(−2a)]\phi (0) \leq 1 / 2[\phi (2 a)+\phi (-2 a)], причём строгое неравенство имеет место тогда и только тогда, когда μ(Sa)>0\mu \left(S_{a}\right)>0 для всех aa.]

Задача 1.7.24
?
(a)

Предположим, что ff и ρ\rho удовлетворяют условиям Задачи 7.23 и что ff строго убывает на [0,∞)[0, \infty ). Тогда, если ϕ(a0)<∞\phi \left(a_{0}\right)<\infty для некоторого a0a_{0}, ϕ(a)\phi (a) имеет единственный минимум в нуле, если только не существует c≤dc \leq d, такие что

ρ(0)=c и ρ(x)=d для всех x≠0. \rho (0)=c \quad \text{ и } \quad \rho (x)=d \text{ для всех } \quad x \neq 0.
(b)

Если ρ\rho симметрична относительно 0, строго возрастает на [0,∞)[0, \infty ), и ϕ(a0)<∞\phi \left(a_{0}\right)<\infty для некоторого a0a_{0}, то ϕ(a)\phi (a) имеет единственный минимум в (0) для всех симметричных унимодальных ff.

[Задачи 7.23 и 7.24 сообщены Dr. W.Y. Loh.]

Задача 1.7.25

Пусть ρ\rho — вещественнозначная функция, удовлетворяющая

0≤ρ(t)≤M<∞ и ρ(t)→M при t→±∞, 0 \leq \rho (t) \leq M<\infty \text{ и } \rho (t) \rightarrow M \text{ при } t \rightarrow \pm \infty ,

и пусть XX — случайная величина с непрерывной плотностью вероятности ff. Тогда ϕ(a)=E[ρ(X−1)]\phi (a)= \mathbb {E}\left[\rho (X-1)\right] достигает своего минимума.

?
Задача 1.7.26

Пусть ϕ\phi — строго выпуклая функция, определённая на интервале II (конечном или бесконечном). Если существует значение a0a_{0} в II, минимизирующее ϕ(a)\phi (a), то a0a_{0} единственно.

?
Задача 1.7.27

Следствие 7.19 утверждает: в условиях Теоремы 7.15 (пусть ρ\rho — выпуклая функция, определённая на (−∞,∞)(-\infty , \infty ), а XX — случайная величина, такая что ϕ(a)=E[ρ(X−a)]\phi (a)=\mathbb {E}\left[\rho (X-a)\right] конечна при некотором aa), предположим, что ρ\rho чётна, а XX симметрична относительно μ\mu. Тогда ϕ(a)\phi (a) достигает минимума при a=μa=\mu.

Обобщите Следствие 7.19 на случай, когда X\mathbf{X} и μ\boldsymbol {\mu } являются векторами.

?