15

Дифференцирование матриц

[26/100%]
Показать
LaTeX
Задача 15.1

Используя результат части (c) упражнения 6.2, проверьте, что всякая окрестность точки xx в Rm×1\mathbb {R}^{m \times 1} является открытым множеством.

?
Задача 15.2

Пусть ff — функция, определённая на множестве SS, от вектора x=(x1,…,xm)′x = (x_1, \ldots , x_m)' из mm переменных, предположим, что множество SS содержит хотя бы некоторые внутренние точки, и пусть cc -- произвольная из этих точек. Проверьте, что если ff kk раз непрерывно дифференцируема в cc, то ff kk раз непрерывно дифференцируема в каждой точке некоторой окрестности cc.

?
Задача 15.3

Пусть X={xij}X = \{ x_{ij}\} — матрица порядка m×nm \times n из mnmn переменных, и пусть xx -- mnmn-мерный вектор-столбец, получаемый перестройкой элементов XX (в виде вектора-столбца). Далее, пусть SS -- множество значений XX, и пусть S∗S^{*} -- соответствующее множество значений xx (то есть множество, получаемое перестройкой элементов каждой матрицы m×nm \times n из SS в виде вектора-столбца). Проверьте, что mnmn-мерный вектор-столбец является внутренней точкой S∗S^{*} тогда и только тогда, когда он представляет собой перестройку матрицы m×nm \times n, являющейся внутренней точкой SS.

?
Задача 15.4

Пусть ff — функция, областью определения которой является множество SS в Rm×1\mathbb {R}^{m \times 1} (содержащее хотя бы некоторые внутренние точки). Покажите, что матрица Гессе HfHf функции ff является градиентной матрицей градиентного вектора (Df)′(Df)' функции ff.

?
Задача 15.5

Пусть gg — функция, определённая на множестве SS, от вектора x=(x1,…,xm)′x = (x_1, \ldots , x_m)' из mm переменных, пусть S∗={x∈S:g(x)≠0}S^{*} = \{ x \in S : g(x) \neq 0\}, и пусть cc -- произвольная внутренняя точка S∗S^{*}, в которой gg непрерывно дифференцируема. Покажите, что (для всякого натурального kk) g−kg^{-k} непрерывно дифференцируема в cc и

∂g−k∂xj=−kg−k−1∂g∂xj. \frac{\partial g^{-k}}{\partial x_j} = -kg^{-k-1}\frac{\partial g}{\partial x_j} .
?
Примечание.
?

Сделайте это, опираясь на результат

∂(1/g)∂xj=−(1/g)2∂g∂xj,(*) \frac{\partial (1/g)}{\partial x_j} = -(1/g)^2 \frac{\partial g}{\partial x_j} , \tag {*}

и, обозначив через ff (как и gg) функцию (определённую на SS) от xx, на результаты о том, что если ff непрерывно дифференцируема в cc, то отношение f/gf/g также непрерывно дифференцируемо в cc, что для всякого натурального kk fkf^k непрерывно дифференцируема в любой точке, где ff непрерывно дифференцируема, и что

∂fk∂xj=kfk−1∂f∂xj.(**) \frac{\partial f^k}{\partial x_j} = kf^{k-1}\frac{\partial f}{\partial x_j} . \tag {**}
Задача 15.6

Пусть FF — матрица порядка p×pp \times p из функций, определённых на множестве SS, от вектора x=(x1,…,xm)′x = (x_1, \ldots , x_m)' из mm переменных. Пусть cc -- произвольная внутренняя точка SS, в которой FF непрерывно дифференцируема. Покажите, что если FF идемпотентна во всех точках некоторой окрестности cc, то (при x=cx = c)

F∂F∂xjF=0. F \frac{\partial F}{\partial x_j} F = 0 .
?
Задача 15.7

Пусть gg — функция, определённая на множестве SS, от вектора x=(x1,…,xm)′x = (x_1, \ldots , x_m)' из mm переменных, и пусть ff -- вектор-столбец размера p×1p \times 1 из функций (определённых на SS) от xx. Пусть cc -- произвольная внутренняя точка (множества SS), в которой gg и ff непрерывно дифференцируемы. Покажите, что gfgf непрерывно дифференцируема в cc и что (при x=cx = c)

∂(gf)∂x′=f∂g∂x′+g∂f∂x′. \frac{\partial (gf)}{\partial x'} = f\frac{\partial g}{\partial x'} + g\frac{\partial f}{\partial x'} .
?
Задача 15.8
?
(a)

Пусть X={xij}X = \{ x_{ij}\} — матрица порядка m×nm \times n из mnmn ``независимых'' переменных, и предположим, что XX может свободно пробегать всё Rm×n\mathbb {R}^{m \times n}.

  1. Покажите, что для любых постоянных матриц AA размера p×mp \times m и BB размера n×pn \times p

    ∂tr⁡(AXB)∂X=A′B′. \frac{\partial \operatorname {tr}(AXB)}{\partial X} = A'B' .
  2. Покажите, что для любых mm- и nn-мерных векторов-столбцов aa и bb

    ∂(a′Xb)∂X=ab′. \frac{\partial (a'Xb)}{\partial X} = ab' .
(b)

Предположим теперь, что XX -- симметрическая (но в остальном не ограниченная) матрица (размера m×mm \times m).

  1. Покажите, что для любых постоянных матриц AA размера p×mp \times m и BB размера m×pm \times p

    ∂tr⁡(AXB)∂X=C+C′−diag⁡(c11,c22,…,cmm), \frac{\partial \operatorname {tr}(AXB)}{\partial X} = C + C' - \operatorname {diag}(c_{11}, c_{22}, \ldots , c_{mm}) ,

    где C={cij}=BAC = \{ c_{ij}\} = BA.

  2. Покажите, что для любых mm-мерных векторов-столбцов a={aj}a = \{ a_j\} и b={bj}b = \{ b_j\}

    ∂(a′Xb)∂X=ab′+ba′−diag⁡(a1b1,a2b2,…,ambm). \frac{\partial (a'Xb)}{\partial X} = ab' + ba' - \operatorname {diag}(a_1b_1, a_2b_2, \ldots , a_mb_m) .
Примечание.
?

Для части (a)(1) заметьте, что tr⁡(AXB)=tr⁡(BAX)\operatorname {tr}(AXB) = \operatorname {tr}(BAX). Для части (a)(2) заметьте, что a′Xb=tr⁡(a′Xb)a'Xb = \operatorname {tr}(a'Xb).

Задача 15.9
?
(a)

Пусть X={xst}X = \{ x_{st}\} — матрица порядка m×nm \times n из ``независимых'' переменных, и предположим, что XX может свободно пробегать всё Rm×n\mathbb {R}^{m \times n}. Покажите, что для любой постоянной матрицы AA размера n×mn \times m

∂tr⁡[(AX)2]∂X=2(AXA)′. \frac{\partial \operatorname {tr}[(AX)^2]}{\partial X} = 2(AXA)' .
(b)

Пусть X={xst}X = \{ x_{st}\} — симметрическая (но в остальном не ограниченная) матрица переменных порядка m×mm \times m. Покажите, что для любой постоянной матрицы AA порядка m×mm \times m

∂tr⁡[(AX)2]∂X=2[B+B′−diag⁡(b11,b22,…,bmm)], \frac{\partial \operatorname {tr}[(AX)^2]}{\partial X} = 2[B + B' - \operatorname {diag}(b_{11}, b_{22}, \ldots , b_{mm})] ,

где B={bst}=AXAB = \{ b_{st}\} = AXA.

Задача 15.10

Пусть X={xij}X = \{ x_{ij}\} — матрица порядка m×nm \times n из ``независимых'' переменных, и предположим, что XX может свободно пробегать всё Rm×n\mathbb {R}^{m \times n}. Покажите, что для k=2,3,…k = 2, 3, \ldots

∂tr⁡(Xk)∂X=k(X′)k−1. \frac{\partial \operatorname {tr}(X^k)}{\partial X} = k(X')^{k-1} .
?
Задача 15.11

Пусть X={xst}X = \{ x_{st}\} — матрица порядка m×nm \times n из ``независимых'' переменных, и предположим, что XX может свободно пробегать всё Rm×n\mathbb {R}^{m \times n}.

?
(a)

Покажите, что для любой постоянной матрицы AA порядка m×mm \times m

∂tr⁡(X′AX)∂X=(A+A′)X. \frac{\partial \operatorname {tr}(X'AX)}{\partial X} = (A+A')X .
(b)

Покажите, что для любой постоянной матрицы AA порядка n×nn \times n

∂tr⁡(XAX′)∂X=X(A+A′). \frac{\partial \operatorname {tr}(XAX')}{\partial X} = X(A+A') .
(c)

Покажите (в частном случае n=mn = m), что для любой постоянной матрицы AA порядка m×mm \times m

∂tr⁡(XAX)∂X=(AX)′+(XA)′. \frac{\partial \operatorname {tr}(XAX)}{\partial X} = (AX)' + (XA)' .
(d)

Используя результаты частей (a)-(c), выведите простые формулы для ∂tr⁡(X′X)/∂X\partial \operatorname {tr}(X'X)/\partial X, ∂tr⁡(XX′)/∂X\partial \operatorname {tr}(XX')/\partial X и (в частном случае n=mn = m) ∂tr⁡(X2)/∂X\partial \operatorname {tr}(X^2)/\partial X.

Задача 15.12

Пусть X={xij}X = \{ x_{ij}\} — матрица порядка m×mm \times m. Пусть ff -- функция от XX, определённая на множестве SS, состоящем из некоторых или всех симметрических матриц порядка m×mm \times m. Предположим, что для целей дифференцирования ff следует интерпретировать как функцию от вектора-столбца xx размерности [m(m+1)/2][m(m+1)/2], элементами которого служат xijx_{ij} (j≤i=1,…,m)(j \leq i = 1, \ldots , m). Предположим далее, что существует функция gg, областью определения которой является множество TT не обязательно симметрических матриц, содержащее SS в качестве собственного подмножества, такая что g(X)=f(X)g(X) = f(X) при X∈SX \in S, так что gg -- функция от XX, а ff -- функция, получаемая ограничением области определения gg на SS. Определим S∗={x:X∈S}S^{*} = \{ x : X \in S\}. Пусть cc -- внутренняя точка S∗S^{*}, и пусть CC -- соответствующее значение XX. Покажите, что если CC является внутренней точкой TT и если gg непрерывно дифференцируема в CC, то ff непрерывно дифференцируема в cc и что (при x=cx = c)

∂f∂X=∂g∂X+(∂g∂X)′−diag⁡(∂g∂x11,∂g∂x22,…,∂g∂xmm). \frac{\partial f}{\partial X} = \frac{\partial g}{\partial X} + \left(\frac{\partial g}{\partial X}\right)' - \operatorname {diag}\left(\frac{\partial g}{\partial x_{11}}, \frac{\partial g}{\partial x_{22}}, \ldots , \frac{\partial g}{\partial x_{mm}}\right) .
?
Задача 15.13

Пусть h={hi}h = \{ h_i\} — вектор размера n×1n \times 1 из функций, определённых на множестве SS, от вектора x=(x1,…,xm)′x = (x_1, \ldots , x_m)' из mm переменных. Пусть gg -- функция, определённая на множестве TT, от вектора y=(y1,…,yn)′y = (y_1, \ldots , y_n)' из nn переменных. Предположим, что h(x)∈Th(x) \in T для всякого xx из SS, и пусть ff -- составная функция, определённая (на SS) как f(x)=g[h(x)]f(x) = g[h(x)]. Покажите, что если hh дважды непрерывно дифференцируема во внутренней точке cc множества SS и если [при условии, что h(c)h(c) -- внутренняя точка TT] gg дважды непрерывно дифференцируема в h(c)h(c), то ff дважды непрерывно дифференцируема в cc и

Hf(c)=[Dh(c)]′Hg[h(c)]Dh(c)+∑i=1nDig[h(c)]Hhi(c). Hf(c) = [Dh(c)]'Hg[h(c)]Dh(c) + \sum _{i=1}^{n} D_ig[h(c)]Hh_i(c) .
?
Задача 15.14

Пусть X={xij}X = \{ x_{ij}\} — матрица порядка m×mm \times m из m2m^2 ``независимых'' переменных (где m≥2m \geq 2), и предположим, что область значений XX составляет всё Rm×m\mathbb {R}^{m \times m}. Покажите, что (для всякого натурального kk) функция ff, определённая (на Rm×m\mathbb {R}^{m \times m}) формулой f(X)=∣X∣kf(X) = \left|X\right|^k, непрерывно дифференцируема при всяком XX и что

∂∣X∣k∂X=k∣X∣k−1[adj⁡(X)]′. \frac{\partial \left|X\right|^k}{\partial X} = k\left|X\right|^{k-1}[\operatorname {adj}(X)]' .
?
Задача 15.15

Пусть F={fis}F = \{ f_{is}\} — матрица порядка p×pp \times p из функций, определённых на множестве SS, от вектора x=(x1,…,xm)′x = (x_1, \ldots , x_m)' из mm переменных. Пусть cc -- произвольная внутренняя точка (множества SS), в которой FF непрерывно дифференцируема. Используя результаты упражнения 13.10, покажите, что

?
(a)

если rk⁡(F(c))=p−1\operatorname {rk}\left(F(c)\right) = p-1, то (при x=cx = c)

∂det⁡(F)∂xj=ky′∂F∂xjz, \frac{\partial \det (F)}{\partial x_j} = ky'\frac{\partial F}{\partial x_j}z ,

где z={zs}z = \{ z_s\} и y={yi}y = \{ y_i\} -- произвольные ненулевые pp-мерные векторы, такие что F(c)z=0F(c)z = 0 и [F(c)]′y=0[F(c)]'y = 0, и где [обозначив через ϕis\phi_{is} алгебраическое дополнение fis(c)f_{is}(c)] kk -- скаляр, представимый как k=ϕis/(yizs)k = \phi_{is}/(y_iz_s) для любых ii и ss, таких что yi≠0y_i \neq 0 и zs≠0z_s \neq 0; и

(b)

если rk⁡(F(c))≤p−2\operatorname {rk}\left(F(c)\right) \leq p-2, то (при x=cx = c)

∂det⁡(F)∂xj=0. \frac{\partial \det (F)}{\partial x_j} = 0 .
Задача 15.16

Пусть X={xst}X = \{ x_{st}\} — матрица порядка m×nm \times n из ``независимых'' переменных, пусть AA -- постоянная матрица порядка m×mm \times m, и предположим, что область значений XX -- это множество SS, состоящее из некоторых или всех значений XX, для которых det⁡(X′AX)>0\det (X'AX) > 0. Покажите, что log⁡det⁡(X′AX)\log \det (X'AX) непрерывно дифференцируема в любой внутренней точке CC множества SS и что (при X=CX = C)

∂log⁡det⁡(X′AX)∂X=AX(X′AX)−1+[(X′AX)−1X′A]′. \frac{\partial \log \det (X'AX)}{\partial X} = AX(X'AX)^{-1} + [(X'AX)^{-1}X'A]' .
?
Задача 15.17
?
(a)

Пусть XX — матрица порядка m×nm \times n из ``независимых'' переменных, пусть AA и BB -- постоянные матрицы размера q×mq \times m и n×qn \times q, и предположим, что область значений XX -- это множество SS, состоящее из некоторых или всех значений XX, для которых det⁡(AXB)>0\det (AXB) > 0. Покажите, что log⁡det⁡(AXB)\log \det (AXB) непрерывно дифференцируема в любой внутренней точке CC множества SS и что (при X=CX = C)

∂log⁡det⁡(AXB)∂X=[B(AXB)−1A]′. \frac{\partial \log \det (AXB)}{\partial X} = [B(AXB)^{-1}A]' .
(b)

Предположим теперь, что XX -- симметрическая матрица порядка m×mm \times m; что AA и BB -- постоянные матрицы размера q×mq \times m и m×qm \times q; что для целей дифференцирования любой функции от XX эту функцию следует интерпретировать как функцию от вектора-столбца xx, элементами которого служат xijx_{ij} (j≤i=1,…,m)(j \leq i = 1, \ldots , m); и что область значений xx -- это множество SS, состоящее из некоторых или всех значений xx, для которых det⁡(AXB)>0\det (AXB) > 0. Покажите, что log⁡det⁡(AXB)\log \det (AXB) непрерывно дифференцируема в любой внутренней точке cc (множества SS) и что (при x=cx = c)

∂log⁡det⁡(AXB)∂X=K+K′−diag⁡(k11,k22,…,kqq), \frac{\partial \log \det (AXB)}{\partial X} = K + K' - \operatorname {diag}(k_{11}, k_{22}, \ldots , k_{qq}) ,

где K={kij}=B(AXB)−1AK = \{ k_{ij}\} = B(AXB)^{-1}A.

Задача 15.18

Пусть F={fis}F = \{ f_{is}\} — матрица порядка p×pp \times p из функций, определённых на множестве SS, от вектора x=(x1,…,xm)′x = (x_1, \ldots , x_m)' из mm переменных, и пусть AA и BB -- постоянные матрицы размера q×pq \times p и p×qp \times q. Предположим, что SS -- множество всех значений xx, для которых F(x)F(x) невырождена и det⁡(AF−1(x)B)>0\operatorname {det}\left(AF^{-1}(x)B\right) > 0, или подмножество этого множества. Покажите, что если FF непрерывно дифференцируема во внутренней точке cc множества SS, то log⁡det⁡(AF−1B)\log \det (AF^{-1}B) непрерывно дифференцируема в cc и (при x=cx = c)

∂log⁡det⁡(AF−1B)∂xj=−tr⁡[F−1B(AF−1B)−1AF−1∂F∂xj]. \frac{\partial \log \det (AF^{-1}B)}{\partial x_j} = -\operatorname {tr}\left[F^{-1}B(AF^{-1}B)^{-1}AF^{-1}\frac{\partial F}{\partial x_j}\right] .
?
Задача 15.19

Пусть AA и BB — постоянные матрицы размера q×mq \times m и m×qm \times q.

?
(a)

Пусть XX — матрица порядка m×mm \times m из m2m^2 ``независимых'' переменных, и предположим, что область значений XX -- это множество SS, состоящее из некоторых или всех значений XX, для которых XX невырождена и det⁡(AX−1B)>0\det (AX^{-1}B) > 0. Используя результат упражнения 15.18, покажите, что log⁡det⁡(AX−1B)\log \det (AX^{-1}B) непрерывно дифференцируема в любой внутренней точке CC множества SS и что (при X=CX = C)

∂log⁡det⁡(AX−1B)∂X=−[X−1B(AX−1B)−1AX−1]′. \frac{\partial \log \det (AX^{-1}B)}{\partial X} = -[X^{-1}B(AX^{-1}B)^{-1}AX^{-1}]' .
(b)

Предположим теперь, что XX -- симметрическая матрица порядка m×mm \times m; что для целей дифференцирования любой функции от XX эту функцию следует интерпретировать как функцию от вектора-столбца xx, элементами которого служат xijx_{ij} (j≤i=1,…,m)(j \leq i = 1, \ldots , m); и что область значений xx -- это множество SS, состоящее из некоторых или всех значений xx, для которых XX невырождена и det⁡(AX−1B)>0\det (AX^{-1}B) > 0. Используя результат упражнения 15.18, покажите, что log⁡det⁡(AX−1B)\log \det (AX^{-1}B) непрерывно дифференцируема в любой внутренней точке cc множества SS и что (при x=cx = c)

∂log⁡det⁡(AX−1B)∂X=−K−K′+diag⁡(k11,k22,…,kqq), \frac{\partial \log \det (AX^{-1}B)}{\partial X} = -K - K' + \operatorname {diag}(k_{11}, k_{22}, \ldots , k_{qq}) ,

где K={kij}=X−1B(AX−1B)−1AX−1K = \{ k_{ij}\} = X^{-1}B(AX^{-1}B)^{-1}AX^{-1}.

Задача 15.20

Пусть F={fis}F = \{ f_{is}\} — матрица порядка p×pp \times p из функций, определённых на множестве SS, от вектора x=(x1,…,xm)′x = (x_1, \ldots , x_m)' из mm переменных. Пусть cc -- произвольная внутренняя точка (множества SS), в которой FF непрерывно дифференцируема. Используя, например, результат части (b) упражнения 13.10, покажите, что если rk⁡(F(c))≤p−3\operatorname {rk}\left(F(c)\right) \leq p-3, то

∂adj⁡(F)∂xj=0. \frac{\partial \operatorname {adj}(F)}{\partial x_j} = 0 .
?
Задача 15.21
?
(a)

Пусть XX — матрица порядка m×mm \times m из m2m^2 ``независимых'' переменных, и предположим, что область значений XX -- это множество SS, состоящее из некоторых или всех значений XX, для которых XX невырождена. Покажите, что (если рассматривать элементы X−1X^{-1} как функции от XX) X−1X^{-1} непрерывно дифференцируема в любой внутренней точке CC множества SS и что (при X=CX = C)

∂X−1∂xij=−yizj′, \frac{\partial X^{-1}}{\partial x_{ij}} = -y_iz_j' ,

где yiy_i -- ii-й столбец, а zj′z_j' -- jj-я строка X−1X^{-1}.

(b)

Предположим теперь, что XX -- симметрическая матрица порядка m×mm \times m; что для целей дифференцирования функции от XX эту функцию следует интерпретировать как функцию от вектора-столбца xx, элементами которого служат xijx_{ij} (j≤i=1,…,m)(j \leq i = 1, \ldots , m); и что область значений xx -- это множество SS, состоящее из некоторых или всех значений xx, для которых XX невырождена. Покажите, что X−1X^{-1} непрерывно дифференцируема в любой внутренней точке cc множества SS и что (при x=cx = c)

∂X−1∂xij={−yiyi′,если j=i,−yiyj′−yjyi′,если j<i \frac{\partial X^{-1}}{\partial x_{ij}} = \begin{cases} -y_iy_i', & \text{если } j = i , \\ -y_iy_j' - y_jy_i', & \text{если } j < i \end{cases}

(где yiy_i -- ii-й столбец X−1X^{-1}).

Задача 15.22

Пусть XX — матрица порядка m×mm \times m из m2m^2 ``независимых'' переменных. Предположим, что область значений XX -- это множество SS, состоящее из некоторых или всех значений XX, для которых XX невырождена, и пусть CC -- внутренняя точка SS. Обозначим ijij-й элемент X−1X^{-1} через yijy_{ij}, jj-й столбец X−1X^{-1} через yjy_j, а ii-ю строку X−1X^{-1} через zi′z_i'.

?
(a)

Покажите, что X−1X^{-1} дважды непрерывно дифференцируема в CC и что (при X=CX = C)

∂2X−1∂xij∂xst=yjsyizt′+ytiyszj′. \frac{\partial ^2 X^{-1}}{\partial x_{ij}\partial x_{st}} = y_{js}y_iz_t' + y_{ti}y_sz_j' .
(b)

Предположим, что det⁡(X)>0\det (X) > 0 для всякого XX из SS. Покажите, что log⁡det⁡(X)\log \det (X) дважды непрерывно дифференцируема в CC и что (при X=CX = C)

∂2log⁡det⁡(X)∂xij∂xst=−ytiyjs. \frac{\partial ^2 \log \det (X)}{\partial x_{ij}\partial x_{st}} = -y_{ti}y_{js} .
Задача 15.23

Пусть F={fis}F = \{ f_{is}\} — матрица порядка p×pp \times p из функций, определённых на множестве SS, от вектора x=(x1,…,xm)′x = (x_1, \ldots , x_m)' из mm переменных. Для всякого непустого множества T={t1,…,ts}T = \{ t_1, \ldots , t_s\}, элементы которого -- целые числа от 1 до mm включительно, определим D(T)=∂sF/∂xt1⋯∂xtsD(T) = \partial^s F/\partial x_{t_1} \cdots \partial x_{t_s}. Пусть kk -- натуральное число, и для i=1,…,ki = 1, \ldots , k пусть jij_i -- произвольное целое число от 1 до mm включительно.

?
(a)

Предположим, что FF невырождена при всяком xx из SS, и обозначим через cc произвольную внутреннюю точку (множества SS), в которой FF kk раз непрерывно дифференцируема. Покажите, что F−1F^{-1} kk раз непрерывно дифференцируема в cc и что (при x=cx = c)

∂kF−1∂xj1⋯∂xjk=∑r=1k∑T1,…,Tr(−1)rF−1D(T1)F−1D(T2)⋯F−1D(Tr)F−1,(E.1) \frac{\partial ^k F^{-1}}{\partial x_{j_1} \cdots \partial x_{j_k}} = \sum _{r=1}^{k} \sum _{T_1,\ldots ,T_r} (-1)^r F^{-1}D(T_1)F^{-1}D(T_2) \cdots F^{-1}D(T_r)F^{-1} , \tag {E.1}

где T1,…,TrT_1, \ldots , T_r -- rr непустых попарно непересекающихся и в совокупности исчерпывающих подмножеств {j1,…,jk}\{ j_1, \ldots , j_k\} (и где вторая сумма берётся по всем возможным вариантам выбора T1,…,TrT_1, \ldots , T_r).

(b)

Предположим, что det⁡(F)>0\det (F) > 0 при всяком xx из SS, и обозначим через cc произвольную внутреннюю точку (множества SS), в которой FF kk раз непрерывно дифференцируема. Покажите, что log⁡det⁡(F)\log \det (F) kk раз непрерывно дифференцируема в cc и что (при x=cx = c)

∂klog⁡det⁡(F)∂xj1⋯∂xjk=∑r=1k∑T1,…,Tr(−1)r+1tr⁡[F−1D(T1)F−1D(T2)⋯F−1D(Tr)],(E.2) \begin{aligned} & \frac{\partial ^k \log \det (F)}{\partial x_{j_1} \cdots \partial x_{j_k}} \\ & \quad = \sum _{r=1}^{k} \sum _{T_1,\ldots ,T_r} (-1)^{r+1} \operatorname {tr}[F^{-1}D(T_1)F^{-1}D(T_2) \cdots F^{-1}D(T_r)] , \tag {E.2} \end{aligned}

где T1,…,TrT_1, \ldots , T_r -- rr непустых попарно непересекающихся и в совокупности исчерпывающих подмножеств {j1,…,jk}\{ j_1, \ldots , j_k\} с jk∈Trj_k \in T_r (и где вторая сумма берётся по всем возможным вариантам выбора T1,…,TrT_1, \ldots , T_r).

Задача 15.24

Пусть X={xij}X = \{ x_{ij}\} — симметрическая матрица порядка m×mm \times m, и пусть xx -- вектор-столбец размерности m(m+1)/2m(m+1)/2, элементами которого служат xijx_{ij} (j≤i=1,…,m)(j \leq i = 1, \ldots , m). Определим SS как множество всех значений xx, для которых XX невырождена, а S∗S^{*} -- как множество всех значений xx, для которых XX положительно определена. Покажите, что SS и S∗S^{*} являются открытыми множествами.

?
Задача 15.25

Пусть XX — постоянная матрица размера n×pn \times p, и пусть WW -- симметрическая положительно определённая матрица порядка n×nn \times n, элементы которой являются функциями, определёнными на множестве SS, от вектора z=(z1,…,zm)′z = (z_1, \ldots , z_m)' из mm переменных. Далее, пусть cc -- произвольная внутренняя точка (множества SS), в которой WW дважды непрерывно дифференцируема. Покажите, что W−WPX,WW - WP_{X,W} дважды непрерывно дифференцируема в cc и что (при z=cz = c)

∂2(W−WPX,W)∂zi∂zj=(I−PX,W)′∂2W∂zi∂zj(I−PX,W)−(I−PX,W)′∂W∂ziX(X′WX)−X′∂W∂zj(I−PX,W)−[(I−PX,W)′∂W∂ziX(X′WX)−X′∂W∂zj(I−PX,W)]′. \begin{aligned} \frac{\partial ^2(W-WP_{X,W})}{\partial z_i \partial z_j} & = (I-P_{X,W})'\frac{\partial ^2 W}{\partial z_i \partial z_j}(I-P_{X,W}) \\ & \quad - (I-P_{X,W})'\frac{\partial W}{\partial z_i}X(X'WX)^{-}X'\frac{\partial W}{\partial z_j}(I-P_{X,W}) \\ & \quad - \left[(I-P_{X,W})'\frac{\partial W}{\partial z_i}X(X'WX)^{-}X'\frac{\partial W}{\partial z_j}(I-P_{X,W})\right]' . \end{aligned}
?
Задача 15.26

Пусть XX — матрица размера n×pn \times p, а WW -- симметрическая положительно определённая матрица порядка n×nn \times n, и предположим, что элементы XX и WW являются функциями, определёнными на множестве SS, от вектора z=(z1,…,zm)′z = (z_1, \ldots , z_m)' из mm переменных. И пусть cc -- произвольная внутренняя точка (множества SS), в которой WW и XX непрерывно дифференцируемы, и предположим, что XX имеет постоянный ранг в некоторой окрестности cc. Далее, пусть BB -- произвольная матрица размера p×np \times n, такая что X′WXB=X′WX'WXB = X'W. Тогда при z=cz = c

∂(WPX,W)∂zj=∂W∂zj−(I−PX,W)′∂W∂zj(I−PX,W)+W(I−PX,W)∂X∂zjB+[W(I−PX,W)∂X∂zjB]′.(*) \begin{aligned} \frac{\partial (WP_{X,W})}{\partial z_j} & = \frac{\partial W}{\partial z_j} - (I-P_{X,W})'\frac{\partial W}{\partial z_j}(I-P_{X,W}) \\ & \quad + W(I-P_{X,W})\frac{\partial X}{\partial z_j}B + \left[W(I-P_{X,W})\frac{\partial X}{\partial z_j}B\right]' . \tag {*} \end{aligned}
?
Примечание.
?

Выведите результат (*), используя результат

PX,W′WPX,W=WPX,W(**) P_{X,W}'WP_{X,W} = WP_{X,W} \tag {**}

для получения представления

∂(WPX,W)∂zj=PX,W′W∂PX,W∂zj+PX,W′∂W∂zjPX,W+(∂PX,W∂zj)′WPX,W, \frac{\partial (WP_{X,W})}{\partial z_j} = P_{X,W}'W\frac{\partial P_{X,W}}{\partial z_j} + P_{X,W}'\frac{\partial W}{\partial z_j}P_{X,W} + \left(\frac{\partial P_{X,W}}{\partial z_j}\right)'WP_{X,W} ,

и затем используя результат

(∂PX,W∂zj)′WPX,W=(I−PX,W)′∂W∂zjPX,W+W(I−PX,W)∂X∂zjB.(⋆) \left(\frac{\partial P_{X,W}}{\partial z_j}\right)'WP_{X,W} = (I-P_{X,W})'\frac{\partial W}{\partial z_j}P_{X,W} + W(I-P_{X,W})\frac{\partial X}{\partial z_j}B . \tag {$\star $}