Минимизация полинома второй степени (от n переменных) при линейных ограничениях

Пусть $\mathbf{a}$ — $n \times 1$-вектор (не ограниченных) переменных, и пусть $f(\mathbf{a}) = \mathbf{a}'\mathbf{V}\mathbf{a} - 2\mathbf{b}'\mathbf{a}$, где $\mathbf{V}$ — $n \times n$-матрица, а $\mathbf{b}$ — $n \times 1$-вектор. Покажите, что если $\mathbf{V}$ не является неотрицательно определённой или $\mathbf{b} \notin C(\mathbf{V})$, то $f(\mathbf{a})$ не ограничен снизу, то есть для любого скаляра $c$ найдётся вектор $\mathbf{a}_{*}$ такой, что $f(\mathbf{a}_{*}) < c$.

Пусть $\mathbf{V}$ — симметрическая $n \times n$-матрица, а $\mathbf{X}$ — $n \times p$-матрица. Покажите, что для любой $p \times p$-матрицы $\mathbf{U}$ такой, что $C(\mathbf{X}) \subset C(\mathbf{V} + \mathbf{X}\mathbf{U}\mathbf{X}')$,

1. $(\mathbf{V} + \mathbf{X}\mathbf{U}\mathbf{X}')(\mathbf{V} + \mathbf{X}\mathbf{U}\mathbf{X}')^{-}\mathbf{V} = \mathbf{V}$;

2. $\mathbf{V}(\mathbf{V} + \mathbf{X}\mathbf{U}\mathbf{X}')^{-}(\mathbf{V} + \mathbf{X}\mathbf{U}\mathbf{X}') = \mathbf{V}$.

Пусть $\mathbf{V}$ — симметрическая неотрицательно определённая $n \times n$-матрица, $\mathbf{X}$ — $n \times p$-матрица, $\mathbf{B}$ — $n \times s$-матрица такая, что $C(\mathbf{B}) \subset C(\mathbf{V}, \mathbf{X})$, а $\mathbf{D}$ — $p \times s$-матрица такая, что $C(\mathbf{D}) \subset C(\mathbf{X}')$. Далее, пусть $\mathbf{U}$ — произвольная $p \times p$-матрица такая, что $C(\mathbf{X}) \subset C(\mathbf{V} + \mathbf{X}\mathbf{U}\mathbf{X}')$, а $\mathbf{W}$ — произвольная обобщённая обратная матрица к $\mathbf{V} + \mathbf{X}\mathbf{U}\mathbf{X}'$. Дайте короткое доказательство того, что $\mathbf{A}_{*}$ и $\mathbf{R}_{*}$ являются соответственно первой ($n \times s$) и второй ($p \times s$) частями решения (совместной) линейной системы

(относительно $n \times s$-матрицы $\mathbf{A}$ и $p \times s$-матрицы $\mathbf{R}$) тогда и только тогда, когда

и

для некоторого решения $\mathbf{T}_{*}$ (совместной) линейной системы

(относительно $p \times s$-матрицы $\mathbf{T}$) и некоторой $n \times s$-матрицы $\mathbf{L}$. Сделайте это, воспользовавшись результатом о том, что если коэффициентная матрица, правая часть и матрица неизвестных линейной системы $\mathbf{H}\mathbf{Y} = \mathbf{S}$ (относительно $\mathbf{Y}$) разбиты (согласованно) на блоки

и если

то матрица $\mathbf{Y}^{*} = \begin{pmatrix} \mathbf{Y}_{1}^{*} \\ \mathbf{Y}_{2}^{*} \end{pmatrix}$ является решением линейной системы $\mathbf{H}\mathbf{Y} = \mathbf{S}$ тогда и только тогда, когда $\mathbf{Y}_{2}^{*}$ является решением линейной системы

и $\mathbf{Y}_{1}^{*}$ и $\mathbf{Y}_{2}^{*}$ являются решением линейной системы

Пусть $\mathbf{V}$ — симметрическая $n \times n$-матрица, а $\mathbf{X}$ — $n \times p$-матрица. Далее, пусть $\mathbf{U} = \mathbf{X}'\mathbf{T}\mathbf{T}'\mathbf{X}$, где $\mathbf{T}$ — произвольная матрица, столбцы которой порождают нулевое пространство матрицы $\mathbf{V}$. Покажите, что $C(\mathbf{X}) \subset C(\mathbf{V} + \mathbf{X}\mathbf{U}\mathbf{X}')$ и что $C(\mathbf{V})$ и $C(\mathbf{X}\mathbf{U}\mathbf{X}')$ существенно не пересекаются, а $R(\mathbf{V})$ и $R(\mathbf{X}\mathbf{U}\mathbf{X}')$ существенно не пересекаются (даже без предположения о неотрицательной определённости $\mathbf{V}$).

Пусть $\mathbf{V}$ — симметрическая неотрицательно определённая $n \times n$-матрица, а $\mathbf{X}$ — $n \times p$-матрица. Далее, пусть $\mathbf{Z}$ — произвольная матрица, столбцы которой порождают $N(\mathbf{X}')$ или, что то же самое, $C^{\perp }(\mathbf{X})$. И примем ту же терминологию, что и в задаче 17.20.

Пусть $\mathbf{V}$ — симметрическая неотрицательно определённая $n \times n$-матрица, $\mathbf{W}$ — $n \times n$-матрица, а $\mathbf{X}$ — $n \times p$-матрица. Покажите, что для того, чтобы матрица $\mathbf{W}\mathbf{X}(\mathbf{X}'\mathbf{W}\mathbf{X})^{-}\mathbf{X}'$ была первой ($n \times n$) частью некоторого решения (совместной) линейной системы

(относительно $n \times n$-матрицы $\mathbf{A}$ и $p \times n$-матрицы $\mathbf{R}$), необходимо и достаточно, чтобы $C(\mathbf{V}\mathbf{W}\mathbf{X}) \subset C(\mathbf{X})$ и $\operatorname {rk}\left(\mathbf{X}'\mathbf{W}\mathbf{X}\right) = \operatorname {rk}\left(\mathbf{X}\right)$.

Пусть $\mathbf{a}$ — $n \times 1$-вектор переменных, на который наложено ограничение $\mathbf{X}'\mathbf{a} = \mathbf{d}$, где $\mathbf{X}$ — $n \times p$-матрица, а $\mathbf{d}$ — $p \times 1$-вектор такой, что $\mathbf{d} \in C(\mathbf{X}')$. Пусть $f(\mathbf{a}) = \mathbf{a}'\mathbf{V}\mathbf{a} - 2\mathbf{b}'\mathbf{a}$, где $\mathbf{V}$ — симметрическая неотрицательно определённая $n \times n$-матрица, а $\mathbf{b}$ — $n \times 1$-вектор такой, что $\mathbf{b} \in C(\mathbf{V}, \mathbf{X})$. Далее, пусть $g(\mathbf{a}) = \mathbf{a}'(\mathbf{V} + \mathbf{W})\mathbf{a} - 2(\mathbf{b} + \mathbf{c})'\mathbf{a}$, где $\mathbf{W}$ — произвольная $n \times n$-матрица такая, что $C(\mathbf{W}) \subset C(\mathbf{X})$ и $R(\mathbf{W}) \subset R(\mathbf{X}')$, а $\mathbf{c}$ — произвольный $n \times 1$-вектор из $C(\mathbf{X})$. Покажите, что минимизация $g(\mathbf{a})$ при ограничении $\mathbf{X}'\mathbf{a} = \mathbf{d}$ эквивалентна минимизации $f(\mathbf{a})$ при том же ограничении [в том смысле, что $g(\mathbf{a})$ и $f(\mathbf{a})$ достигают своих минимальных значений в одних и тех же точках].

Пусть $\mathbf{V}$ — симметрическая неотрицательно определённая $n \times n$-матрица, $\mathbf{W}$ — $n \times n$-матрица, $\mathbf{X}$ — $n \times p$-матрица, $\mathbf{f}$ — $n \times 1$-вектор, а $\mathbf{d}$ — $p \times 1$-вектор. Далее, пусть $\mathbf{b}$ — $n \times 1$-вектор такой, что $\mathbf{b} \in C(\mathbf{V}, \mathbf{X})$. Покажите, что для того, чтобы вектор $\mathbf{W}(\mathbf{I} - \mathbf{P}_{\mathbf{X},\mathbf{W}})\mathbf{f} + \mathbf{W}\mathbf{X}(\mathbf{X}'\mathbf{W}\mathbf{X})^{-}\mathbf{d}$ был решением, для каждого $\mathbf{d} \in C(\mathbf{X}')$, задачи минимизации полинома второй степени $\mathbf{a}'\mathbf{V}\mathbf{a} - 2\mathbf{b}'\mathbf{a}$ (относительно $\mathbf{a}$) при ограничении $\mathbf{X}'\mathbf{a} = \mathbf{d}$, необходимо и достаточно, чтобы

и

Пусть $\mathbf{V}$ и $\mathbf{W}$ — $n \times n$-матрицы, а $\mathbf{X}$ — $n \times p$-матрица. Покажите, что если $\mathbf{V}$ и $\mathbf{W}$ невырожденны, то условие $C(\mathbf{V}\mathbf{W}\mathbf{X}) \subset C(\mathbf{X})$ эквивалентно условию $C(\mathbf{V}^{-1}\mathbf{X}) \subset C(\mathbf{W}\mathbf{X})$, а также эквивалентно условию $C(\mathbf{W}^{-1}\mathbf{V}^{-1}\mathbf{X}) \subset C(\mathbf{X})$.

Пусть $\mathbf{V}$ — симметрическая положительно определённая $n \times n$-матрица, $\mathbf{W}$ — $n \times n$-матрица, $\mathbf{X}$ — $n \times p$-матрица, а $\mathbf{d}$ — $p \times 1$-вектор. Покажите, что для того, чтобы вектор $\mathbf{W}\mathbf{X}(\mathbf{X}'\mathbf{W}\mathbf{X})^{-}\mathbf{d}$ был решением, для каждого $\mathbf{d} \in C(\mathbf{X}')$, задачи минимизации квадратичной формы $\mathbf{a}'\mathbf{V}\mathbf{a}$ (относительно $\mathbf{a}$) при ограничении $\mathbf{X}'\mathbf{a} = \mathbf{d}$, необходимо и достаточно, чтобы $\mathbf{V}^{-1}\mathbf{P}_{\mathbf{X},\mathbf{W}'}$ была симметрична и $\operatorname {rk}\left(\mathbf{X}'\mathbf{W}\mathbf{X}\right) = \operatorname {rk}\left(\mathbf{X}\right)$. Покажите, что также необходимо и достаточно, чтобы $(\mathbf{I} - \mathbf{P}_{\mathbf{X},\mathbf{W}'}')\mathbf{V}^{-1}\mathbf{P}_{\mathbf{X},\mathbf{W}'} = \mathbf{0}$ и $\operatorname {rk}\left(\mathbf{X}'\mathbf{W}\mathbf{X}\right) = \operatorname {rk}\left(\mathbf{X}\right)$.

Пусть $\mathbf{V}$ — симметрическая неотрицательно определённая $n \times n$-матрица, $\mathbf{X}$ — $n \times p$-матрица, а $\mathbf{d}$ — $p \times 1$-вектор. Покажите, что каждое из следующих шести условий необходимо и достаточно для того, чтобы вектор $\mathbf{X}(\mathbf{X}'\mathbf{X})^{-}\mathbf{d}$ был решением, для каждого $\mathbf{d} \in C(\mathbf{X}')$, задачи минимизации квадратичной формы $\mathbf{a}'\mathbf{V}\mathbf{a}$ (относительно $\mathbf{a}$) при ограничении $\mathbf{X}'\mathbf{a} = \mathbf{d}$:

Пусть $\mathbf{V}$ — симметрическая неотрицательно определённая $n \times n$-матрица, $\mathbf{W}$ — $n \times n$-матрица, $\mathbf{X}$ — $n \times p$-матрица, а $\mathbf{d}$ — $p \times 1$-вектор. Далее, пусть $\mathbf{K}$ — произвольная $n \times q$-матрица такая, что $C(\mathbf{K}) = C(\mathbf{I} - \mathbf{P}_{\mathbf{X},\mathbf{W}'})$. Покажите, что если $\operatorname {rk}\left(\mathbf{X}'\mathbf{W}\mathbf{X}\right) = \operatorname {rk}\left(\mathbf{X}\right)$, то каждое из следующих двух условий необходимо и достаточно для того, чтобы вектор $\mathbf{W}\mathbf{X}(\mathbf{X}'\mathbf{W}\mathbf{X})^{-}\mathbf{d}$ был решением, для каждого $\mathbf{d} \in C(\mathbf{X}')$, задачи минимизации квадратичной формы $\mathbf{a}'\mathbf{V}\mathbf{a}$ (относительно $\mathbf{a}$) при ограничении $\mathbf{X}'\mathbf{a} = \mathbf{d}$: