8.4

Стохастические матрицы и цепи Маркова

[9/100%]
Показать
LaTeX
Задача 8.4.1

Найдите стационарное распределение для

P=(1/4003/43/81/43/801/31/61/61/3001/21/2). P = \begin{pmatrix} 1/4 & 0 & 0 & 3/4 \\ 3/8 & 1/4 & 3/8 & 0 \\ 1/3 & 1/6 & 1/6 & 1/3 \\ 0 & 0 & 1/2 & 1/2 \end{pmatrix}.

Представляет ли это стационарное распределение предельное распределение в обычном смысле или только в смысле Чезаро?

?
Задача 8.4.2

Дважды стохастической матрицей называется неотрицательная матрица Pn×nP_{n\times n}, у которой суммы всех строк, а также суммы всех столбцов равны 11. Для неприводимой nn-состояний цепи Маркова, у которой матрица переходов дважды стохастична, какова доля времени в долгосрочной перспективе, проводимая в каждом состоянии? Какой вид имеют lim⁡k→∞(I+P+⋯+Pk−1)/k\lim_{k\to \infty } (I + P + \cdots + P^{k-1})/k и lim⁡k→∞Pk\lim_{k\to \infty } P^k (если он существует)?

?
Примечание.
?

Цель этого упражнения — показать, что дважды стохастические матрицы не представляют большого интереса с точки зрения теории цепей Маркова. Однако существует интересный теоретический результат (принадлежащий Дж. Биркгофу, 1946 г.), утверждающий, что множество n×nn \times n дважды стохастических матриц образует выпуклый многогранник в Rn×n\mathbb {R}^{n \times n} с матрицами перестановок в качестве вершин.

Задача 8.4.3

Объясните, почему rk⁡(I−P)=n−1\operatorname {rk}\left(I-P\right) = n-1 для любой неприводимой стохастической матрицы Pn×nP_{n\times n}. Приведите пример, показывающий, что это не обязательно верно для приводимых стохастических матриц.

?
Задача 8.4.4

Докажите, что левый перроновский вектор для неприводимой стохастической матрицы Pn×nP_{n\times n} (n>1n > 1) задаётся формулой

πT=1∑i=1nPi(P1,P2,…,Pn), \pi ^T = \frac{1}{\sum _{i=1}^{n} P_i}\left(P_1, P_2, \ldots , P_n\right),

где PiP_i — ii-й главный минор порядка n−1n-1 в I−PI-P.

?
Примечание.
?

Чему равно [adj⁡(A)]A[\operatorname {adj}(A)]A, если AA вырождена?

Задача 8.4.5

Пусть Pn×nP_{n\times n} — неприводимая стохастическая матрица, и пусть Qk×kQ_{k\times k} — главная подматрица матрицы I−PI - P, где 1≤k<n1 \leq k < n. Докажите, что ρ(Q)<1\rho (Q) < 1.

?
Задача 8.4.6

Пусть Pn×nP_{n\times n} — неприводимая стохастическая матрица, и пусть Qk×kQ_{k\times k} — главная подматрица матрицы I−PI - P, где 1≤k<n1 \leq k < n. Объясните, почему QQ является M-матрицей.

?
Примечание.
?

M-матрицей называется вещественная невырожденная матрица Qk×kQ_{k\times k}, такая что [Q]ij≤0[Q]_{ij} \leq 0 для всех i≠ji \neq j и Q−1≥0Q^{-1} \geq 0; эквивалентно, QQ является M-матрицей тогда и только тогда, когда существуют матрица B≥0B \geq 0 и вещественное число s>ρ(B)s > \rho (B), такие что Q=sI−BQ = sI - B.

Задача 8.4.7

Пусть Pn×nP_{n\times n} (n>1n > 1) — неприводимая стохастическая матрица. Объясните, почему все главные миноры порядка 1≤k<n1 \leq k < n в I−PI - P положительны.

?
Задача 8.4.8

Используйте те же предположения, что и для отказоустойчивой системы, описанной в разобранном примере с двумя независимыми контролями (пример 8.4.5), но возьмите три контроля, AA, BB и CC, вместо двух. Определите среднее время до отказа, начиная с трёх исправных контролей, с двух исправных и одного непроверенного контроля, а также с трёх непроверенных контролей.

?
Примечание.
?

Пример, на который даётся ссылка: система имеет два независимых контроля, которые могут предотвратить её разрушение, активируемые в дискретные моменты времени; система «под контролем», если хотя бы один контроль исправен, и разрушена, если все контроли отказывают одновременно. Контроль, который был исправен при одной активации, с вероятностью 90%90\% надёжен при следующей; контроль, который отказал и был заменён, надёжен при следующей активации лишь с вероятностью 60%60\%.

Задача 8.4.9

Мышь помещают в одну камеру ящика, изображённого на рисунке ниже, а кошку — в другую камеру. Каждую минуту двери камер открывают ровно настолько, чтобы позволить переход из одной камеры в соседнюю. В половине случаев, когда двери открываются, кошка не покидает занимаемую ею камеру. То же верно и для мыши. Когда кошка или мышь перемещается, дверь, через которую она проходит, выбирается случайным образом.

Рисунок 8.4.1: план ящика с мышью (камера # 1 соединена и с # 2, и с # 3, а # 2 соединена с # 3).Рисунок 8.4.1: план ящика с мышью (камера # 1 соединена и с # 2, и с # 3, а # 2 соединена с # 3).

?
(a)

Объясните, почему кошка и мышь в конце концов обязательно окажутся в одной и той же камере, и определите ожидаемое число шагов до этого момента.

(b)

Определите вероятность того, что кошка поймает мышь в камере jj для каждого j=1,2,3j = 1, 2, 3.