Стохастические матрицы и цепи Маркова
[9/100%]Найдите стационарное распределение для
Представляет ли это стационарное распределение предельное распределение в обычном смысле или только в смысле Чезаро?
Дважды стохастической матрицей называется неотрицательная матрица , у которой суммы всех строк, а также суммы всех столбцов равны . Для неприводимой -состояний цепи Маркова, у которой матрица переходов дважды стохастична, какова доля времени в долгосрочной перспективе, проводимая в каждом состоянии? Какой вид имеют и (если он существует)?
Цель этого упражнения — показать, что дважды стохастические матрицы не представляют большого интереса с точки зрения теории цепей Маркова. Однако существует интересный теоретический результат (принадлежащий Дж. Биркгофу, 1946 г.), утверждающий, что множество дважды стохастических матриц образует выпуклый многогранник в с матрицами перестановок в качестве вершин.
Объясните, почему для любой неприводимой стохастической матрицы . Приведите пример, показывающий, что это не обязательно верно для приводимых стохастических матриц.
Докажите, что левый перроновский вектор для неприводимой стохастической матрицы () задаётся формулой
где — -й главный минор порядка в .
Чему равно , если вырождена?
Пусть — неприводимая стохастическая матрица, и пусть — главная подматрица матрицы , где . Докажите, что .
Пусть — неприводимая стохастическая матрица, и пусть — главная подматрица матрицы , где . Объясните, почему является M-матрицей.
M-матрицей называется вещественная невырожденная матрица , такая что для всех и ; эквивалентно, является M-матрицей тогда и только тогда, когда существуют матрица и вещественное число , такие что .
Пусть () — неприводимая стохастическая матрица. Объясните, почему все главные миноры порядка в положительны.
Используйте те же предположения, что и для отказоустойчивой системы, описанной в разобранном примере с двумя независимыми контролями (пример 8.4.5), но возьмите три контроля, , и , вместо двух. Определите среднее время до отказа, начиная с трёх исправных контролей, с двух исправных и одного непроверенного контроля, а также с трёх непроверенных контролей.
Пример, на который даётся ссылка: система имеет два независимых контроля, которые могут предотвратить её разрушение, активируемые в дискретные моменты времени; система «под контролем», если хотя бы один контроль исправен, и разрушена, если все контроли отказывают одновременно. Контроль, который был исправен при одной активации, с вероятностью надёжен при следующей; контроль, который отказал и был заменён, надёжен при следующей активации лишь с вероятностью .
Мышь помещают в одну камеру ящика, изображённого на рисунке ниже, а кошку — в другую камеру. Каждую минуту двери камер открывают ровно настолько, чтобы позволить переход из одной камеры в соседнюю. В половине случаев, когда двери открываются, кошка не покидает занимаемую ею камеру. То же верно и для мыши. Когда кошка или мышь перемещается, дверь, через которую она проходит, выбирается случайным образом.
Рисунок 8.4.1: план ящика с мышью (камера # 1 соединена и с # 2, и с # 3, а # 2 соединена с # 3).
Объясните, почему кошка и мышь в конце концов обязательно окажутся в одной и той же камере, и определите ожидаемое число шагов до этого момента.
Определите вероятность того, что кошка поймает мышь в камере для каждого .