4

Марковские цепи с конечным числом состояний

[38/100%]
Показать
LaTeX
Задача 4.1

Пусть [P][P] — матрица переходов конечной марковской цепи, и пусть состояние ii возвратно. Докажите, что ii апериодично, если Pii>0P_{ii} > 0.

?
Задача 4.2

Покажите, что любая марковская цепь с M<∞\mathsf{M} < \infty состояниями содержит хотя бы одно возвратное множество состояний. Достаточно объяснить каждое из следующих утверждений.

?
(a)

Если состояние i1i_{1} невозвратно, то существует некоторое другое состояние i2i_{2} такое, что i1→i2i_{1} \rightarrow i_{2} и i2↛i1i_{2} \not\rightarrow i_{1}.

(b)

Если состояние i2i_{2} из (а) также невозвратно, существует третье состояние i3i_{3} такое, что i2→i3i_{2} \rightarrow i_{3}, i3↛i2i_{3} \not\rightarrow i_{2}; это состояние должно удовлетворять i3≠i2i_{3} \neq i_{2}, i3≠i1i_{3} \neq i_{1}.

(c)

Продолжайте итеративно повторять (б) для последовательных состояний i1,i2,…i_{1}, i_{2}, \ldots. То есть, если i1,…,iki_{1}, \ldots , i_{k} порождены как выше и все невозвратны, порождаем ik+1i_{k+1} такое, что ik→ik+1i_{k} \rightarrow i_{k+1} и ik+1↛iki_{k+1} \not\rightarrow i_{k}. Тогда ik+1≠iji_{k+1} \neq i_{j} для 1≤j≤k1 \leq j \leq k.

(d)

Покажите, что для некоторого k≤Mk \leq \mathsf{M}, kk не является невозвратным, т.е. оно возвратно, так что возвратный класс существует.

Задача 4.3

Рассмотрим конечную цепь Маркова, в которой некоторое заданное состояние, скажем состояние 1, достижимо из любого другого состояния. Покажите, что цепь имеет ровно один возвратный класс R\mathcal{R} состояний и что состояние 1∈R1 \in \mathcal{R}. (Заметим, что тогда цепь является унициклической (unichain).)

?
Задача 4.4

Покажите, как обобщить граф на рисунке 4.4 на произвольное число состояний M≥3\mathsf{M} \geq 3 с одним циклом из M\mathsf{M} узлов и одним из M−1\mathsf{M} - 1 узлов. Для M=4\mathsf{M} = 4 пусть узел 1 будет узлом, не входящим в цикл из M−1\mathsf{M} - 1 узлов. Перечислите множество состояний, достижимых из узла 1 за nn шагов для каждого n≤12n \leq 12, и покажите, что оценка из теоремы 4.2.11 достигается с равенством. Объясните, почему тот же результат верен для всех больших M\mathsf{M}.

Теорема 4.2.11 (упоминаемая в этой задаче, приведённая заново по разделу 4.2): если [P][P] — матрица эргодической (т.е. возвратной, апериодической, неприводимой) конечной цепи Маркова с M\mathsf{M} состояниями, то существует целое число nn такое, что Pijn>0P_{ij}^{n} > 0 для всех i,ji, j; наименьшее такое nn удовлетворяет неравенству n≤(M−1)2+1n \leq (\mathsf{M} - 1)^{2} + 1.

?
Примечание.
?

Это доказательство теоремы 4.2.11, разбитое на упражнения 4.4--4.7; каждое обобщает предыдущее, приводя в итоге к оценке (M−1)2+1(\mathsf{M}-1)^2+1 выше.

Задача 4.5
?
(a)

Покажите, что эргодическая цепь Маркова с M>1\mathsf{M} > 1 состояниями должна содержать цикл с τ<M\tau < \mathsf{M} состояниями. Указание: используйте эргодичность, чтобы показать, что наименьший цикл не может содержать M\mathsf{M} состояний.

(b)

Пусть ℓ\ell — некоторое фиксированное состояние на этом цикле длины τ\tau. Пусть T(m)\mathcal{T}(m) — множество состояний, достижимых из ℓ\ell за mm шагов. Покажите, что для каждого m≥1m \geq 1 выполняется T(m)⊆T(m+τ)\mathcal{T}(m) \subseteq \mathcal{T}(m + \tau ). Указание: для любого заданного состояния j∈T(m)j \in \mathcal{T}(m) покажите, как построить путь из m+τm + \tau шагов от ℓ\ell до jj, исходя из предполагаемого пути из mm шагов.

(c)

Определим T(0)\mathcal{T}(0) как одноэлементное множество {ℓ}\left\{ \ell \right\} и покажите, что

T(0)⊆T(τ)⊆T(2τ)⊆⋯⊆T(nτ)⊆⋯ . \mathcal{T}(0) \subseteq \mathcal{T}(\tau ) \subseteq \mathcal{T}(2\tau ) \subseteq \cdots \subseteq \mathcal{T}(n\tau ) \subseteq \cdots .
(d)

Покажите, что если одно из включений выше выполняется как равенство, то и все последующие включения выполняются как равенства. Покажите отсюда, что не более первых M−1\mathsf{M} - 1 включений могут выполняться со строгим неравенством и что T(nτ)=T((M−1)τ)\mathcal{T}(n\tau ) = \mathcal{T}((\mathsf{M}-1)\tau ) для всех n≥M−1n \geq \mathsf{M} - 1.

(e)

Покажите, что все состояния включены в T((M−1)τ)\mathcal{T}((\mathsf{M}-1)\tau ).

(f)

Покажите, что Pij(M−1)2+1>0P_{ij}^{(\mathsf{M}-1)^{2}+1} > 0 для всех i,ji, j.

Задача 4.6

Рассмотрим цепь Маркова с одним эргодическим классом из rr состояний, скажем {1,2,…,r}\left\{ 1, 2, \ldots , r\right\}, и M−r\mathsf{M} - r другими состояниями, все из которых переходны. Покажите, что Pijn>0P_{ij}^{n} > 0 для всех j≤rj \leq r и n≥(r−1)2+1+M−rn \geq (r-1)^{2} + 1 + \mathsf{M} - r.

?
Задача 4.7
?
(a)

Пусть τ\tau — число состояний в наименьшем цикле произвольной эргодической марковской цепи с M≥3\mathsf{M} \geq 3 состояниями. Покажите, что Pijn>0P_{ij}^{n} > 0 для всех n≥(M−2)τ+Mn \geq (\mathsf{M}-2)\tau + \mathsf{M}. Указание: посмотрите доказательство теоремы 4.2.11 в упражнении 4.5.

(b)

Для τ=1\tau = 1 нарисуйте граф эргодической марковской цепи (обобщённый на произвольное M≥3\mathsf{M} \geq 3), для которой найдутся такие i,ji,j, что Pijn=0P_{ij}^{n} = 0 при n=2M−3n = 2\mathsf{M}-3. Указание: посмотрите рисунок 4.4.

(c)

Для произвольного τ<M−1\tau < \mathsf{M}-1 нарисуйте граф эргодической марковской цепи (обобщённый на произвольное M\mathsf{M}), для которой найдутся такие i,ji,j, что Pijn=0P_{ij}^{n} = 0 при n=(M−2)τ+M−1n = (\mathsf{M}-2)\tau + \mathsf{M}-1. Предположите, что M\mathsf{M} и τ\tau взаимно просты.

Задача 4.8

Матрица переходных вероятностей [P][P] называется дважды стохастической, если

∑jPij=1для всех i,∑iPij=1для всех j. \sum _{j} P_{ij} = 1 \quad \text{для всех } i, \qquad \sum _{i} P_{ij} = 1 \quad \text{для всех } j.

То есть сумма по каждой строке и сумма по каждому столбцу равны 1. Если дважды стохастическая цепь имеет M\mathsf{M} состояний и эргодична (то есть имеет единственный класс состояний и апериодична), вычислите её стационарные вероятности.

?
Задача 4.9
?
(a)

Найдите стационарные вероятности π0,…,πk−1\pi_{0}, \ldots , \pi_{k-1} для марковской цепи, изображённой ниже. Выразите ответ через отношение ρ=p/q\rho = p/q, где q=1−pq = 1-p. Обратите особое внимание на особый случай ρ=1\rho = 1.

[width=0.9figs/figs_original/ch4_ex9.png

(b)

Изобразите π0,…,πk−1\pi_{0}, \ldots , \pi_{k-1}. Дайте один рисунок для ρ=1/2\rho = 1/2, один для ρ=1\rho = 1 и один для ρ=2\rho = 2.

(c)

Найдите предел π0\pi_{0} при k→∞k \to \infty; дайте отдельные ответы для ρ<1\rho < 1, ρ=1\rho = 1 и ρ>1\rho > 1. Найдите предельные значения πk−1\pi_{k-1} для тех же случаев.

Задача 4.10
?
(a)

Найдите стационарные вероятности для каждой из марковских цепей на рисунке ниже. Предположите, что все вероятности перехода по часовой стрелке в первом графе одинаковы, скажем, pp, и предположите, что P4,5=P4,1P_{4,5} = P_{4,1} во втором графе.

[width=0.85figs/figs_original/ch4_ex10.png

(b)

Найдите матрицы [P2][P^{2}] для тех же цепей. Нарисуйте графы марковских цепей, представленных [P2][P^{2}], то есть граф двухшаговых переходов для исходных цепей. Найдите стационарные вероятности для этих двухшаговых цепей. Объясните, почему найденные вами стационарные вероятности не единственны.

(c)

Найдите lim⁡n→∞[P2n]\lim_{n \rightarrow \infty }[P^{2n}] для каждой из цепей.

Задача 4.11
?
(a)

Предположим, что ν(i)\nu^{(i)} — правый собственный вектор, а π(j)\pi^{(j)} — левый собственный вектор стохастической матрицы [P][P] размера M×M\mathsf{M} \times \mathsf{M}, причём λi≠λj\lambda_{i} \neq \lambda_{j}. Покажите, что π(j)ν(i)=0\pi^{(j)}\nu^{(i)} = 0. Указание: рассмотрите два способа вычисления π(j)[P]ν(i)\pi^{(j)}[P]\nu^{(i)}.

(b)

Предположим, что [P][P] имеет M\mathsf{M} различных собственных значений. Тогда правые собственные векторы [P][P] порождают M\mathsf{M}-мерное пространство (см. раздел 5.2 книги Стрэнга [28]), так что матрица [U][U], столбцами которой служат эти собственные векторы, невырождена. Покажите, что U−1U^{-1} — это матрица, строками которой являются M\mathsf{M} левых собственных векторов [P][P]. Указание: используйте (а).

(c)

Для произвольного заданного целого числа i∈{1,M}i \in \left\{ 1, \mathsf{M}\right\} пусть [A][A] — диагональная матрица с единственным ненулевым элементом Aii=a≠0A_{ii} = a \neq 0. Используя предположения и результаты пункта (б), покажите, что

[UAU−1]=aν(i)π(i). [UAU^{-1}] = a\nu ^{(i)}\pi ^{(i)}.

Указание: представьте себе непосредственное перемножение векторов и матриц.

(d)

Проверьте (4.30)(4.30) (упоминается здесь; в переформулированном виде: [UΛnU−1]=∑i=1Mλinν(i)π(i)[U\Lambda^{n}U^{-1}] = \sum_{i=1}^{\mathsf{M}} \lambda_{i}^{n}\nu^{(i)}\pi^{(i)}, где [Λ][\Lambda ] — диагональная матрица собственных значений λi\lambda_{i} матрицы [P][P]).

Примечание.
?

Я добавил переформулировку уравнения (4.30), на которое голая ссылка дана в пункте (г), из раздела 4.4 исходного PDF, чтобы задачу можно было решить, не обращаясь к нему.

Задача 4.12
?
(a)

Пусть λk\lambda_{k} — собственное значение стохастической матрицы [P][P], а π(k)\pi^{(k)} — левый собственный вектор для λk\lambda_{k}. Покажите, что для каждой компоненты πj(k)\pi_{j}^{(k)} вектора π(k)\pi^{(k)} и каждого nn выполняется

λknπj(k)=∑iπi(k)Pijn. \lambda _{k}^{n}\pi _{j}^{(k)} = \sum _{i} \pi _{i}^{(k)} P_{ij}^{n}.
(b)

Взяв модули обеих частей и рассмотрев подходящее jj, покажите, что

∣λk∣n≤M. \left|\lambda _{k}\right|^{n} \leq \mathsf{M}.
(c)

Покажите, что ∣λk∣≤1\left|\lambda_{k}\right| \leq 1.

Задача 4.13

Рассмотрим конечную цепь Маркова с матрицей [P][P], имеющей κ\kappa апериодических возвратных классов R1,…,Rκ\mathcal{R}_{1}, \ldots , \mathcal{R}_{\kappa } и множество T\mathcal{T} невозвратных состояний. Для произвольного заданного возвратного класса Rℓ\mathcal{R}_{\ell } рассмотрим вектор ν\nu такой, что νi=1\nu_{i} = 1 для каждого i∈Rℓi \in \mathcal{R}_{\ell }, νi=lim⁡n→∞P(Xn∈Rℓ∣X0=i)\nu_{i} = \lim_{n \rightarrow \infty } \mathbb {P}\left( X_{n} \in \mathcal{R}_{\ell } \mid X_{0} = i \right) для каждого i∈Ti \in \mathcal{T}, и νi=0\nu_{i} = 0 в остальных случаях. Покажите, что ν\nu — правый собственный вектор [P][P] с собственным значением 1. Указание: перерисуйте рисунок 4.5 (граф, показывающий блочно-треугольную структуру [P][P] для унициклической цепи с невозвратным множеством T\mathcal{T} и возвратным классом R\mathcal{R}, где переходы возможны только внутри T\mathcal{T}, из T\mathcal{T} в R\mathcal{R} или внутри R\mathcal{R}) для случая нескольких возвратных классов и сначала покажите, что ν\nu является собственным вектором [Pn][P^{n}] в пределе.

?
Примечание.
?

Я добавил описание рисунка 4.5, на который дана голая ссылка в указании, восстановив его из исходного PDF, чтобы задачу можно было решить, не обращаясь к нему.

Задача 4.14

Ответьте на следующие вопросы для следующей стохастической матрицы [P][P]:

[P]=[1/21/2001/21/2001]. [P] = \begin{bmatrix} 1/2 & 1/2 & 0 \\ 0 & 1/2 & 1/2 \\ 0 & 0 & 1 \end{bmatrix}.
?
(a)

Найдите [Pn][P^{n}] в замкнутой форме для произвольного n>1n > 1.

(b)

Найдите все различные собственные значения и кратность каждого различного собственного значения для [P][P].

(c)

Найдите правый собственный вектор для каждого различного собственного значения и покажите, что собственное значение кратности 2 не имеет двух линейно независимых собственных векторов.

(d)

Используя (в), покажите, что не существует диагональной матрицы [Λ][\Lambda ] и обратимой матрицы [U][U], для которых [P][U]=[U][Λ][P][U] = [U][\Lambda ].

(e)

Передокажите результат (г), используя результат (а), а не (в).

Задача 4.15
?
(a)

Пусть [Ji][J_{i}] — блок 3×33 \times 3 жордановой формы, т.е.

[Ji]=[λi100λi100λi]. [J_{i}] = \begin{bmatrix} \lambda _{i} & 1 & 0 \\ 0 & \lambda _{i} & 1 \\ 0 & 0 & \lambda _{i} \end{bmatrix}.

Покажите, что nn-я степень [Ji][J_{i}] задаётся выражением

[Jin]=[λinnλin−1(n2)λin−20λinnλin−100λin]. [J_{i}^{n}] = \begin{bmatrix} \lambda _{i}^{n} & n\lambda _{i}^{n-1} & \binom {n}{2}\lambda _{i}^{n-2} \\ 0 & \lambda _{i}^{n} & n\lambda _{i}^{n-1} \\ 0 & 0 & \lambda _{i}^{n} \end{bmatrix}.

Указание: пожалуй, проще всего вычислить [Ji2][J_{i}^{2}] и [Ji3][J_{i}^{3}], а затем воспользоваться итерацией.

(b)

Обобщите (а) на блок k×kk \times k жордановой формы. Заметьте, что nn-я степень всей жордановой формы составлена из таких блоков вдоль диагонали матрицы.

(c)

Пусть [P][P] — стохастическая матрица, представленная жордановой формой [J][J] в виде [P]=[U][J][U−1][P] = [U][J][U^{-1}], и рассмотрим [U−1][Pn][U]=[J][U^{-1}][P^{n}][U] = [J] (т.е. [U−1][P][U]=[J][U^{-1}][P][U] = [J]). Покажите, что любое повторяющееся собственное значение [P][P] (и, в частности, любое собственное значение, представленное жордановым блоком размера 2×22 \times 2 или больше) должно быть строго меньше 1. Указание: оцените сверху элементы [U−1][Pn][U][U^{-1}][P^{n}][U], взяв модули элементов [U][U] и [U−1][U^{-1}] и ограничив сверху каждый элемент стохастической матрицы единицей.

(d)

Пусть λs\lambda_{s} — собственное значение наибольшей величины, меньшее 1. Предположим, что жордановы блоки для λs\lambda_{s} имеют размер не более kk. Покажите, что каждый эргодический класс [P][P] сходится по меньшей мере со скоростью nkλsnn^{k}\lambda_{s}^{n}.

Задача 4.16
?
(a)

Пусть λ\lambda — собственное значение матрицы [A][A], а ν\nu и π\pi — соответственно правый и левый собственные векторы для λ\lambda, нормированные так, что πν=1\pi \nu = 1. Покажите, что

[[A]−λνπ]2=[A2]−λ2νπ. [[A] - \lambda \nu \pi ]^{2} = [A^{2}] - \lambda ^{2}\nu \pi .
(b)

Покажите, что [[An]−λnνπ][[A]−λνπ]=[An+1]−λn+1νπ[[A^{n}] - \lambda^{n}\nu \pi ][[A] - \lambda \nu \pi ] = [A^{n+1}] - \lambda^{n+1}\nu \pi.

(c)

Используя индукцию, покажите, что [[A]−λνπ]n=[An]−λnνπ[[A] - \lambda \nu \pi ]^{n} = [A^{n}] - \lambda^{n}\nu \pi.

Задача 4.17

Пусть [P][P] — матрица переходов апериодической марковской уницепи с состояниями, пронумерованными как на рисунке 4.5 (здесь на него ссылаются; переформулировка: состояния с 1 по tt — переходные состояния T\mathcal{T}, пронумерованные перед возвратными состояниями с t+1t+1 по M\mathsf{M}, обозначаемыми R\mathcal{R}, так что [P][P] имеет блочный вид [[PT][Px]0[PR]]\begin{bmatrix} [P_{\mathcal{T}}] & [P_{x}] \\ 0 & [P_{\mathcal{R}}]\end{bmatrix}, где [Px][P_{x}] — (вообще говоря, неквадратный) блок вероятностей перехода из T\mathcal{T} в R\mathcal{R}).

?
(a)

Покажите, что [Pn][P^{n}] можно представить в блочном виде

[Pn]=[[PTn][Pxn]0[PRn]]. [P^{n}] = \begin{bmatrix} [P_{\mathcal{T}}^{n}] & [P_{x}^{n}] \\ 0 & [P_{\mathcal{R}}^{n}] \end{bmatrix}.

То есть блоки на диагонали — это просто произведения соответствующих блоков [P][P], а верхний правый блок — какой уж он получится.

(b)

Пусть qiq_{i} — вероятность того, что цепь окажется в возвратном состоянии после tt переходов, начиная из состояния ii, т.е. qi=∑j∈RPijtq_{i} = \sum_{j \in \mathcal{R}} P_{ij}^{t}. Покажите, что qi>0q_{i} > 0 для всех переходных ii.

(c)

Пусть qq — минимум qiq_{i} по всем переходным ii; покажите, что Pijnt≤(1−q)nP_{ij}^{nt} \leq (1-q)^{n} для всех переходных i,ji,j (т.е. покажите, что [PTn][P_{\mathcal{T}}^{n}] стремится к нулевой матрице [0][0] с ростом nn).

(d)

Пусть π=(πT,πR)\pi = (\pi_{\mathcal{T}}, \pi_{\mathcal{R}}) — левый собственный вектор [P][P] с собственным значением 1. Покажите, что πT=0→\pi_{\mathcal{T}} = \overrightarrow {0}, и покажите, что πR\pi_{\mathcal{R}} должен быть положительным и являться левым собственным вектором [PR][P_{\mathcal{R}}]. Тем самым покажите, что π\pi существует и единствен (с точностью до масштабного множителя).

(e)

Покажите, что e→\overrightarrow {e} — единственный (с точностью до масштабного множителя) правый собственный вектор [P][P] с собственным значением 1.

Примечание.
?

Я добавил описание блочной структуры рисунка 4.5, на который в задаче лишь голо ссылались, переформулировав его из раздела 4.3 исходного PDF, чтобы задачу можно было решить, не заглядывая туда.

Задача 4.18

Обобщите упражнение 4.17 на случай цепи Маркова [P][P] с κ\kappa возвратными классами и одним или несколькими невозвратными классами. В частности, покажите, что:

?
(a)

[P][P] имеет ровно κ\kappa линейно независимых левых собственных векторов, π(1),π(2),…,π(κ)\pi^{(1)}, \pi^{(2)}, \ldots , \pi^{(\kappa )}, с собственным значением 1, причём mm-й можно выбрать как вероятностный вектор, положительный на mm-м возвратном классе и равный нулю всюду вне его.

(b)

[P][P] имеет ровно κ\kappa линейно независимых правых собственных векторов, ν(1),ν(2),…,ν(κ)\nu^{(1)}, \nu^{(2)}, \ldots , \nu^{(\kappa )}, с собственным значением 1, причём mm-й можно выбрать как вектор, у которого νi(m)\nu_{i}^{(m)} равно вероятности того, что возвратный класс mm будет когда-либо достигнут, стартуя из состояния ii.

(c)

Покажите, что

lim⁡n→∞[Pn]=∑mν(m)π(m). \lim _{n \rightarrow \infty } [P^{n}] = \sum _{m} \nu ^{(m)}\pi ^{(m)}.
Задача 4.19

Предположим, что возвратная цепь Маркова имеет период dd, и пусть Sm\mathcal{S}_{m}, 0≤m≤d−10 \leq m \leq d-1, — это mm-е подмножество в смысле теоремы 4.2.9. Предположим, что состояния пронумерованы так, что первые s0s_{0} состояний — это состояния S0\mathcal{S}_{0}, следующие s1s_{1} — состояния S1\mathcal{S}_{1}, и так далее. Тогда матрица [P][P] цепи имеет блочный вид

[P] = \begin{bmatrix} 0 & [P_{0}] & \ddots & \ddots & 0 \\ 0 & 0 & [P_{1}] & \ddots & \ddots \\ \ddots & \ddots & \ddots & \ddots & \ddots \\ 0 & 0 & \ddots & \ddots & [P_{d-2}] \\[P_{d-1}] & 0 & \ddots & \ddots & 0 \end{bmatrix},

где [Pm][P_{m}] имеет размерность sm×sm+1s_{m} \times s_{m+1} для 0≤m≤d−10 \leq m \leq d-1, причём индекс (d−1)+1(d-1)+1 везде понимается как 0 (то есть по индексам используется арифметика по модулю dd). В дальнейшем часто удобнее записывать [Pm][P_{m}] как матрицу M×M\mathsf{M} \times \mathsf{M}, обозначаемую [Pm′][P_{m}'], все элементы которой равны 0, кроме строк Sm\mathcal{S}_{m} и столбцов Sm+1\mathcal{S}_{m+1}, где элементы совпадают с элементами [Pm][P_{m}]. В этих обозначениях [P]=∑m=0d−1[Pm′][P] = \sum_{m=0}^{d-1}[P_{m}'].

?
(a)

Покажите, что [Pd][P^{d}] имеет вид

[Pd]=[[Q0]0⋱00[Q1]⋱⋱00⋱[Qd−1]], [P^{d}] = \begin{bmatrix} [Q_{0}] & 0 & \ddots & 0 \\ 0 & [Q_{1}] & \ddots & \ddots \\ 0 & 0 & \ddots & [Q_{d-1}] \end{bmatrix},

где [Qm]=[Pm][Pm+1]⋯[Pd−1][P0]⋯[Pm−1][Q_{m}] = [P_{m}][P_{m+1}] \cdots [P_{d-1}][P_{0}] \cdots [P_{m-1}]. Если записать [Qm][Q_{m}] как матрицу M×M\mathsf{M} \times \mathsf{M}, обозначаемую [Qm′][Q_{m}'], все элементы которой равны 0, кроме строк и столбцов Sm\mathcal{S}_{m}, где элементы совпадают с элементами [Qm][Q_{m}], это соотношение примет вид [Pd]=∑m=0d−1[Qm′][P^{d}] = \sum_{m=0}^{d-1}[Q_{m}'].

(b)

Покажите, что [Qm][Q_{m}] является матрицей эргодической цепи Маркова, и пусть π^m\hat{\pi }_{m} — её собственный вектор с собственным значением 1 (нормированный так, чтобы быть вероятностным вектором), а ν^m\hat{\nu }_{m} — соответствующий правый собственный вектор, нормированный так, что π^mν^m=1\hat{\pi }_{m}\hat{\nu }_{m} = 1. Пусть π^m′\hat{\pi }_{m}' и ν^m′\hat{\nu }_{m}' — соответствующие M\mathsf{M}-мерные векторы. Покажите, что lim⁡n→∞[Pnd]=∑m=0d−1ν^m′π^m′\lim_{n \rightarrow \infty }[P^{nd}] = \sum_{m=0}^{d-1} \hat{\nu }_{m}'\hat{\pi }_{m}'.

(c)

Покажите, что π^m′[Pm′]=π^m+1′\hat{\pi }_{m}'[P_{m}'] = \hat{\pi }_{m+1}'. Заметьте, что π^m′\hat{\pi }_{m}' — это M\mathsf{M}-набор, ненулевой только на компонентах Sm\mathcal{S}_{m}.

(d)

Пусть ϕ=2π−1/d\phi = 2\pi \sqrt{-1}/d и π(k)=∑m=0d−1π^m′emkϕ\pi^{(k)} = \sum_{m=0}^{d-1} \hat{\pi }_{m}'e^{mk\phi }. Покажите, что π(k)\pi^{(k)} является левым собственным вектором [P][P] с собственным значением e−ϕke^{-\phi k}.

Задача 4.20

(Продолжение упражнения 4.19.)

?
(a)

Покажите, что с собственными векторами, определёнными в упражнении 4.19,

lim⁡n→∞[Pnd][P]=∑i=0d−1ν(i)π(i+1),(A.56) \lim _{n \rightarrow \infty } [P^{nd}][P] = \sum _{i=0}^{d-1} \nu ^{(i)}\pi ^{(i+1)}, \tag {A.56}

где, как и раньше, (d−1)+1(d-1)+1 принимается равным 0.

(b)

Покажите, что при 1≤j<d1 \leq j < d

lim⁡n→∞[Pnd][Pj]=∑i=0d−1ν(i)π(i+j).(A.57) \lim _{n \rightarrow \infty } [P^{nd}][P^{j}] = \sum _{i=0}^{d-1} \nu ^{(i)}\pi ^{(i+j)}. \tag {A.57}
(c)

Покажите, что

lim⁡n→∞[Pnd]{I+[P]+⋯+[Pd−1]}=(∑i=0d−1ν(i))(∑j=0d−1π(i+j)).(A.58) \lim _{n \rightarrow \infty } [P^{nd}]\left\{ I + [P] + \cdots + [P^{d-1}]\right\} = \left(\sum _{i=0}^{d-1} \nu ^{(i)}\right) \left(\sum _{j=0}^{d-1} \pi ^{(i+j)}\right). \tag {A.58}
(d)

Покажите, что

lim⁡n→∞1d([Pn]+[Pn+1]+⋯+[Pn+d−1])=e→π,(A.59) \lim _{n \rightarrow \infty } \frac{1}{d}\left([P^{n}] + [P^{n+1}] + \cdots + [P^{n+d-1}]\right) = \overrightarrow {e}\pi , \tag {A.59}

где π\pi — стационарный вероятностный вектор для [P][P]. Указание: покажите, что e→=∑mν(m)\overrightarrow {e} = \sum_{m} \nu^{(m)} и π=(1/d)∑mπ(m)\pi = (1/d)\sum_{m} \pi^{(m)}.

(e)

Покажите, что приведённый выше результат также справедлив для периодических уницепей.

Задача 4.21

Пусть AA и BB — эргодические марковские цепи с переходными вероятностями {PAi,Aj}\left\{ P_{A_{i},A_{j}}\right\} и {PBi,Bj}\left\{ P_{B_{i},B_{j}}\right\} соответственно. Обозначим стационарные вероятности AA и BB через {πAi}\left\{ \pi_{A_{i}}\right\} и {πBi}\left\{ \pi_{B_{i}}\right\} соответственно. Теперь цепи соединяются и модифицируются, как показано ниже. А именно, состояния A1A_{1} и B1B_{1} соединяются, и новые переходные вероятности P′P' для объединённой цепи задаются формулами

PA1,B1′=ε,PA1,Aj′=(1−ε)PA1,Ajдля всех Aj;PB1,A1′=δ,PB1,Bj′=(1−δ)PB1,Bjдля всех Bj. \begin{aligned} P_{A_{1},B_{1}}' & = \varepsilon , & P_{A_{1},A_{j}}' & = (1-\varepsilon )P_{A_{1},A_{j}} & \text{для всех } A_{j}; \\ P_{B_{1},A_{1}}' & = \delta , & P_{B_{1},B_{j}}' & = (1-\delta )P_{B_{1},B_{j}} & \text{для всех } B_{j}. \end{aligned}

Все остальные переходные вероятности остаются прежними. Интуитивно считайте ε\varepsilon и δ\delta малыми, но не делайте никаких приближений в дальнейшем. Дайте ответы на следующие вопросы как функции от ε\varepsilon, δ\delta, {πAi}\left\{ \pi_{A_{i}}\right\} и {πBi}\left\{ \pi_{B_{i}}\right\}.

[width=0.85figs/figs_original/ch4_ex21.png

?
(a)

Предположим, что ϵ>0\epsilon > 0, δ=0\delta = 0 (т.е. что AA является множеством транзитных состояний в объединённой цепи). Начиная с состояния A1A_{1}, найдите условное ожидаемое время возврата в A1A_{1} при условии, что первый переход происходит в некоторое состояние цепи AA.

(b)

Предположим, что ϵ>0\epsilon > 0, δ=0\delta = 0. Найдите TA,BT_{A,B} — ожидаемое время до первого достижения состояния B1B_{1}, начиная с состояния A1A_{1}. Ваш ответ должен быть функцией от ϵ\epsilon и исходных стационарных вероятностей {πAi}\left\{ \pi_{A_{i}}\right\} в цепи AA.

(c)

Предположим, что ε>0\varepsilon > 0, δ>0\delta > 0. Найдите TB,AT_{B,A} — ожидаемое время до первого достижения состояния A1A_{1}, начиная с состояния B1B_{1}. Ваш ответ должен зависеть только от δ\delta и {πBi}\left\{ \pi_{B_{i}}\right\}.

(d)

Предположим, что ε>0\varepsilon > 0 и δ>0\delta > 0. Найдите P′(A)P'(A) — стационарную вероятность того, что объединённая цепь находится в одном из состояний {Aj}\left\{ A_{j}\right\} исходной цепи AA.

(e)

Предположим, что ε>0\varepsilon > 0, δ=0\delta = 0. Для каждого состояния Aj≠A1A_{j} \neq A_{1} в AA найдите vAjv_{A_{j}} — ожидаемое число посещений состояния AjA_{j}, начиная с состояния A1A_{1}, до достижения B1B_{1}. Ваш ответ должен зависеть только от ε\varepsilon и {πAi}\left\{ \pi_{A_{i}}\right\}.

(f)

Предположим, что ε>0\varepsilon > 0, δ>0\delta > 0. Для каждого состояния AjA_{j} в AA найдите πAj′\pi_{A_{j}}' — стационарную вероятность нахождения в состоянии AjA_{j} в объединённой цепи. Указание: будьте внимательны при рассмотрении состояния A1A_{1}.

Задача 4.22

В разделе 4.5.1 было показано, как найти ожидаемые времена первого достижения фиксированного состояния, скажем 1, из всех остальных состояний. Часто желательно включить также ожидаемое время первого возврата из состояния 1 обратно в состояние 1. Это можно сделать, разбив состояние 1 на два состояния: первое — начальное состояние без входящих переходов, но с исходными исходящими переходами, и второе — конечное поглощающее состояние с исходными входящими переходами.

?
(a)

Для цепи на левой стороне рисунка 4.6 (четырёхсостояниевая возвратная марковская цепь, приведённая ниже) нарисуйте граф модифицированной цепи с пятью состояниями, где состояние 1 было разбито на два состояния.

[width=0.5figs/figs_original/ch4_fig46.png

(b)

Предположим, что найдены ожидаемые времена первого достижения vjv_{j} для состояний j=2,…,4j = 2, \ldots , 4 (или в общем случае от 2 до M\mathsf{M}). Найдите выражение для v1v_{1} — ожидаемого времени первого возврата для состояния 1 — через v2,v3,…vMv_{2}, v_{3}, \ldots v_{\mathsf{M}} и P12,…,P1MP_{12}, \ldots , P_{1\mathsf{M}}.

Примечание.
?

I added the left-hand chain of Figure 4.6, cited bare in part (a), restated from the source PDF's Section 4.5.1, so the problem is solvable without looking it up.

Задача 4.23
?
(a)

Предположим всюду, что [P][P] — матрица переходов унициклической цепи (и, таким образом, собственное значение 1 имеет кратность 1). Покажите, что решение уравнения [P]w→−w→=r→−ge→[P]\overrightarrow {w} - \overrightarrow {w} = \overrightarrow {r} - g\overrightarrow {e} существует тогда и только тогда, когда r→−ge→\overrightarrow {r} - g\overrightarrow {e} лежит в пространстве столбцов [P−I][P-I], где [I][I] — единичная матрица.

(b)

Покажите, что это пространство столбцов есть множество векторов x→\overrightarrow {x}, для которых πx→=0\pi \overrightarrow {x} = 0. Затем покажите, что r→−ge→\overrightarrow {r} - g\overrightarrow {e} лежит в этом пространстве столбцов.

(c)

Покажите, что при дополнительном ограничении πw→=0\pi \overrightarrow {w} = 0 уравнение [P]w→−w→=r→−ge→[P]\overrightarrow {w} - \overrightarrow {w} = \overrightarrow {r} - g\overrightarrow {e} имеет единственное решение.

Задача 4.24

Для марковской цепи с вознаграждениями, показанной ниже (состояния 1 и 2, вероятности перехода P12=P21=0.01P_{12}=P_{21}=0.01, P11=P22=0.99P_{11}=P_{22}=0.99, вознаграждения r1=0r_{1}=0, r2=1r_{2}=1):

[width=0.45figs/figs_original/ch4_fig48.png

?
(a)

Найдите решение уравнения (4.37)(4.37) (упомянутого здесь; переформулировка: уравнение относительного выигрыша w→+ge→=[P]w→+r→\overrightarrow {w} + g\overrightarrow {e} = [P]\overrightarrow {w} + \overrightarrow {r} вместе с нормировкой πw→=0\pi \overrightarrow {w}=0) и найдите выигрыш gg.

(b)

Измените рисунок выше, сделав P12P_{12} произвольной вероятностью. Снова найдите gg и w→\overrightarrow {w} и дайте интуитивное объяснение того, почему P12P_{12} влияет на w2w_{2}.

Примечание.
?

I added a restatement of equation (4.37), cited bare in part (a), from Section 4.5 of the source PDF, so the problem is solvable without looking it up.

Задача 4.25
?
(a)

Покажите, что выигрыш на шаг gg равен 0. Указание: покажите, что r→\overrightarrow {r} равен нулю там, где стационарный вектор π\pi отличен от нуля.

(b)

Пусть [PR][P_{\mathcal{R}}] — матрица переходов для возвратных состояний, пусть r→R=0\overrightarrow {r}_{\mathcal{R}} = 0 — вектор вознаграждений, а w→R\overrightarrow {w}_{\mathcal{R}} — вектор относительного выигрыша для [PR][P_{\mathcal{R}}]. Покажите, что w→R=0\overrightarrow {w}_{\mathcal{R}} = 0. Указание: используйте теорему 4.5.4.

(c)

Покажите, что wi=0w_{i} = 0 для всех i∈Ri \in \mathcal{R}. Указание: сравните уравнения относительного выигрыша для [P][P] с уравнениями для [PR][P_{\mathcal{R}}].

(d)

Покажите, что для каждого n≥0n \geq 0 выполняется [Pn]w→=[Pn+1]w→+[Pn]r→[P^{n}]\overrightarrow {w} = [P^{n+1}]\overrightarrow {w} + [P^{n}]\overrightarrow {r}. Указание: начните с уравнения относительного выигрыша для [P][P].

(e)

Покажите, что w→=[Pn+1]w→+∑m=0n[Pm]r→\overrightarrow {w} = [P^{n+1}]\overrightarrow {w} + \sum_{m=0}^{n}[P^{m}]\overrightarrow {r}. Указание: просуммируйте результат из (г).

(f)

Покажите, что lim⁡n→∞[Pn+1]w→=0\lim_{n \rightarrow \infty }[P^{n+1}]\overrightarrow {w} = 0 и что lim⁡n→∞∑m=0n[Pm]r→\lim_{n \rightarrow \infty }\sum_{m=0}^{n}[P^{m}]\overrightarrow {r} конечен, неотрицателен и имеет положительные компоненты при ri>0r_{i} > 0. Указание: используйте лемму 4.3.6.

(g)

Продемонстрируйте окончательный результат следствия, используя предыдущие результаты для r→=r→′−r→′′\overrightarrow {r} = \overrightarrow {r}' - \overrightarrow {r}''.

Задача 4.26

Рассмотрим марковскую цепь ниже:

[width=0.4figs/figs_original/ch4_ex26.png

?
(a)

Предположим, что цепь запущена в состоянии ii и проходит через nn переходов; пусть vi(n)v_{i}(n) — ожидаемое число переходов (из общего числа nn) до того, как цепь войдёт в поглощающее состояние, состояние 1. Найдите выражение для v→(n)=(v1(n),v2(n),v3(n))T\overrightarrow {v}(n) = (v_{1}(n), v_{2}(n), v_{3}(n))^{\mathsf{T}} через v→(n−1)\overrightarrow {v}(n-1) (примите v1(n)=0v_{1}(n) = 0 для всех nn). Указание: рассмотрите систему как марковскую систему с вознаграждениями; чему равно r→\overrightarrow {r}?

(b)

Найдите численное значение lim⁡n→∞v→(n)\lim_{n \rightarrow \infty } \overrightarrow {v}(n). Дайте интерпретацию элементов viv_{i} в решении (4.32)(4.32).

(c)

Приведите прямой аргумент, объясняющий, почему (4.32)(4.32) даёт непосредственно решение для ожидаемого времени перехода из каждого состояния в поглощающее состояние.

Задача 4.27
?
(a)

Покажите, что (4.48)(4.48) (упоминается здесь; в переформулированном виде: рекурсия динамического программирования vi∗(n,u→)=max⁡k→(ri(k)+∑jPij(k)vj∗(n−1,u→))v_{i}^{*}(n, \overrightarrow {u}) = \max_{\overrightarrow {k}} \left(r_{i}^{(k)} + \sum_{j} P_{ij}^{(k)}v_{j}^{*}(n-1,\overrightarrow {u})\right), или в векторной форме v→∗(n,u→)=max⁡k→(r→k→+[P(k→)]v→∗(n−1,u→))\overrightarrow {v}^{*}(n,\overrightarrow {u}) = \max_{\overrightarrow {k}}\left(\overrightarrow {r}^{\overrightarrow {k}} + [P^{(\overrightarrow {k})}]\overrightarrow {v}^{*}(n-1,\overrightarrow {u})\right)) можно переписать в более компактной форме

v→∗(n,u→)=v→∗(1,v→∗(n−1,u→)). \overrightarrow {v}^{*}(n, \overrightarrow {u}) = \overrightarrow {v}^{*}(1, \overrightarrow {v}^{*}(n-1, \overrightarrow {u})).
(b)

Объясните, почему также верно, что

v→∗(2n,u→)=v→∗(n,v→∗(n,u→)).(A.63) \overrightarrow {v}^{*}(2n, \overrightarrow {u}) = \overrightarrow {v}^{*}(n, \overrightarrow {v}^{*}(n, \overrightarrow {u})). \tag {A.63}
(c)

Можно предположить, что (A.63) можно использовать итеративно, находя v→∗(2n+1,u→)\overrightarrow {v}^{*}(2^{n+1}, \overrightarrow {u}) из v→∗(2n,u→)\overrightarrow {v}^{*}(2^{n}, \overrightarrow {u}). Объясните, почему это невозможно сделать сколько-нибудь простым способом. Указание: явно продумайте, как можно было бы вычислить v→∗(n,v→∗(n,u→))\overrightarrow {v}^{*}(n, \overrightarrow {v}^{*}(n, \overrightarrow {u})) из v→∗(n,u→)\overrightarrow {v}^{*}(n, \overrightarrow {u}).

Примечание.
?

Я добавил переформулировку уравнения (4.48), на которое дана голая ссылка в части (a), из раздела 4.6 исходного PDF, чтобы задачу можно было решить, не заглядывая туда.

Задача 4.28

Рассмотрим задачу нахождения ожидаемого времени до появления заданной строки в независимой одинаково распределённой бинарной последовательности с P(Xi=1)=p1\mathbb {P}\left(X_{i}=1\right) = p_{1}, P(Xi=0)=p0=1−p1\mathbb {P}\left(X_{i}=0\right) = p_{0} = 1-p_{1}.

?
(a)

Следуя процедуре из Примера 4.5.1, постройте 3-состояниевую марковскую цепь для строки (0,1)(0,1). Найдите ожидаемое число испытаний до первого появления этой строки.

(b)

Для (б) и (в) положим (a1,a2,a3,…,ak)=(0,1,1,…,1)(a_{1}, a_{2}, a_{3}, \ldots , a_{k}) = (0,1,1,\ldots ,1), т.е. ноль, за которым следуют k−1k-1 единиц. Постройте соответствующую марковскую цепь для k=4k = 4.

(c)

Пусть viv_{i}, 1≤i≤k1 \leq i \leq k — ожидаемое время первого достижения из состояния ii в состояние kk. Заметим, что vk=0v_{k} = 0. Для каждого ii, 1≤i<k1 \leq i < k, покажите, что vi=αi+vi+1v_{i} = \alpha_{i} + v_{i+1} и v0=βi+vi+1v_{0} = \beta_{i} + v_{i+1}, где αi\alpha_{i} и βi\beta_{i} каждое выражается как произведение степеней p0p_{0} и p1p_{1}. Указание: используйте индукцию по ii, взяв i=1i=1 за базу. На индуктивном шаге сначала найдите βi+1\beta_{i+1} как функцию от βi\beta_{i}, начав с i=1i=1 и используя уравнение v0=1/p0+v1v_{0} = 1/p_{0} + v_{1}.

(d)

Пусть a→=(0,1,0)\overrightarrow {a} = (0,1,0). Постройте соответствующую марковскую цепь для этой строки. Вычислите v0v_{0} — ожидаемое время до появления (0,1,0)(0,1,0).

Задача 4.29
?
(a)

Найдите lim⁡n→∞[Pn]\lim_{n \rightarrow \infty }[P^{n}] для марковской цепи, изображённой ниже. Указание: думайте в терминах долгосрочных вероятностей перехода. Напомним, что рёбра графа марковской цепи соответствуют положительным вероятностям перехода.

[width=0.35figs/figs_original/ch4_ex29.png

(b)

Пусть π(1)\pi^{(1)} и π(2)\pi^{(2)} обозначают первые две строки lim⁡n→∞[Pn]\lim_{n \rightarrow \infty }[P^{n}], а ν(1)\nu^{(1)} и ν(2)\nu^{(2)} обозначают первые два столбца lim⁡n→∞[Pn]\lim_{n \rightarrow \infty }[P^{n}]. Покажите, что π(1)\pi^{(1)} и π(2)\pi^{(2)} являются независимыми левыми собственными векторами [P][P], а ν(1)\nu^{(1)} и ν(2)\nu^{(2)} — независимыми правыми собственными векторами [P][P]. Найдите собственное значение для каждого собственного вектора.

(c)

Пусть r→\overrightarrow {r} — произвольный вектор вознаграждений, и рассмотрим уравнение

w→+g(1)ν(1)+g(2)ν(2)=r→+[P]w→.(A.64) \overrightarrow {w} + g^{(1)}\nu ^{(1)} + g^{(2)}\nu ^{(2)} = \overrightarrow {r} + [P]\overrightarrow {w}. \tag {A.64}

Определите, какими должны быть значения g(1)g^{(1)} и g(2)g^{(2)}, чтобы (A.64) имело решение. Покажите, что при дополнительных ограничениях w1=w2=0w_{1} = w_{2} = 0 уравнение (A.64) имеет единственное решение для w→\overrightarrow {w}, и найдите это w→\overrightarrow {w}.

Задача 4.30

Пусть u→\overrightarrow {u} и u→′\overrightarrow {u}' — произвольные векторы конечного вознаграждения, причём u→≤u→′\overrightarrow {u} \leq \overrightarrow {u}'.

?
(a)

Пусть k→\overrightarrow {k} — произвольная стационарная политика; докажите, что v→k→(n,u→)≤v→k→(n,u→′)\overrightarrow {v}^{\overrightarrow {k}}(n, \overrightarrow {u}) \leq \overrightarrow {v}^{\overrightarrow {k}}(n, \overrightarrow {u}') для каждого n≥1n \geq 1.

(b)

Для оптимальной динамической политики докажите, что v→∗(n,u→)≤v→∗(n,u→′)\overrightarrow {v}^{*}(n, \overrightarrow {u}) \leq \overrightarrow {v}^{*}(n, \overrightarrow {u}') для каждого n≥1n \geq 1. Это утверждение известно как теорема о монотонности.

(c)

Пусть теперь u→\overrightarrow {u} и u→′\overrightarrow {u}' произвольны. Пусть α=max⁡i(ui−ui′)\alpha = \max_{i}(u_{i}-u_{i}'). Покажите, что

v→∗(n,u→)≤v→∗(n,u→′)+αe→.(A.65) \overrightarrow {v}^{*}(n, \overrightarrow {u}) \leq \overrightarrow {v}^{*}(n, \overrightarrow {u}') + \alpha \overrightarrow {e}. \tag {A.65}
Задача 4.31

Рассмотрим задачу марковского принятия решений с M\mathsf{M} состояниями, в которой некоторое состояние, скажем состояние 1, внутренне достижимо из каждого другого состояния.

?
(a)

Покажите, что должно существовать некоторое другое состояние, скажем состояние 2, и некоторое решение k2k_{2}, такие что P21(k2)>0P_{21}^{(k_{2})} > 0.

(b)

Покажите, что должно существовать некоторое другое состояние, скажем состояние 3, и некоторое решение k3k_{3}, такие что либо P31(k3)>0P_{31}^{(k_{3})} > 0, либо P32(k3)>0P_{32}^{(k_{3})} > 0.

(c)

Предположим, что для некоторого ii и некоторого набора решений k2,…,kik_{2}, \ldots , k_{i} для каждого jj, 2≤j≤i2 \leq j \leq i, выполнено Pjℓ(kj)>0P_{j\ell }^{(k_{j})} > 0 для некоторого ℓ<j\ell < j (то есть каждое состояние от 2 до jj имеет ненулевой переход в состояние с меньшим номером). Покажите, что существует некоторое состояние (отличное от 1 до ii), скажем i+1i+1, и некоторое решение ki+1k_{i+1}, такие что Pi+1,ℓ(ki+1)>0P_{i+1,\ell }^{(k_{i+1})} > 0 для некоторого ℓ≤i\ell \leq i.

(d)

Используя (а), (б) и (в), заметьте, что существует стационарная политика k→=k1,…,kM\overrightarrow {k} = k_{1}, \ldots , k_{\mathsf{M}}, при которой состояние 1 достижимо из каждого другого состояния.

Задача 4.32

Джордж едет на машине в театр, который находится в конце улицы с односторонним движением. Вдоль улицы есть места для парковки, а у театра есть парковочный гараж, стоящий $5. Каждое парковочное место независимо занято или свободно с вероятностью 1/21/2. Если Джордж паркуется в nn местах от театра, ему стоит nn центов (времени и подошв обуви), чтобы пройти оставшуюся часть пути пешком. Джордж близорук и может видеть только то парковочное место, мимо которого он в данный момент проезжает. Если Джордж ещё не припарковался к тому моменту, когда он достигает nn-го места, он сначала решает, будет ли он парковаться, если место свободно, а затем наблюдает за местом и действует согласно своему решению. Джордж никогда не может вернуться назад и должен парковаться в гараже, если он не припарковался раньше.

?
(a)

Смоделируйте указанную задачу как задачу динамического программирования с 2 состояниями. В состоянии «движения», состоянии 2, есть два возможных решения: парковаться, если текущее место свободно, или ехать дальше независимо от того, свободно текущее место или нет.

(b)

Найдите vi∗(n,u→)v_{i}^{*}(n, \overrightarrow {u}) — минимальную ожидаемую суммарную стоимость за nn этапов (то есть непосредственно перед наблюдением nn-го парковочного места), начиная с состояния i=1i = 1 или 2; достаточно выразить vi∗(n,u→)v_{i}^{*}(n, \overrightarrow {u}) через vi∗(n−1)v_{i}^{*}(n-1). Конечные затраты в центах на этапе 0 должны быть v2(0)=500v_{2}(0) = 500, v1(0)=0v_{1}(0) = 0.

(c)

При каких значениях nn оптимальным решением является решение ехать дальше?

(d)

Какова вероятность того, что Джордж припаркуется в гараже, если он следует оптимальной политике?

Задача 4.33
?
(a)

Покажите, что если две стационарные политики k→′\overrightarrow {k}' и k→\overrightarrow {k} имеют один и тот же рекуррентный класс R′\mathcal{R}' и если ki′=kik_{i}' = k_{i} для всех i∈R′i \in \mathcal{R}', то wi′=wiw_{i}' = w_{i} для всех i∈R′i \in \mathcal{R}'. Указание: см. первую часть доказательства леммы 4.6.7.

(b)

Предположим, что k→′\overrightarrow {k}' удовлетворяет (4.50)(4.50) (то есть удовлетворяет условию завершения алгоритма улучшения политики), а k→\overrightarrow {k} удовлетворяет условиям пункта (а). Покажите, что (4.64)(4.64) выполняется для всех состояний ℓ\ell.

(c)

Покажите, что w→≤w→′\overrightarrow {w} \leq \overrightarrow {w}'. Указание: следуйте рассуждению в конце доказательства леммы 4.6.7.

Задача 4.34

Рассмотрим задачу динамического программирования, приведённую ниже, с двумя состояниями и двумя возможными политиками, обозначенными k→\overrightarrow {k} и k→′\overrightarrow {k}'. Политики различаются только в состоянии 2.

[width=0.9figs/figs_original/ch4_ex34.png

?
(a)

Найдите стационарный выигрыш за шаг, gg и g′g', для стационарных политик k→\overrightarrow {k} и k→′\overrightarrow {k}'. Покажите, что g=g′g = g'.

(b)

Найдите векторы относительного выигрыша w→\overrightarrow {w} и w→′\overrightarrow {w}' для стационарных политик k→\overrightarrow {k} и k→′\overrightarrow {k}'.

(c)

Предположим, что итоговое вознаграждение на шаге 0 равно u1=0u_{1} = 0, u2=uu_{2} = u. При каком диапазоне значений uu алгоритм динамического программирования использует решение k→\overrightarrow {k} в состоянии 2 на шаге 1?

(d)

При каком диапазоне значений uu алгоритм динамического программирования использует решение k→\overrightarrow {k} в состоянии 2 на шаге 2? На шаге nn? Вы должны обнаружить, что (в данном примере) алгоритм динамического программирования использует на каждом шаге nn то же решение, что и на шаге 1.

(e)

Найдите оптимальный выигрыш v2∗(n,u→)v_{2}^{*}(n, \overrightarrow {u}) и v1∗(n,u→)v_{1}^{*}(n, \overrightarrow {u}) как функцию шага nn, полагая u=10u = 10.

(f)

Найдите lim⁡n→∞[v∗(n,u→−nge)]\lim_{n \rightarrow \infty }[v^{*}(n, \overrightarrow {u}-nge)] и покажите, как это зависит от u→\overrightarrow {u}.

Задача 4.35

Рассмотрим задачу марковского принятия решений, в которой стационарные политики k→\overrightarrow {k} и k→′\overrightarrow {k}' каждая удовлетворяет (4.50)(4.50) и каждой соответствует эргодическая цепь Маркова.

?
(a)

Покажите, что если r→k→′+[Pk→′]w→′≥r→k→+[Pk→]w→′\overrightarrow {r}^{\overrightarrow {k}'} + [P^{\overrightarrow {k}'}]\overrightarrow {w}' \geq \overrightarrow {r}^{\overrightarrow {k}} + [P^{\overrightarrow {k}}]\overrightarrow {w}' не выполняется как равенство, то g′>gg' > g.

(b)

Покажите, что r→k→′+[Pk→′]w→′=r→k→+[Pk→]w→′\overrightarrow {r}^{\overrightarrow {k}'} + [P^{\overrightarrow {k}'}]\overrightarrow {w}' = \overrightarrow {r}^{\overrightarrow {k}} + [P^{\overrightarrow {k}}]\overrightarrow {w}'. Указание: используйте (а).

(c)

Найдите соотношение между вектором относительного выигрыша w→k→\overrightarrow {w}^{\overrightarrow {k}} для политики k→\overrightarrow {k} и вектором относительного выигрыша w→′\overrightarrow {w}' для политики k→′\overrightarrow {k}'. Указание: покажите, что r→k→+[Pk→]w→′=ge→+w→′\overrightarrow {r}^{\overrightarrow {k}} + [P^{\overrightarrow {k}}]\overrightarrow {w}' = g\overrightarrow {e} + \overrightarrow {w}'; что это говорит о w→\overrightarrow {w} и w→′\overrightarrow {w}'?

(d)

Предположим, что политика k→\overrightarrow {k} использует решение 1 в состоянии 1, а политика k→′\overrightarrow {k}' использует решение 2 в состоянии 1 (то есть k1=1k_{1} = 1 для политики k→\overrightarrow {k} и k1=2k_{1} = 2 для политики k→′\overrightarrow {k}'). Каково соотношение между r1(k),P11(k),P12(k),…P1J(k)r_{1}^{(k)}, P_{11}^{(k)}, P_{12}^{(k)}, \ldots P_{1J}^{(k)} для kk, равного 1 и 2?

(e)

Теперь предположим, что политика k→\overrightarrow {k} использует решение 1 в каждом состоянии, а политика k→′\overrightarrow {k}' использует решение 2 в каждом состоянии. Возможно ли, что ri(1)>ri(2)r_{i}^{(1)} > r_{i}^{(2)} для всех ii? Объясните подробно.

(f)

Теперь предположим, что ri(1)r_{i}^{(1)} одинаково для всех ii. Меняет ли это ваш ответ на (д)? Объясните.

Задача 4.36

Рассмотрим задачу марковского принятия решений с тремя состояниями. Предположим, что каждая стационарная политика соответствует эргодической марковской цепи. Известно, что конкретная политика k→′=(k1,k2,k3)=(2,4,1)\overrightarrow {k}' = (k_{1}, k_{2}, k_{3}) = (2,4,1) является единственной оптимальной стационарной политикой (то есть выигрыш за шаг в установившемся режиме максимизируется, если всегда использовать решение 2 в состоянии 1, решение 4 в состоянии 2 и решение 1 в состоянии 3). Как обычно, ri(k)r_{i}^{(k)} обозначает вознаграждение в состоянии ii при решении kk, а Pij(k)P_{ij}^{(k)} обозначает вероятность перехода в состояние jj при условии, что мы находимся в состоянии ii и используем решение kk в состоянии ii. Рассмотрим эффект от изменения задачи марковского принятия решений каждым из следующих способов (изменения в каждом пункте рассматриваются в отсутствие изменений из других пунктов):

?
(a)

r1(1)r_{1}^{(1)} заменяется на r1(1)−1r_{1}^{(1)} - 1.

(b)

r1(2)r_{1}^{(2)} заменяется на r1(2)+1r_{1}^{(2)} + 1.

(c)

r1(k)r_{1}^{(k)} заменяется на r1(k)+1r_{1}^{(k)} + 1 для всех решений kk в состоянии 1.

(d)

Для всех ii ri(ki)r_{i}^{(k_{i})} заменяется на ri(ki)+1r_{i}^{(k_{i})} + 1 для решения kik_{i} политики k→′\overrightarrow {k}'.

Для каждого из указанных изменений ответьте на следующие вопросы, приведя объяснения:

  1. Увеличивается, уменьшается или остаётся неизменным выигрыш за шаг g′g' при данном изменении?

  2. Возможно ли, что после данного изменения оптимальной окажется другая политика k→≠k→′\overrightarrow {k} \neq \overrightarrow {k}'?

Задача 4.37

Пусть k→′\overrightarrow {k}' — оптимальная стационарная политика для задачи марковского принятия решений, а g′g' и π′\pi ' — соответствующие выигрыш и стационарное распределение вероятностей. Пусть vi∗(n,u→)v_{i}^{*}(n, \overrightarrow {u}) — оптимальное динамическое ожидаемое вознаграждение при старте в состоянии ii на шаге nn с конечным вектором вознаграждений u→\overrightarrow {u}.

?
(a)

Покажите, что min⁡i[vi∗(n,u→)−vi∗(n−1,u→)]≤g′≤max⁡i[vi∗(n,u→)−vi∗(n−1,u→)]\min_{i}[v_{i}^{*}(n,\overrightarrow {u}) - v_{i}^{*}(n-1,\overrightarrow {u})] \leq g' \leq \max_{i}[v_{i}^{*}(n,\overrightarrow {u}) - v_{i}^{*}(n-1,\overrightarrow {u})]; n≥1n \geq 1. Указание: рассмотрите умножение слева v→∗(n,u→)−v→∗(n−1,u→)\overrightarrow {v}^{*}(n,\overrightarrow {u}) - \overrightarrow {v}^{*}(n-1,\overrightarrow {u}) на π′\pi ' или на π\pi, где k→\overrightarrow {k} — оптимальная динамическая политика на шаге nn.

(b)

Покажите, что нижняя граница не убывает по nn, а верхняя граница не возрастает по nn.

Задача 4.38

Рассмотрим систему массового обслуживания с целочисленным временем и конечным буфером размера 2. В начале nthn^{\text{th}} временного интервала в очереди находится не более двух клиентов. За каждого клиента в очереди взимается штраф в один юнит (т.е. стоимость задержки этого клиента). Если в очереди один клиент, этот клиент обслуживается. Если клиентов двое, нанимается дополнительный обслуживающий прибор ценой 3 юнита, и оба клиента обслуживаются. Таким образом, суммарные немедленные издержки при двух клиентах в очереди равны 5, при одном клиенте — 1, а при 0 клиентах — 0. В конце nn-го временного интервала прибывают либо 0, либо 1, либо 2 новых клиента (каждый вариант с вероятностью 1/31/3).

?
(a)

Предположим, что система начинает работу с 0≤i≤20 \leq i \leq 2 клиентами в очереди в момент времени −1-1 (т.е. на этапе 1) и завершает работу в момент времени 0 (этап 0) с итоговой стоимостью u→\overrightarrow {u} в 5 юнитов за каждого клиента в очереди (в начале интервала 0). Найдите ожидаемые суммарные издержки vi(1,u→)v_{i}(1,\overrightarrow {u}) для 0≤i≤20 \leq i \leq 2.

(b)

Предположим теперь, что система начинает работу с ii клиентами в очереди в момент времени −2-2 с той же итоговой стоимостью в момент времени 0. Найдите ожидаемые суммарные издержки vi(2,u→)v_{i}(2,\overrightarrow {u}) для 0≤i≤20 \leq i \leq 2.

(c)

Для произвольного начального момента времени −n-n найдите ожидаемые суммарные издержки vi(n,u→)v_{i}(n,\overrightarrow {u}) для 0≤i≤20 \leq i \leq 2.

(d)

Найдите издержки на этап и найдите относительный вектор издержек (выигрыша).

(e)

Теперь предположим, что имеется лицо, принимающее решения, которое может выбирать, нанимать ли дополнительный обслуживающий прибор, когда в очереди два клиента. Если дополнительный прибор не нанимается, экономится плата в три юнита, но обслуживается только один из клиентов. Если в этом случае прибывают два новых клиента, будем считать, что один из них отклоняется с издержками в 5 юнитов. Найдите минимальные динамические суммарные ожидаемые издержки vi∗(1)v_{i}^{*}(1), 0≤i≤20 \leq i \leq 2, для этапа 1 с той же итоговой стоимостью, что и ранее.

(f)

Найдите минимальные динамические суммарные ожидаемые издержки vi∗(n,u→)v_{i}^{*}(n,\overrightarrow {u}) для этапа nn, 0≤i≤20 \leq i \leq 2.

(g)

Теперь предположим итоговую стоимость u→\overrightarrow {u} в 1 юнит за клиента вместо 5 и найдите новые минимальные динамические суммарные ожидаемые издержки vi∗(n,u→)v_{i}^{*}(n,\overrightarrow {u}), 0≤i≤20 \leq i \leq 2.