Марковские цепи с конечным числом состояний
[38/100%]Пусть — матрица переходов конечной марковской цепи, и пусть состояние возвратно. Докажите, что апериодично, если .
Покажите, что любая марковская цепь с состояниями содержит хотя бы одно возвратное множество состояний. Достаточно объяснить каждое из следующих утверждений.
Если состояние невозвратно, то существует некоторое другое состояние такое, что и .
Если состояние из (а) также невозвратно, существует третье состояние такое, что , ; это состояние должно удовлетворять , .
Продолжайте итеративно повторять (б) для последовательных состояний . То есть, если порождены как выше и все невозвратны, порождаем такое, что и . Тогда для .
Покажите, что для некоторого , не является невозвратным, т.е. оно возвратно, так что возвратный класс существует.
Рассмотрим конечную цепь Маркова, в которой некоторое заданное состояние, скажем состояние 1, достижимо из любого другого состояния. Покажите, что цепь имеет ровно один возвратный класс состояний и что состояние . (Заметим, что тогда цепь является унициклической (unichain).)
Покажите, как обобщить граф на рисунке 4.4 на произвольное число состояний с одним циклом из узлов и одним из узлов. Для пусть узел 1 будет узлом, не входящим в цикл из узлов. Перечислите множество состояний, достижимых из узла 1 за шагов для каждого , и покажите, что оценка из теоремы 4.2.11 достигается с равенством. Объясните, почему тот же результат верен для всех больших .
Теорема 4.2.11 (упоминаемая в этой задаче, приведённая заново по разделу 4.2): если — матрица эргодической (т.е. возвратной, апериодической, неприводимой) конечной цепи Маркова с состояниями, то существует целое число такое, что для всех ; наименьшее такое удовлетворяет неравенству .
Это доказательство теоремы 4.2.11, разбитое на упражнения 4.4--4.7; каждое обобщает предыдущее, приводя в итоге к оценке выше.
Покажите, что эргодическая цепь Маркова с состояниями должна содержать цикл с состояниями. Указание: используйте эргодичность, чтобы показать, что наименьший цикл не может содержать состояний.
Пусть — некоторое фиксированное состояние на этом цикле длины . Пусть — множество состояний, достижимых из за шагов. Покажите, что для каждого выполняется . Указание: для любого заданного состояния покажите, как построить путь из шагов от до , исходя из предполагаемого пути из шагов.
Определим как одноэлементное множество и покажите, что
Покажите, что если одно из включений выше выполняется как равенство, то и все последующие включения выполняются как равенства. Покажите отсюда, что не более первых включений могут выполняться со строгим неравенством и что для всех .
Покажите, что все состояния включены в .
Покажите, что для всех .
Рассмотрим цепь Маркова с одним эргодическим классом из состояний, скажем , и другими состояниями, все из которых переходны. Покажите, что для всех и .
Пусть — число состояний в наименьшем цикле произвольной эргодической марковской цепи с состояниями. Покажите, что для всех . Указание: посмотрите доказательство теоремы 4.2.11 в упражнении 4.5.
Для нарисуйте граф эргодической марковской цепи (обобщённый на произвольное ), для которой найдутся такие , что при . Указание: посмотрите рисунок 4.4.
Для произвольного нарисуйте граф эргодической марковской цепи (обобщённый на произвольное ), для которой найдутся такие , что при . Предположите, что и взаимно просты.
Матрица переходных вероятностей называется дважды стохастической, если
То есть сумма по каждой строке и сумма по каждому столбцу равны 1. Если дважды стохастическая цепь имеет состояний и эргодична (то есть имеет единственный класс состояний и апериодична), вычислите её стационарные вероятности.
Найдите стационарные вероятности для марковской цепи, изображённой ниже. Выразите ответ через отношение , где . Обратите особое внимание на особый случай .
[width=0.9figs/figs_original/ch4_ex9.png
Изобразите . Дайте один рисунок для , один для и один для .
Найдите предел при ; дайте отдельные ответы для , и . Найдите предельные значения для тех же случаев.
Найдите стационарные вероятности для каждой из марковских цепей на рисунке ниже. Предположите, что все вероятности перехода по часовой стрелке в первом графе одинаковы, скажем, , и предположите, что во втором графе.
[width=0.85figs/figs_original/ch4_ex10.png
Найдите матрицы для тех же цепей. Нарисуйте графы марковских цепей, представленных , то есть граф двухшаговых переходов для исходных цепей. Найдите стационарные вероятности для этих двухшаговых цепей. Объясните, почему найденные вами стационарные вероятности не единственны.
Найдите для каждой из цепей.
Предположим, что — правый собственный вектор, а — левый собственный вектор стохастической матрицы размера , причём . Покажите, что . Указание: рассмотрите два способа вычисления .
Предположим, что имеет различных собственных значений. Тогда правые собственные векторы порождают -мерное пространство (см. раздел 5.2 книги Стрэнга [28]), так что матрица , столбцами которой служат эти собственные векторы, невырождена. Покажите, что — это матрица, строками которой являются левых собственных векторов . Указание: используйте (а).
Для произвольного заданного целого числа пусть — диагональная матрица с единственным ненулевым элементом . Используя предположения и результаты пункта (б), покажите, что
Указание: представьте себе непосредственное перемножение векторов и матриц.
Проверьте (упоминается здесь; в переформулированном виде: , где — диагональная матрица собственных значений матрицы ).
Я добавил переформулировку уравнения (4.30), на которое голая ссылка дана в пункте (г), из раздела 4.4 исходного PDF, чтобы задачу можно было решить, не обращаясь к нему.
Пусть — собственное значение стохастической матрицы , а — левый собственный вектор для . Покажите, что для каждой компоненты вектора и каждого выполняется
Взяв модули обеих частей и рассмотрев подходящее , покажите, что
Покажите, что .
Рассмотрим конечную цепь Маркова с матрицей , имеющей апериодических возвратных классов и множество невозвратных состояний. Для произвольного заданного возвратного класса рассмотрим вектор такой, что для каждого , для каждого , и в остальных случаях. Покажите, что — правый собственный вектор с собственным значением 1. Указание: перерисуйте рисунок 4.5 (граф, показывающий блочно-треугольную структуру для унициклической цепи с невозвратным множеством и возвратным классом , где переходы возможны только внутри , из в или внутри ) для случая нескольких возвратных классов и сначала покажите, что является собственным вектором в пределе.
Я добавил описание рисунка 4.5, на который дана голая ссылка в указании, восстановив его из исходного PDF, чтобы задачу можно было решить, не обращаясь к нему.
Ответьте на следующие вопросы для следующей стохастической матрицы :
Найдите в замкнутой форме для произвольного .
Найдите все различные собственные значения и кратность каждого различного собственного значения для .
Найдите правый собственный вектор для каждого различного собственного значения и покажите, что собственное значение кратности 2 не имеет двух линейно независимых собственных векторов.
Используя (в), покажите, что не существует диагональной матрицы и обратимой матрицы , для которых .
Передокажите результат (г), используя результат (а), а не (в).
Пусть — блок жордановой формы, т.е.
Покажите, что -я степень задаётся выражением
Указание: пожалуй, проще всего вычислить и , а затем воспользоваться итерацией.
Обобщите (а) на блок жордановой формы. Заметьте, что -я степень всей жордановой формы составлена из таких блоков вдоль диагонали матрицы.
Пусть — стохастическая матрица, представленная жордановой формой в виде , и рассмотрим (т.е. ). Покажите, что любое повторяющееся собственное значение (и, в частности, любое собственное значение, представленное жордановым блоком размера или больше) должно быть строго меньше 1. Указание: оцените сверху элементы , взяв модули элементов и и ограничив сверху каждый элемент стохастической матрицы единицей.
Пусть — собственное значение наибольшей величины, меньшее 1. Предположим, что жордановы блоки для имеют размер не более . Покажите, что каждый эргодический класс сходится по меньшей мере со скоростью .
Пусть — собственное значение матрицы , а и — соответственно правый и левый собственные векторы для , нормированные так, что . Покажите, что
Покажите, что .
Используя индукцию, покажите, что .
Пусть — матрица переходов апериодической марковской уницепи с состояниями, пронумерованными как на рисунке 4.5 (здесь на него ссылаются; переформулировка: состояния с 1 по — переходные состояния , пронумерованные перед возвратными состояниями с по , обозначаемыми , так что имеет блочный вид , где — (вообще говоря, неквадратный) блок вероятностей перехода из в ).
Покажите, что можно представить в блочном виде
То есть блоки на диагонали — это просто произведения соответствующих блоков , а верхний правый блок — какой уж он получится.
Пусть — вероятность того, что цепь окажется в возвратном состоянии после переходов, начиная из состояния , т.е. . Покажите, что для всех переходных .
Пусть — минимум по всем переходным ; покажите, что для всех переходных (т.е. покажите, что стремится к нулевой матрице с ростом ).
Пусть — левый собственный вектор с собственным значением 1. Покажите, что , и покажите, что должен быть положительным и являться левым собственным вектором . Тем самым покажите, что существует и единствен (с точностью до масштабного множителя).
Покажите, что — единственный (с точностью до масштабного множителя) правый собственный вектор с собственным значением 1.
Я добавил описание блочной структуры рисунка 4.5, на который в задаче лишь голо ссылались, переформулировав его из раздела 4.3 исходного PDF, чтобы задачу можно было решить, не заглядывая туда.
Обобщите упражнение 4.17 на случай цепи Маркова с возвратными классами и одним или несколькими невозвратными классами. В частности, покажите, что:
имеет ровно линейно независимых левых собственных векторов, , с собственным значением 1, причём -й можно выбрать как вероятностный вектор, положительный на -м возвратном классе и равный нулю всюду вне его.
имеет ровно линейно независимых правых собственных векторов, , с собственным значением 1, причём -й можно выбрать как вектор, у которого равно вероятности того, что возвратный класс будет когда-либо достигнут, стартуя из состояния .
Покажите, что
Предположим, что возвратная цепь Маркова имеет период , и пусть , , — это -е подмножество в смысле теоремы 4.2.9. Предположим, что состояния пронумерованы так, что первые состояний — это состояния , следующие — состояния , и так далее. Тогда матрица цепи имеет блочный вид
[P] = \begin{bmatrix} 0 & [P_{0}] & \ddots & \ddots & 0 \\ 0 & 0 & [P_{1}] & \ddots & \ddots \\ \ddots & \ddots & \ddots & \ddots & \ddots \\ 0 & 0 & \ddots & \ddots & [P_{d-2}] \\[P_{d-1}] & 0 & \ddots & \ddots & 0 \end{bmatrix},где имеет размерность для , причём индекс везде понимается как 0 (то есть по индексам используется арифметика по модулю ). В дальнейшем часто удобнее записывать как матрицу , обозначаемую , все элементы которой равны 0, кроме строк и столбцов , где элементы совпадают с элементами . В этих обозначениях .
Покажите, что имеет вид
где . Если записать как матрицу , обозначаемую , все элементы которой равны 0, кроме строк и столбцов , где элементы совпадают с элементами , это соотношение примет вид .
Покажите, что является матрицей эргодической цепи Маркова, и пусть — её собственный вектор с собственным значением 1 (нормированный так, чтобы быть вероятностным вектором), а — соответствующий правый собственный вектор, нормированный так, что . Пусть и — соответствующие -мерные векторы. Покажите, что .
Покажите, что . Заметьте, что — это -набор, ненулевой только на компонентах .
Пусть и . Покажите, что является левым собственным вектором с собственным значением .
(Продолжение упражнения 4.19.)
Покажите, что с собственными векторами, определёнными в упражнении 4.19,
где, как и раньше, принимается равным 0.
Покажите, что при
Покажите, что
Покажите, что
где — стационарный вероятностный вектор для . Указание: покажите, что и .
Покажите, что приведённый выше результат также справедлив для периодических уницепей.
Пусть и — эргодические марковские цепи с переходными вероятностями и соответственно. Обозначим стационарные вероятности и через и соответственно. Теперь цепи соединяются и модифицируются, как показано ниже. А именно, состояния и соединяются, и новые переходные вероятности для объединённой цепи задаются формулами
Все остальные переходные вероятности остаются прежними. Интуитивно считайте и малыми, но не делайте никаких приближений в дальнейшем. Дайте ответы на следующие вопросы как функции от , , и .
[width=0.85figs/figs_original/ch4_ex21.png
Предположим, что , (т.е. что является множеством транзитных состояний в объединённой цепи). Начиная с состояния , найдите условное ожидаемое время возврата в при условии, что первый переход происходит в некоторое состояние цепи .
Предположим, что , . Найдите — ожидаемое время до первого достижения состояния , начиная с состояния . Ваш ответ должен быть функцией от и исходных стационарных вероятностей в цепи .
Предположим, что , . Найдите — ожидаемое время до первого достижения состояния , начиная с состояния . Ваш ответ должен зависеть только от и .
Предположим, что и . Найдите — стационарную вероятность того, что объединённая цепь находится в одном из состояний исходной цепи .
Предположим, что , . Для каждого состояния в найдите — ожидаемое число посещений состояния , начиная с состояния , до достижения . Ваш ответ должен зависеть только от и .
Предположим, что , . Для каждого состояния в найдите — стационарную вероятность нахождения в состоянии в объединённой цепи. Указание: будьте внимательны при рассмотрении состояния .
В разделе 4.5.1 было показано, как найти ожидаемые времена первого достижения фиксированного состояния, скажем 1, из всех остальных состояний. Часто желательно включить также ожидаемое время первого возврата из состояния 1 обратно в состояние 1. Это можно сделать, разбив состояние 1 на два состояния: первое — начальное состояние без входящих переходов, но с исходными исходящими переходами, и второе — конечное поглощающее состояние с исходными входящими переходами.
Для цепи на левой стороне рисунка 4.6 (четырёхсостояниевая возвратная марковская цепь, приведённая ниже) нарисуйте граф модифицированной цепи с пятью состояниями, где состояние 1 было разбито на два состояния.
[width=0.5figs/figs_original/ch4_fig46.png
Предположим, что найдены ожидаемые времена первого достижения для состояний (или в общем случае от 2 до ). Найдите выражение для — ожидаемого времени первого возврата для состояния 1 — через и .
I added the left-hand chain of Figure 4.6, cited bare in part (a), restated from the source PDF's Section 4.5.1, so the problem is solvable without looking it up.
Предположим всюду, что — матрица переходов унициклической цепи (и, таким образом, собственное значение 1 имеет кратность 1). Покажите, что решение уравнения существует тогда и только тогда, когда лежит в пространстве столбцов , где — единичная матрица.
Покажите, что это пространство столбцов есть множество векторов , для которых . Затем покажите, что лежит в этом пространстве столбцов.
Покажите, что при дополнительном ограничении уравнение имеет единственное решение.
Для марковской цепи с вознаграждениями, показанной ниже (состояния 1 и 2, вероятности перехода , , вознаграждения , ):
[width=0.45figs/figs_original/ch4_fig48.png
Найдите решение уравнения (упомянутого здесь; переформулировка: уравнение относительного выигрыша вместе с нормировкой ) и найдите выигрыш .
Измените рисунок выше, сделав произвольной вероятностью. Снова найдите и и дайте интуитивное объяснение того, почему влияет на .
I added a restatement of equation (4.37), cited bare in part (a), from Section 4.5 of the source PDF, so the problem is solvable without looking it up.
Покажите, что выигрыш на шаг равен 0. Указание: покажите, что равен нулю там, где стационарный вектор отличен от нуля.
Пусть — матрица переходов для возвратных состояний, пусть — вектор вознаграждений, а — вектор относительного выигрыша для . Покажите, что . Указание: используйте теорему 4.5.4.
Покажите, что для всех . Указание: сравните уравнения относительного выигрыша для с уравнениями для .
Покажите, что для каждого выполняется . Указание: начните с уравнения относительного выигрыша для .
Покажите, что . Указание: просуммируйте результат из (г).
Покажите, что и что конечен, неотрицателен и имеет положительные компоненты при . Указание: используйте лемму 4.3.6.
Продемонстрируйте окончательный результат следствия, используя предыдущие результаты для .
Рассмотрим марковскую цепь ниже:
[width=0.4figs/figs_original/ch4_ex26.png
Предположим, что цепь запущена в состоянии и проходит через переходов; пусть — ожидаемое число переходов (из общего числа ) до того, как цепь войдёт в поглощающее состояние, состояние 1. Найдите выражение для через (примите для всех ). Указание: рассмотрите систему как марковскую систему с вознаграждениями; чему равно ?
Найдите численное значение . Дайте интерпретацию элементов в решении .
Приведите прямой аргумент, объясняющий, почему даёт непосредственно решение для ожидаемого времени перехода из каждого состояния в поглощающее состояние.
Покажите, что (упоминается здесь; в переформулированном виде: рекурсия динамического программирования , или в векторной форме ) можно переписать в более компактной форме
Объясните, почему также верно, что
Можно предположить, что (A.63) можно использовать итеративно, находя из . Объясните, почему это невозможно сделать сколько-нибудь простым способом. Указание: явно продумайте, как можно было бы вычислить из .
Я добавил переформулировку уравнения (4.48), на которое дана голая ссылка в части (a), из раздела 4.6 исходного PDF, чтобы задачу можно было решить, не заглядывая туда.
Рассмотрим задачу нахождения ожидаемого времени до появления заданной строки в независимой одинаково распределённой бинарной последовательности с , .
Следуя процедуре из Примера 4.5.1, постройте 3-состояниевую марковскую цепь для строки . Найдите ожидаемое число испытаний до первого появления этой строки.
Для (б) и (в) положим , т.е. ноль, за которым следуют единиц. Постройте соответствующую марковскую цепь для .
Пусть , — ожидаемое время первого достижения из состояния в состояние . Заметим, что . Для каждого , , покажите, что и , где и каждое выражается как произведение степеней и . Указание: используйте индукцию по , взяв за базу. На индуктивном шаге сначала найдите как функцию от , начав с и используя уравнение .
Пусть . Постройте соответствующую марковскую цепь для этой строки. Вычислите — ожидаемое время до появления .
Найдите для марковской цепи, изображённой ниже. Указание: думайте в терминах долгосрочных вероятностей перехода. Напомним, что рёбра графа марковской цепи соответствуют положительным вероятностям перехода.
[width=0.35figs/figs_original/ch4_ex29.png
Пусть и обозначают первые две строки , а и обозначают первые два столбца . Покажите, что и являются независимыми левыми собственными векторами , а и — независимыми правыми собственными векторами . Найдите собственное значение для каждого собственного вектора.
Пусть — произвольный вектор вознаграждений, и рассмотрим уравнение
Определите, какими должны быть значения и , чтобы (A.64) имело решение. Покажите, что при дополнительных ограничениях уравнение (A.64) имеет единственное решение для , и найдите это .
Пусть и — произвольные векторы конечного вознаграждения, причём .
Пусть — произвольная стационарная политика; докажите, что для каждого .
Для оптимальной динамической политики докажите, что для каждого . Это утверждение известно как теорема о монотонности.
Пусть теперь и произвольны. Пусть . Покажите, что
Рассмотрим задачу марковского принятия решений с состояниями, в которой некоторое состояние, скажем состояние 1, внутренне достижимо из каждого другого состояния.
Покажите, что должно существовать некоторое другое состояние, скажем состояние 2, и некоторое решение , такие что .
Покажите, что должно существовать некоторое другое состояние, скажем состояние 3, и некоторое решение , такие что либо , либо .
Предположим, что для некоторого и некоторого набора решений для каждого , , выполнено для некоторого (то есть каждое состояние от 2 до имеет ненулевой переход в состояние с меньшим номером). Покажите, что существует некоторое состояние (отличное от 1 до ), скажем , и некоторое решение , такие что для некоторого .
Используя (а), (б) и (в), заметьте, что существует стационарная политика , при которой состояние 1 достижимо из каждого другого состояния.
Джордж едет на машине в театр, который находится в конце улицы с односторонним движением. Вдоль улицы есть места для парковки, а у театра есть парковочный гараж, стоящий $5. Каждое парковочное место независимо занято или свободно с вероятностью . Если Джордж паркуется в местах от театра, ему стоит центов (времени и подошв обуви), чтобы пройти оставшуюся часть пути пешком. Джордж близорук и может видеть только то парковочное место, мимо которого он в данный момент проезжает. Если Джордж ещё не припарковался к тому моменту, когда он достигает -го места, он сначала решает, будет ли он парковаться, если место свободно, а затем наблюдает за местом и действует согласно своему решению. Джордж никогда не может вернуться назад и должен парковаться в гараже, если он не припарковался раньше.
Смоделируйте указанную задачу как задачу динамического программирования с 2 состояниями. В состоянии «движения», состоянии 2, есть два возможных решения: парковаться, если текущее место свободно, или ехать дальше независимо от того, свободно текущее место или нет.
Найдите — минимальную ожидаемую суммарную стоимость за этапов (то есть непосредственно перед наблюдением -го парковочного места), начиная с состояния или 2; достаточно выразить через . Конечные затраты в центах на этапе 0 должны быть , .
При каких значениях оптимальным решением является решение ехать дальше?
Какова вероятность того, что Джордж припаркуется в гараже, если он следует оптимальной политике?
Покажите, что если две стационарные политики и имеют один и тот же рекуррентный класс и если для всех , то для всех . Указание: см. первую часть доказательства леммы 4.6.7.
Предположим, что удовлетворяет (то есть удовлетворяет условию завершения алгоритма улучшения политики), а удовлетворяет условиям пункта (а). Покажите, что выполняется для всех состояний .
Покажите, что . Указание: следуйте рассуждению в конце доказательства леммы 4.6.7.
Рассмотрим задачу динамического программирования, приведённую ниже, с двумя состояниями и двумя возможными политиками, обозначенными и . Политики различаются только в состоянии 2.
[width=0.9figs/figs_original/ch4_ex34.png
Найдите стационарный выигрыш за шаг, и , для стационарных политик и . Покажите, что .
Найдите векторы относительного выигрыша и для стационарных политик и .
Предположим, что итоговое вознаграждение на шаге 0 равно , . При каком диапазоне значений алгоритм динамического программирования использует решение в состоянии 2 на шаге 1?
При каком диапазоне значений алгоритм динамического программирования использует решение в состоянии 2 на шаге 2? На шаге ? Вы должны обнаружить, что (в данном примере) алгоритм динамического программирования использует на каждом шаге то же решение, что и на шаге 1.
Найдите оптимальный выигрыш и как функцию шага , полагая .
Найдите и покажите, как это зависит от .
Рассмотрим задачу марковского принятия решений, в которой стационарные политики и каждая удовлетворяет и каждой соответствует эргодическая цепь Маркова.
Покажите, что если не выполняется как равенство, то .
Покажите, что . Указание: используйте (а).
Найдите соотношение между вектором относительного выигрыша для политики и вектором относительного выигрыша для политики . Указание: покажите, что ; что это говорит о и ?
Предположим, что политика использует решение 1 в состоянии 1, а политика использует решение 2 в состоянии 1 (то есть для политики и для политики ). Каково соотношение между для , равного 1 и 2?
Теперь предположим, что политика использует решение 1 в каждом состоянии, а политика использует решение 2 в каждом состоянии. Возможно ли, что для всех ? Объясните подробно.
Теперь предположим, что одинаково для всех . Меняет ли это ваш ответ на (д)? Объясните.
Рассмотрим задачу марковского принятия решений с тремя состояниями. Предположим, что каждая стационарная политика соответствует эргодической марковской цепи. Известно, что конкретная политика является единственной оптимальной стационарной политикой (то есть выигрыш за шаг в установившемся режиме максимизируется, если всегда использовать решение 2 в состоянии 1, решение 4 в состоянии 2 и решение 1 в состоянии 3). Как обычно, обозначает вознаграждение в состоянии при решении , а обозначает вероятность перехода в состояние при условии, что мы находимся в состоянии и используем решение в состоянии . Рассмотрим эффект от изменения задачи марковского принятия решений каждым из следующих способов (изменения в каждом пункте рассматриваются в отсутствие изменений из других пунктов):
заменяется на .
заменяется на .
заменяется на для всех решений в состоянии 1.
Для всех заменяется на для решения политики .
Для каждого из указанных изменений ответьте на следующие вопросы, приведя объяснения:
-
Увеличивается, уменьшается или остаётся неизменным выигрыш за шаг при данном изменении?
-
Возможно ли, что после данного изменения оптимальной окажется другая политика ?
Пусть — оптимальная стационарная политика для задачи марковского принятия решений, а и — соответствующие выигрыш и стационарное распределение вероятностей. Пусть — оптимальное динамическое ожидаемое вознаграждение при старте в состоянии на шаге с конечным вектором вознаграждений .
Покажите, что ; . Указание: рассмотрите умножение слева на или на , где — оптимальная динамическая политика на шаге .
Покажите, что нижняя граница не убывает по , а верхняя граница не возрастает по .
Рассмотрим систему массового обслуживания с целочисленным временем и конечным буфером размера 2. В начале временного интервала в очереди находится не более двух клиентов. За каждого клиента в очереди взимается штраф в один юнит (т.е. стоимость задержки этого клиента). Если в очереди один клиент, этот клиент обслуживается. Если клиентов двое, нанимается дополнительный обслуживающий прибор ценой 3 юнита, и оба клиента обслуживаются. Таким образом, суммарные немедленные издержки при двух клиентах в очереди равны 5, при одном клиенте — 1, а при 0 клиентах — 0. В конце -го временного интервала прибывают либо 0, либо 1, либо 2 новых клиента (каждый вариант с вероятностью ).
Предположим, что система начинает работу с клиентами в очереди в момент времени (т.е. на этапе 1) и завершает работу в момент времени 0 (этап 0) с итоговой стоимостью в 5 юнитов за каждого клиента в очереди (в начале интервала 0). Найдите ожидаемые суммарные издержки для .
Предположим теперь, что система начинает работу с клиентами в очереди в момент времени с той же итоговой стоимостью в момент времени 0. Найдите ожидаемые суммарные издержки для .
Для произвольного начального момента времени найдите ожидаемые суммарные издержки для .
Найдите издержки на этап и найдите относительный вектор издержек (выигрыша).
Теперь предположим, что имеется лицо, принимающее решения, которое может выбирать, нанимать ли дополнительный обслуживающий прибор, когда в очереди два клиента. Если дополнительный прибор не нанимается, экономится плата в три юнита, но обслуживается только один из клиентов. Если в этом случае прибывают два новых клиента, будем считать, что один из них отклоняется с издержками в 5 юнитов. Найдите минимальные динамические суммарные ожидаемые издержки , , для этапа 1 с той же итоговой стоимостью, что и ранее.
Найдите минимальные динамические суммарные ожидаемые издержки для этапа , .
Теперь предположим итоговую стоимость в 1 юнит за клиента вместо 5 и найдите новые минимальные динамические суммарные ожидаемые издержки , .