Процессы с независимыми приращениями. Пуассоновские и гауссовские процессы
[25/0%]Найдите ковариационную функцию пуассоновского процесса, имеющего постоянную интенсивность . Сопоставьте полученный ответ с ковариационной функцией винеровского процесса.
Пусть — неотрицательно определенная функция , где — некоторое множество). Существует ли негауссовский процесс такой, что при всех ?
Докажите, что если — многочлен степени (от переменных) с положительными коэффициентами и ковариационные функции, то также является ковариационной функцией.
Для -процесса , заданного на , обозначим замыкание в пространстве линейной оболочки всех величин , . Докажите, что если — гауссовский процесс, то есть гауссовская система, т.е. для любого и любых вектор имеет гауссовское распределение.
(свойство автомодельности). Пусть — винеровский процесс и — положительная константа. Докажите, что процесс является винеровским процессом.
Докажите теорему 8 , проверив исходное определение винеровского процесса, т.е. докажите, что процесс, задаваемый формулой (31), имеет независимые приращения. В силу теоремы Дуба (см. приложение 5) этот процесс с непрерывными траекториями автоматически будет гауссовским.
Теорема 8. Пусть — последовательность независимых случайных величин, имеющих стандартное нормальное распределение и заданных на некотором вероятностном пространстве . Функции Хаара , , , задаются формулами , , а при
где , , , ; функции Шаудера — это , , . Формула (31) — это равенство
и теорема 8 утверждает, что есть винеровский процесс на , к тому же имеющий с вероятностью единица непрерывные траектории.
Рассмотрим случайное блуждание в из примера 1 главы I, т.е. процесс частных сумм , где , и — независимые одинаково распределенные векторы. Будем считать . Во многих ситуациях бывает интересно выяснить, какую часть пространства заполняют траектории блуждания, с какой вероятностью достигается то или иное множество и т. д. Классический пример проблем такого рода, изучаемьй в курсе теории вероятностей, — это задача о разорении игрока (см. [85; т. 1, с. 109], а также пример 7 главы IV). K излагаемым ниже результатам о случайных блужданиях будет полезно вернуться после прочтения главы VI о марковских процессах.
Для описания интересующих нас случайных блужданий понадобится ряд новых понятий.
Определение 13. (Случайной) мерой пребывания процесса в борелевском множестве из называется величина
Соответствующая этой мере мера интенсивности определяется формулой
Определение 14. Обозначив открытый шар в с центром в точке и радиусом , введем следующие множества:
Теорема 10 (о дихотомии; см., например, [146; с. 137]). Для случайного блуждания в , определенного согласно (I.9), реализуется только одна из следующих двух возможностей:
-
и это множество является замкнутой подгруппой в ,
-
и п. н. при .
Определение 15. Случайное блуждание называется возвратным, если в приведенной теореме 10 имеет место свойство 1) и невозвратным (или транзиентным), если выполнено свойство 2).
Докажите, что если — возвратное случайное блуждание в , то при каждом таким же будет и блуждание .
Приведем критерий возвратности случайного блуждания, полученный Чжуном и Фуксом.
Теорема 11 (о возвратности; см., например, [146; с. 139]). Случайное блуждание в с , возвратно тогда и только тогда, когда для любого
где , — характеристическая функция вектора .
Пусть случайная величина имеет симметричное устойчивое распределение в с показателем , т. е. пусть
Докажите, что такое -устойчивое случайное блуждание возвратно при и транзиентно при .
Пусть — случайное блуждание в такое, что компоненты вектора независимы и имеют -устойчивое распределение (см. упражнение 8). Исследуйте, при каких значениях случайное блуждание возвратно и при каких — транзиентно.
Симметризацией случайного блуждания в называется последовательность с таким же распределением, как у , где — независимая копия последовательности (можно считать, что для этого строится независимая копия последовательности и .
Докажите, что если возвратно случайное блуждание , то возвратно и симметризованное случайное блуждание .
Докажите, что случайное блуждание в возвратно, если
при , когда ;
и , когда .
Постройте примеры, показывающие, что эти достаточные условия возвратности не являются необходимыми.
Определение 16. Носителем произвольной меры на борелевской -алгебре топологического пространства называется наименьшее замкнутое множество такое, что .
Пусть — случайное блуждание в , причем имеет симметричное невырожденное распределение с ограниченным носителем. Докажите, что такое случайное блуждание возвратно.
Определение 17. Эффективной размерностью случайного блуждания (I.9) называется размерность подпространства , порожденного линейной оболочкой носителя меры .
Докажите, что если эффективная размерность случайного блуждания не меньше трех, то это случайное блуждание транзиентно.
Назовем простейшим симметричным случайным блужданием в такое блуждание, для которого
где -я координата вектора равна 1 , а остальные равны 0. Это блуждание может рассматриваться как имитация движения "частицы", с равной вероятностью смещающейся на единицу в любую сторону вдоль любой координатной оси.
Из результата упражнения 13 вытекает хорошо известный критерий Пойа (см. ; т. 1, с. 374 ) о том, что простейшее симметричное случайное блуждание в невозвратно при . Там же ([78]) доказано, что при и такое блуждание возвратно (в этой связи В. Феллер замечал, что "все дороги ведут в Рим").
(сравните с приведенным выше результатом о случайном блуждании). Докажите, что траектории частицы, совершающей простейшее симметричное случайное блуждание в , с вероятностью 1 имеют бесконечное число самопересечений, т.е. с вероятностью 1 частица будет возвращаться в положения, которые она занимала ранее.
Важную область применений случайные блуждания находят в статистическом последовательном анализе Вальда. Рассмотрим — независимые одинаково распределенные случайные векторы в , относительно которых имеются две гипотезы:
: плотность распределения вероятностей равна , : плотность распределения вероятностей равна .
Требуется по наблюдениям , различить эти гипотезы. Считая плотности , положительными функциями на , введем логарифм отношения правдоподобия
Суть подхода Вальда к проблеме различения рассматриваемых гипотез состоит в следующем. Выбираются две "границы" , где . До тех пор, пока точка лежит в полосе , решение о различении гипотез не принимается (в отличие от статической схемы Неймана-Пирсона допускается возможность продолжения наблюдений). Решение в пользу гипотезы принимается в тот момент, когда случайное блуждание впервые покидает полосу через верхнюю границу (т.е. в тот момент, когда ), а в пользу гипотезы — тогда, когда выход происходит через нижнюю границу. Мы не останавливаемся здесь на том, из каких соображений выбираются эти границы, а также на обобщениях рассмотренного примера, отсылая, например, к монографии [84].
Докажите, что если , то одномерное случайное блуждание с вероятностью единица выходит из всякой полосы с границами (напомним, что ).
Случайным блужданиям посвящена обширная литература, см., например, [74], ; т. 1 , гл. 14; т. 2, гл. 12], [123; гл. 3], [146; гл. 8]. О применениях случайных блужданий в математической теории запасов см., например, [1]. Упомянем также интенсивно развивающееся направление в теории случайных процессов — исследование случайных блужданий в случайной среде. Главный смысл моделей такого рода состоит в том, что сами вероятности переходов частицы в новые положения случайны и зависят от того, где находится изучаемая частица (см., например, [141]). Имеются и более сложные модели, относящиеся к случайным средам, связанные, например, с магнитным полем (см. [166] и там же библиографию).
Напомним, что стохастическая непрерывность процесса в точке определяется согласно (I.56), а стохастическая непрерывность на множестве означает стохастическую непрерывность в каждой точке этого множества.
Аналогично известной теореме о разложении меры Лебега-Стилтьеса в сумму дискретной, абсолютно непрерывной и сингулярной компонент (см., например, ; c. 410]) имеет место следующая теорема (см., например, [73; с. 163]).
Теорема 12 (П. Леви). Всякий случайный процесс с независимыми приращениями допускает представление
где — неслучайная функция, — независимые процессы с независимыми приращениями, причем — стохастически непрерывный процесс на , а — чисто дискретный процесс, m. е. процесс вида
здесь — некоторое счетное подмножество , a — совокупность независимых случайных величин.
Обратимся к специальному классу стохастически непрерывных действительных процессов, имеющих независимые приращения. Начнем с трех простых упражнений.
Пусть — действительный процесс, стохастически непрерывный в каждой точке . Тогда процесс является равномерно стохастически непрерывным на , т.е. для любых найдется такое, что
Кроме того, процесс ограничен по вероятности, т. е.
(неравенство Оттавиани). Пусть — независимые действительные величины такие, что для некоторых
где . Докажите, что при всех
Пусть процесс имеет независимые приращения и стохастически непрерывен на . Докажите, что
где — множество двоично-рациональных точек прямой.
Определение 18. Назовем пространством Скорохода совокупность действительных функций, заданных на , непрерывных справа и имеющих конечные пределы слева в каждой точке .
Это пространство можно превратить в польское с помощью введения специальной метрики (см. ). Функции из этого пространства часто называют càdlàg функциями (от французского continue à droite, limite à gauche — непрерывный справа, имеющий предел слева; используется также обозначение , происходящее от аналогичного английского термина: right continuous, left-hand limits).
С помощью упражнений , а также доказываемого далее неравенства Дуба (лемма 6 главы IV) можно установить (см. [39; ч. 1, с. 70-72]), что верна
Теорема 13. Стохастически непрерывный на процесс с независимыми приращениями имеет модификащию с траекториями из пространства .
Докажите, что пуассоновский процесс стохастически непрерывен на .
Конечномерные распределения стохастически непрерывных действительных процессов с независимыми приращениями описываются с помощью следующих двух теорем, принадлежащих соответственно А.Я. Хинчину и П. Леви.
Теорема 14 (формула Хинчина; см., например, [39; ч. 1, §16]). Пусть стохастически непрерывный действительный процесс имеет независимые приращения. Тогда для любого и всех характеристическая функция
где а — конечная мера на и
При этом представление (41) единственно, т. е. в этой формуле число а и мера определены однозначно.
Теорема 15 (формула Леви; см., например, [39; ч. 1, §16]). Если выполнены условия предыдущей теоремы, то для любого и всех
где — мера на ) (принимающая, вообще говоря, бесконечные значения) такая, что
При этом и, фигурирующие в представлении (44), определены однозначно.
Покажите, как из формулы Хинчина выводится формула Леви и наоборот. Какова при этом связь между параметрами и ?
Как вьглядит формула Леви для процесса , где — винеровский процесс, а
Обратимся к рассмотрению процессов с независимыми приращениями, заданных на (и некотором вероятностном пространстве ) и принимающих значения в .
По аналогии со случаем вводится понятие càdlàg-функции .
Определение 19. Говорят, что случайный процесс со значениями в является càdlàg-nроцессом, если его траектории (п.в.) являются càdlàgфункциями. Процесс имеет скачок в фиксированной точке , если
Пусть — стохастически непрерывный процесс с независимыми приращениями, принимающий значения в . Докажите, что у есть càdlàg-модификация, не имеющая скачков в фиксированные моменты (сp. с теоремой 13).
Определение 20. Процессом Леви со значениями в называется càdlàg-процесс с независимыми приращениями такой, что п. н. и при каждом распределения величин не зависят от значения . Процессы Леви с неубывающими покоординатно траекториями ( для ) принято называть субординаторами.
Имеются и другие, родственные, определения процессов Леви. Например, требуют стохастическую непрерывность процесса , которая (см. упражнение 22 ) обеспечивает, что - càdlàg-процесс. Процессом Леви называют и процесс , где — случайный вектор, не зависящий от описанного выше процесса со значением .
Полностью описаны все непрерывные по вероятности càdlàg-процессы с независимыми приращениями (со значениями в ), в частности, процессы Леви. Эти результаты используют интегрирование по пуассоновской случайной мере (см., например, [146; гл. 11]). Здесь же сформулируем лишь следующий результат о распределениях приращений процессов Леви.
Теорема 16 (формула Леви-Хинчина; см., например, [86; с. 238]). Пусть процесс Леви принимает значения в . Тогда для любых , справедливо представление
где
Однозначно определенные характеристики ( таковы: — вектор в , — симметричная неотрицательно определенная матрица порядка -мера на , называемая мерой Леви. При этом и
где знак " " обозначает взятие минимума (имеются случаи, когда .
Формула (45) возможна с функциями , допускающими представления, отличные от (46) (см., например, [86; с. 240]).
П. Леви и А. Я. Хинчин, как мы видели, предложили разные формулы для характеристических функций безгранично делимых распределений, но каждая из них может быть выведена из другой. Этим формулам предшествовала формула, установленная А.Н. Колмогоровым для характеристической функции безгранично делимой случайной величины, имеющей конечную дисперсию. Интересно отметить, что первоначально устойчивые и безгранично делимые распределения возникли в теории суммирования независимых действительных случайных величин. Фундаментальный вклад в эту область внесли П. Леви, Д. Пойа, А.Я. Хинчин, Б. де Финетти, А. Н. Колмогоров, Б. В. Гнеденко. Ознакомиться с этим направлением исследований можно по книгам .
Для броуновского движения при любом п. н. верно следующее равенство
являющееся аналогом закона Эрдёша-Реньи для сумм независимых одинаково распределенных слагаемых.
Соотношение (48) допускает уточнение. Для этого зафиксируем некоторое и при определим процесс
где — одномерное броуновское движение.
Теорема 17 ([170, 181]). Для процесса (49) с вероятностью единица выполняются соотношения
Соотношение (50) получили Й. Ортега и М. Вщебор (см. [170; теорема 1]), а соотношение (51) - П. Ревес (см. [181; теорема 2.1]).
Случайным процессам с независимыми приращениями, в том числе процессам Леви, посвящена обширная литература (см., например, [73], [99] и там же библиографию). Отметим также, что имеются обобщения процессов с независимыми приращениями на случай, когда значения процессов лежат в более общих линейных пространствах, нежели (см., например, ; т. 2, гл. 4]).
Теперь обсудим некоторые вопросы, касающиеся непрерывности траекторий случайных функций. Начнем со следующего классического результата Колмогорова.
Теорема 18 (см., например, [12; с. 124]). Пусть действительный случайный процесс такой, что для некоторых и
Тогда у процесса существует непрерывная модификация.
Покажите, что если в условии (52) положить , то утверждение теоремы 18 , вообще говоря, не обязано выполняться (указание: рассмотрите пуассоновский процесс).
Теорема Колмогорова о непрерывной модификации получила многочисленные обобщения. Рассмотрим некоторые из них.
Напомним, что для множества может совпадать с , где — псевдометрическое пространство, -сетью называется множество такое, что для любого найдется элемент , для которого . Другими словами, покрывается замкнутыми шарами
Если обладает конечной -сетью, то назовем минимальной -сетью любую такую его -сеть , что минимально, где обозначает число элементов конечного множества . Положим , подчеркивая зависимость и от псевдометрики . Число
называется -энтропией множества (часто логарифм в (54) берется по основанию 2).
Следуя [153], введем два условия на пространство ( ). Пусть существуют такие и , что для каждого с диаметром и любого
Пусть существует такое , что для любой минимальной -сети
где определяется согласно (53).
Теорема 19 (см. [153; с. 134]). Пусть — случайная функция со значениями в польском пространстве ( ) при каждом , заданная на некотором и псевдометрическом пространстве , удовлетворяющем условиям (55) и (56). Предположим, что для некоторых , u
Тогда у функции существует модификация , имеющая непрерывные траектории, такая, что при любом
и для каждого
Замечание 5. Если — замкнутый параллелепипед в или сфера в (метрики евклидовы), то условия (55) и (56) выполнены. Поэтому из теоремы 19 вытекает теорема 18 , причем с дополнительными утверждениями о локальных свойствах траекторий модификации.
Для того, чтобы ввести более общие моментные условия на случайную функцию , рассмотрим положительную строго возрастающую выпуклую функцию , определенную на и такую, что . Обратную к функцию обозначим .
Теорема 20 (см. [79]). Пусть — случайная функция со значениями в польском пространстве ( ) при каждом , заданная на некотором ( и псевдометрическом пространстве , такая, что для некоторого
и п.н., если . Пусть также
где интеграл берется по положительной части некоторой окрестности нуля. Тогда у случайной функции существует непрерывная модификация.
Пусть случайное поле со значениями при каждом в польском пространстве удовлетворяет для некоторой неубывающей положительной непрерывной функции на и условиям
где интеграл берется в окрестности . Докажите, что тогда у случайного поля существует непрерывная модификация (воспользуйтесь теоремой 20 ).
Замечание 6 (см. [79]). Интегральное условие (63) является оптимальным, т.е. можно построить поле, удовлетворяющее всем условиям упражнения 24 , кроме условия (63), такое, что оно не имеет непрерывной модификации.
Из теоремы 20 выводится также известный результат Дадли:
Теорема 21. Пусть — действительный гауссовский процесс на произвольном множестве , снабженном псевдометрикой
Пусть
Тогда существует модификация , имеющая непрерывные траектории.
При исследовании свойств траекторий случайных функций наряду с метрической энтропией весьма плодотворным оказался подход, основанный на понятии мажорирующей меры. Это понятие позволяет в определенном смысле лучше учесть структуру параметрического множества . Дело в том, что метрическая энтропия как бы не различает "почти пустые" и "заполненные" шары данного радиуса.
Определение 21. Вероятностная мера , заданная на борелевской -алгебре пространства , назьвается мажорирующей, если
где определяется согласно (53).
Поскольку для , то в (65) интегрирование фактически ведется от 0 до , а условие конечности интеграла (65) равносильно конечности этого интеграла по некоторой положительной окрестности 0.
(см. [48; с. 182]). Докажите, что определение мажорирующей меры равносильно следующему. Существуют и последовательность измельчающихся разбиений на множества положительной -меры такая, что
где — то (единственное) множество разбиения , которое содержит точку .
Теорема 22 (см. [48; с. 193]). Пусть — действительная гауссовская случайная функция на некотором компактном пространстве . Тогда необходимым и достаточным условием ее ограниченности будет существование мажсорируюей меры, а необходимым и достаточным условием непрерывности будет условие
Разумеется, в этой теореме речь идет о наличии модификации с соответствующими траекториями.
Достаточность приведенных условий была доказана К. Ферником, а необходимость - М. Талаграном.
Заметим, что имеется также определение мажорирующей меры, использующее конечность интеграла вида
для функции определенного класса, см., например, [153].
Свойства гауссовских случайных функций изучаются в . В этих книгах имеются обширные библиографические указания. Некоторые результаты, связанные с траекториями броуновского движения, излагаются в последуюших главах и дополнениях к ним.