4.4. Стохастические дифференциальные уравненияВ этом параграфе исследуются многие фундаментальные вопросы, касающиеся случайных процессов, в частности преобразования процессов в нелинейных системах Вновь обсуждено понтие белого шума и выявлена связь этого шума с вьнеровским процессом Обсуждаются трудности, возникающее при отыскании уравнения для дисперсии в случае непрерывной системы, возбуждаемой белым шумом Здесь эти трудности преодолеваются путем введения стохастического исчисления и стохастических дифференциальных уравнений. Белый шум. Многие реальные случайные процессы являются приближенно нормальными и приближенно стационарными. Часто они имеют энергетический спектр, мало отличающийся от равномерного в полосе частот, намного большей, чем полоса пропускания исследуемой системы. Вместо таких процессов с математической точки зрения удобно использовать белый шум, даже несмотря на то, что такой процесс лишен физического смысла, поскольку для его генерирования требуется бесконечно большая мощность. Понятие белого шума можно отнести к той же совокупности категорий, которой принадлежит и понятие импульсного отклика линейной системы. Важную роль играют импульсные функции - дельта-функции Дирака, которые часто определяются как пределы некоторых последовательностей функций. Аналогичным образом можно рассматривать и белый шум. Будем говорить, что непрерывный нормальный процесс является белым шумом с нулевым средним значением, если
Это определение не является строгим, так как дельта-функция Дирака может быть строго определена только в терминах интегральных выражений, таких, как
Дельта-функцию Дирака можно рассматривать как предел обычных функций времени, которые являются, например, симметричными при сколь угодно малом положительном значении
При малых значениях
При В предыдущей главе для системы, описываемой уравнением
и возбуждаемой некоррелированным с
было получено следующее уравнение для ковариационной матрицы: Воспользовавшись теперь обозначением ковариационной матрицы, запишем
Так как
Так как
Аналогичные рассуждения приводят также к равенству
Таким образом, получаем уже известный результат:
с начальным условием Если дельта-функцию определить как несимметричную функцию, для которой
то
и
Следовательно, снова получаем уравнение
Правильный ответ для ковариационной матрицы Можно было бы привести разумные соображения в пользу использования симметричной дельта-функции. Например, дельта-функция часто используется в качестве ковариационной функции, которая обязательно должна быть симметричной. Такой подход при аккуратном обращении может быть использован без особых затруднений при исследовании линейных систем Однако в случае нелинейных систем необходимо развить новый способ решения этой проблемы. Полезно также повторить приведенный выше вывод, начав с дискретного времени, и перейти затем к пределу, увеличивая число отсчетов на интервале наблюдения с тем, чтобы проверить возникает ли при этом уже отмеченная трудность неоднозначности. Рассмотрим дискретный аналог уравнения системы (4.66) в форме (см. § 3.5):
где
Так как
Теперь при увеличении числа отсчетов получаем уравнение
которое является уравнением для ковариационной матрицы при непрерывном времени. При выводе этого уравнения трудность, имевшая место при выводе аналогичного соотношения сразу для непрерывного времени, не возникла благодаря тому, что
то уравнение (4.66) можно записать следующим образом: или
где
Хотя ф-лу (4.82) можно получить формальным умножением ур-ния (4.66) на
называется винерйвским процессом, свойства которого достаточно подробно обсуждаются в дальнейшем. Винеровский процесс. В дальнейшем изложении винеровский процесс играет очень важную роль. Этот процесс был введен Н. Винером в качестве простой модели броуновского движения. Пусть Винеровский процесс
где
Легко показать, что
Кроме того, для приращения
Отсюда следует, что приращение винеровского процесса имеет среднее значение, равное нулю, и дисперсию
Винеровский процесс часто называют также процессом броуновского движения или процессом Винера-Леви [56, 182]. Этот процесс имеет много интересных свойств, из которых здесь отметим лишь следующие: 1. Винеровский процесс является процессом с независимыми приращениями, т. е. если принять 2. Винеровский процесс является марковским процессом, так как
Это соотношение легко доказывается, если записать
Отсюда получаем
Точно такие же значения имеют 3. Винеровский процесс является мартингальным процессом, т. е. его условное математическое ожидание в момент времени
Отметим здесь, что марковский процесс не обязательно является мартингальным процессом. 4. Винеровский процесс обладает свойством осцилляции Леви, т. е. если
где сходимость суммы понимается в среднеквадратическом смысле. Приведенные соотношения будут использоваться в дальнейшем при обсуждении преобразований случайных процессов в нелинейных системах. Стохастический интеграл и стохастические дифференциальные уравнения. Винеровский процесс был определен выше как интеграл от белого шума Таким образом, если
Интегралы такого типа уже встречались ранее, когда исследовался отклик линейной системы на воздействие в виде белого шума. Если система описывается уравнением
где Смысл последнего интеграла неясен, так как пока что отсутствовало строгое определение для производной Один из возможных способов преодоления этой трудности состоит в том, чтобы попытаться использовать понятие интеграла Лебега-Стилтьеса, записав
Однако этот способ не устраняет трудности, так как Естественным статистическим обобщением интеграла Лебега-Стилтьеса является стохастический интеграл, при определении которого последовательность интегральных сумм сходится к значению интеграла по вероятности. Именно замена сходимости в обычном нестатистическом смысле сходимостью по вероятности позволяет преодолеть отмеченную выше трудность. Пусть
Обозначим через 1. 2. 3. Для любой функции из
Если
где
Следует отметить, что стохастический интеграл может быть определен и несколько иными способами. Например,
где
В общем случае определения (4.99) и (4.100) не эквивалентны определению (4.98). Если Интеграл, определенный с помощью соотношения (4.98), будем называть интегралом Ито [241]. Его можно рассматривать как линейное преобразование
для каждой пары допустимых функций Если
Доказательства этих свойств основываются на том факте, что приращение Рассмотрим сначала равенство (4.101). Используя (4.97), запишем
Так как
Так как среднее значение приращений винеровского процесса равно нулю, то правая часть последнего равенства также оказывается равной нулю, что доказывает справедливость равенства (4.101). Аналогичным образом проводится доказательство справедливости соотношения (4.102). Воспользовавшись сначала определением (4.97), запишем
В силу независимости приращений имеем
Вновь, используя независимость приращений и равенство (4.90), можно записать Таким образом, для
Так как Если В дальнейшем потребуется выражение для дисперсии дифференциального приращения
где Этот результат еще раз подтверждает, что приращение Нетрудно показать, что для величины
из которого следует
Таким образом, винеровский процесс действительно является необычным процессом. Будучи всюду непрерывным, он почти нигде не дифференцируем; дисперсия приращения значений этого процесса на бесконечно малом интервале совпадает с квадратом приращения. Аналогичным образом можно показать также, что
Интересно также следующее свойство винеровского процесса. Если функция
Это свойство становится очевидным, если рассмотреть равенство (4.101). Действительно, так как
то условное среднее величины
В первом интеграле функция и полностью известна на всем интервале интегрирования, так как она входит в условие. Поэтому этот интеграл не является стохастическим. В то же время во втором интеграле условие не играет уже подобной роли в силу независимости приращений процесса и на непересекающихся интервалах. Поэтому на основании ф-лы (4.101) второе слагаемое в правой части последнего равенства равно нулю. В результате получаем
Еще одно полезное свойство интеграла Ито состоит в том, что его конструкция допускает определение интеграла
где
(см. [56]). Обратимся теперь к изучению процесса на выходе нелинейной системы, описываемой уравнением
если на ее входе действует
Здесь Формальным интегрированием ур-ния (4.109) можно найти следующее неявное выражение для отклика или вектора состояния системы
где
Это уравнение в дальнейшем будем называть стохастическим дифференциальным уравнением. Это равенство можно рассматривать как удобный способ записи ур-ния (4.110) в случае, когда функции В дальнейшем будет показано, что при преобразованиях интеграла Ито необходимо использовать правила, отличающиеся от правил преобразований обычных интегралов. Будем считать, что
в котором ради простоты записи использованы следующие сокращенные обозначения Это уравнение играет очень важную роль при получении многих результатов теории случайных процессов; оно, например, используется при отыскании характеристических функций случайных процессов Стохастическое дифференциальное ур-ние (4.111) можно переписать в несколько ином виде, если воспользоваться введенными выше обозначениями
Здесь винеровский процесс имеет среднее значение, равное нулю, и ковариационную матрицу
Подробное и удобное по форме доказательство правила дифференцирования Ито для скалярного случая дано в работе [241]. Обобщение этого доказательства на векторный случай не встречает принципиальных трудностей. Здесь приведем лишь упрощенные нестрогие рассуждения. Интегрирование (4.112) приводит к уравнению (для
которое также является полезным. Разложим функцию где слагаемое и
получаем ур-ние (4.115), которое эквивалентно ур-нию (4.112). Иногда удобнее правило дифференцирования Ито записывать в виде
где
Таким образом, Пример 4.3. Исследуем процесс на выходе нелинейной системы, описываемой уравнениями на вход которой воздействует нормальный белый шум Используя обычное правило интегрирования, получаем
т е процесс
Использование обычного правила интегрирования привело бы к результату
Однако рассматриваемый интеграл является стохастическим, и здесь необходимо воспользоваться определением (4.98) Поэтому следует писать
Последнее равенство с помощью простых алгебраических преобразований приводится к виду
Первая сумма легко вычисляется, давая в результате
Второе слагаемое можно легко вычислить, если воспользоваться свойством осцилляции Леви [см. равенство (4.93)] Так как
Используя (4 104), это выражение можно переписать в виде
Обычный интеграл в правой части этого равенства легко вычисляется, так что для Чтобы показать, что определение (4.99) в общем случае неэквивалентно определению (4.98), вычислим теперь
Дальнейшие вычисления, проводимые так же, как выше, приводят к следующему результату
Этот результат совпадает с решением, получаемым при обычном исчислении при Другой способ получения корректного выражения для
где Положим где для рассматриваемой задачи (поскольку
Если теперь учесть, что
Таким образом, вновь получено решение для переменной состояния Пример 4.4. Рассмотрим другую (билинейную) систему
которая описывается следующим стохастическим дифференциальным уравнением:
Легко проверить, что решение этого уравнения, найденное методами обычного исчисления, имеет вид
Отсюда
Здесь снова результаты, полученные с помощью обычного исчисления и стохастического исчисления, не совпадают. Причиной этого несовпадения, конечно, является то, что для вычисления стохастического интеграла Для того чтобы получить алгоритмы оценивания в любой физической задаче оценивания, приходится выполнять два наиболее важных этапа исследований. На первом из них решается задача моделирования или выбора стохастического дифференциального уравнения, которое описывало бы рассматриваемый физический процесс. Эта модель, которая в конечном счете представляет некоторый процесс, является в общем случае компромиссом между математической точностью и простотой вычислений. Цель второго этапа — найти алгоритмы оценивания. Этот этап выполняется лишь после того, как выбрана математическая модель процесса. Ниже рассматриваются некоторые аспекты второго этапа. Ранее уже было отмечено, что стохастический интеграл (интеграл, содержащий произведение двух случайных процессов), нельзя во всех случаях рассматривать как обычный интеграл. Приведенные выше два примера достаточно ясно иллюстрируют различия между этими интегралами. Если для моделирования алгоритмов оценивания используются цифровые вычислительные машины, то подходящая интерпретация стохастического интеграла не является тривиальной. Здесь возможны два подхода. Один из них основывается на обычном исчислении, другой — на стохастическом исчислении. Специальное рассмотрение этих двух подходов будет проведено в гл. 9. Здесь же приведем только некоторые рекомендации для выбора одного из них [77]: 1. Если функция 2. Если проблема оценивания должна быть сформулирована строго в математическом отношении, то следует использовать стохастическое исчисление. 3. Если ур-ние (4.111) рассматривается как аппроксимация соответствующего дискретного уравнения или как предел уравнения
при неограниченном увеличении числа отсчетов на любом конечном интервале, то необходимо использовать стохастическое исчисление. 4. Если в равенстве (4.109) входной белый шум используется вместо шума с малым интервалом корреляции, то следует применять методы обычного исчисления. Различие между этими двумя подходами с вычислительной точки зрения также нетрудно выявить (см. [281]). Если использовать понятия обычного исчисления при отыскании решения
В большом числе случаев решение ур-ния (4.121), полученное методами обычного исчисления, с достаточно высокой точностью будет совпадать с решением дифференциального стохастического ур-ния (4.111) (заметим, что если С помощью правила дифференцирования Ито можно получить прямое диффузионное уравнение или уравнение Фоккера-Планка. Рассмотрим для этого нелинейную систему
Применение правила дифференцирования Ито [равенство (4.112)] дает
Интегрируя обе части полученного равенства на интервале от
Заметим, что условное среднее значение функции
Для условного математического ожидания правой части равенства (4.124) можно записать
Здесь учтено, что условное среднее последнего интеграла (4.124) равно нулю, как это следует из (4.101), поскольку процесс
Раскрывая теперь содержание оператора математического ожидания, запишем Вычисляя, наконец, обратное преобразование Фурье от обеих частей последнего равенства, приходим к уравнению Фоккера-Планка для векторного процесса [определяемого ур-нием (4.111)]:
где Таким образом, вновь получено уравнение в частных производных Фоккера-Планка. Это уравнение может быть использовано для отыскания плотности вероятности переменной состояния нелинейной системы, описываемой ур-нием (4.111) и возбуждаемой нормальным белым шумом. Вектор переменных состояния такой системы является марковским процессом. В основе этого вывода лежит правило дифференцирования Ито. К сожалению, не существует прямого способа выбора функции Одно из неудобств, связанных со стохастическими интегралами и стохастическими дифференциальными уравнениями, состоит в том, что для последних могут оказаться несправедливыми правила преобразований обычного исчисления. Конечно, стохастический интеграл можно было бы определить и таким образом, чтобы обычные правила вычислений, как, например, интегрирование по частям, остались справедливыми. На первый взгляд такой подход может показаться привлекательным и более естественным, чем определение Ито. Однако, как будет здесь показано, на самом деле это не так. Ради простоты ограничимся рассмотрением лишь скалярного случая Исследование многомерного случая проводится аналогично и не встречает принципиально новых трудностей. Рассмотрим подробнее свойства интеграла (4.96)
Здесь
где
и
Стохастическое исчисление Ито и обычное исчисление часто приводят к разным результатам. Например, при использовании для стохастического интеграла определения Ито легко проверить, что
Обычное правило интегрирования вообще приводит к другому значению этого интеграла. Точно такое же значение можно получить только в том случае, если в разложении в ряд Тейлора подынтегральной функции ограничиться членами второго порядка и использовать запись
Аналогично должно выполняться соотношение
для обычного исчисления, чтобы правила вычисления обычного и стохастического исчислений приводили к одним и тем же результатам. Если стохастический интеграл определить так, чтобы получающиеся при этом результаты оказались совместимыми с результатами обычного исчисления, то равенства (4.101) и (4.102) нарушатся, что очень нежелательно. Действительно, эти два равенства чрезвычайно полезны в том отношении, что они позволяют существенно упростить вычисления математических ожиданий. Стратонович в работе [258] ввел «симметризованный» стохастический интеграл, в котором
Подобное определение стохастического интеграла дано также в работе [77], где было принято
В работе [148] предложена аппроксимирующая формула
в которой
Хотя каждое из перечисленных четырех определений приводит к некоторым полезным свойствам стохастического интеграла, все они имеют серьезный недостаток: равенства (4.101) и (4.102) оказываются несправедливыми. Следовательно, многие последующие соотношения должны быть модифицированы. Например, если в определении стохастического интеграла используется равенство (4.136), то уравнение Фоккера-Планка (4.128) оказывается несправедливым, а среднее значение последнего интеграла в правой части равенства (4.124) не равно нулю, поскольку при новом определении величины
Изменение уравнения Фоккера-Планка при таком переходе намного существенней, чем это можно было ожидать вначале. Вычислять моменты теперь намного труднее. Стохастические дифференциальные уравнения, которые получаются при использовании любого из соотношений (4.135)-(4.138), приводят к случайным процессам, не являющимся более марковскими. Поэтому в дальнейшем в данной главе и в гл. 9 без особых оговорок будем использовать исчисление Ито, основанное на определении (4.98).
|