3.5. Реакция линейных систем

В § 2.4 были рассмотрены алгебраические действия над случайными величинами. Основной результат был представлен ф-лой (2.97). Необходимо распространить этот результат на случайные процессы. Однако для случайных процессов из-за временной зависимости необходимо рассматривать динамические преобразования, т. е преобразования, которые описываются дифференциальными или разностными уравнениями. Поскольку результат динамического преобразования зависит как от предыдущей, так и от текущей информации, процесс, полученный таким преобразованием, должен быть «более коррелированным» и в этом смысле менее случайным, чем входное воздействие «Сглаживание» случайных данных в результате динамического преобразования является, как мы видим дальше, одним из основных принципов теории оценивания.

К сожалению, имеется мало общих формул динамических преобразований и операции, требуемые для их выполнения, в некоторых специальных случаях могут быть чрезвычайно сложными. Мы ограничимся линейными системами и будем иметь дело только со средними значениями и моментами второго порядка. В § 4.5 будет дано обобщение на довольно широкий класс нелинейных систем.

Хотя рассмотрение ограничивается только средним и моментами второго порядка выходного процесса, для нормальных распределений такое рассмотрение эквивалентно полному статистическому описанию процесса. В § 4.2 показано, что результатом любой линейной операции над нормальным распределением будет также нормальное распределение. Следовательно, если входное воздействие на линейную инерционную систему нормальное и если можно определить среднее и второй момент процесса на выходе, то тем самым полностью определяется выходное распределение.

Наше изложение содержит две части непрерывные процессы и дискретные процессы. Начнем с непрерывных процессов.

Класс непрерывных динамических преобразований, который нам предстоит рассмотреть, задан векторным дифференциальным уравнением первого порядка с меняющимися во времени коэффициентами

(3.62)

Положим, что исходные средние и вторые моменты и известны:

(3.63)

Мы не предполагаем, что стационарный случайный процесс. Задача состоит в определении среднегои второго момента , а также взаимной ковариационной функции процессов и .

Решение ур-ния (3.62) имеет вид

(3.64)

где переходная матрица состояния системы является решением однородного линейного дифференциального уравнения

(3.65)

с граничным условием

(3.66)

Это решение, которое очень легко проверить, получено путем элементарных преобразований переменных состояния [223].

Среднее значение легко определяется из ф-лы (3.64):

где — среднее значение процесса в начальный момент . Переставляя операторы усреднения и интегрирования, получаем искомый результат

. (3.67)

Заметим, что выражение для состоит из двух частей: «свободной», которая зависит от и «вынужденной», которая представляет собой интеграл свертки, следовательно, решение для аналогично решению для , за исключением того, что в выражении для случайные величины заменяются их средними.

Интегральное представление (3.67) для трудно использовать из-за наличия в нем интеграла свертки и необходимости определения переходной матрицы состояния. Вычисление интеграла свертки встречает большие трудности и при машинном и при ручном способах. Поэтому желательно записать выражение для в другом виде. Продифференцируем обе части (3.67), применяя правило Лейбница к интегралу свертки.

где используется (3.65) для замены во втором выражении. Заметив, что выражение в скобках есть просто и что , получим

(3.68)

Последнее соотношение можно также получить усреднением (3.62).

Можно получить , решив ур-ние (3.68) с учетом начального условия . Конечно, общим решением ур-ния (3.68) является выражение (3.67). Однако если для нахождения используются численные методы, которые необходимы при решении всех задач, кроме самых тривиальных, то вычисления с помощью непосредственного интегрирования ур-ния (3.68) существенно проще, чем те, которые потребовались бы при вычислении (3.67).

Перейдем теперь к определению ковариационной функции для , которая имеет вид [см. ф-лу (3.64)]

Произведя еще раз перестановку операций интегрирования и усреднения и используя предположение, что и для некоррелированны, получим

(3.69)

При этом опять появляется интеграл свертки. Прежде чем производить дальнейшее преобразование этого выражения, рассмотрим выражение для .

Используя, как и раньше, решение (3.64), находим, что для

После несложных преобразований получим

Так как для некоррелированно с окончательное выражение при имеет вид

(3.70)

Формулы (3.69) и (3.70) представляют собой наиболее общие из полученных нами выражений для вторых моментов и . К сожалению, эти выражения, особенно (3.70), не так просто использовать. Для упрощения выражения, с тем чтобы использовать его в более удобной форме, необходимо наложить ограничение на входной сигнал. Чтобы быть более точными, предположим, что являемся белым шумом, так что

(3.71)

Заметим, что мы не требуем, чтобы был стационарным процессом. Кроме того, преобразуя переменную состояния , легко перейти ко входному воздействию в виде небелого шума. Поэтому мы предполагаем, что переменная состояния преобразована, так что - белый шум. Тогда из (3.69) получаем

и, используя свойство дельта-функции, находим

(3.72)

Отсюда следует, что в точке функция терпит разрыв.

Используя ф-лы (3.70) и (3.71), находим выражение для :

Следует внимательно отнестись к порядку интегрирования. Для того чтобы гарантировать попадание точки, в которой наблюдается всплеск дельта-функции, в область интегрирования, необходимо вначале интегрировать по переменной, имеющей больший диапазон. Другими словами, если , то необходимо вначале интегрировать по . Окончательное выражение для имеет вид

(3.73)

Хотя эта формула проще, чем (3.70), однако из-за наличия интеграла свертки пользоваться ею не просто. Для упрощения этого выражения удобно вначале ограничиться случаем, когда так что и тогда

(3.74)

где — дисперсия процесса в начальный момент времени. Может получиться так, что это последнее выражение в действительности не проще, чем (3.73). Однако интегральное выражение в такой форме можно преобразовать в дифференциальное уравнение. Это преобразование может быть выполнено путем дифференцирования обеих частей (3.74). Используя еще раз правило Лейбница, получим

При получении второго выражения мы использовали тот факт, что и . Сравнивая предыдущее уравнение с (3.74), заметим, что выражение в скобках равно , так что его можно записать в виде

(3.75)

Уравнение (3.75) представляет собой искомый результата дает возможность определить путем решения простого линейного дифференциального уравнения с начальным условием . Заметим, что для решения ур-ния (3.75) не требуется знание переходной матрицы. Подстановкой (3.75) и (3.74) в (3.73) легко показать, что для белого шума

(3.76)

Формулу (3.75) также легко получить непосредственно путем дифференцирования выражения для :

где для удобства полагаем, что . Теперь, подставляя из ф-лы (3 62), получим

(3.77)

Искомые ковариационные функции и можно определить из (3.72), положив , так что и

С учетом последних выражений ф-ла (3.77) переходит в (3.75). Следует иметь в виду, что ф-лы (3.72)-(3.75) справедливы только, если - белый шум, причем с ненулевым средним. Если — небелый шум, то можно рассматривать как выходной процесс динамической системы вида (3.62), на которую воздействует белый шум. Объединяя уравнения, описывающие эту динамическую модель, с уравнениями исходной системы, получим преобразованную динамическую систему, на которую воздействует белый шум и для которой справедливо выражение (3.20). Такой метод представления небелого (коррелированного) шума более подробно будет рассмотрен ниже.

Пример 3.3. Для иллюстрации полученного выражения рассмотрим простой скалярный случай. Динамическая модель задается уравнением .

Предположим, что состояние системы при известно, и таким образом, начальные среднее и дисперсия и . Входной шум — белый с единичным средним и дисперсией, изменяющейся по гармоническому закону и .

Дифференциальное уравнение для среднего значения имеет вид [ур-ние (3.68)] с начальным условием . Решение этого уравнения, как легко видеть, имеет вид .

Уравнение для дисперсии Легко показать, что его решение имеет вид

Читателю рекомендуется получить эти результаты, используя интегральные ур-ния (3.67) и (3.74).

В то время как дисперсия входного шума является функцией времени, дисперсия выходного шума достигает установившегося значения лишь через 3 или 4 секунды

Выходная дисперсия изменяется по синусоидальному закону, но никогда не обращается в нуль, как дисперсия входного воздействия

Пример 3.4. Рассмотрим следующую «модель сообщения»

где - небелый шум, так что его модель можно в общем случае представить в виде

где и — белые и некоррелированные шумы. Можно преобразовать переменную состояния, вводя вектор состояния который удовлетворяет дифференциальному уравнению где

которое имеет тот же вид, что и ур-ние (3.62), при белом шуме. Следовательно, в рассматриваемом случае можно использовать ф-лы (3.75) и (3.76) для определения и а ф-лу (3.68) — для определения . Начальные условия запишутся в виде

Таким образом, полученные выше выражения для вторых моментов действительно являются весьма общими.

Очень важный подкласс задач охватывает стационарные (по крайней мере, в широком смысле) процессы, для которых средние значения постоянны, а вторые моменты зависят только от разности . Матрица коэффициентов системы и матрица распределения не зависят в этом случае от времени, так что ур-ние (3.62) принимает вид

, (3.78)

где и — постоянные матрицы. Так как средние значения постоянные, ур-ние (3.68) упрощается: или .

Если сингулярна, то, вообще говоря , не будет иметь стационарного значения, хотя для того, чтобы было неограниченным, это необходимо. Сингулярность означает, что система имеет один или более полюсов исходном состоянии и что постоянное входное воздействие вызывает неограниченный выходной сигнал.

В стационарном случае выражение для взаимной ковариационной функции между входным и выходным сигналами имеет вид [см ф-лу (3.69)]

где . Так как динамическая система стационарна, переходная матрица становится функцией разности временных аргументов, так что

(3.79)

Для получения стационарного решения достаточно, чтобы входное воздействие было приложено с момента , так что

(3.80)

Может показаться, что является функцией времени , что должно указывать на нестационарное решение. Но этот вывод неверен. Явная зависимость от исчезает после замены переменной интегрирования :

Из условия физической осуществимости системы следует, что должно равняться нулю при . Таким образом, результат не изменится, если верхний предел интегрирования увеличить от до , так что получим

(3.81)

Полученный результат снова имеет вид интеграла свертки, который, хотя и является более простым, чем в общем нестационарном случае, все же неудобен для вычислений. Следует помнить, что при выводе (3 81) мы не ограничиваемся случаем белого шума

Формулу (3.81) можно записать иначе, положив :

(3.82)

Поскольку выражение (3.81) аналогично стандартному интегралу свертки для детерминированных систем, целесообразно провести преобразование Фурье ф-лы (3.81), что даст возможность получить выражение для взаимной спектральной плотности

где — оператор преобразования Фурье.

Меняя порядок интегрирования, получим

(3.83)

Представим теперь как тогда ф-лу (3.83) можно записать в виде

Выражение в скобках является преобразованием Фурье от . Тогда

или

(3.84)

Ясно, что взаимная спектральная плотность

(3.85)

Как известно из теории переменных состояния, резольвента матрицы равна:

и может быть легко определена с помощью алгоритма Леверье. Формулами (3.84) и (3.85) легко пользоваться, так как они включают в себя только алгебраические действия.

Выражение (3.70) для второго момента выходного процесса принимает в стационарном случае следующий вид:

Если снова положить и , то получим

(3.86)

Теперь сделаем подстановку . и . Тогда из ф-лы (3.86) находим

или

Здесь нижние пределы в обоих интегралах можно без изменения результата положить равными , так как при . Если сделать такую замену , будет иметь вид

(3.87)

Объединяя ф-лы (3.87) и (3.82), замечаем, что выражение в скобках есть просто , следовательно,

(3.88)

С помощью замены переменных легко показать, что можно также записать в виде

(3.89)

Выражение для спектральной плотности можно получить, взяв преобразование Фурье либо от (3.88), либо от (3.89) и выполнив действия, аналогичные тем, которые проводились при выводе (3.84). В результате получим

(3.90)

Формулы для спектральной плотности (3.84) и (3.90) могут быть также получены более простым путем. Предположим, что и - центрированные стационарные сигналы, для которых существуют обычные преобразования Фурье и . (Чтобы быть более точными, мы можем рассматривать преобразование Фурье от одной реализации и, если это необходимо, использовать ограничения § 3.4 в применении к финитным сигналам). Спектральные плотности и можно записать в виде

(3.91)

(3.92)

Выражение для можно получить, подвергнув формально преобразованию Фурье ур-ние (3.78):

или

(3.93)

Поэтому , как следует из (3.91), будет иметь вид

что совпадает с результатом, полученным выше при строгом выводе. Хотя приведенный способ формальный и нужно поэтому быть осторожным при его применении к нестандартным случаям, он тем не менее часто используется.

Пример 3.5. Используем ф-лы (3.85) и (3.90) для определения спектральных плотностей и в случае простой стационарной системы с одним входом, которая описывается уравнениями:

Предположим, что спектральная плотность процесса известна. Формулы (3.84) и (3.90) могут быть непосредственно использованы для получения спектральных плотностей и :

где . Искомую спектральную плотность получим из указанным выше формальным способом:

Заметим, что — переходная функция, связывающая и или . Тогда можно записать в виде

Аналогично получаем выражения для . Можно было бы использовать и формальный способ:

Дополнительные примеры читатель найдет в библиографических ссылках, приведенных в конце этой главы.

Перейдем к рассмотрению дискретных систем. Изложение вопросов, относящихся к дискретным системам, в этом разделе точно соответствует приведенному выше изложению, относящемуся к непрерывным системам. По этой причине многие доказательства значительно сокращены.

Переход к дискретным системам осуществляется с помощью векторного разностного уравнения первого порядка:

где интервал квантования во времени. Исключая случаи переменного интервала квантования, запишем просто , так что

(3.94)

Запишем среднее значение и второй момент в виде

(3.95)

Получим результирующее и разностное уравнения для среднего и второго моментов и для ковариации и . Легко убедиться, что решение ур-ния (3.94) имеет вид

(3.96)

Если усреднить обе части (3.96), то получим

(3.97)

Разностное уравнение для можно получить значительно проще путем непосредственного усреднения (3.94):

(3.98)

Результирующие выражения для и следуют из определений этих величин и

ф-лы (3.98):

; (3.99)

, (3.100)

где . Читателю предлагается самостоятельно получить эти выражения.

Если выборки случайного процесса некоррелированны или если он “белый”, так что , то

Это выражение можно записать в виде

(3.101)

Для случая, когда выборки некоррелированны, выражение для имеет вид

откуда с учетом определения символа Кронекера следует

. (3.102)

Чтобы вывести разностное уравнение для , аналогичное уравнению (3.75), можно использовать определение и ф-лу (3.94):

Это уравнение после некоторых алгебраических преобразований можно привести к виду

(3.103)

Из (3.101) или непосредственно из физических соображений ясно, что , так как зависит только от ,, и некоррелирован с , . Тогда ф-ла (3.103) приводится к виду

. (3.104)

Легко показать, что когда - белый,

(3.105)

Читателю рекомендуется самостоятельно доказать, что выражение (3.102) для является решением ур-ния (3.104). Следует помнить, что соотношения (3.101) - (3.104) справедливы, если -белый. Случай, когда -небелый, может быть представлен, как и в непрерывном случае, введением вектора переменных состояния.

Пример 3.6. Для того, чтобы показать, как использовать выражения (3.98) и (3.104) для и , рассмотрим простую скалярную задачу. Динамическая система задается скалярным разностным уравнением

Шум на входе – белый с нулевым средним . Начальные условия и .

Среднее значение выходного процесса можно найти из (3.98), которое для этого примера имеет вид

Легко убедиться, что решение этого уравнения имеет вид !. Запишем разностное уравнение для дисперсии :

с начальным условием . Хотя простого решения этого уравнения в замкнутой форме не существует, все же легко вычислить непосредственно. Например,

Интересно отметить, что здесь .

Это вполне приемлемый и корректный ответ, если вспомнить, что . Таким образом, здесь нет (среднеквадратической) неопределенности входа в нулевом состоянии, и мы приходим к выводу, что .

Рассмотрим теперь стационарный случай для дискретных систем. Для инвариантных во времени систем выражение (3.94)можно заменить уравнением

, (3.106)

где и . Если - стационарен в широком смысле, то во второй момент зависит только от разности времен, т.е. от , так что для всех .

Среднее значение выходного процесса можно легко определить усреднением обеих частей уравнения (3.105):

Если входной процесс стационарен в среднем, выходной процесс также стационарен (по крайней мере, в широком смысле), и имеем

или

(3.107)

Решение ур-ния (3.106) имеет вид

Здесь для простоты и без потери общности мы предположили, что в начальной точке система находится в состоянии покоя при . Взаимная ковариационная функция

Для того чтобы исключить явную зависимость от , положим . Тогда получим

. (3.108)

Из условия физической осуществимости системы следует, что при и, следовательно, верхний предел суммирования может быть распространен до бесконечности, т.е.

. (3.109)

Теперь можно получить выражение для спектральной плотности с помощью -преобразования обеих частей (3.109):

Меняя порядок суммирования и записав как получим

Выражение в скобках представляет собойи, следовательно,

или

. (3.110)

Подобным же образом можно показать, что второй момент на выходе определяется выражением

или

, (3.111)

а спектральная плотность – выражением

. (3.112)

Соотношения между дискретными и непрерывными процессами. Связь между непрерывным и дискретным белым шумом устанавливается предельным переходом от ковариационной функции дискретного белого шума:

. (3.113)

к ковариационной функции непрерывного белого шума , когда к выборки берутся достаточно часто:

(3.114)

где

(3.115)

Строгое изложение этих результатов представлено в гл.4. Покажем, что выражение (3.104) переходит в (3.75). Прежде всего, заметим, что уравнение системы

(3.116)

переходит в пределе в непрерывное уравнение

(3.117)

когда выборки берутся часто. Матрицы в предыдущих двух выражениях связаны между собой следующим образом:

(3.118)

(3.119)

Также просто показать, что этот предельный переход дает возможность перейти от дискретного уравнения

(3.120)

к непрерывному

, (3.121)

как это видно при подстановке ф-л (3.118) и (3.119) в (3.120).