6.2. Байесовские оценки

Большая часть результатов предыдущей главы относилась к байесовской теории решений, в которой при выборе одной из возможных гипотез необходимо было обеспечить минимальное значение байесовского риска [ф-ла (5.101)]:

. (6.1)

Этот риск представляет собой среднее значение потерь при принятии одной из гипотез, рассматривающихся в задаче выбора решения. Здесь - потери при принятии гипотезы , когда на самом деле справедлива гипотеза , а — совместная плотность вероятности вектора наблюдений и гипотезы . Часть выборочного пространства, в которой принимается гипотеза обозначена буквой .

В этой главе рассматривается более общая проблема определения или оценивания значений параметров систем, которая называется задачей оценивания параметров. Пусть — параметр, подлежащий оценке, а — оценка для . Параметр в задаче оценивания является аналогом номера гипотезы в проблеме выбора решения, рассмотренной в предыдущей главе. Однако теперь является непрерывной величиной и принимает значения некоторого интервала. Аналогом потерь в задаче выбора решения, обусловленных принятием гипотезы , когда на самом деле справедлива гипотеза , в задаче оценивания являются потери при оценивании величиной неизвестного значения параметра, когда на самом деле его истинное значение равно . В задаче оценивания является непрерывной случайной величиной, а ошибка оценивания определяется следующим образом:

. (6.2)

Функция потерь в проблеме выбора одного из возможных решений заменяется в задаче оценивания функцией . Вследствие этого байесовский риск (6.1) теперь принимает вид

, (6.3)

где также является вектором наблюдений. Пределы интегрирования в обоих интегралах здесь равны и , так как теперь не выделяется частная область выборочного пространства, соответствующая какому-либо частному значению непрерывного параметра.

Из ф-лы (6.3) и фундаментальной теоремы о среднем значении функции от случайных величин следует, что байесовский риск для некоторой оценки может быть записан так:

. (6.4)

Следовательно, байесовский риск является средним значением некоторой функции от ошибки оценивания. Основная задача теперь состоит в том, чтобы минимизировать этот риск или среднее значение потерь путем соответствующего выбора оценки . Оценку, удовлетворяющую этому требованию, в дальнейшем будем называть оптимальной оценкой. Так как является функцией наблюдений , то необходимо было бы писать . Однако в дальнейшем будем использовать в основном обозначение , а будет применяться только в том случае, если возможны недоразумения.

Естественно, что оптимальная оценка будет зависеть от выбранного вида функции потерь. Наиболее часто используются следующие три типа этой функции:

; ;

в задачах оценивания скалярного параметра и

; ; (6.5)

при оценивании векторного параметра. Здесь — неотрицательно определенная матрица, которую без потери общности можно считать симметричной. В обоих случаях первая функция называется квадратичной, вторая — модульной, третья — простой функцией потерь. При выборе третьей функции предполагается, что потери равны нулю при малых ошибках и равны , если модуль ошибки превышает величину . На рис 6.1 приведены графики этих функций потерь для случая скалярного параметра. Часто выбор конкретного вида функции потерь представляет собой компромисс между практической полезностью такой функции и простотой аналитического решения задачи отыскания оптимальной оценки. К счастью, для большого класса задач оценивания оценки, оптимальные для одного вида функции потерь, сохраняют свойство оптимальности для целого класса практически полезных функций потерь. Найдем теперь выражения для оценок, оптимальных при квадратичной и простой функциях потерь.

Рис 6.1. Функции потерь, применяемые при оценивании скалярного параметра: а) квадратичная, б) модульная, в) простая

Построение оценок с минимальной среднеквадратической ошибкой. Оценка с минимальной среднеквадратической ошибкой должна обеспечивать минимально возможное значение среднего риска (6.3) при квадратичной функции потерь

, (6.6)

где матрица выбирается симметричной и неотрицательно определенной. Следовательно, оценку необходимо выбрать таким образом, чтобы минимизировать риск

для которого справедлива также следующая запись:

. (6.7)

Так как не является переменной интегрирования во внешнем интеграле, а плотность вероятности всегда положительна, то минимизация риска соответствующим подбором функции может быть осуществлена путем минимизации значения внутреннего интеграла для каждого значения соответствующим подбором значения переменной .

Таким образом, минимизация байесовского риска , представляющего собой среднее значение потерь из-за ошибок оценивания параметра , полностью эквивалентна минимизации условного среднего значения потерь при данной выборке . Это означает, что вместо минимизации риска достаточно ограничиться минимизацией условного байесовского риска

. (6.8)

При квадратичной функции потерь условный байесовский риск

. (6.9)

Значение оценки, обеспечивающей минимальную среднеквадратическую ошибку, при данной выборке можно найти, приравняв нулю градиент риска по переменной и решив получившееся уравнение

. (6.10)

относительно . Равенство (6.10) будет выполняться, если

Учитывая теперь, что функция является обычной плотностью вероятности, получаем представление для оптимальной оценки

. (6.11)

Нетрудно показать, что рассмотренная процедура минимизации в самом деле приводит к минимально возможному значению риска. Действительно, матрица вторых производных риска по компонентам вектора , т. е. является неотрицательно определенной, поскольку матрица неотрицательно определена. В правой части равенства (6.11) стоит выражение для условного среднего значения параметра , вычисляемого при фиксированной выборке . Следовательно, оценкой с минимальной среднеквадратической ошибкой является условное среднее значение

. (6.12)

Подставив оценку (6.12) в выражение (6.8), получим минимально возможное значение риска для оценки . Во многих задачах достаточно рассматривать лишь ковариационную матрицу вектора ошибок оценивания , которая и будет в основном использоваться в дальнейшем для характеризации точности оценок.

Оценки по максимуму апостериорной плотности вероятности. При простой функции стоимости байесовский риск

. (6.13)

Часто рассматривают случай, когда значение параметра стремится к нулю . При этом в пределе простая функция потерь записывается как дельта-функция, т. е. . Тогда для обеспечения минимально возможного значения риска в качестве значения оптимальной оценки при каждой выборке следует выбирать то значение параметра , при котором апостериорная плотность вероятности принимает максимально возможное значение. Такую оценку будем называть оценкой по максимуму апостериорной плотности вероятности; для нее введем обозначение. При каждой выборке значение этой оценки обычно является корнем уравнения

. (6.14)

Значение оценки можно найти также путем максимизации относительно функции. Если воспользоваться формулой Байеса и вычислить логарифм от апостериорной плотности вероятности, то можно записать

. (6.15)

Так как безусловная плотность вероятности не зависит от переменной , то максимизация плотности сводится к отысканию положения максимума совместной плотности вероятности . Следовательно, значение оценки можно найти как корень уравнения

(6.16)

или уравнения

(6.17)

Максимизация плотности вероятности путем подбора значения позволяет находить значение оценки максимального правдоподобия (см. § 6.3). Оценка максимального правдоподобия, значение которой при выборке совпадает со значением переменной , максимизирующим плотность , в некоторых работах называется условной оценкой максимального правдоподобия [86, 163]. Оценка же, которая максимизирует значение безусловной плотности вероятности [а значит, и апостериорной плотности ] называется безусловной оценкой максимального правдоподобия [86, 163] или байесовской оценкой максимального правдоподобия [94, 133, 202]. В этой книге такая терминология использоваться не будет.

Инвариантность оптимальных оценок. Во многих случаях оптимальность байесовской оценки, построенной для некоторой конкретной функции потерь, сохраняется и при других функциях потерь. Имея в виду это свойство, будем говорить об инвариантности оптимальной оценки. Рассмотрим класс «разумных» функций потерь , которые выпуклы и симметричны относительно точки . Будем считать также, что апостериорная плотность вероятности при каждой выборке симметрична относительно значения оценки , обеспечивающей минимум среднеквадратической ошибки. Предположим далее, что значение произведения любых рассматриваемых функций потерь и апостериорной плотности стремится к нулю при неограниченном увеличении значения . Эти предположения можно записать так:

(6.18)

Примеры функций потерь и апостериорных плотностей вероятности, которые удовлетворяют перечисленным ограничениям, приведены на рис. 6.2.

Рис. 6.2. Примеры функций потерь и апостериорных плотностей вероятности, при которых оценка является оптимальной

Так как выражение для риска проще, чем для среднего риска , будем минимизировать условный байесовский риск

(6.19)

при ограничениях (6.18). Используя соотношения (6.18) и введя обозначение , запишем

(6.20)

Этот риск можно записать также в виде полусуммы последних двух интегралов равенства (6.20). Так как рассматриваемые функции потерь выпуклы, то для них справедливо неравенство

. (6.21)

Следовательно, для условного риска можно записать

. (6.22)

Чтобы в этом неравенстве можно было поставить знак равенства, т. е. обеспечить минимально возможное значение условного риска, необходимо положить

(6.23)

Витерби показал [270], что последнее ограничение в (6.18) достаточно для того, чтобы включить простую функцию потерь в рассматриваемый класс функций потерь, даже хотя эта функция не является выпуклой. Приведенные здесь результаты являются чрезвычайно важными. Они указывают на то, что байесовская оценка, оптимальная при квадратичной функции потерь, остается оптимальной даже при изменении условий задачи оценивания.

Пример 6.1. Рассмотрим задачу оценивания параметра при наличии шума . Будем предполагать, что векторы и статистически независимы и имеют нормальные распределения с параметрами:

; ; .

Для наблюдаемого вектора примем линейную модель , где является -мерным, a и — -мерными векторами ; — модуляционная матрица размера . Как будет показано в дальнейшем, к этой задаче сводятся многие практические проблемы.

Чтобы найти оценку с минимальной среднеквадратической ошибкой или оценку по максимуму апостериорной плотности вероятности, необходимо знать апостериорную плотность . Воспользовавшись формулой Байеса, получаем

Все плотности в правой части этого равенства являются нормальными с параметрами

; ;

; .

Поэтому их нетрудно выписать

;

В результате апостериорная плотность вероятности

где введены обозначения

;

Оценка с минимальной среднеквадратической ошибкой является условным средним или средним значением апостериорной плотности вероятности, т. е.

Значение оценки по максимуму апостериорной плотности вероятности при каждой выборке совпадает с тем значением переменной , при котором апостериорная плотность максимальна. То есть снова получаем .

Оптимальная оценка при модульной функции потерь, обеспечивающая минимум среднего значения абсолютной ошибки, также имеет вид . Приведенные результаты иллюстрируют инвариантность указанной здесь оптимальной оценки для рассмотренного частного примера, а именно,

Можно показать, что является ковариационной матрицей вектора ошибок оценивания и что отношение детерминантов являющееся множителем перед экспонентой в выражении для условной плотности , равно . Поэтому эту условную плотность вероятности можно записать в виде

Если воспользоваться леммой об обращении матриц, то можно получить другое полезное выражение для ковариационной матрицы вектора ошибок

при использовании которого требуется обращать матрицу более низкого порядка. Статистику можно назвать достаточной, поскольку она удовлетворяет всем требованиям к достаточной статистике, сформулированным в предыдущей главе.

Заметим, что оптимальная оценка в рассмотренном примере является линейной, поскольку она представляет собой линейную комбинацию элементов выборки. Оценки такого типа часто будут рассматриваться в дальнейшем.

В часто встречающемся частном случае этого примера наблюдается последовательность скалярных величин . При этом также можно воспользоваться векторными обозначениями, положив

Здесь и является скалярной величиной Оптимальная оценка для этого частного случая принимает вид

Если элементы выборки независимы и одинаково распределены, то и с введением обозначения для оптимальной оценки получаем выражение

Как следует из (6.9), условный байесовский риск в этом случае совпадает со среднеквадратической ошибкой. Из общего выражения для ковариационной матрицы вектора ошибок можно получить, что дисперсия оценки при независимых наблюдениях в скалярном случае

Это же выражение для дисперсии оптимальной оценки в этом примере можно получить прямым вычислением момента .

Интересно рассмотреть случай, когда уже после того, как вычислено значение оптимальной оценки по выборке объема , получено еще одно новое наблюдение. Новое значение оценки может быть вычислено с помощью повторного использования выражений, полученных в этом примере. Однако с вычислительной точки зрения этот путь не является наилучшим. Если воспользоваться леммой об обращении матриц, то можно предложить последовательный алгоритм вычисления значения оценки, в котором «новое» наблюдение учитывается в форме некоторой поправки к «старому» значению оценки . При этом нет необходимости полностью повторять все вычислительные операции со старыми наблюдениями. Более подробно проблема последовательного оценивания будет изучаться позднее.

Пример 6.2. Предположим, что проведены независимые наблюдения и получена выборка , где нормальные случайные величины и независимы, имеют нулевые средние значения и дисперсии, . Найдем оценку по максимуму апостериорной плотности вероятности для . Снова выписываем плотность вероятности

Чтобы получить значение оценки при данной выборке, необходимо минимизировать экспоненты путем подбора значения переменной . В результате получаем

Таким образом, значение оценки является решением алгебраического уравнения пятого порядка.

Для каждой полученной выборки все коэффициенты этого уравнения являются известными числами. Поэтому для отыскания значения оценки теперь достаточно воспользоваться любым подходящим алгоритмом вычисления корней этого уравнения.

Намного сложнее оказывается задача отыскания оценки , так как для этого необходимо вычислить условное среднее, т. е. среднее значение апостериорной плотности вероятности . Последняя же задача в данном примере представляется совсем трудной, поскольку эта плотность не является нормальной.

Пример 6.3. Рассмотрим теперь пример дискретной адресной системы с произвольным порядком доступа, по которой передается модулированная по амплитуде последовательность сигналов . Здесь — известная функция времени с энергией на временном интервале от до . Каждый из паpaметров представляет собой дискретные отсчеты сообщения, подлежащего передаче. Так что является случайной величиной, которую будем считать нормальной с нулевым средним значением. Будем предполагать далее, что значения получаются в результате отсчетов с периодом значений ограниченного по полосе белого шума, ширина энергетического спектра которого равна 1/с, Это означает, что случайные величины независимы и имеют одну и ту же нормальную плотность вероятности. Принимаемый сигнал искажается аддитивным нормальным белым шумом, для которого

; .

Задача состоит в том, чтобы указать оптимальные оценки для параметров вычисляемые по результатам наблюдений процессов

, , .

Модель наблюдаемого процесса можно записать в векторной форме:

, ,

где , и — векторы с компонентами, которые можно записать в виде

и для которых

; ;

; .

Здесь — спектральная плотность белого шума измерений. При решении этой задачи поступим следующим образом. Сначала рассмотрим эквивалентную дискретную задачу, а в полученном ее решении осуществим предельный переход, неограниченно увеличивая число отсчетов на интервале наблюдения. При дискретном времени будем считать, что получена выборка объема , для элементов которой справедливо представление

, ,

где .

Если ввести составной вектор наблюдений

то можно было бы непосредственно воспользоваться результатами примера 6.1. Однако очевидные неудобства, связанные с предельным переходом, вынуждают отказаться от этого подхода. Для сформулированной задачи оценка, обеспечивающая минимальное значение среднеквадратической ошибки, и оценка по максимуму апостериорной плотности вероятности совпадают. При отыскании обеих оценок предварительно необходимо найти апостериорную плотность вероятности

Оценка определяется путем максимизации плотности

поскольку безусловная плотность не зависит от частных значений параметра . Согласно условиям задачи имеем

и .

Следовательно, совместная плотность вероятности

Положение максимума этой плотности по переменной при фиксированном значении можно найти путем минимизации значения показателя экспоненты, т. е. необходимо минимизировать величину

подбирая значение переменной . Вычислив градиент функции относительно и положив его равным нулю, получим следующее уравнение для оптимальной оценки

Решение этого уравнения легко находится так что оптимальная оценка имеет вид

Полученное выражение для оценки в этом примере можно интерпретировать как оптимальный дискретный фильтр или дискретное устройство оценивания параметра.

Выражение для оптимальной оценки при непрерывном времени можно получить с помощью предельного перехода, когда , а и так, что и . В результате имеем

где — энергия сигнала . Значение этой оценки можно получить как значение сигнала в момент времени на выходе оптимального фильтра, один из возможных способов реализации которого показан на рис 6.3.

Рис. 6.3. Один канал канального оптимального фильтра (пример 6.3)

Ковариационная матрица вектора ошибок имеет существенное значение при анализе качества функционирования приемника. В данном примере эта матрица легко вычисляется и имеет вид

Дисперсия ошибки оценивания во всех каналах одна и та же. Эта дисперсия возрастает с уменьшением отношения сигнала/шум .

Полезно рассмотреть и другой способ получения тех же результатов в данном примере, основанный на разложении Карунена—Лоэва. Наблюдаемый процесс при этом следует представить в виде ряда в форме (3.55) и (3.58). Удобно ввести обозначение . В этом случае

В соответствии с рассуждениями приведенными в предыдущей главе, коэффициент можно рассматривать как векторную достаточную статистику с условными моментами

, .

Найдем теперь условную плотность вероятности

где

;

Таким образом

Отсюда сразу получаем, что оптимальная оценка и ковариационная матрица вектора ошибок оценивания определяются с помощью выражений:

; ,

которые совпадают с полученными ранее.

Может показаться, что дисперсии оценок должны уменьшаться при увеличении времени наблюдения. Однако это не так, поскольку в данной задаче введено ограничение

При увеличении значения параметра здесь приходится уменьшать мощность сигнала . Именно это требование приводит к тому, что точность оценивания не увеличивается с увеличением времени наблюдения . Если же мощность сигнала остается постоянной, то увеличение приводит к увеличению энергии и, следовательно, к уменьшению дисперсий ошибок оценивания.

Пример 6.4. Рассмотрим несколько измененную задачу примера 6.3. А именно, предположим, что параметр входит нелинейно в модель наблюдаемого процесса.

Пусть , , , где — известная функция. Все остальные обозначения имеют тот же смысл, что и в предыдущем примере. Такая модель наблюдаемого процесса может быть использована для описания дискретной адресной системы передачи данных с многостанционным доступом, в которой применяются частотные или фазомодулированные сигналы.

Если имеются наблюдаемых процессов, то можно ввести векторные обозначения , , где

Статистические характеристики параметров и будем считать такими же, как и в предыдущем примере. При дискретном времени совместная плотность вероятности оцениваемого параметра и выборки

где «функция потерь»

Значение этой функции необходимо минимизировать путем подбора значения . При непрерывном времени соответствующая функция потерь имеет вид

Наилучшая оценка для параметра может быть найдена после дифференцирования и отыскания корня уравнения:

В соответствии с определением функции имеем

так что можно записать:

Уравнения для оптимальных оценок, таким образом, принимают вид

Решения этих уравнений снова можно интерпретировать как несвязанных фильтров так же, как это было сделано в предыдущем примере для линейной модели.

Особенно интересным для техники связи оказывается случай, когда параметр является фазой полезного сигнала. При этом

; .

Уравнение для оптимальной оценки в этом случае принимает вид

Приняв, что , перепишем это уравнение следующим образом:

Такая запись является типичной при решении задач фазовой автоподстройки частоты [270]. Используя теперь тригонометрическое тождество , получим

Если несущая частота достаточно велика, то последний интеграл в этом уравнении можно опустить. В результате получаем приближенное уравнение для оптимальной оценки:

Решение этого уравнения уже следует считать приближенно оптимальной оценкой параметра. Возможный способ построения устройства, осуществляющего вычисления такой оценки на основе принципа фазовой автоподстройки частоты, показан на рис. 6.4а.

Рис. 6.4. Оптимальный демодулятор при фазовой модуляции: а)нелинейная модель; б) линеаризованная модель

Среднеквадратическую ошибку оценивания с помощью подобного демодулятора вычислить довольно трудно из-за того, что оценка является нелинейной. Поэтому оказывается полезным даже какой-либо приближенный способ анализа точности полученных здесь оценок. Напомним, что для наблюдаемого процесса справедливо представление

Если воспользоваться формулами для тригонометрических функций двойного угла, то можно записать: . Теперь слагаемое с двойной частотой опустим и введем аппроксимацию при мало отличающихся друг от друга значениях и . Тогда для оценки можно получить приближенное соотношение

Введем далее модифицированный шум , которого

; .

Это позволяет для линеаризованной оценки написать равенство

Возможный способ реализации такой оценки показан на рис. 6.4б, Для этой оценки уже возможно вычислить среднеквадратическую ошибку оценивания, если воспользоваться одним из методов, рассмотренных в гл. 4. Такие вычисления здесь пока проводить не будем, отложив их до решения аналогичной более общей задачи.

Пример 6.5. В этом последнем примере параграфа рассмотрим задачу оценивания бинарного сигнала, наблюдаемого на фоне шума. В результате решения этой задачи должны быть построены оценка по максимуму апостериорной плотности вероятности и оценка, обеспечивающая минимум среднеквадратической ошибки. К подобной задаче сводятся, например, проблемы посимвольной синхронизации в цифровых системах связи. Будем считать, что для одного скалярного наблюдения справедливо представление , где и — независимые величины; является нормальной случайной величиной с параметрами: , , плотность вероятности случайной величины .

При вычислении апостериорной плотности следует принять, что

;

При отыскании оценки плотность следует максимизировать на множестве значений переменной , содержащем всего две точки, , так как только в этих точках априорная плотность отлична от нуля. Какое из двух значений +1 или -1 выбрать, определяется тем, при каком из них апостериорная плотность максимальна. Очевидно, что это будет то значение , которое оказывается ближайшим к полученному наблюдению . Таким образом, получаем .

Оценка, обеспечивающая минимум среднеквадратической ошибки, является средним значением найденной условной плотности вероятности . После простого интегрирования и некоторых алгебраических преобразований получаем

Следовательно, оценка по максимуму апостериорной плотности вероятности отлична от оценки с минимальной среднеквадратической ошибкой. Соответствующие этим оценкам функциональные преобразования наблюдаемых величин изображены на рис. 6.5. Из этого рисунка очевидно, что найденные оценки становятся фактически одинаковыми при больших отношениях сигнал/шум (при малых значениях дисперсии шума ). Подобная эквивалентность рассмотренных здесь оценок при достаточно больших значениях отношения сигнал/шум вообще часто имеет место в самых различных задачах оценивания.

Рис. 6.5. Функции и (пример 6.5)

В более сложном, но более полезном случае процесс на -м интервале наблюдения представляется как сумма бинарно модулированного сигнала и шума измерений , т. е. ; . Подлежащий оцениванию параметр представляет собой временной интервал от момента начала наблюдения до следующего за ним первого момента, в который может произойти изменение значения бинарного сигнала . Задача оценивания этого параметра фактически является проблемой синхронизации цифровой системы связи по сигналу, несущему полезную информацию. В такой системе нет необходимости передавать специальный синхросигнал, благодаря чему мощность излучаемого передатчиком сигнала увеличивать не нужно. Будем считать, что каждый бит полезной информации передается в течение секунд. В течение этого времени полезный сигнал может быть представлен одним из двух сигналов или , отличающихся только знаком. Пусть далее спектральная плотность шума постоянна к равна . В этом случае условная (при фиксированном значений параметра ) конечномерная плотность вероятности наблюдаемого процесса имеет вид

где ; .

Формула Байеса позволяет написать выражение для апостериорной плотности вероятности:

если предварительно вычислить безусловную плотность

Подставив выражение для условной плотности в формулу Байеса и проведя некоторые сокращения, получим

Если теперь число отсчетов на интервале наблюдения неограниченно увеличивать и при этом воспользоваться соотношениями типа

то придем к следующему выражению:

где ; . Длина интервала наблюдения здесь действительно равна длительности одного передаваемого символа. Предположим далее, что энергия полезного сигнала на любом интервале времени длиной равна , а параметр является случайным и имеет равномерное распределение на интервале , т. е.

;

При таких дополнительных предположениях апостериорная плотность вероятности

Ясно, что знаменатель полученного выражения не зависит от . Напомним, также, что является монотонно возрастающей функцией при возрастании . Следовательно, оценка по максимуму апостериорной плотности вероятности, которая должна быть найдена максимизацией апостериорной плотности путем сдвига интервала удовлетворяет условию

И снова здесь в качестве первой операции при вычислении значения оценки фигурирует корреляционный интеграл, уже обсуждавшийся ранее при описании согласованного фильтра. На рис. 6.6. показан возможный способ построения устройства, реализующего полученный алгоритм оценивания. Это устройство содержит генератор, который формирует достаточно большое число сигналов , отличающихся только значениями параметра . Каждый из этих сигналов подается в отдельный канал. Моменты начала и окончания интегрирования в каждом канале зависят от значения параметра сигнала в этом канале. Внешне структура устройства оценивания совпадает со структурой устройства различения гипотез.

Рис. 6.6. Устройство, реализующее алгоритм вычисления значения оценки (пример 6.5, интервал наблюдения равен длительности одной посылки)

Если интервал наблюдения кратен длительности одного символа, то

где - последовательность векторных наблюдений , , так как случайные векторы при фиксированном значении параметра независимы. Введя те же предположения, которые были использованы при проведении наблюдений только на одном интервале длиной , получим

Значение оценки для каждой полученной реализации процесса вновь отыскивается путем максимизации числителя по переменной . Можно максимизировать логарифм числителя. Таким образом, необходимо найти

Функциональная схема устройства, реализующего полученный алгоритм оценивания, приведена и а рис. 6.7. Она во многом аналогична схеме рис. 6.6

Рис. 6.7. Устройство, реализующее алгоритм вычисления значения оценки (пример 6.5, интервал наблюдения кратен длительности одной посылки)

Устройство оценивания в рассматриваемом случае оказывается намного сложнее, поскольку необходимо накапливать значения функций . Результаты более тщательного исследования затронутых здесь вопросов можно найти в работах [144, 145].