Примечания

1.(к § 3.2). Многие работы по теории связи (в том числе и ряд работ К. Шеннона) основаны на представлении сигнала и шума как процессов с амплитудным или энергетическим спектром, сосредоточенным целиком в ограниченной полосе частот . Это дает возможность воспользоваться известной теоремой отсчетов Котельникова (см., например, [10]), позволяющей свести задачу с непрерывным временем к задаче с дискретным временем.

Против такого представления выдвигаются очень серьезные возражения. Во-первых, сигналы с ограниченным спектром принципиально не реализуемы, так как они должны обладать бесконечной длительностью. Во-вторых, всякий процесс с ограниченным спектром является сингулярным или детерминированным. По любому конечному отрезку такого процесса можно восстановить его значение в любой момент времени с помощью линейных операций [4]. Отсюда следует, что вся информация, заключенная в сигнале с ограниченным спектром, содержится в сколь угодно малом его отрезке.

Условие несингулярности процесса с энергетической спектральной плотностью  заключается в сходимости интеграла

Это условие нарушается, если на некотором конечном отрезке частот , и в частности если  отличается от нуля лишь в конечной полосе.

Заметим, что приведенное условие аналогично условию физической реализуемости линейных цепей Пейли-Винера [3], согласно которому, если  является частотной характеристикой реализуемой цепи, интеграл

сходится. Отсюда легко вывести, что если на вход такой цепи подан недетерминированный процесс, то и процесс на выходе ее также не будет детерминированным.

На этом основании можно утверждать, что содержательные выводы в теории связи могут быть сделаны лишь при рассмотрении недетерминированных процессов, имеющих неограниченную протяженность спектра, к которым теорема Котельникова неприменима. Следует отметить, что в работе [1], посвященной теории потенциальной помехоустойчивости, В. А. Котельников не пользуется своей теоремой.

Сказанное нисколько не противоречит возможности существования недетерминированного сигнала, представляемого на отрезке   рядом Фурье с конечным числом коэффициентов, отличных от нуля, т. е. конечным тригонометрическим полиномом. Такой отрезок сигнала, будучи ограниченным во времени, имеет бесконечную протяженность спектра. Так, например, отрезок сигнала  , у которого только один коэффициент ряда Фурье отличен от нуля, имеет не ограниченную какой-либо полосой комплексную спектральную плотность

Также бесконечной является протяженность энергетического спектра сигнала, составленного из последовательности элементов, каждый из которых представлен конечным тригонометрическим полиномом. В то же время, элемент сигнала можно рассматривать как отрезок периодического процесса с периодом   причем этот периодический процесс, будучи детерминированным, может иметь спектр, сосредоточенный в конечной полосе.

Из физических соображений ясно, что любые сигналы и помехи в реальных системах связи несингулярны. Тем не менее при решении различных задач часто прибегают к математической идеализации, заменяя несингулярный процесс близким к нему сингулярным, в частности процессом с ограниченным спектром. При этом, несмотря на очень хорошую аппроксимацию спектра (в смысле абсолютной или средней квадратичной погрешности), можно получить парадоксальные результаты [13, 14]. Так, сколь угодно слабый сигнал может быть обнаружен с вероятностью единица на фоне сингулярного шума. Более того, даже при белом шуме можно со сколь угодно малой вероятностью ошибки обнаружить наличие или отсутствие слабого сигнала на фоне шума, наблюдая его в течение заданного времени , если пропустить принятый сигнал вместе с шумом через идеальный -образный фильтр. При этом процесс на выходе фильтра будет иметь ограниченный по полосе спектр и может быть сколь угодно далеко экстраполирован. Поэтому наблюдение в течение времени   вполне эквивалентно наблюдению в течение большего времени. Можно выбрать такой интервал экстраполяции, чтобы напучить достаточно большую фиктивную энергию экстраполированного сигнала, которая при данной спектральной плотности шума обеспечит заданную вероятность правильного обнаружения.

В действительности фильтр с -образной частотной характеристикой физически нереализуем. Можно, конечно, приблизиться к такой идеальной характеристике фильтра, однако, как известно, чем ближе характеристика реального фильтра к идеальной, тем больше запаздывание сигнала в таком фильтре. Для того чтобы наблюдать за сигналом на выходе фильтра в течение времени , необходимо, чтобы сигнал поступал на вход фильтра в течение значительно большего времени. Таким образом, то, что наблюдается на выходе фильтра, является результатом длительного воздействия сигнала и поэтому содержит информацию о достаточно большом отрезке сигнала. Высокая верность обнаружения сигнала поэтому достигается здесь за счет использования большой реальной, а не фиктивной, энергии сигнала, что снимает парадокс.

Во избежание ошибочных выводов мы нигде не будем предполагать спектр ограниченным.

2 (к § 3.2 и 3.3). Разложение случайного процесса в ряд, представленное формулами (3.2) и другими, следует понимать в смысле сходимости в среднем квадратичном. Это значит, например, для второй из формул (3.2), что

.

При этом  и  представляют собой некоторые случайные числа. В таком же смысле можно говорить и о разложении случайного процесса с ограниченным спектром в ряд Котельникова [15].

Так как  является нормальным случайным процессом, то из сходимости в среднем квадратичном следует и сходимость почти наверное [17], т. е. любая реализация  с вероятностью, равной единице, может быть разложена в ряд Фурье, причем коэффициенты разложения совпадают с соответствующей реализацией совокупности случайных величин ,. То же относится к разложению  и других нормальных случайных процессов, которые встречаются в этой книге.

Интегрирование случайных процессов [например, в формуле (3.34)] понимается также в смысле сходимости в среднем квадратичном и, например, интеграл

(где  — регулярная функция) представляет собой случайную величину , такую, что при произвольном разбиении интервала  конечным множеством точек

,

причем при переходе к пределу все интервалы            стремятся к нулю. Для интегрируемого нормального процесса  всякая реализация почти наверное интегрируема и ее интеграл равен соответствующей реализации величины  .

Заметим, что все результаты, относящиеся к помехоустойчивости, можно было бы получить более строго, не прибегая к разложению случайных процессов в ряд. Это привело бы, однако, к более сложным выводам и потребовало бы привлечения менее привычного для инженеров математического аппарата.

3 (к § 3.3). Найденные в этой главе оптимальные схемы приема (решающие схемы), в частности согласованные фильтры, в некоторых работах (например, [9]) выводятся, исходя из статистического критерия, как схемы, позволяющие получить наибольшее отношение мгновенного значения сигнала (в определенный момент отсчета) к среднему квадратичному значению помехи. Такой подход вполне закономерен в тех случаях, когда помехой является нормальный (гауссов) шум, а к схеме приема предъявляется дополнительное требование линейности. Действительно, при прохождении через любую линейную систему нормальное распределение вероятностей шума сохраняется. Отсюда легко вывести, что из всех линейных схем наименьшую вероятность ошибок обеспечит такая, в которой имеет место наибольшее отношение сигнала к среднему квадратичному значению помехи.

Однако исходя только из условий максимизации отношения сигнала к помехе нельзя доказать, что оптимум обеспечивает всегда линейная схема. В действительности, при некоторых видах помех (например, импульсных) наибольшая верность приема имеет место в нелинейной схеме. Поэтому, выводя правила решения из критерия идеального наблюдателя и строя схемы приема, соответствующие этим правилам, мы нигде не ограничиваемся рассмотрением только линейных схем, а ищем оптимум по всем возможным операциям, которым подвергается принятый сигнал. Тот факт, что некоторые из этих операций могут быть выполнены в линейной схеме и совпадают с операциями, максимизирующими отношение сигнала к помехе, является результатом особенностей гауссовского шума и при других условиях может не иметь места.

4 (к § 3.3 и 3.4). Для осуществления оптимальной когерентной решающей схемы необходимо, вообще говоря, точно знать и уметь воспроизвести все реализации сигнала . В реальных условиях параметры канала никогда не известны с абсолютной точностью и поэтому решающая схема выполняется с некоторыми погрешностями. Естественно, что вследствие этого вероятность ошибок оказывается больше тон, которая была вычислена для полностью известного сигнала.

При проектировании систем связи важно оценить допуски на определение параметров принимаемых сигналов и обеспечить их соблюдение. Эти допуски нельзя задать в общем виде, гак как они существенно зависят от вида сигналов. Ограничимся некоторыми замечаниями, полагая, что сигнал узкополосный, т. е. может быть записан в виде (3.48):

Вид огибающей  (с точностью до постоянного множителя и начала отсчета времени), а также мгновенной фазы  (с точностью до начала отсчета времени) выбираются при проектировании и воспроизводятся с любой степенью точности. Таким образом, проблемой является определение постоянного множителя при , начала отсчета времени, начальной фазы  и средней частоты .

Если используется система с активной паузой, то знания постоянного множителя вообще не требуется для построения оптимальной решающей схемы. Что же касается остальных параметров сигнала, то допустимая неточность их определения различна для различных систем.

Рассмотрим, например, влияние неточности определения начальной фазы. С этой целью предположим, что решающая схема построена для приема сигнала (3.48), в действительности же приходит сигнал

(3.100)

Грубо говоря, это значит, что вместо сигнала  приходит сигнал , второй же член (3.100) можно рассматривать как дополнительную помеху. Влияние этой дополнительной помехи, которая в первом приближении ортогональна полезному сигналу, зависит от того, какие еще сигналы используются в данной системе. Если одной из реализаций сигнала является , то эта помеха выделится в соответствующей ветви решающей схемы и, сложившись с составляющей шума, существенно повысит вероятность ошибки. Даже при полном отсутствии шума ошибка произойдет, если  .

В другом случае, когда рассматривается двоичная система с противоположными сигналами, второй член (3.100) вообще не окажет влияния на решающую схему и неточность фазы  можно скомпенсировать повышением мощности сигнала (или величины  ) в  раз. Если считать допустимой «потерю» мощности порядка 10%, то для величины    допуск оказывается равным .

Неточность воспроизведения средней частоты  в первой приближении сводится к неточности начальной фазы, поскольку за некоторое время  «набегает» неточность фазы  . Аналогично можно установить требования к точности определения момента прихода сигнала или момента отсчета в решающей схеме. Требуемую для когерентного приема точность поддержания средней частоты при современном состоянии техники можно обеспечить только путем автоматического регулирования ее по самому принимаемому сигналу. Поскольку сигнал принимается вместе с помехой, даже при этих условиях точность установки частоты и фазы сигнала, а также момента отсчета оказывается ограниченной, что приводит к увеличению вероятности ошибок. Поэтому часто предпочитают вообще отказаться от определения начальной фазы и применять некогерентные методы приема, которым посвящена следующая глава. Как будет там показано, при некогерентном приеме значительно расширяются допуски на точность установки средней частоты сигнала и момента отсчета.

5 (к § 3.6). Изложенный метод нахождения оптимальной решающей схемы при нормальном шуме с неравномерным спектром принадлежит В. А. Котельникову [1]. Однако в приведенных рассуждениях молчаливо предполагается, что время обработки принимаемого сигнала не ограничено, так как в противном случае невозможно полное «обеление» шума.

Если наложить дополнительное условие, потребовав, чтобы обработка сигнала производилась на интервале времени , то постановка задачи меняется. Основная трудность при отыскании оптимальной решающей схемы согласно методике, описанной в § 3.3, заключается в том, что коэффициенты ряда Фурье для «окрашенного» шума взаимно коррелированы. Для того чтобы преодолеть это затруднение, производится разложение сигналов и помехи по ортонормированной системе функций , которые являются собственными функциями интегрального уравнения

,                                    (3.101)

где   — функция корреляции шума.

При таком разложении коэффициенты ряда для шума оказываются независимыми случайными величинами с дисперсиями  [17]. Заметим, что вследствие положительной определенности корреляционной функции, все собственные числа  неотрицательны.

Доказано [17, 18], что оптимальное по критерию максимума правдоподобия правило решения заключается в том, что принятым сигналом считается , если для всех выполняются неравенства :

                       (3.102)

где   — решение интегрального уравнения

                             (3.103)

Легко убедиться, что для белого шума, когда  решение этого уравнения тривиально:  и оптимальное правило решения совпадает с (3. 27).

В общем случае правило (3.102) может быть реализовано в схеме рис. 3.12,а, если фильтр   имеет переходную функцию  , являющуюся решением уравнения

а решающая схема  является оптимальной для сигналов, прошедших через , на фоне белого шума. Если шум стационарный, т. е. , то фильтр   имеет постоянные параметры, так как  При неограниченно возрастающем  функция  стремится к переходной функция «обеляющего» фильтра.

Вероятность ошибки для двоичной системы определяется выражением

,

где

.

Можно показать [8], что в тех случаях, когда среди собственных чисел  уравнения (3.101) имеется наименьшее , оптимальными сигналами в двоичной системе являются , где — собственная функция уравнения (3.101), соответствующая наименьшему собственному числу, а коэффициент  определяется допустимой мощностью сигнала. При этом .

Если среди собственных чисел  есть равное нулю, т. е. если существует функция , такая, что , то имеет место сингулярный случай, при котором сигнал, пропорциональный можно обнаружить с нулевой вероятностью ошибки, так как . В частности, это имеет место, когда спектр шума равен нулю на конечном интервале частот, как отмечалось в примечании 1. Потенциально сингулярный случай имеет место, если среди  есть сколь угодно малые. В этом случае можно выбрать форму сигналов, при которой вероятность ошибок будет меньше сколь угодно малой заданной величины. В реальных каналах, когда спектральная плотность шума на любой частоте превышает некоторую положительную величину, т. е. когда шум содержит «белую» составляющую, сингулярности не имеют места.

6. Нередко устройства, входящие в состав канала, представляют собой цепь с передаточной функцией , заметно изменяющей форму сигнала. В этом случае под  нужно понимать не сигнал на входе канала, а искаженный сигнал на его выходе. Все рассуждения, приведенные в этой главе, сохраняются, если элементы искаженного сигнала не перекрываются во времени. В противном случае задача приема усложняется. Подробнее этот случай будет рассмотрен в § 7.2.

7. (к § 3.7). Формула (3.84) получена К. Шенноном [2] в предположении, что канал представляет собой идеальный фильтр, пропускающий сигналы и помехи в строго ограниченной полосе частот шириной . Часто трактуют эту формулу как приближенную, дающую тем более точное значение пропускной способности канала, чем ближе его частотная характеристика к П-образной. Для канала с реальной частотной характеристикой формула (3.84) должна определять пропускную способность, если надлежащим образом определить полосу пропускания  .

При этом, однако, возникают известные трудности при выборе «надлежащего определения» полосы пропускания, приводящие к неопределенности вычисляемой пропускной способности. Так, например, если частотная характеристика канала близка к гауссовой кривой 1, то, принимая за величину  ширину этой характеристики на уровнях 0,707 или 0,1, получаем различные значения , отличающиеся в 1,6 раза. Конечно, при частотной характеристике канала, более близкой к прямоугольной, вычисленная величина пропускной способности меньше зависит от уровня, на котором отсчитывается полоса пропускания, тем не менее некоторая неоднозначность определения пропускной способности все же остается.

Рис. 3.15. Энергетический спектр сигнала при различных значениях базы

Как показано в [3], формула (3.84) дает точное значение пропускной способности для случая, когда сигналы имеют определенный интервал корреляции , если под полосой частот  понимать . При известных условиях это определение полосы частот совпадает с эффективной «шумовой» полосой пропускания канала.

Полученная в § 3.7 формула (3.84) выражает точную пропускную способность канала, в котором  представляет условную полосу частот, занимаемую системой, определяемую выражением (3.4). Может показаться удивительным, что эта формула полностью совпадает с формулой Шеннона, выведенной при совершенно других предпосылках. Однако этот результат вполне закономерен. Легко показать, что значительная доля энергетического спектра сигнала лежит в полосе частот , совпадающей с «условной полосой частот», причем эта доля тем больше, чем больше база сигнала . Не останавливаясь на доказательстве этого, сошлемся на рис. 3.15, где показаны энергетические спектры сигнала

при значениях , равных 10 и 20. При этом  и  — случайные независимые одинаково распределенные нормальные величины. На этом рисунке наглядно видно, что с увеличением  все большая часть энергии сигнала оказывается сосредоточенной в полосе частот шириной . Это позволяет сформулировать теорему о пропускной способности канала с аддитивным белым шумом в следующей форме:

Пусть задана полоса частот шириной  и произвольная величина . Тогда существует такое значение длительности сигнала  (зависят от  и от ), что при  можно построить ансамбль сигналов длительностью , имеющих мощность , причем в полосе частот  сосредоточена мощность сигнала, не меньшая, с помощью которой можно передавать информацию со сколь угодно малой вероятностью ошибок и со скоростью, сколь угодно близкой к

где — мощность аддитивного белого шума в полосе .

Из этой формулировки видно, что формула Шеннона остается справедливой независимо от того, как определить ширину полосы спектра сигнала. Более строгие требования к степени сосредоточения энергии сигнала в полосе частот  приводят лишь к необходимости выбора большей базы, т. е. в данном случае к использованию элементов сигнала большей длительности или, другими словами, к большему укрупнению алфавита источника при кодировании.

В случае, когда шум не белый, но имеет нормальное распределение вероятностей мгновенных значений, можно определить пропускную способность канала при заданной мощности сигнала таким же методом, какой был использован при выводе (3.84).

При этом в (3.80) вместо  нужно подставить  — дисперсию коэффициентов  и  при разложении шума на заданном интервале в ряд Фурье. Далее легко получить, что максимум количества передаваемой информации обеспечивает такое распределение мощности сигнала, при котором , где величина  определяется условием . При таком выборе пропускная способность равна

                                               (3.104)

Устремив  к бесконечности, получим выражение для пропускной способности канала с «ограниченной» полосой пропускания  в форме, данной К. Шенноном:

                                (3.105)

где — энергетическая спектральная плотность помехи; — энергетическая спектральная плотность сигнала, выбранная так, что а постоянная  определяется из условия

.

При равномерной спектральной плотности помехи  формула (3.92) переходит в (3.84).