2.1. Принципы моделирования непрерывных каналов связи

Обычно в системе связи реализуется передача одного из одного из  сообщений  источника путем сопоставления каждого сообщения  определенному сигналу  из множества  разрешенных входных сигналов канала. Процедура разбиение ,,…, всего множества допустимых выходных сигналов называется решающей схемой, если  принятый сигнал отождествляется с переданным сообщением   при условии,  что  ,

Считается, что передаваемые сообщения равновероятны, и приемнику необходимо иметь минимально возможную среднюю вероятность ошибки равную

  ,                          (2.1)

здесь  – вероятность того, что при передаче сообщения  принятый сигнал не принадлежит подмножеству , т.е. при отождествлении сигнала произошла ошибка, а – среднее значение этой вероятности по всем . Решающую схему , которая минимизирует эту величину, называют оптимальной. При выбранной системе сигналов  непрерывный канал полностью определяется условными распределениями , , при этом указанные меры должны быть взаимно регулярными [46, 55, 69, 70]. Поскольку функциональное пространство  выходных сигналов  не состоит  из конечномерных числовых векторов, то оптимальная решающая схема не может быть определена через отношение правдоподобия.

Если передача сигнала осуществлялась на финитном промежутке времени в общем гауссовском канале, то такой канал будет полностью определяться заданием  средних значений выходных сигналов  и  выходных корреляционных функций ,  Нахождение оптимальной решающей схемы сводится к решению неоднородных интегральных уравнений и отысканию собственных чисел интегральных операторов.

Физический смысл оптимальной решающей схемы, состоит в том, что по реализации принимаемого сигнала  необходимо сначала получить оценку стохастического сигнала , а затем вычислить корреляцию этой оценки с принятым сигналом   [69]. Практическая реализация подобных схем наталкивается на вычислительные трудности, что привело к активному поиску других решений. Например, ряд моделей непрерывных каналов, относясь к общим гауссовским каналам, позволяют избежать этой сложной вычислительной задачи, используя подход Калмана  [17, 18, 69, 70].