1.4. Обзор методов кодирования в системах инфокоммуникаций

Любая процедура кодирования заключается в замене символов некоторого алфавита по алгоритму на символы из алфавита . Алфавит характеризует источник информации, при этом целесообразно соблюдать условие .

Одновременно предполагается наличие такого обратного алгоритма , который при отсутствии влияния мешающих факторов однозначно транслирует символы из в . Общая классификация методов кодирования приведена на рис. 1.4.

Рис. 1.4. Общая классификация методов кодирования

К задачам, для которых найдены удовлетворительные решения средствами помехоустойчивого кодирования, следует отнести:

кодирование с целью обеспечения требуемой достоверности в каналах передачи данных различной природы (канальный и физический уровни);
кодирование в системах с обратными связями (сетевой уровень);
кодирование для защиты от несанкционированного доступа (уровень приложений);
кодирование для сжатия информации с потерями (уровень приложений).

Объективно источники информации различной природы обладают большей или меньшей избыточностью и рациональное использование сетевых ресурсов (в частности ресурсов транспортной системы) во многом определяется процедурой снижения естественной избыточности источника. В целях уменьшения фактора риска, связанного с перегрузкой каналов связи, принято устранять избыточность источников за счет использования специфических методов, получивших общее наименование: «сжатие данных» [21, 27, 87].

Проектирование системы связи согласно концепции К. Шеннона должно быть нацелено на достижение равенства эпсилон-энтропии источника и пропускной способности канала. При этом основной акцент делается на ограничение мощности в канале [98].

Особое значение приобретают методы кодирования цифровых видеоисточников, которые способны до двух порядков обеспечить сжатие информации, что важно для спутниковых систем связи и систем цифрового телевидения. На практике статистические свойства кодируемых сигналов известны приблизительно, вследствие чего множество методов кодирования источников информации нацелены в первую очередь на преодоление априорной неопределенности в статистических свойствах сигнала и его нестационарности. Статистическая радиотехника использует два подхода к преодолению априорной неопределенности: создание методов, устойчивых к отклонению статистики сигнала от принятой модели и адаптивных методов. Практические методы сжатия изображений, базирующиеся на принципе устойчивости, обычно разрабатываются в два этапа, когда сначала синтезируется некий алгоритм для конкретного типа изображений, затем в него вводятся различные дополнения, призванные расширить диапазон априорной неопределенности статистик сигнала. Методы, базирующиеся на принципе адаптации, изменяют параметры или структуру (параметрическая или структурная адаптация) в зависимости от статистики сигнала. Адаптивные методы более эффективны, поскольку позволяют избегать ошибок в условиях априорной неопределенности и в условиях нестационарности сигналов.

В настоящее время акцент делается на сложности реализации систем сжатия видеоизображений, которые обрабатываются на одном кристалле. Основной задачей современных систем кодирования видеоинформации остается минимальное количество информации при максимуме ее качества (в смысле среднеквадратической ошибки) с учетом ограничений на сложность реализации.

Другим важнейшим направлением, в рассматриваемой предметной области, являются методы защиты информации, которые предназначены для такого преобразования информации (такого кодирования), которое только на время передачи по каналу связи информации, содержащейся в сообщении, устраняет в этом сообщении семантическую составляющую [83, 87]. Кодирование подобного рода с течением времени стало представлять самостоятельную научную школу (направление), получившую название криптографической защиты информации. Исследования современных криптографических систем показывает, что даже в очень сложных шифрах в качестве типичных компонентов можно выделить такие простые шифры как шифры замены, шифры перестановок или их сочетания.

С появлением персональных компьютеров криптография приобрела совершенно иное лицо. В современных условиях понимание необходимости криптографической защиты информации во многом определяет сетевую культуру пользователя информационно-вычислительной системы. Особое значение приобрели криптосистемы с публичным ключом, основанные на использовании избыточных кодов и возникшие одновременно с теоретико-числовыми криптосистемами. Именно такие системы легли в основу криптографических стандартов, но кодовые криптосистемы системы продолжают оставаться предметом многочисленных исследований как наиболее серьезная альтернатива теоретико-числовым стандартам.

В любых системах телекоммуникации особое значение придается безошибочному приему обрабатываемой в них информации, поскольку подавляющее большинство каналов связи объективно представляет собой источник ошибок различной природы. Методы канального кодирования решают вопросы защиты от подобных мешающих факторов и становятся актуальными в связи со стремительным развитием процесса цифровизации систем связи. Наиболее проблемными с этой точки зрения являются радиоканалы связи, которые особенно востребованы современными сетевыми технологиями.

Классификация помехоустойчивых кодов насчитывает более сотни различных наименований [79, 84], однако, современная теория цифровых систем связи по принципам организации (построения) пространства кодовых комбинаций в этой предметной области различает всего три основных направления: это блоковые коды, непрерывные или сверточные коды и турбокоды. Рассматриваемая классификация избыточных кодов в соответствии с их конструктивными свойствами представлена на рис. 1.5.

Рис. 1.5. Классификация основных направлений развития систем избыточного кодирования

При использовании блоковых кодов каждой группе информационных

символов, подлежащих защите от возможных ошибок, ставится в соответствие фиксированная и постоянная для конкретного типа кода группа проверочных символов. Таким образом, в блоковом коде всегда можно назвать строго определенное число разрядов, которые определяют общую длину комбинации. В таком блоке всегда можно указать начало и конец комбинации.

В общем случае при использовании сверточных кодов, проверочные и информационные разряды трансформируются и следуют вперемежку один за другим. Поэтому в кодовой последовательности невозможно указать, какие разряды информационные, а какие проверочные. Исследования последних лет показали много общего между блоковыми и сверточными кодами. В ряде работ свойства этих кодов объединяются, но новой информации о свойствах кодов это объединение не дает [6, 19, 24, 52, 59, 112]. Сверточный код может быть представлен как систематический.

Совершенно особое место в классификации занимают турбокоды (ТК), которые представляют удачные комбинации известных методов обработки информации в канала связи с помехами.

Впервые они были описаны в 1993 г. [103] и, несмотря на очень большой выбор помехоустойчивых кодов для создания новых систем связи, эти коды спустя всего десятилетие нашли свое применение как в современных стандартах радиосвязи с космическими объектами, так и в стандартах систем мобильной связи третьего поколения для передачи мультимедийной информации.

Развитее ТК идет по двум направлениям. Первое их них связывается с композицией блоковых кодов путем последовательного соединения двух или более кодеров [32, 34, 53, 57, 66, 70, 95].

Второе направление связывается со сверточным кодированием за счет параллельного объединения двух и более сверточных кодеров с системой перемежения символов. Основное достоинство турбокодов состоит в том, что они допускают итеративную процедуру декодирования (на основе мягких алгоритмов), в которой на каждой итерации анализируются данные, принадлежащие простым парциальным кодам [37, 82, 87, 104].

Схематично суть канального кодирования представлена на рис. 1.6. На этой схеме в системе координат отношение сигнал-шум (аргумент) и вероятность ошибки на символ (функция) показаны граница 1 и шесть характерных точек, которые назовем рабочими. Граница 1 указывает на известный предел К. Шеннона (-1,6 дБ) [87], достижение которого при заданной вероятности ошибки желательно в ходе использования некоторой (подходящей) системы кодирования. Целесообразно, чтобы получаемая характеристика стремилась к указанному пределу с малыми значениями вероятности ошибки.

Рис. 1.6. Суть канального кодирования

Рабочая точка 2 указывает на отсутствие канала связи. В этом случае для двоичных систем обмена данными вероятность ошибочного приема символа равна вероятности правильной фиксации символа , т.е. . Эта позиция важна с точки зрения оценки адекватности данных при разработке и испытании имитационных моделей двоичных каналов связи. Другие позиции в совокупности с точкой 2 образуют траектории , которые указывают на большую или меньшую эффективность системы связи, использующей выбранный метод кодирования. По параметру эффективности обычно .

Как правило, точка 3 характеризует систему связи без использования избыточного кода, поскольку заметны высокая вероятность ошибки при относительно высоком уровне сигнала. Перевод этой точки в позицию точки 5 за счет применения системы помехоустойчивого кодирования, улучшает показатели энергетической эффективности системы связи. Эффективность системы связи с ТК близка к траектории , что соответствует лучшим из известных в настоящее время показателям. Но применение ТК позволяет приблизиться к границе 1 ценой некоторой задержки декодирования. Поэтому при оценке соотношения цена – эффективность учитываются многие дополнительные факторы и оптимальность системы, в смысле достижения высокой пропускной способности канала связи, иногда отходит на второй план [21].

Принципы канального кодирования (рис. 1.4) могут быть успешно применены для защиты от сбоев, возникающих в процессе функционирования дорогостоящих дискретных электронных систем. Подобные методы коррекции ошибок получили название внутрисхемного кодирования. Рост сложности задач, выполняемых современными вычислительными системами, неизбежно приводит к усложнению реализации схемных решений, что вызывает снижение показателей их надежной работы. Объективно усложнение устройств обычно опережает достижения в разработке средств и методов повышения их надежности. Поэтому задача сохранения этого параметра сложной системы на требуемом уровне в ходе ее функционирования неизменно остается актуальной. Подобные системы, размещенные, например, на борту необитаемых космических аппаратов, в случае сбоев в их работе не могут быть заменены резервными. Но эти же системы смогут успешно продолжать выполнение предписанных функций при условии коррекции выявляемых ошибок с использованием избыточных кодов.

Аналогично, подобные проблемы разрешаются в сложных системах связи, радиолокации и радионавигации, телеуправления и вычислительной техники. Особенно жесткие требования к надежности работы и достоверности получаемой информации предъявляются к системам, фиксации телеметрической информации при испытании уникальных изделий (ракетостроение, опытные образцы в авиации, создание автономных подводных роботов и т.п.).

Другим важнейшим направлением в теории кодирования является направление, связанное с хранением данных на различных носителях. Главные примеры – это двоичные коды Хэмминга и коды БЧХ для полупроводниковой памяти и коды РС над полем в дисковой памяти ЭВМ. Для обеспечения требуемого быстродействия кодеры и декодеры реализуются на комбинационных схемах, и весьма желательно, чтобы они так же, как и защищаемые системы памяти, был защищены от ошибок.

Обнаружение кратковременных ошибок осуществляется с помощью встроенных схем самоконтроля, в частности, самопроверяющихся схем. Важной разновидностью самопроверяющихся схем являются полностью самопроверяющиеся комбинационные схемы, которые наряду с непосредственным текущим обнаружением кратковременных ошибок реализуют свойство самотестируемости – обнаружение в рабочем режиме любых постоянных схемных ошибок из заданного класса (например, одиночных ошибок).

Кодирование линии в основном применяется в локальных вычислительных сетях (ЛВС) в виде сигналов с амплитудной манипуляцией, при этом применяются различные алгоритмы переходов от максимальных значений сигналов к минимальным номиналам .

Возможность создания цифровых систем связи во многом определяется энергетической эффективностью используемых методов формирования и приема сигналов, совокупность которых принято называть сигнально-кодовыми конструкциями (СКК). Под энергетической эффективностью понимается минимально допустимое значение отношения энергии сигнала к спектральной плотности мощности шума, требуемое для обеспечения заданной достоверности приема сообщения [55].

С теоретической точки зрения любая универсально применимая мера количества информации в сообщении, должна опираться только на степень предсказуемости последнего. Чем менее предсказуемо (вероятно) сообщение (событие), тем большее количество информации генерируется в результате его осуществления. Рассматривая основные положения теории информации применительно к дискретным источникам без памяти и , имеющих символы и из алфавитов и , можно установить аналоги между теорией вероятностей и теорией информации.

Например, если известна априорная вероятность отдельного символа , то информация, содержащаяся в нем, определяется через выражение бит, а энтропии оцениваются как

бит, (1.8)

бит. (1.9)

Здесь и далее общепринятое обозначение равносильно обозначению . Совместная вероятность появления двух символов определяется как , тогда информация пары символов оценивается выражением бит, а энтропия – выражением.

бит. (1.10)

Если известны значения условных апостериорных вероятностей и , то условная информация соответственно определяется как

бит и бит,

а энтропии оцениваются как

бит. (1.11)

Отсюда

бит. (1.12)

Взаимная информация не имеет аналога в теории вероятности. Это понятие впервые введено теорией информации. Оно играет центральную роль при изучении телекоммуникационных систем, поскольку связывает свойства канала связи с возможностью передачи информации по нему.

На основе этого понятия оценивается пропускная способность системы связи (собственно канала связи) и взаимная информация определяется как

бит.

Таким образом, процедура кодирования характерна для всех этапов информационного процесса: передачи информации, способов ее хранения и обработки.