Двоичный код

При отсутствии помех средняя длина двоичного кода может быть сколь угодно близкой к средней информации, приходящейся на знак первичного алфавита. Применение формулы (3.4) для двоичных сообщений источника без памяти при кодировке знаками равной вероятности дает:

При декодировании двоичных сообщений появляется неувязка выделения из потока сигналов (последовательности импульсов и пауз) кодовых слов (групп простых сигналов), соответственных отдельным знакам первичного алфавита. При всем этом приемное устройство фиксирует интенсивность и продолжительность сигналов, также может соотносить некую последовательность сигналов с эталонной (таблицей кодов).

Вероятны последующие особенности вторичного алфавита, применяемого при кодировке:

• простые сигналы (0 и 1) могут иметь однообразные продолжительности (τ_o= τ₁) либо различные (τ₀ ≠ τ₁);
• длина кода может быть схожей для всех символов первичного алфавита (в данном случае код именуется равномерным) либо же коды различных символов первичного алфавита могут иметь различную длину (неравномерный код);
• коды могут строиться для отдельного знака первичного алфавита (алфавитное кодирование) либо для их композиций (кодирование блоков, слов).

Композиции перечисленных особенностей определяют базу определенного метода кодировки, но, даже при схожей базе вероятны разные варианты построения кодов, отличающихся собственной эффективностью. Ближайшей задачей будет рассмотрение разных схем кодировки для неких основ.