Основные понятия и определения теории информации и кодирования. Задачи теории информации и кодирования, страница 4

0   _________

/         \                   _       _    _________

──/───────────\──   /\    /\    / \     / \  /         \  /\    /\

─/──\──/──\──/───\───/───\/───────────\/──\──/──\──/─

1   ___                \/    \/     \_/                      \/    \/

/   \                                    б)

──/─────\─────/──

\___/

1     0    1  1     0     1   0  0   1

2   _       _          ┌─┐        ┌─┐┌─┐         ┌─┐        ┌─┐

/ \     / \     ────┴─┴────────┴─┴┴─┴─────────┴─┴────────┴─┴──────

──/───\───/───\──                           в)

\_/

3                      а) - частотная модуляция (ортогональная)

/\    /\

──/──\──/──\──/───     б) - представление числа 3203 частотно - мо\/    \/              дулированными сигналами.

в) - представление числа 101101001 амплитудa)                 но - модулированными сигналами.

Как правило, число однозначно различных сигналов,  предназначенных для передачи сообщений, значительно меньше количества символов алфавита, описывающего источник  сообщений.  Во  всех  случаях, когда число символов исходного алфавита m1 больше числа  однозначно различимых качественных признаков m2,  являющихся  нееtпосредственным переносчиком сообщений, для однозначного представления  сообщений необходим процесс кодирования.

Код - универсальный способ отображения информации при ее хранении, передаче и обработке в  виде  системы  однозначных  соответствий между элементами соответствий и сигналами, при  помощи  которых эти элементы можно зафиксировать. Добавим к этому, что  кодирование всегда может быть сведено к однозначному преобразованию  символов одного алфавита в символы другого. При этом код есть правило, закон, алгоритм, по которому осуществляется это преобразование.

Абстрагируясь от конкретного физического содержания, подлежащие формальному описанию события независимо от  того,  являются  ли они явлением природы, состоянием системы или буквами языкового  алфавита, будем обозначать символами некоторого абстрактного  алфавита А{а1, а2,... аm1} и называть первичным алфавитом. Таким образом, первичный - это исходный, кодируемый алфавит. Абстрактным будем называть алфавит, за символами которого не кроется конкретное  содержание. Число качественных признаков (ими  могут  быть  произвольные однозначно различимые наборы символов) абстрактного первичного  алфавита обозначим m1.

Набор однозначно различимых качественных признаков,  обладающих необходимыми физическими свойствами  для  перемещения  символов первичного алфавита в  пространстве  и  времени,  будем  обозначать

B{b1, b2,...bm2} и называть  вторичным  алфавитом.  Таким  образом, вторичный алфавит - это алфавит, при помощи которого  символы  первичного преобразуются в ту форму, в которой они обрабатываются  либо перемещаются. Число качественных признаков  вторичного  алфавита обозначим m2.

Во всех случаях, когда m1 > m2, необходим  процесс  кодирования. Для равномерных (равномерными называются коды, все  комбинации которых имеют одинаковую длину) безизбыточных кодов, у  которых  m1

является целой степенью m2, соотношение между m1 и m2 имеет вид :

m1 = m2№, где n - длина комбинаций кода во вторичном алфавите.

Число символов, в общем случае, однозначно различимых  качественных признаков m2, составляющих вторичный алфавит, выделяют  основание кода. Так, в коде Морзе, вторичный алфавит которого составляют тире, точка, пауза, основание - три, сам код Морзе относится к троичным кодам.

В более общем случае, закон  преобразования  символов  одного алфавита m1 в кодовые комбинации составленные из алфавита  m2,  может быть представлен в виде  m1 <= m2№.

Код представляет собой полный набор всех  возможных  комбинаций символов вторичного алфавита, построенных по данному закону.

Комбинации символов, принадлежащие данному  коду,  называются кодовыми словами.