Изучение методов решения разнообразных задач, возникающих при передаче информации от ее источника к получателю, страница 19

0,6

0,18

1

0

В  0,1                                                                В     0011

0,3

0

1

Г  0,08                                                              Г     0010

0

0

0,12

Д  0,07                                                              Д     0001

Е  0,05                                                              Е     0000

Среднее число символов на одно сообщение как и в коде Фено равно 2,2.

Еще ближе можно подойти к энтропии, если сопоставлять с кодовыми словами не отдельные сообщения, а последовательности из нескольких сообщений.

В заключение следует подчеркнуть, что эффективные неравномерные коды позволяют сократить только избыточность источника, вызванную неравной вероятностью сообщений. Избыточность, связанная с зависимостью между элементами сообщений, устраняется другими методами, например, укрупнением алфавита источника (перехода от кодирования отдельных букв к кодированию целых слов) или предсказанием.

4.3. Принципы помехоустойчивого кодирования

Одним из мощных средств борьбы с помехами является применение корректирующих кодов. Корректирующими называют коды, позволяющие обнаруживать и исправлять ошибки, происходящие при передаче из-за влияния помех. Ошибки при передаче кодированного сигнала сводятся к тому, что некоторые из переданных символов заменяются другими. Число искаженных символов в пределах одной кодовой комбинации называют кратностью ошибки .