Конспект лекций по теории электрической связи, вторая часть, страница 30

Если подставить формулы для условия безусловной энтропии, то получим

3- количество информации, передаваемое от непрерывного источника к непрерывному получателю, т.е. по непрерывному каналу.

(дискретный аналог ф.(3))

Можно было бы ввести понятие взаимной информации без понятия энтропии.

Свойства взаимной информации (количество переданной информации).

количество                количество информации поступающей на вход канала

переданной

информации

(т.е. в канале нет помех - нет потери информации)       

3) Количество взаимной информации – это функция симметричная двум своим аргументам.

Пропускная способность канала связи.

Пропускная способность по Шеннону,

  или 

С - пропускная способность (емкость канала) 

                      

скорость переданной информации в канале

Т-    I(X,Y)-    V-

-       I(X,Y)-                 Fg-