Расчёт априорной (безусловной) энтропии H0, апостериорной (условной) энтропии H и количества измерительной информации

Страницы работы

8 страниц (Word-файл)

Содержание работы

СЕВЕРО-ЗАПАДНЫЙ ГОСУДАРСТВЕННЫЙ

ЗАОЧНЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ

КАФЕДРА МЕТРОЛОГИИ

КОНТРОЛЬНАЯ РАБОТА

по предмету: «ТЕОРИЯ ИНФОРМАЦИИ»

факультет             РЭ

специальность     1908

шифр                      015-0033

студент                   Кузьминых В.Е.

СРЕДНЕУРАЛЬСК

2002 г.
Задача № 1.

Дано:

Qi>Qj

(m1)

n=10

n=20

n=40

n=100

m1=7

m1=17

m1=37

m1=95

Qi=Qj

(m2)

n=10

n=20

n=40

n=100

m2=2

m2=2

m2=2

m2=3

Qi<Qj

(m3)

n=10

n=20

n=40

n=100

m3=1

m3=1

m3=1

m3=2

Рассчитать:

а) априорную (безусловную) энтропию H0;

б) апостериорную (условную) энтропию Hn;

в) количество информации Jn в каждой серии.

Построить по расчетным данным графики:

а) зависимости апостериорной энтропии Hn от числа измерений n Hn=f(n);

б) зависимости количества информации Jn от числа измерений n Jn=f(n).

Решение:

1. Априорная энтропия:

Т.к. все три результата измерения равновесны p1=p2=p3, то

2. Апостериорная энтропия:

n=10                                  

n=20                               

n=40                               

n=100                          

Количество измерительной информации Jn­ определяется по формуле:

Jn = Ho Hn

                            

       

J10 = 1,58496 – 1,156785 = 0,428175

J20 =1,58496 – 0,747589 = 0,837371

J40 =1,58496 – 0,45318875= 1,13177125

J100 =1,58496 – 0,3349442 = 1,250018


Графики:

 Hn=f(n)

Hn

1,0

0,7

0,5

0,3

0

     10

20

30

40

50

60

70

80

90

100

n

Jn=f(n)

Jn

1,2

1,1

0,8

0,4

0

     10

20

30

40

50

60

70

80

90

100

n

Похожие материалы

Информация о работе