Математика \ Теория информации

Определение энтропии двухбуквенного сочетания и условной энтропии заданного текстового сообщения, страница 14

n(P(yj/xi))	я	ы	з	ь	б	г	ч	й	х	ж	ю	ш	ц	щ	э	ф
_	0,08977	0	0,51783	0	0,45634	0,25879	0,50452	0	0,33906	0,42907	0	0,39286	0,4671	0,06859	0,18577	0,37704
о	0,13625	0	0,31224	0	0,52434	0,52371	0,38467	0,5	0,15042	0,52693	0,09723	0,26492	0,09375	0,32016	0,29875	0,42047
е	0	0	0,336	0	0,22717	0,47928	0,23038	0,45523	0,29475	0,27656	0,16166	0,29629	0,32016	0,41845	0	0,48737
а	0,2941	0	0,50168	0	0,37878	0,39296	0,31911	0,15177	0,31039	0,25437	0,51024	0,26492	0,47964	0,32016	0	0,22358
и	0,48932	0	0,43617	0	0,27688	0,25879	0,38467	0,31265	0,4707	0,25437	0,31299	0,41143	0,20695	0,06859	0	0,15742
н	0,31719	0,52647	0,05663	0,13706	0	0,03869	0,0334	0	0	0	0,09723	0	0	0	0	0
т	0,12171	0,23379	0	0,52957	0,06542	0	0,17972	0	0	0	0,13145	0	0	0	0	0
с	0,48684	0,08662	0	0,29875	0,03761	0,03869	0,0334	0	0,35221	0	0,09723	0,08479	0	0	0,14361	0,15742
р	0,22084	0,38307	0	0	0	0,03869	0	0	0,15042	0,06209	0,05681	0,08479	0	0	0	0
в	0,08977	0,40779	0,03239	0	0,03761	0	0	0	0,12204	0	0	0,26492	0	0	0,14361	0
л	0,39742	0,06935	0	0,51587	0	0,06723	0,0334	0	0	0,06209	0,13145	0	0	0	0	0
к	0	0	0	0	0	0,11415	0	0	0	0,06209	0	0	0,39798	0	0	0,06916
м	0,07192	0,30862	0	0	0	0,21828	0	0	0	0	0	0	0	0	0	0
д	0,13625	0,11757	0,03239	0,06859	0	0	0	0	0,12204	0	0	0	0	0	0	0
п	0,07192	0,1026	0	0,13706	0	0	0	0	0	0	0	0	0	0	0	0
у	0,08977	0	0,03239	0	0,27688	0,23243	0,32737	0,09088	0,12204	0,39376	0,53074	0,49806	0	0,35813	0	0
я	0,08977	0	0,07778	0	0	0,03869	0,05833	0	0,09003	0,23027	0,2958	0,08479	0,09375	0,27545	0	0
ы	0,05227	0	0,09692	0	0	0,03869	0,29263	0,44005	0,49228	0	0	0,26492	0	0	0	0
з	0,05227	0,08662	0	0,06859	0,06542	0,1877	0	0	0	0	0	0	0,09375	0	0	0
ь	0	0	0,20102	0	0	0	0	0	0	0	0,21373	0,14219	0,15625	0	0	0
б	0,02982	0,30125	0	0	0	0	0	0	0,15042	0	0	0	0	0,32016	0	0
г	0	0	0	0	0	0	0	0	0	0	0	0	0,47964	0	0	0
ч	0	0	0	0,03951	0	0	0	0	0	0	0	0,08479	0	0	0	0
й	0	0	0	0	0	0	0	0	0	0	0	0,14219	0	0	0	0
х	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
ж	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
ю	0	0	0	0	0,13114	0	0,31911	0	0	0	0	0	0	0,53036	0	0
ш	0	0	0	0,13706	0	0	0	0	0	0	0	0	0	0	0	0
ц	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
щ	0	0	0	0,06859	0	0	0	0	0	0	0	0	0	0	0	0
э	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0,25168
ф	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
сумма	3,23721	2,62373	2,63345	2,00065	2,47758	2,92677	3,1007	1,95058	3,16681	2,5516	2,63655	3,28188	2,78897	2,68006	0,77173	2,14412
H(Y/xi)	0,05057	0,04295	0,03719	0,02214	0,02914	0,03324	0,04218	0,02249	0,02465	0,01603	0,01854	0,01381	0,01029	0,01483	0,0016	0,01174

Вычислив частные условные энтропии H(Y/xi) = ∑ η(P(yj/xi)), находим полную условную энтропию H(Y/X) = ∑ Pi*H(Y/xi). H(Y/X) = 3,51491 бит/символ.

1 2 3 4 5 6 7 8 9 10 11 12 13 14

Скачать файл