Ответ: Мера первоначальной
неопределенности системы, т.ч. неопределенность появления данного состояния. 
- Что такое информация?
Ответ: Сведения,
представленные в форме сообщений, которые при передаче по соответствующему
адресу должны быть преобразованы в последовательность сигналов, характеризуемых
теми или иными признаками.
- Что такое вероятность?
Ответ: Численная мера
степени появления данного события.
- Что такое сигнал?
Ответ: Физическая величина
отображаемого сообщения.
- Что такое частота появления события?
Ответ:
, где m-общее
число появлений событий А в n опытах.
.
- Чему равна вероятность достоверность события?
Ответ: 
- Чему равна вероятность невозможного события?
Ответ: 
- Чему равна вероятность равновозможных событий?
Ответ: P(E)=0,5
- Чему равна вероятность появления четного числа при
бросании игральной кости?
Ответ:
0.5.
- Чему равна вероятность появления числа, кратного трём, при
бросании игральной кости?
Ответ: 1/3.
- Какая формула соответствует математической записи энтропии?
Ответ: 
- Какая формула определяет свойство аддитивности энтропии?
Ответ:
в случае, если системы независимы и
.
- Какое выражение определяет максимально возможное значение
энтропии системы?
Ответ:
- Какое соотношение определяет количество полученной
информации о состоянии системы?
Ответ: 
- Какая формула определяет частную информацию, полученную от
отдельного сообщения?
Ответ:
- Какое выражение определяет количество информации, необходимой
для полного выяснения состояния системы?
Ответ: 
- Что такое кодирование сообщений?
Ответ: Отображение
состояния одной систем с помощью состояния другой.
- Какой этап является начальным при составлении оптимального
двоичного кода Шеннона-Фено?
Ответ: Расположение по
степени убывания вероятностей.
- Какой этап является вторым при составлении оптимального
двоичного кода Шеннона-Фено?
Ответ: Разбиение этих вероятностей
на две группы с вероятностью появления каждой из групп
0.5.
- Какой этап является третьим при составлении оптимального
двоичного кода Шеннона-Фено?
Ответ: Присваивание одной
из групп символа 0 или 1
- Какой этап является четвертым при составлении оптимального
двоичного кода Шеннона-Фено?