Построить оптимальный код сообщения, состоящего из: M равновероятных букв; К равновероятных букв; Y равновероятных букв. M = 6,

Построить оптимальный код сообщения, состоящего из: M равновероятных букв; К равновероятных букв; Y равновероятных букв. M = 6, K = 7, Y = 8. Дать оценку эффективности построенных кодов. В каких случаях код, построенный для первичного алфавита с равновероятным появлением букв, окажется самым эффективным?

Оптимальный код сообщения, состоящий из 6 равновероятных букв (табл. 3).
Таблица 3 – Оптимальный код сообщения из 6 равновероятных букв
Буквы Вероятности Символы кода Код
1 2 3
1/6 0 0
00
1/6
1 0 010
1/6
1 011
1/6 1 0
10
1/6
1 0 110
1/6
1 111
Энтропия на одну букву:
.
Среднее число элементарных символов на букву:
Информация на один элементарный символ:
дв . ед.
Оптимальный код сообщения, состоящий из 7 равновероятных букв (табл. 4).
Таблица 4 – Оптимальный код сообщения из 7 равновероятных букв
Буквы Вероятности Символы кода Код
1 2 3
1/7 0 0
00
1/7
1 0 010
1/7
1 011
1/7 1 0 0 100
1/7
1 101
1/7
1 0 110
1/7
1 111
Энтропия на одну букву:
.
Среднее число элементарных символов на букву:
Информация на один элементарный символ:
дв

. ед.
Оптимальный код сообщения, состоящий из 7 равновероятных букв (табл. 4).
Таблица 4 – Оптимальный код сообщения из 7 равновероятных букв
Буквы Вероятности Символы кода Код
1 2 3
1/7 0 0
00
1/7
1 0 010
1/7
1 011
1/7 1 0 0 100
1/7
1 101
1/7
1 0 110
1/7
1 111
Энтропия на одну букву:
.
Среднее число элементарных символов на букву:
Информация на один элементарный символ:
дв