Спирина, М.С. Дискретная математика

Если учитывать частоту появления каждой буквы в тексте, то по формуле Шеннона Н= 4,35 бит —для русского текста. В сред­ нем J - log227 = 4,76 бит —для всех языков, основанных на латин­ ском алфавите, в котором 26 букв. Задача 35. На одной из клеток шахматной доски стоит фигура. Будем считать, что все положения этой фигуры на шахматной доске равновероятны. 1. Какое количество информации несет в себе сообщение о точ­ ном месте нахождения этой фигуры? Решение. Неопределенность информации, т.е. энтропия этой системы А с Wравновероятными состояниями, равна по форму­ ле Хартли log2jV, поэтому информация J - Н(А) = log264 = log226 = = 6 бит. Сообщение о том, что фигура находится, например, на клетке D5, несет в себе 6 бит информации. 2. Какое количество информации несет в себе сообщение о том, что фигура находится на одной из угловых клеток доски? Решение. Так как на доске четыре угловых клетки, а вероят­ ность находиться на каждой из них 1/64, то вероятность попасть на угол р = 4 /64 = 1/16. Тогда частная информация сообщения ^ = |0§ г^ = |° 8 г 1 Д б ' 4 6 и т - Задача 36. Какую частную информацию несет сообщение: «В суб­ боту я иду в гости»? Решение. В гости можно пойти в любую субботу года. Число суб­ бот в году: 12- 4 = 48. Таким образом, вероятность пойти в гости в субботу Р = 1/48, а частная информация JА. - log2 = log2 = = log248 = 5,59 = 5,6 бит. Задача 37. Мой новый знакомый сообщил: «На этой неделе мой день рождения». 1. Какое количество информации заключено в сообщении? Решение. Так как любой день недели равновероятен, то Р1=Р2= 1 log27 = = ... = Р1 = 1/7. Тогда частная информация JA= log2 -щ = 2,8 = 3 бит. 2. Каким минимальным числом уточняющих вопросов, подра­ зумевающих ответы «да» и «нет», можно узнать точный день рож­ дения знакомого? Решение. Так как информация заключена в сообщении 1Л= 3, то необходимо минимум три во­ проса для выяснения точного дня рождения. Представим все дни недели в виде отрезка с се- рис. 6.3. Метод половинного мью делениями (рис. 6.3). деления 11 Дискретная математика 305