Спирина, М.С. Дискретная математика

множества М. Для множества двоичных символов В = {0, 1} двоич­ ным словом длины п будет последовательность знаков, содержа­ щая к нулей и / единиц, причем к + I = п. Например, кортеж 010111 есть слово длины 6 над В , двоичный код некоторого чис­ ла, содержащий к = 2 нулей и / = 4 единиц. Длина двоичного слова может быть неограниченной. Процедура преобразования непрерывных сигналов в дискрет­ ные называется ди ск р е т и з а ц и ей . Для ее проведения выбирают из алфавита конкретные символы, которые характеризуют все цело­ стное сообщение. К анализу информации возможны различные подходы. Объемный подход связан с подсчетом количества информации в двоичной системе счисления с учетом количества символов. Вероятностный подход учитывает частоту появления символа в тексте. Однако при таких подходах упускается истинность (семанти­ ческая характеристика), а также полнота, актуальность, ценность текста. К свойствам информации можно отнести: • запоминаемость (возможность сохранения); • передаваемость без искажений, с помощью различных кана­ лов связи; • воспроизводимость; . преобразуемость, т.е. представление информации в разной форме, в том числе ее копирование; • стираемость — преобразование, при котором количество и н ­ формации в новой форме уменьшается до нуля. И зм ер ен и е инф орм аци и . Математическое представление об и н ­ формации связано с ее измерением. Существует несколько подхо­ дов к измерению количества информации. Под к олич е ств ом инф орм ации принято понимать числовую ха­ рактеристику сигнала, которая не зависит от его формы и содер­ жания и соответствует степени неопределенности, исчезающей после получения сообщения в виде этого сигнала. Дело в том, что информация, переданная в виде последова­ тельности сигналов (знаков), представляет собой определенный порядок, некоторую структурную определенность. Но порядок не существует сам по себе, а всегда сопоставим с беспорядком — о т ­ сутствием структуры. Мерой беспорядка любой системы является эн т р оп и я . Понятие энтропии как меры беспорядка системы заимствовано из термо­ динамики и стало одним из основных не только в теории инфор­ мации, но и в современном философском осмыслении открытых биосоциальных систем. В замкнутых системах любые процессы протекают так, чтобы энтропия системы не убывала. 301