Урок 3. Измерение информации

Измерение информации – это одна из важнейших задач теоретической информатики.

Для человека  информация – это прежде всего смысл. Для компьютера же количество данных. При этом возникает много практических вопросов: сколько места на диске займет текст, рисунок и т.д.

Чаще всего используется объемный подход к измерению информации. Он заключается в том, что количество информации оценивается в количестве символов. Тогда стих А.С. Пушкина и любой другой текст могут нести одинаковый объем информации.

Что такое бит?

Рассмотрим электрическую схему с лампочкой. Данная схема может иметь два состоянии, когда лампочка горит и когда не горит.

Отвечая на вопрос «Горит ли лампочка?» есть два варианта ответа «да» или «нет». Введем обозначение «1» - когда лампочка горит и «0» - когда не горит.

Цифры 0 и 1 называют двоичным кодом. Количество информации получаемые в результате данного примера называю битом.

Бит – это количество информации, которую можно записать (закодировать) с помощью одной двоичной цифры.

1 БИТ – такое количество информации, которое содержит сообщение, уменьшающее неопределенность знаний в два раза.  БИТ - это наименьшая единица измерения информации.

Похожими примерами, когда сообщение несет один бит информации являются, например, «Монета упала гербом вверх» - т.к. это один из двух возможных вариантов. 

Или «Дверь открыта», т.к. дверь может быть либо открыта, либо закрыта. Или отвечая на вопрос «Вы будете чай или кофе?» тоже получаем один бит информации.

Что же делать, если вариантов не два, а больше? В этом случае количество информации будет больше одного бита.

Рассмотрим пример. На вокзале стоят четыре одинаковых поезда, и только один из них отправится в Москву. Сколько бит понадобится для того, чтобы записать информацию о номере платформы, где стоит поезд на Москву?

Если бы поездов было 2, все было просто - необходимо 1 бит информации, так поезд стоит на одной из двух платформ. Одну платформу можно обозначить как «0», другую как «1». И где бы наш поезд не стоял – это информация несет 1 бит информации.

Но у нас 4 платформы? Очевидно, что 1 бита не достаточно, т.к. можно закодировать только две платформы. А вот два бита дадут нужное количество вариантов, т.к. используя 2 бита можно закодировать платформы в виде: 00, 01, 10, 11. Т.е. используя два бита можно закодировать 4 варианта. И следовательно сообщение о том где стоит нужный поезд несет 2 бита информации.

А если информация несла бы 3 бита информации, сколько вариантов можно закодировать?

Используя 3 бита можно закодировать 8 вариантов: 000,001,010,100, 011,101, 110, 111.

Заметим закономерность, что каждый добавленный бит, увеличивает информацию в 2 раза:

В информатики буквой I – принято обозначать количество информации, единицы измерения бит. N – количество вариантов, т.е. сколько вариантов можно закодировать используя I бит.

Из приведенной таблицы видно, что N = 2^I.

Возникает вопрос, что же делать если выбор дается, например, из 5 вариантов, ведь 5 не является степенью 2?

Для того чтобы закодировать 5 вариантов 2 битов будет недостаточно, т.к. можно закодировать только 4 варианта, т.е. если N = 2^I, а I=2, то 2²=4, N=4.

Используя 3 бита можно закодировать 8 вариантов, т.е. если N = 2^I, а I=3, то 2³=8, N=8.. Но в этих 8 попадают и наши 5. Поэтому чтобы закодировать 5 вариантов необходимо 3 бита информации. Тоже самое можно сказать и о 6 и 7 вариантах, тоже необходимо 3 бита информации.

Единицы измерения информации:

1 байт = 8 бит

1 Килобайт = 1024 байта = 2¹⁰ байта = 2¹³ бит

1 Мегабайт = 1024 Кбайта = 2¹⁰ Кбайта = 2²⁰ байтов = 2²³ бит

1 Гигабайт = 1024 Мбайт

1 Терабай = 1024 Гбайт

Перевод из одной единицы измерения в другую:

1. Для перевода из крупных единиц в мелкие числа умножают, согласно таблице переводов

Пример:

2 Кбайта = 2 · (1 Кбайт) = 2 · 1024 байтов = 2048 байтов= 2048 · 8 бит = 16384 бита.

или можно считать так, так иногда проще:

2 Кбайта = 2 · 2¹⁰ байтов = 2¹¹ байт = 2¹¹  · 2³ бит = 2¹⁴ бит

2. Для перевода количества информации из мелких единиц в более крупные нужно делить.

Пример:

8192 бита = 8192 : 8 (т.к. в 1 байте 8 бит) = 1024 байт = 1024 : 1024 (т.к. в 1 Кбайте 1024 байт) = 1 Кбайт

или можно считать так

8192 бита = 2¹³ бит = 2¹³ : 2³ = 2¹⁰ байт = 2¹⁰ : 2¹⁰ = 1 Кбайт

Решение задач в классе

1. Вася задумал число от 1 до 100. Нужно отгадать это число за наименьшее число попыток, задавая Васе вопросы, на которые он отвечает только «да» или «нет». За сколько вопросов вы беретесь угадать число? Как нужно задавать вопросы, чтобы их число было минимальным в лучшем случае?

Решение:

Всего 100 чисел. Т.е. наша неопределенность равна 100. Каждый раз получая ответ «да» или «нет» мы получаем один бит информации.

Согласно формуле 2ⁱ = N, где N = 100,2ⁱ = 100, следовательно I =  7 бит.

Ответ 7 вопросов.

Проверим решение задачи рассуждением:

1 вопрос: загаданное число больше 50? Например «Да» или «нет» не важно. Уже 1 бит

2 вопрос: загаданное число больше 25? Например, опять «Нет». Еще 1 бит

3 вопрос: загаданное число больше 12? Пусть опять «Да». Еще 1 бит

4 вопрос: загаданное число больше 18? Пусть будет «Нет». Еще 1 бит

5 вопрос: загаданное число больше 14? Пусть опять «Нет». Еще 1 бит

6 вопрос: загаданное число больше 12? Пусть будет «Да». Еще 1 бит

7 вопрос, последний: Это число 13? Если да – число угадано, если нет – то число 14 – еще 1 бит.

Ответ 7 вопросов.