Объём информации и формула Хартли

Что такое объём информации

Если в задачах по информатике путаются биты, варианты ответа и степени двойки, это нормально: ошибка часто появляется не в вычислении, а уже при выборе формулы. Разберём тему по шагам, чтобы ты понимал, откуда берётся ответ и как быстро проверять себя на экзамене.

Объём информации показывает, насколько уменьшилась неопределённость после получения сообщения. Чем больше было возможных вариантов до сообщения, тем больше информации мы получаем, узнав правильный вариант. Например, если нужно угадать один исход из двух, достаточно одного простого вопроса «да или нет». Если вариантов 16, вопросов потребуется больше.

В школьных задачах обычно предполагается, что все варианты равновероятны. Тогда для оценки объёма информации используют формулу Хартли. Она связывает количество возможных равновероятных событий N и объём информации I.

Знание этой связи помогает решать задачи о кодировании, алфавитах, сообщениях и системах счисления. А для дополнительной тренировки можно открыть бесплатную практику в личном кабинете и сразу проверить понимание на заданиях.

Формула Хартли и её смысл

Основная формула выглядит так: I = log₂ N. Здесь I — объём информации в битах, а N — количество равновероятных вариантов. Основание логарифма 2 связано с тем, что один бит выбирает один из двух вариантов: 0 или 1, да или нет.

Формулу удобно понимать через степени двойки. Если N = 2, то I = 1 бит. Если N = 4 = 2², то I = 2 бита. При N = 8 = 2³ объём равен 3 битам. Поэтому в задачах сначала полезно представить число вариантов как степень двойки.

Обратная запись тоже важна: N = 2ᴵ. Она отвечает на другой вопрос: сколько равновероятных вариантов можно закодировать сообщением длиной I бит. Например, 5 бит позволяют различить 2⁵ = 32 варианта.

Важно не смешивать объём одного сообщения и длину всего текста. Если каждый символ кодируется одинаковым числом бит, общий объём находят умножением: количество символов × число бит на символ.

Как решать задачи по шагам

Первый шаг — определить, что именно считается возможным событием: символ, пароль, номер, результат броска или комбинация. Второй — найти количество вариантов N. Иногда оно уже дано, а иногда вычисляется по правилу произведения: если пароль состоит из трёх позиций, и для каждой доступно по 10 знаков, вариантов будет 10 × 10 × 10 = 1000.

Третий шаг — применить I = log₂ N или найти такую степень двойки, которая равна N. Четвёртый — указать единицу измерения: бит. Если событие состоит из нескольких независимых частей, можно сначала определить общее число комбинаций, а затем вычислить логарифм.

Рассмотрим полный пример.

Задача: сообщение выбирается из 64 равновероятных вариантов.
\( N = 64 = 2^6 \)
I = log₂ 64 = 6 бит
Ответ: объём информации равен 6 бит.

Проверка обратной формулой: 2⁶ = 64, значит, шесть двоичных разрядов действительно позволяют закодировать 64 разных сообщения. Такой короткий контроль часто спасает от ошибки в степени.

Если вариантов 32, ответ будет 5 бит, потому что 32 = 2⁵. Если вариантов 128, получится 7 бит. Для ¾ или 2⅓ вариантов формула Хартли в обычной задаче неприменима: число равновероятных вариантов должно быть целым.

Связь с кодированием и системами счисления

Бит — минимальная единица информации. Один двоичный разряд имеет два состояния, поэтому n бит дают 2ⁿ различных комбинаций. Это напрямую связано с двоичной системой счисления: каждая позиция содержит 0 или 1.

Восьмиразрядный код позволяет представить 2⁸ = 256 комбинаций. Именно поэтому в задачах часто встречается число 8: один байт содержит 8 бит. Переводить биты в байты можно так: количество байтов = количество битов ÷ 8.

Количество вариантов	Форма	Объём
2	2¹	1 бит
4	2²	2 бита
16	2⁴	4 бита
256	2⁸	8 бит = 1 байт

Если используется алфавит из 4 символов, один символ несёт log₂ 4 = 2 бита информации. Для алфавита из 8 символов — 3 бита. Объём сообщения из L одинаково кодируемых символов равен L × log₂ N бит, где N — мощность алфавита.

Попрактиковаться в переводе между системами счисления и кодами можно через личный кабинет с бесплатными заданиями: после решения легче увидеть, где именно возникает ошибка.

Типичные ошибки и проверка ответа

Первая ошибка — использовать количество символов вместо количества вариантов. Если спрашивают объём сообщения, состоящего из 20 символов алфавита из 4 знаков, нельзя отвечать 2 битами: это объём одного символа. Нужно вычислить 20 × log₂ 4 = 40 бит.

Вторая ошибка — перепутать основание логарифма. В формуле Хартли используется log₂, потому что информация измеряется в битах. Логарифм по основанию 10 относится к другой системе единиц и без пересчёта даст неверный результат.

Третья ошибка — забыть про равновероятность. Формула Хартли применяется, когда варианты считаются одинаково возможными. Если вероятности различаются, используют другие модели и формулы, которые выходят за рамки этой темы.

Проверяй результат обратным действием: возведи 2 в найденную степень. Если получил исходное число вариантов, вычисление согласовано. Для сообщения из нескольких символов отдельно проверь длину, размер алфавита и единицы: биты и байты нельзя смешивать.

Что запомнить

Формула Хартли: I = log₂ N. Она применяется для N равновероятных вариантов и даёт объём информации в битах. Обратная формула N = 2ᴵ показывает, сколько вариантов кодируют I бит.

Алгоритм решения простой: определи варианты, найди N, представь его как степень двойки, вычисли показатель и подпиши единицу измерения. Для нескольких символов сначала учитывай весь алфавит и длину сообщения. В двоичном кодировании n бит дают 2ⁿ комбинаций, а 8 бит составляют 1 байт.

Если число не узнаётся сразу, разложи его: 16 = 2⁴, 32 = 2⁵, 64 = 2⁶, 128 = 2⁷. После этого обязательно сделай обратную проверку. Зарегистрируйся и реши 5 заданий бесплатно в личном кабинете — так правило закрепится не только в конспекте, но и в решениях.