 |
|
Ответ: 6 бит несет сообщение о выборе одного шахматного поля.
В противном случае количество информации становится нецелой величиной, и для решения задачи придется воспользоваться таблицей двоичных логарифмов.
Также, если N не является целой степенью 2, то можно выполнить округление i в большую сторону. При решении задач в таком случае i можно найти как log2K, где K – ближайшая к N степень двойки, такая, что K>N.
Пример 3. При игре в кости используется кубик с шестью гранями.Сколько битов информации получает игрок при каждом бросании кубика?
Решение
Выпадение каждой грани кубика равновероятно. Поэтому количество информации от одного результата бросания находится из уравнения:2i=6.
Решение этого уравнения: i=log26
Из таблицы двоичных логарифмов следует (с точностью до 3-х знаков после запятой): i=2,585 бита.
Данную задачу также можно решить округлением i в большую сторону: 2i=6<8=23,i=3 бита.
Вычисление количества информации для не равновероятных событий определяется по формуле К.Шеннона
где I–количество информации;
N–количество возможных событий,
рi – вероятности отдельных событий, где i принимает значения от 1 до N.
Формула была предложена в 1948 г.
| 
Клод Шеннон
американский учёный,
|
можно расписать формулу в таком виде:
Если p1= p2=…=pn=1/N, тогда формула принимает вид:
Пример 1. В корзине лежат 32 клубка красной и черной шерсти. Среди них 4 клубка красной шерсти. Сколько информации несет сообщение, что достали клубок красной шерсти? Сколько информации несет сообщение, что достали клубок шерсти любой окраски?
Дано: Кк=4;N=32
Найти: Iк, I
Решение
1. Найдем количество клубков черной шерсти: Кч=N- Кк; Кч=32-4=28
2. Найдем вероятность доставания клубка каждого вида: pк= Кк/N=4/32=1/8; pч= Кч/N=28/32=7/8;
3. Найдем количество информации, которое несет сообщение, что достали клубок красной шерсти: Iк= log2(1/(1/ pк))= log2(1/1/8)= log28=3 бита.
4. 
Найдем количество информации, которое несет сообщение, что достали клубок шерсти любой окраски:
Ответ: Iк=3 бит; I=0,547 бит
Пример 2. В коробке 50 шаров, из них 40 белых и 10 чёрных. Определить количество информации в сообщении о вытаскивании наугад белого шара и чёрного шара.
Решение
Вероятность вытаскивания белого шара - р1 = 40/50 = 0,8
Вероятность вытаскивания чёрного шара р2 = 10/50 = 0,2
Количество информации о вытаскивании белого шара i1 = log2(1/0,8) = log21,25
= log1,25/log2 » 0,32 бит
Количество информации о вытаскивании чёрного шара i2 = log2(1/0,2) = log25 = log5/log2 » 2,32 бит
Ответ: 0,32 бит; 2,32 бит