 |
|
Неравновероятные события
Очень часто в жизни мы сталкиваемся с событиями, которые имеют разную вероятность реализации. Например:
1. Когда сообщают прогноз погоды, то сведения о том, что будет дождь, более вероятны летом, а сообщение о снеге – зимой.
2. Если вы – лучший студент в группе, то вероятность сообщения о том, что за контрольную работу вы получите 5, больше, чем вероятность получения двойки.
3. Если в мешке лежит 10 белых шаров и 3 черных, то вероятность достать черный шар меньше, чем вероятность вытаскивания белого.
Как вычислить количество информации в сообщении о таком событии? Для этого необходимо использовать следующую формулу: 
где I – это количество информации;
p – вероятность события.
Вероятность события выражается в долях единицы и вычисляется по формуле: 
где K – величина, показывающая, сколько раз произошло интересующее нас событие; N – общее число возможных исходов какого-то процесса.
Контрольный пример. В мешке находятся 20 шаров. Из них 15 белых и 5 красных. Какое количество информации несет сообщение о том, что достали: а) белый шар; б) красный шар. Сравните ответы.
1. Найдем вероятность того, что достали белый шар: 
2. Найдем вероятность того, что достали красный шар: 
3. Найдем количество информации в сообщении о вытаскивании белого шара: 
бит.
4. Найдем количество информации в сообщении о вытаскивании красного шара: 
бит.
Количество информации в сообщении о том, что достали белый шар, равно 1, 1547 бит. Количество информации в сообщении о том, что достали красный шар, равно 2 бит.
При сравнении ответов получается следующая ситуация: вероятность вытаскивания белого шара была больше, чем вероятность красного шара, а информации при этом получилось меньше. Это не случайность, а закономерная, качественная связь между вероятностью события и количеством информации в сообщении об этом событии.