 |
|
Необходимые сведения из теории вероятностей, математической статистики и теории информации
- элементарное случайное событие,
- пространство элементарных событий.
, 
,
- событие 
считается невозможным,
- событие считается достоверным.
, где 
- число попаданий в i-ую ячейку, а N - число выстрелов по мишени.
,
условие нормировки: 
.
Выделим на мишени два сектора: a и b
 4
| |||
b a
А - попадание в сектор a = {6,10,14},
В - попадание в сектор b = {10,11,12}.
,
.
Объединение или сумма событий: 
или А+В.
Пересечение или произведение событий: 
или 
.
Если 
, то события A и В называются несовместными.
Событие А+В – это попадание в сектор 
.
Событие – попадание в сектор 
.
, и
, то есть
– формула сложения вероятностей.
, следовательно
– формула умножения вероятностей.
События A и B называют независимыми, если 
, 
.
, 
– формула Байеса.
Выделим в мишени четыре сектора: 
, 
, 
и b. 
Ø и 
.
 4
| |||
b
Поскольку
, 
,
, то
и
– формула полной вероятности.
, в нашем примере 
.
Обозначения: X – СВ, 
– i-ое значение СВ, 
– вероятность значения СВ . Условие нормировки: 
.
| X | 
| 
| … | 
|
|
|
| 
| … | 
|
Функция распределения : 
.
Основные числовые характеристики дискретной СВ:
математическое ожидание: 
;
дисперсия: 
;
среднее квадратическое отклонение(СКО) : 
.
Пр.
| X | ||||
|
| 0,1 | 0,5 | 0,3 | 0,1 |
; 
; 
.
Пплотность вероятности f(x) (плотность распределения вероятностей):
Условие нормировки: 
.
Основные свойства плотности вероятности:
, 
, 
.
Основные числовые характеристики непрерывной СВ:
математическое ожидание: 
;
дисперсия: 
;
среднее квадратическое отклонение(СКО) : .
ковариация: cov(X,Y) = 
;
коэффициент корреляции: 
.
Свойства коэффициента корреляции:
; 
; 
;
если СВ X и Y независимы, то 
;
тогда и только тогда, когда 
, a,b = const.
,
,
где 
– шаг разбиения.
Пусть N – объем выборки, а 
– количество значений СВ, попавших в j-ый подынтервал, тогда интервальный статистический рядбудет иметь вид:
| 
| … | 
|
| 
| … | 
|
- высота прямоугольников
- выборка,
- характеристика СВ,
- оценка характеристики СВ.
- смещение или систематическая ошибка оценивания.
Оценка 
называется несмещенной, если 
, т.е. 
.
Оценка называется эффективной, если 
, где 
– любая другая оценка параметра .
Оценка 
называется асимптотически эффективной, если 
при 
(индекс N в оценке – для обозначения объема выборки).
Оценка называется состоятельной, если 
при .
Справедливо следующее утверждение: если 
и при , то – состоятельная оценка параметра .
Выборочное среднее: 
;
выборочная дисперсия: 
;
несмещенная и состоятельная оценка дисперсии: 
;
несмещенная и состоятельная оценка СКО: 
;
несмещенные и состоятельные оценки ковариации и коэффициента корреляции
двух СВ - X и Y: 
, 
.
Пусть возможные исходы эксперимента - события 
, а 
- сообщение о наступлении i-го события.
Формула Шеннона: 
.
- энтропия вероятностного эксперимента.
Пр. 1. Пусть эксперимент имеет два исхода: 
. Соответствующие их вероятности: 
.Тогда 
. Наибольшая энтропия, т.е. неопределенность относительно исхода эксперимента имеется при равновероятных исходах: I = max = 1, если 
.
2. Пусть имеется множество объектов Q, включающее в себя объекты k разных
видов, а 
, 
– количество объектов i-го вида в множестве Q. Т.е.
и 
Ø для 
. Тогда вероятность того, что выбранный наугад объект из Q окажется объектом i-го вида равна 
и, следовательно, энтропия выбора объекта в этом случае будет такой:
.