2.1.1. Случайные величины, распределение вероятностей и плотности вероятностей

Для данного эксперимента, имеющего выборочное пространство  с элементами , мы определяем функцию  так, что

                                              (2.1.18)

Таким образом, мы отображаем два возможных результата бросания монеты в виде двух точек  на вещественной оси. Другой эксперимент – бросание игральной кости с возможными исходами . Случайная переменная, определённая на этом выборочном пространстве, может быть . В этом случае результаты эксперимента отображаются целыми числами . Можно положить , тогда возможные результаты отображаются целыми числами . Это примеры дискретных случайных величин.

Хотя мы использовали в качестве примеров эксперименты, которые имеют конечное множество исходов, имеется много физических систем, эксперименты в которых дают непрерывные выходные результаты. Например, шумовое напряжение, создаваемое электронным усилителем, имеет непрерывную амплитуду. Как следствие, выборочное пространство  амплитуд напряжения  непрерывно и таким же является отображение . В таком случае случайную величину  называют непрерывной случайной величиной. Для случайной величины  рассмотрим событие , где  - любое вещественное число в интервале . Определим вероятность этого события как  и обозначим её как  т.е.

       .                      (2.1.19)

Функция  названа функцией распределения вероятности случайной величины . Её также называют интегральной (кумулятивной) функцией распределения (ИФР). Так как  - это вероятность, то её значения ограничены интервалом . Фактически  и . Например, дискретная случайная величина, полученная при бросании монеты и определенная (2.1.18), имеет ИФР, показанную на рис. 2.1.1(a). Здесь имеются два скачка : один при  и другой при . Точно так же случайная величина , полученная при бросании игральной кости, имеет ИФР, показанную на рис. 2.1.1 (b). В этом случае  имеет шесть скачков, в каждом из .

Рис. 2.1.1 Примеры интегральных функций распределения двух дискретных случайных величин

Рис. 2.1.2 Пример интегральной функции распределения непрерывной случайной переменной

ИФР непрерывной случайной величины обычно изменяется так, как показано на рис. 2.1.2. Это гладкая, неубывающая функция. В некоторых практических задачах мы можем также сталкиваться со случайной величиной смешанного типа. ИФР такой случайной величины является гладкой неубывающей функцией в отдельных частях вещественной оси и содержащей скачки в ряде дискретных значений . Пример такой ИФР иллюстрируется рис. 2.1.3.

Производная от ИФР , обозначаемая как , называется функцией плотности вероятности (ФПВ) случайной величины . Таким образом, имеем

            ,                                    (2.1.20)

или, что эквивалентно,

                  .                        (2.1.21)

Так как  - неубывающая функция, . Когда случайная величина дискретная или смешанного типа, ФПВ содержит -импульсы в точках нарушения непрерывности . В таких случаях дискретная часть  может быть выражена как

,                                  (2.1.22)

где ,  являются возможными дискретными значениями случайной величины; , , являются вероятностями, а  обозначает -функцию.

Рис. 2.1.3 Пример интегральной функции распределения случайной переменной смешанного типа

Часто мы сталкиваемся с проблемой определения вероятности того, что случайная величина  находится в интервале , где . Чтобы определить вероятность этого события, начнем с события . Это событие всегда можно выразить как объединение двух несовместных событий  и . Следовательно, вероятность события  можно выразить как сумму вероятностей несовместных событий. Таким образом, мы имеем

,

или эквивалентное соотношение

.                     (2.1.23)

Другими словами, вероятность события  - это площадь под ФПВ в пределах .

Многомерные случайные величины, совместные распределения вероятностей и совместные плотности вероятностей. Когда имеем дело с комбинированными экспериментами или повторениями одного эксперимента, мы сталкиваемся с многомерными случайными величинами и их ИФР и ФПВ. Многомерные случайные величины – в основном многомерные функции – определены на выборочном пространстве при комбинированном эксперименте. Начнём с двух случайных величин  и , каждая из которых может быть непрерывной, дискретной или смешанной. Совместная интегральная функция распределения (СИФР) для двух случайных величин определяется так:

,  (2.1.24)

где  - совместная функция плотности (СФПВ). Последнюю можно также выразить в виде

.                                                 (2.1.25)

Когда СФПВ  интегрируется по одной из переменных, мы получаем ФПВ по другой переменной, т.е.

,       .       (2.1.26)

ФПВ  и , полученные путём интегрирования СФПВ по одной из переменных, называют по двум переменным, получим

.                                              (2.1.27)

Заметим также, что .

Обобщение вышеуказанных соотношений на многомерные случайные величины очевидно. Предположим, что , , является случайными величинами с СИФР

,    (2.1.28)

где  - совместная ФПВ. Беря частные производные от , заданной (2.1.28), получаем

.                     (2.1.29)

Любой число переменных в  можно исключить путём интегрирования по этим переменным. Например, интегрируя по  и , получаем

.              (2.1.30)

Следует также, что , а .

Условные функции распределения вероятности. Рассмотрим две случайные величины  и  с СФПВ . Предположим, что мы желаем определить вероятность того, что случайная величина  при условии, что

,

где  - некоторое положительное приращение. Таким образом, мы желаем определить вероятность события . Используя соотношения, приведённые ранее для условной вероятности события, вероятность события  можно определить на вероятность события , деленную на вероятность события . Таким образом,

      (2.1.31)

Предполагая, что ФПВ  и  являются непрерывными функциями на интервале , мы можем делить числитель и знаменатель (2.1.31) на  и взять предел при . Таким образом, мы получим

   (2.1.32)

что является условной ИФР величины  при заданной величине . Заметим, что  и . Путём дифференцирования правой части (2.1.32) по  мы получаем условную ФПВ  в форме

.                                                                       (2.1.33)

В качестве альтернативы мы можем выразить совместную ФПВ  через условную ФПВ  или  как

.                                   (2.1.34)

Обобщение соотношений, данных выше, на многомерные случайные величины не вызывает затруднений. Начиная с совместной ФПВ случайных величин , , можно написать

,  (2.1.35)

где  - любое целое число в пределах . Совместная условная ИФР, соответствующая СФПВ , равна

.         (2.1.36)

Условные ИФР удовлетворяют соотношением, ранее установленным для таких функций, таким как

,

.

Статистически независимые случайные величины. Мы уже определили статистическую независимость двух или более событий из выборочного пространства . Понятие статистической независимости может быть распространено на случайные величины, определённые на выборочном пространстве и полученные при комбинированном эксперименте или при повторении единственного эксперимента. Если эксперименты приводят к несовместным исходам, вероятность результата в одном эксперименте не зависит от результата в любом другом эксперименте. Т.е. совместная вероятность результатов определяется произведением вероятностей, соответствующих каждому результату. Следовательно, случайные величины, соответствующие результатам в экспериментах, независимых в том случае, что их СФПВ (или СИФР) определяется произведением соответствующих ФПВ (или ИФР). Следовательно, многомерные случайные величины статистически независимы, если, и только если

,                                 (2.1.37)

или в качестве альтернативы

.                                               (2.1.38)