Случайные величины и их распределения

ИНСТИТУТ УПРАВЛЕНИЯ,

ЭКОНОМИКИ, ПРАВА  И ИСКУССТВА

Ф.И.О. Полторак Олег Юрьевич

                                                                    Курс: Первый                           ,

                                                                        Специальность/направление: 

                                                                      Менеджмент                              ,                                   

                                                                        Форма обучения:

                                                                    Заочно-дистанционная             .

Контрольная работа

 

По предмету: Линейная алгебра

Тема работы: Случайные величины и их распределения

 

форма контроля – зачет или оценка

___________________

Оценка

«____»_______________-г.

дата проверки

_______________________

Подпись преподавателя

«____»_______________-г.

дата регистрации

_______________________

Подпись секретаря,

специалиста приемной

 

Москва, 2012

 

Содержание.  

 

Введение ……………………….. …………………………………………….......3

1. Распределение случайных величин и функции распределения………..5
2. Характеристики случайных величин…………………………………….8
3. Нормальное распределение и центральная предельная теорема……...19

Заключение……………………………………………………………………….28

Список используемой литературы……………………………………………...29

 

 

 

 

 

 

 

 

 

 

 

 

 

Введение

Как и всякие явления, случайные  явления вызываются вполне определенными  причинами. Случайные же отклонения от закономерности, вызванные действием неконтролируемых факторов, будут различными при разных наблюдениях, причем предвидеть заранее, какими они будут при данном конкретном наблюдении, принципиально невозможно. Роль случайностей в разных явлениях различна. В некоторых явлениях случайные отклонения от закономерностей настолько малы, что их можно не учитывать. Однако есть и такие явления, в которых невозможно подметить никаких закономерностей, и случайность играет основную роль. Примером такого явления может служить движение малой частицы твердого вещества, взвешенной в жидкости, так называемое броуновское движение. Под действием толчков огромного количества движущихся молекул жидкости частица движется совершенно беспорядочно, без всякой видимой закономерности. В подобных явлениях сама случайность является закономерностью.  При многократном наблюдении случайных явлений в них самих можно заметить определенные закономерности. Изучив эти закономерности, человек получает возможность в известной степени управлять случайными явлениями, ограничивать их влияние, предсказывать результаты их действия и даже целенаправленно использовать их в своей практической деятельности. Так, например, можно проектировать измерительные системы, обладающие максимальной доступной точностью, радиоприемные устройства с максимальной помехозащищенностью, обладающие минимальным уровнем шумов, системы управления движением летательных аппаратов, обеспечивающие наибольшую возможную точность навигации или наименьшее действие «болтанки» на летательный аппарат. Можно также проектировать технические системы, обладающие заданной надежностью. Изучением закономерностей массовых случайных явлений занимается особая математическая наука — теория вероятностей. Методы теории вероятностей, называемые вероятностными или статистическими, дают возможность производить расчеты, позволяющие делать определенные практические выводы относительно случайных явлений. Как и всякая прикладная наука, теория вероятностей нуждается в исходных экспериментальных данных для расчетов. Раздел теории вероятностей, изучающий методы обработки результатов опытов и получения из них необходимых данных, называется математической статистикой.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 Случайные величины и их распределения

1. Распределения случайных величин и функции распределения.

Распределение числовой случайной  величины – это функция, которая  однозначно определяет вероятность  того, что случайная величина принимает  заданное значение или принадлежит  к некоторому заданному интервалу.          

 Первое – если случайная  величина принимает конечное  число значений. Тогда распределение  задается функцией Р(Х = х), ставящей каждому возможному значению х случайной величины Х вероятность того, что Х = х.          

 Второе – если случайная  величина принимает бесконечно  много значений. Это возможно  лишь тогда, когда вероятностное  пространство, на котором определена  случайная величина, состоит из  бесконечного числа элементарных  событий. Тогда распределение  задается набором вероятностей P(a <X <b) для всех пар чисел a, b таких, что a<b. Распределение может быть задано с помощью т.н. функции распределения F(x) = P(X<x), определяющей для всех действительных х вероятность того, что случайная величина Х принимает значения, меньшие х. Ясно, что

P(a <X <b) = F(b) – F(a).

Это соотношение показывает, что как распределение может  быть рассчитано по функции распределения, так и, наоборот, функция распределения  – по распределению.          

 Используемые в вероятностно-статистических  методах принятия решений и  других прикладных исследованиях  функции распределения бывают  либо дискретными, либо непрерывными, либо их комбинациями.          

 Дискретные функции  распределения соответствуют дискретным  случайным величинам, принимающим  конечное число значений или  же значения из множества, элементы  которого можно перенумеровать  натуральными числами (такие множества в математике называют счетными). Их график имеет вид ступенчатой лестницы (рис. 1).          

 Пример 1. Число Х дефектных изделий в партии принимает значение 0 с вероятностью 0,3, значение 1 с вероятностью 0,4, значение 2 с вероятностью 0,2 и значение 3 с вероятностью 0,1. График функции распределения случайной величины Х изображен на рис.1.

Рис.1. График функции распределения  числа дефектных изделий.         

 Непрерывные функции  распределения не имеют скачков.  Они монотонно возрастают  при увеличении аргумента – от 0 при  до 1 при . Случайные величины, имеющие непрерывные функции распределения, называют непрерывными.          

 Непрерывные функции  распределения, используемые в  вероятностно-статистических методах  принятия решений, имеют производные.  Первая производная f(x) функции распределения F(x) называется плотностью вероятности,

По плотности вероятности  можно определить функцию распределения:

         

 Для любой функции  распределения

а потому

         

 Перечисленные свойства  функций распределения постоянно  используются в вероятностно-статистических  методах принятия решений. В  частности, из последнего равенства  вытекает конкретный вид констант  в формулах для плотностей  вероятностей, рассматриваемых ниже.          

 Пример 2. Часто используется следующая функция распределения:

   (1)

где a и b – некоторые числа, a<b. Найдем плотность вероятности этой функции распределения:

(в точках x = a и x = b производная функции F(x) не существует).          

 Случайная величина  с функцией распределения (1) называется  «равномерно распределенной на  отрезке [a; b]».         

 Смешанные функции  распределения встречаются, в  частности, тогда, когда наблюдения  в какой-то момент прекращаются. Например, при анализе статистических  данных, полученных при использовании  планов испытаний на надежность, предусматривающих прекращение  испытаний по истечении некоторого  срока. Или при анализе данных  о технических изделиях, потребовавших  гарантийного ремонта. 

Пример 3. Пусть, например, срок службы электрической лампочки – случайная величина с функцией распределения F(t), а испытание проводится до выхода лампочки из строя, если это произойдет менее чем за 100 часов от начала испытаний, или до момента t₀ = 100 часов. Пусть G(t) – функция распределения времени эксплуатации лампочки в исправном состоянии при этом испытании. Тогда

Функция G(t) имеет скачок в точке t₀, поскольку соответствующая случайная величина принимает значение t₀ с вероятностью 1-F(t₀)>0.

2. Характеристики случайных величин.

В вероятностно-статистических методах принятия решений используется ряд характеристик случайных  величин, выражающихся через функции  распределения и плотности вероятностей.          

 При описании дифференциации  доходов, при нахождении доверительных  границ для параметров распределений  случайных величин и во многих  иных случаях используется такое  понятие, как «квантиль порядка р», где 0 < p < 1 (обозначается х_р). Квантиль порядка р – значение случайной величины, для которого функция распределения принимает значение р или имеет место «скачок» со значения меньше р до значения больше р (рис.2). Может случиться, что это условие выполняется для всех значений х, принадлежащих этому интервалу (т.е. функция распределения постоянна на этом интервале и равна р). Тогда каждое такое значение называется «квантилем порядка р». Для непрерывных функций распределения, как правило, существует единственный квантиль х_р порядка р (рис.2), причем

F(x_p) = p.   (2)

Рис.2. Определение квантиля х_р порядка р.         

 Пример 4. Найдем квантиль х_р порядка р для функции распределения F(x) из (1).

При 0 < p < 1 квантиль х_р находится из уравнения

,

т.е. х_р = a + p(b – a) = a(1- p) +bp. При p = 0 любое x < a является квантилем порядка p = 0. Квантилем порядка p = 1 является любое число x > b.          

 Для дискретных распределений,  как правило, не существует х_р, удовлетворяющих уравнению (2). Точнее, если распределение случайной величины дается табл.1, где x₁ < x₂ < … < x_k, то равенство (2), рассматриваемое как уравнение относительно х_р, имеет решения только для k значений p, а именно,         

 p = p₁,         

p = p₁ + p₂,          

p = p₁ + p₂ + p₃,         

 …         

 p = p₁ + p₂ + … + p_m,   3 < m < k,         

 …         

p = p₁ + p₂ + … + p_k.

Таблица 1.

Распределение дискретной случайной  величины

Значения x случайной величины Х	х1	х2	…	хk
Вероятности P(X =x)	p1	p2	…	pk

 

          Для перечисленных k значений вероятности p решение х_р уравнения (2) неединственно, а именно,

F(x) = p₁ + p₂ + … + p_m

для всех х таких, что x_m < x < x_m+1. Т.е. х_р – любое число из интервала (x_m; x_m+1]. Для всех остальных р из промежутка (0;1), не входящих в перечень (3), имеет место «скачок» со значения меньше р до значения больше р. А именно, если

p₁ + p₂ + … + p_m <p < p₁ + p₂ + … + p_m + p_m+1,

то х_р = x_m+1.         

 Рассмотренное свойство  дискретных распределений создает  значительные трудности при табулировании  и использовании подобных распределений,  поскольку невозможным оказывается  точно выдержать типовые численные  значения характеристик распределения.  В частности, это так для  критических значений и уровней  значимости непараметрических статистических  критериев (см. ниже), поскольку распределения  статистик этих критериев дискретны.          

 Большое значение в  статистике имеет квантиль порядка р = ½. Он называется медианой (случайной величины Х или ее функции распределения F(x)) и обозначается Me(X). В геометрии есть понятие «медиана» - прямая, проходящая через вершину треугольника и делящая противоположную его сторону пополам. В математической статистике медиана делит пополам не сторону треугольника, а распределение случайной величины: равенство F(x_0,5) = 0,5 означает, что вероятность попасть левее x_0,5 и вероятность попасть правее x_0,5 (или непосредственно в x_0,5) равны между собой и равны ½, т.е.

P(X < x_0,5) = P(X > x_0,5) = ½.

Медиана указывает «центр»  распределения. С точки зрения одной  из современных концепций – теории устойчивых статистических процедур –  медиана является более хорошей  характеристикой случайной величины, чем математическое ожидание [2,7]. При  обработке результатов измерений  в порядковой шкале (см. главу о  теории измерений) медианой можно пользоваться, а математическим ожиданием –  нет.          

 Ясный смысл имеет  такая характеристика случайной  величины, как мода – значение (или значения) случайной величины, соответствующее локальному максимуму  плотности вероятности для непрерывной  случайной величины или локальному  максимуму вероятности для дискретной  случайной величины.          

 Если x₀ – мода случайной величины с плотностью f(x), то, как известно из дифференциального исчисления, .         

 У случайной величины  может быть много мод. Так,  для равномерного распределения  (1) каждая точка х такая, что a < x < b, является модой. Однако это исключение. Большинство случайных величин, используемых в вероятностно-статистических методах принятия решений и других прикладных исследованиях, имеют одну моду. Случайные величины, плотности, распределения, имеющие одну моду, называются унимодальными.          

 Математическое ожидание  для дискретных случайных величин  с конечным числом значений  рассмотрено в главе «События  и вероятности». Для непрерывной  случайной величины Х математическое ожидание М(Х) удовлетворяет равенству

являющемуся аналогом формулы (5) из утверждения 2 главы «События и  вероятности».          

 Пример 5. Математическое ожидание для равномерно распределенной случайной величины Х равно

Для рассматриваемых в  настоящей главе случайных величин  верны все те свойства математических ожиданий и дисперсий, которые были рассмотрены ранее для дискретных случайных величин с конечным числом значений. Однако доказательства этих свойств не приводим, поскольку  они требуют углубления в математические тонкости, не являющегося необходимым  для понимания и квалифицированного применения вероятностно-статистических методов принятия решений.         

 Замечание. В настоящем учебнике сознательно обходятся математические тонкости, связанные, в частности, с понятиями измеримых множеств и измеримых функций, -алгебры событий и т.п. Желающим освоить эти понятия необходимо обратиться к специальной литературе, в частности, к энциклопедии [1].         

 Каждая из трех характеристик  – математическое ожидание, медиана,  мода – описывает «центр» распределения  вероятностей. Понятие «центр» можно  определять разными способами  – отсюда три разные характеристики. Однако для важного класса  распределений – симметричных  унимодальных – все три характеристики  совпадают.          

 Плотность распределения f(x) – плотность симметричного распределения, если найдется число х₀ такое, что

.   (3)

Равенство (3) означает, что  график функции y = f(x) симметричен относительно вертикальной прямой, проходящей через центр симметрии х = х₀. Из (3) следует, что функция симметричного распределения удовлетворяет соотношению

   (4)         

 Для симметричного  распределения с одной модой  математическое ожидание, медиана  и мода совпадают и равны х₀.          

 Наиболее важен случай  симметрии относительно 0, т.е. х₀ = 0. Тогда (3) и (4) переходят в равенства

   (5)

и

   (6)

соответственно. Приведенные  соотношения показывают, что симметричные распределения нет необходимости  табулировать при всех х, достаточно иметь таблицы при x > x₀.          

 Отметим еще одно  свойство симметричных распределений,  постоянно используемое в вероятностно-статистических  методах принятия решений и  других прикладных исследованиях.  Для непрерывной функции распределения

P(|X|<a) = P(-a <X <a) = F(a) – F(-a),

где F – функция распределения случайной величины Х. Если функция распределения F симметрична относительно 0, т.е. для нее справедлива формула (6), то

P(|X|<a) = 2F(a) – 1.

Часто используют другую формулировку рассматриваемого утверждения: если

,

то

.

Если   и  - квантили порядка  и  соответственно (см. (2)) функции распределения, симметричной относительно 0, то из (6) следует, что

.         

 От характеристик положения  – математического ожидания, медианы,  моды – перейдем к характеристикам  разброса случайной величины Х: дисперсии , среднему квадратическому отклонению  и коэффициенту вариации v. Определение и свойства дисперсии для дискретных случайных величин рассмотрены в предыдущей главе. Для непрерывных случайных величин

.

Среднее квадратическое отклонение – это неотрицательное значение квадратного корня из дисперсии:

.

Коэффициент вариации –  это отношение среднего квадратического отклонения к математическому ожиданию:

.

Коэффициент вариации применяется  при M(X)>0. Он измеряет разброс в относительных единицах, в то время как среднее квадратическое отклонение – в абсолютных.          

 Пример 6. Для равномерно распределенной случайной величины Х найдем дисперсию, среднеквадратическое отклонение и коэффициент вариации. Дисперсия равна:

Замена переменной  дает возможность записать:

где c = (b – a)/2. Следовательно, среднее квадратическое отклонение равно  а коэффициент вариации таков:          

 По каждой случайной  величине Х определяют еще три величины – центрированную Y, нормированную V и приведенную U. Центрированная случайная величина Y – это разность между данной случайной величиной Х и ее математическим ожиданием М(Х), т.е. Y = Х – М(Х). Математическое ожидание центрированной случайной величины Y равно 0, а дисперсия – дисперсии данной случайной величины: М(Y) = 0, D(Y) = D(X). Функция распределения F_Y(x) центрированной случайной величины Y связана с функцией распределения F(x) исходной случайной величины X соотношением:

F_Y(x) =F(x + M(X)).

Для плотностей этих случайных  величин справедливо равенство 

f_Y(x) = f(x + M(X)).          

 Нормированная случайная  величина V – это отношение данной случайной величины Х к ее среднему квадратическому отклонению , т.е. . Математическое ожидание и дисперсия нормированной случайной величины V выражаются через характеристики Х так:

,

где v – коэффициент вариации исходной случайной величины Х. Для функции распределения F_V(x) и плотности f_V(x) нормированной случайной величины V имеем:

,

где F(x) – функция распределения исходной случайной величины Х, а f(x) – ее плотность вероятности.         

 Приведенная случайная  величина U – это центрированная и нормированная случайная величина:

.

Для приведенной случайной  величины

.   (7)

Нормированные, центрированные и приведенные случайные величины постоянно используются как в  теоретических исследованиях, так  и в алгоритмах, программных продуктах, нормативно-технической и инструктивно-методической документации. В частности, потому, что равенства   позволяют упростить обоснования методов, формулировки теорем и расчетные формулы.          

 Используются преобразования  случайных величин и более  общего плана. Так, если Y = aX + b, где a и b – некоторые числа, то

   (8)         

 Пример 7. Если  то Y – приведенная случайная величина, и формулы (8) переходят в формулы (7).         

 С каждой случайной  величиной Х можно связать множество случайных величин Y, заданных формулой Y = aX + b при различных a>0 и b. Это множество называют масштабно-сдвиговым семейством, порожденным случайной величиной Х. Функции распределения F_Y(x) составляют масштабно сдвиговое семейство распределений, порожденное функцией распределения F(x). Вместо Y = aX + b часто используют запись

   (9)

где

Число с называют параметром сдвига, а число d -  параметром масштаба. Формула (9) показывает, что Х – результат измерения некоторой величины – переходит в У – результат измерения той же величины, если начало измерения перенести в точку с, а затем использовать новую единицу измерения, в d раз большую старой.           

 Для масштабно-сдвигового  семейства (9) распределение Х  называют стандартным. В вероятностно-статистических  методах принятия решений и  других прикладных исследованиях  используют стандартное нормальное  распределение, стандартное распределение  Вейбулла-Гнеденко, стандартное гамма-распределение и др. (см. ниже).         

 Применяют и другие  преобразования случайных величин.  Например, для положительной случайной  величины Х рассматривают Y = lg X, где lg X – десятичный логарифм числа Х. Цепочка равенств

F_Y(x) = P(lg X < x) = P(X < 10^x) = F(10^x)

связывает функции распределения Х и Y.         

 При обработке данных  используют такие характеристики  случайной величины Х как моменты порядка q, т.е. математические ожидания случайной величины X^q, q = 1, 2, …  Так, само математическое ожидание – это момент порядка 1. Для дискретной случайной величины момент порядка q может быть рассчитан как

Для непрерывной случайной  величины

Моменты порядка q называют также начальными моментами порядка q, в отличие от родственных характеристик – центральных моментов порядка q, задаваемых формулой

Так, дисперсия – это  центральный момент порядка 2.

3. Нормальное распределение и центральная предельная теорема.

В вероятностно-статистических методах принятия решений часто  идет речь о нормальном распределении. Иногда его пытаются использовать для  моделирования распределения исходных данных (эти попытки не всегда являются обоснованными – см. ниже). Более  существенно, что многие методы обработки  данных основаны на том, что расчетные  величины имеют распределения, близкие  к нормальному.         

 Пусть X₁, X₂,…, X_n, …– независимые одинаково распределенные случайные величины с математическими ожиданиями M(X_i) = m и дисперсиями D(X_i) = , i = 1, 2,…, n,… Как следует из результатов предыдущей главы,

Рассмотрим приведенную  случайную величину U_n для суммы , а именно,

Как следует из формул (7), M(U_n) = 0, D(U_n) = 1.         

 Центральная предельная теорема (для одинаково распределенных слагаемых). Пусть X₁, X₂,…, X_n, …– независимые одинаково распределенные случайные величины с математическими ожиданиями M(X_i) = m и дисперсиями D(X_i) = , i = 1, 2,…, n,… Тогда для любого х существует предел

где Ф(х) – функция стандартного нормального распределения.          

 Подробнее о функции Ф(х) – ниже (читается «фи от икс», поскольку Ф – греческая прописная буква «фи»).         

 Центральная предельная  теорема (ЦПТ) носит свое название  по той причине, что она является  центральным, наиболее часто применяющимся  математическим результатом теории  вероятностей и математической  статистики. История ЦПТ занимает  около 200 лет – с 1730 г., когда  английский математик А.Муавр  (1667-1754) опубликовал первый результат,  относящийся к ЦПТ (см. ниже  о теореме Муавра-Лапласа), до  двадцатых – тридцатых годов  ХХ в., когда финн Дж.У. Линдеберг, француз Поль Леви (1886-1971), югослав В. Феллер (1906-1970), русский А.Я. Хинчин (1894-1959) и другие ученые получили необходимые и достаточные условия справедливости классической центральной предельной теоремы.          

 Развитие рассматриваемой  тематики на этом отнюдь не  прекратилось – изучали случайные  величины, не имеющие дисперсии,  т.е. те, для которых

(академик Б.В.Гнеденко  и др.), ситуацию, когда суммируются  случайные величины (точнее, случайные  элементы) более сложной природы,  чем числа (академики Ю.В.Прохоров, А.А.Боровков и их соратники), и  т.д.         

 Функция распределения Ф(х) задается равенством

,

где  - плотность стандартного нормального распределения, имеющая довольно сложное выражение:

.

Здесь =3,1415925… - известное в геометрии число, равное отношению длины окружности к диаметру, e = 2,718281828… - основание натуральных логарифмов (для запоминания этого числа обратите внимание, что 1828 – год рождения писателя Л.Н.Толстого). Как известно из математического анализа,

         

 При обработке результатов  наблюдений функцию нормального  распределения не вычисляют по  приведенным формулам, а находят  с помощью специальных таблиц  или компьютерных программ. Лучшие  на русском языке «Таблицы  математической статистики» составлены  членами-корреспондентами АН СССР  Л.Н. Большевым и Н.В.Смирновым [8].          

 Вид плотности стандартного  нормального распределения   вытекает из математической теории, которую не имеем возможности здесь рассматривать, равно как и доказательство ЦПТ.         

 Для иллюстрации приводим  небольшие таблицы функции распределения Ф(х) (табл.2) и ее квантилей (табл.3). Функция Ф(х) симметрична относительно 0, что отражается в табл.2-3.

Таблица 2.

Функция стандартного нормального  распределения.

х	Ф(х)	х	Ф(х)	х	Ф(х)
-5,0	0,00000029	-1,0	0,158655	2,0	0,9772499
-4,0	0,00003167	-0,5	0,308538	2,5	0,99379033
-3,0	0,00134990	0,0	0,500000	3,0	0,99865010
-2,5	0,00620967	0,5	0,691462	4,0	0,99996833
-2,0	0,0227501	1,0	0,841345	5,0	0,99999971
-1,5	0,0668072	1,5	0,9331928

 

          Если случайная величина Х имеет функцию распределения Ф(х), то М(Х) = 0, D(X) = 1. Это утверждение доказывается в теории вероятностей, исходя из вида плотности вероятностей . Оно согласуется с аналогичным утверждением для характеристик приведенной случайной величины U_n, что вполне естественно, поскольку ЦПТ утверждает, что при безграничном возрастании числа слагаемых функция распределения U_n стремится к функции стандартного нормального распределения Ф(х), причем при любом х.

Таблица 3.

Квантили стандартного нормального  распределения.

р	Квантиль порядка р	р	Квантиль порядка р
0,01	-2,326348	0,60	0,253347
0,025	-1,959964	0,70	0,524401
0,05	-1,644854	0,80	0,841621
0,10	-1,281552	0,90	1,281552
0,30	-0,524401	0,95	1,644854
0,40	-0,253347	0,975	1,959964
0,50	0,000000	0,99	2,326348

 

          Введем понятие семейства  нормальных распределений. По  определению нормальным распределением  называется распределение случайной  величины Х, для которой распределение приведенной случайной величины есть Ф(х). Как следует из общих свойств масштабно-сдвиговых семейств распределений (см. выше), нормальное распределение – это распределение случайной величины