Вычисление вероятностей и моделирование распределений случайных величин

Министерство образования и науки РФ

Федеральное государственное бюджетное образовательное учреждение

«СМОЛЕНСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ»

 

Кафедра прикладной математики

 

Курсовая работа

«Вычисление вероятностей и моделирование распределений случайных величин»

 

 

 

 

 

Выполнила: студентка 4 курса

направления подготовки

01.04.00 «Прикладная  математика и информатика»

Михайлова Екатерина Валерьевна

 

Научный руководитель: Доктор педагогических наук,

Профессор

Евдокимова Галина Семеновна

 

 

 

 

 

 

 

Смоленск, 2017 

Оглавление

 

	Введение ………………………………………………………	……….…….	3
1	Генераторы непрерывных случайных величин…………….	……….…….	4
2	Моделирование потоков событий……………………………	……….…….	9
3	Исследование моделей непрерывных случайных величин..	……….…….	12
4	Моделирование стационарных случайных процессов…….	…….……….	15
5	Программные приложения для задач моделирования……..	……………..	18
	Заключение…………………………………………………….	……………..	28
	Список литературы……………………………………………	……………..	29

 

Введение

Математическая статистика – это раздел математики, в котором изучаются математические методы планирования экспериментов, систематизации, обработки и использования статистических данных для научных и практических целей. В математической статистике предполагается, что результаты опытных данных и наблюдений являются реализацией случайных величин или процессов, имеющих те или иные законы распределения.

Методы математической статистики обосновывают способы группировки и анализа статистических сведений о качественных и количественных признаках объектов различной природы. Проведение обследования каждого объекта большой совокупности относительно интересующего признака или физически невозможно или экономически нецелесообразно. Для установления статистических закономерностей случайно отбирают из всей совокупности ограниченное число объектов и подвергают их изучению.

Цель данной курсовой работы – исследование алгоритмических методов генерации непрерывных случайных величин, моделирования потоков событий, моделей непрерывных случайных величин, также моделирование стационарных случайных процессов. Ознакомление с программными приложения для задач моделирования.

 

 

1. Генераторы непрерывных  случайных величин

В отличие от дискретных случайных величин, принимающих только определенные значения, непрерывные случайные величины могут принимать любые значения на всей области определения x. Для описания непрерывных случайных величин используется функция распределения вероятности. Пусть Х - случайная величина, принимающая значение х. Функция распределения вероятности определяется следующим образом:

FX(x)=P{X£x}.      (1)

Функция распределения случайной величины определяет вероятность появления ее значений:

P{x1<x<x2}=F(x2)-F(x1)     (2)

и обладает следующими свойствами:

0£FX(x)£1 при -¥<x<+¥, FX(-¥)=0, FX(+¥)=1.

Плотностью распределения случайной величины называется производная функции распределения:

 

Плотность распределения также может быть использована для вычисления вероятности непрерывных случайных величин:

При построении моделирующих алгоритмов необходимо формировать последовательности значений непрерывных случайных величин с заданным законом распределения. Случайная величина задается функцией распределения или плотностью распределения вероятностей. Все алгоритмические методы генерации непрерывных случайных величин основываются на алгоритмах генерации равномерно распределенных псевдослучайных чисел.

 

1.1. Метод обратных функций предполагает, что может быть задана аналитически функция x=F-1(P), обратная к функции распределения P=F(x). Иллюстрация метода приведена на рис. 1.

 

Рис 1.

 

Алгоритм получения случайного числа состоит в следующем.

Шаг 1. Генерируем равномерно распределенное на интервале [0,1] число P одним из рассмотренных алгоритмов.

Шаг 2. Определяем случайное число x=F-1(P).

1.2. Метод исключения является универсальным методом получения случайных чисел с заданным законом распределения. Для его работы требуется знать функцию плотности распределения случайной величины f(x), ее максимум fmax и область значений случайной величины [xmin, xmax]. Иллюстрация метода исключений приведена на рис. 2.

 

Рис. 2

Алгоритм получения случайного числа следующий.

Шаг 1. Генерируем равномерно распределенное на интервале [0,1] число P1.

Шаг 2. Определяем число x по формуле

x=xmin+(xmax-xmin)P1.

Шаг 3. Генерируем равномерно распределенное на интервале [0,1] число P2.

Шаг 4. Определяем число y по формуле y=P2fmax.

Шаг 5. Если выполняется условие y£f(x), то x принимаем как очередное случайное число, иначе x отбрасываем и переходим к шагу 1.

В методе исключений для получения N случайных чисел в среднем требуется сгенерировать 2N(xmax-xmin)fmax равномерно распределенных случайных чисел.

1.3. Метод кусочной аппроксимации строится следующим образом. Определяется число интервалов разбиения n. Область значений случайной величины [xmin, xmax] разбивается на n непересекающихся интервалов (c1i,c2i) таким образом, чтобы вероятности попадания значения случайной величины в каждый интервал были равны pi=1/n. Иллюстрация метода кусочной аппроксимации приведена на рис. 3.

 

Рис. 3

Далее случайные числа получаются согласно алгоритму.

Шаг 1. Генерируем равномерно распределенное на интервале [0,1] число P1.

Шаг 2. Определяем номер интервала k как случайное событие, произошедшее с вероятностью p=1/n.

Шаг 3. Генерируем равномерно распределенное на интервале [0,1] число P2.

Шаг 4. Определяем число x по формуле

x=c1k+(c2k-c1k)P2.

В методе кусочной аппроксимации для получения одного значения случайной величины требуются два обращения к датчику равномерно распределенных случайных чисел. Расчеты, связанные с вычислением функции распределения, выполняются до начала работы алгоритма.

1.4. Использование предельных теорем. Случайные величины, имеющие нормальный закон распределения, довольно часто используются в исследованиях. Для генерации нормально распределенной случайной величины могут быть использованы центральные предельные теоремы. Значение x случайной величины определяется как сумма достаточно большого количества равномерно распределенных случайных чисел по следующему алгоритму.

Шаг 1. Определяется величина , где Pi – псевдослучайные числа, равномерно распределенные на интервале [0,1].

Шаг 2. Определяется значение x=0,5sx+a, где a и s – параметры нормального распределения.

В табл. 1 приведены наиболее распространенные законы распределения непрерывных случайных величин и их характеристики – математическое ожидание Mx, дисперсия Dx, максимум плотности распределения fmax.

 

Таблица 1

1. Равномерное распределение
, F(x)=(x-a)/(b-a)	Mx=(a+b)/2, Dx=(a-b)2/12, fmax=1/(b-a)
2. Экспоненциальное распределение
, F(x)=1–elx, x³0	Mx=1/l, Dx=1/l2, fmax=l при x=0
3. нормальное распределение
	Mx=a, Dx=s2,  при x=a
4. Распределение Рэлея
, ,	, , fmax=e-0.5/s при x=s
5. Распределение Коши
,	Mx, Dx не существуют,  при x=a
6. Распределение Эрланга
, x³0,	Mx=m/a, Dx=m/a2, fmax=f(xmax),

 

1.5. Генерация случайных величин, равномерно распределенных на интервале. Для получения равномерно распределенных чисел в произвольном диапазоне наиболее экономичным будет генератор с масштабированием равномерно распределенной случайной величины. Так как базовый генератор, применяемый при моделировании, дает случайные числа Pi в диапазоне [0,1], то, применяя преобразование

xi=a+(b-a)Pi,     (5)

получаем требуемую последовательность чисел, равномерно распределенных на интервале [a,b]. Если известны матожидание и дисперсия равномерно распределенной величины, то используется преобразование

 

2. Моделирование потоков событий

Для описания воздействий случайного характера на систему могут быть использованы модели различного вида. Для систем автоматического управления характерны воздействия в виде непрерывных случайных функций. Такие воздействия описываются математическими моделями стационарных и нестационарных случайных процессов. Воздействия могут носить дискретный характер, т.е. происходить в случайные моменты времени и иметь случайную длительность, что характерно для систем обслуживания и систем передачи данных. Такие воздействия могут быть описаны математическими моделями потоков случайных событий.

Поток событий характеризуется начальным моментом времени t0, моментами времени ti наступления событий и интервалами времени xi между событиями, как это показано на рис. 4.

Рис. 4

 

Чтобы описать поток случайных событий, следует задать функции или плотности распределения fi(x) для каждого xi. Такое описание получается слишком громоздким. Задачу можно упростить, если предположить, что поток обладает свойствами стационарности, ординарности и отсутствия последействия. Характеристики стационарного потока не зависят от выбора t0. Если поток ординарный, то можно выбрать малый период времени rt такой, что за этот период произойдет не более одного события. Если у потока отсутствует последействие, то вероятность появления события на любом отрезке времени [t1 ,t2] не зависит от событий, уже произошедших до момента времени t<t1.

Всеми тремя свойствами обладает простейший поток (поток Пуассона). Для этого потока вероятность наступления k событий за время t определится как

,      (7)

а плотность распределения интервала между событиями xi и функция распределения определяются как

, ,    (8)

где – параметр, называемый интенсивностью потока, а величина характеризует среднее значение интервала между событиями.

Модель потока с последействием описывается распределениями Эрланга. Поток Эрланга r-го порядка характеризуется плотностью вероятности между соседними заявками

.      (9)

Поток Эрланга r-го порядка может быть получен путем “просеивания” Пуассоновского потока с интенсивностью . Например, при r=2 рассматривается каждое второе событие, при r=3 – каждое третье и т.п.

Для моделирования простейшего потока событий может быть использован следующий алгоритм.

Шаг 1. Задаем момент времени t0.

Шаг 2. Определяем момент времени появления следующего события , где – значение случайной величины, имеющей экспоненциальное распределение с параметром .

Шаг 3. Рассматриваем момент времени как текущий и переходим к шагу 2.

Такой алгоритм моделирования называется алгоритмом с выделенными состояниями, так как в нем не рассматриваются процессы в системе на интервале между событиями. Для сложных систем может быть использован метод rt-моделирования, согласно которому состояние системы рассматривается в последовательные моменты времени krt

Второй алгоритм моделирования потока событий с произвольным распределением интервала между событиями имеет следующий вид.

Шаг 1. Если счетчик длительности интервала m=0, то получить значение x случайной величины с заданным законом распределения и перейти к шагу 2, иначе перейти к шагу 3.

Шаг 2. Задать значение m=x/rt, где m - ближайшее целое число.

Шаг 3. Значение m=m-1, если m£0, то на текущем шаге произошло событие, и момент наступления события регистрируется.

Шаг 4. Далее перейти к шагу 1.

Для моделирования Пуассоновского потока может быть использовано свойство ординарности. Рассматриваем случайное событие A, состоящее в том, что на интервале rt произойдет событие. При достаточно малом rt вероятность наступления события потока P(A)» rt. Далее используется обычный алгоритм имитации случайного события.

 

 

3. Исследование моделей непрерывных случайных величин

Исследование моделей непрерывных случайных величин следует проводить при решении следующих задач:

а) проверки гипотезы адекватности результатов статистического моделирования теоретическим распределениям;

б) оценки неизвестных параметров распределений вероятностей и проверки гипотезы адекватности аппроксимации случайной выборки известным распределением.

Для исследования случайной выборки интервал изменения [xmin, xmax] случайной величины X разбивается на k непересекающихся интервалов и подсчитываются частоты mi попаданий значений случайной величины в i-й интервал, i=1,2,…k.

Вычисляются оценки Mx, Dx и, если необходимо, моментов высшего порядка

,   ,   (10)

.   (11)

Зная mi, можно определить частности

.     (12)

Затем строится кумулятивная эмпирическая функция распределения F*j=P*1+P*2+…+P*j, j=1,2,…,k. Пример построения приведен на рис. 5.

 

Рис5

 

Для моделируемого распределения определяются теоретические вероятности попадания значения случайной величины X в интервалы [xi,xi+1): Pi=P{xi x<xi+1}, i=1,2,…,k. Результаты моделирования представляются так, как это показано в табл. 2.

Таблица 2

i	1	2	…	k-1	k
xi	[xmin, x1)	[x1, x2)	…	[xk-2, xk-1)	[xk-1, xmax)
mi	m1	m2	…	mk-1	mk
Pi	P1	P2	…	Pk-1	Pk
P*i	P*1	P*2	…	P*k-1	P*k
F*i	P*1	P*1+ P*2	…	…	S P*i

 

Принятую гипотезу о том, что распределение случайной величины совпадает с теоретическим законом распределения, будем проверять по критерию согласия Пирсона (c2). Рассмотрим величину

.     (13)

Если проверяемая гипотеза верна, то эта величина при больших значениях N имеет распределение, близкое к распределению c2 с r степенями свободы, причем r=k–1– s; где s – число оцениваемых параметров распределения. В рассматриваемом случае параметры распределения точно известны, и r=k–1.

Чтобы определить правило проверки, необходимо выбрать уровень значимости для критерия или доверительную вероятность α. Зная функцию распределения F(c2,r) можно определить такое значение , которому     соответствует       значение         доверительной          вероятности

α = P(c2<

)=F( ,r),  0,95-0,99.

Уровень значимости =(1- )×100 %. Значение определяется по таблицам распределения c2 или по формулам для плотности распределения c2(x, r):

     (14)

Г(n+1) = nГ(n); Г(0,5) =

; Г(1) = 1

Величина согласованности полученных результатов с теоретическим распределением может быть оценена по критерию Колмогорова и определяется как 

a=P{K(z*)<K(z)},       (15)

где , N – объем выборки, F*(x) – эмпирическая кумулятивная функция распределения,

.      (16)

Для применения критерия определяется величина z*, отражающая максимальное расхождение эмпирической и теоретической функций распределения. Далее определяется вероятность K(z*), имеющая смысл коэффициента доверия.

 

4. Моделирование стационарных случайных процессов

На практике часто приходится иметь дело со случайными величинами, непрерывно изменяющимися в процессе эксперимента. Примерами в этом случае могут служить: воздействие случайной помехи на вход системы или изменение показателей канала связи с течением времени. Для описания таких ситуаций существуют случайные процессы.

Случайный процесс – это функция времени, которая в результате опыта может принять тот или иной конкретный вид, но неизвестный заранее. Конкретный вид, принимаемый случайным процессом в результате эксперимента, называется реализацией случайного процесса. Если произвести серию экспериментов над случайным процессом, то мы получим семейство реализаций этого случайного процесса. Пример реализации случайного процесса приведен на рис. 6.

Рис. 6

 

Рассмотрим некоторый случайный процесс X(t) на определенном отрезке времени. Если зафиксировать момент времени, то значение случайного процесса в этот момент времени - это случайная величина. Если рассмотреть значения случайного процесса в различные моменты времени t1, t2, ..., tm, то мы получим совокупность случайных величин X(t1), X(t2),…, X(tm). Если интервалы взятия отсчетов случайного процесса очень малы и их достаточно много, то совокупность случайных величин X(t1), X(t2),…, X(tm) достаточно точно определяет характер поведения случайного процесса.

Рассматривая значения, принимаемые семейством реализаций случайного процесса X(t) в момент времени t, можно определить функцию распределения F(X(t)) и плотность распределения f(X(t)) сечений случайного процесса, а также математическое ожидание M[X(t)] и дисперсию D[X(t)] сечений, которые будут некоторыми функциями времени. Исчерпывающую информацию о процессе могут дать многомерные функции распределения, но на практике часто ограничиваются определением корреляционной функции случайного процесса.

,           (17)

где M[…] – операция определения математического ожидания.

На практике часто встречаются случайные процессы, протекающие во времени приблизительно однородно и имеющие вид непрерывных случайных колебаний вокруг некоторого среднего значения, причем ни средняя амплитуда, ни характер этих колебаний не обнаруживают существенных изменений с течением времени. Такие случайные процессы называются стационарными. Каждый стационарный процесс можно рассматривать как продолжающийся во времени неопределенно долго. Исследуя стационарный процесс на любом временном участке, мы должны получить одни и те же его характеристики.

В общем случае X(t) считается стационарным процессом, если все его вероятностные характеристики не зависят от времени. Как следствие этого, математическое ожидание стационарного случайного процесса, его дисперсия и корреляционная функция не зависят от времени.

Рассмотрим алгоритмы генерации значений стационарных случайных процессов с различными корреляционными функциями. Обозначим значения случайного процесса как x(m)=X(mrt), где rt – шаг моделирования. Будем также считать, что случайный процесс имеет нормальное распределение сечений.

Случайный процесс может быть задан корреляционной функцией вида

.       (18)

Для моделирования процесса может быть использован следующий алгоритм:

,     (19)

, ,     (20)

где x(k) - значения нормально распределенной случайной величины с нулевым математическим ожиданием и единичной дисперсией, D – дисперсия процесса, a – параметр, который определяет статистическую связь соседних случайных отсчетов и задается из условия 0,9<exp(a)<0,9999.

Случайный процесс может быть задан корреляционной функцией вида

.      (21)

Для моделирования процесса может быть использован алгоритм скользящего суммирования [5]:

, .  (22)

Таким образом, для получения k-го значения случайного процесса требуется 2P+1 нормально распределенных случайных величин.

Случайный процесс может быть задан корреляционной функцией вида

.      (23)

Для моделирования процесса также применим алгоритм скользящего суммирования:

, .    (24)

Для получения k-го значения случайного процесса также требуется 2P+1 нормально распределенных случайных величин. Чтобы убедиться в правильности использованного алгоритма, построим оценку корреляционной функции по формуле:

, m ³ 0.   (25)

Для m<0 автокорреляционная функция симметрично достраивается. Так как случайный процесс стационарный, то использование автокорреляционной функции (определяемой по одной реализации процесса) будет правомерно.

 

5. Программные приложения для задач моделирования

Программная система для решения задач моделирования непрерывных случайных величин включает в себя набор программ генерации случайных чисел с заданным законом распределения, имитации дискретных и непрерывных случайных воздействий, исследования стационарных случайных процессов, а также набор обучающих примеров.

5.1. Программа генерации случайных чисел с заданным законом распределения. Окно программы, реализующей генераторы случайных чисел с заданными законами распределения, приведена на рис. 7.

Программа позволяет генерировать случайные величины с законами распределений, которые приведены в табл. 1. В программе любое из представленных в табл. 1 распределений может быть моделировано методами – обратных функций, исключения, кусочной аппроксимации, независимо от того, может ли соответствующая функция или плотность распределения быть представлена аналитически.

На рис. 8 показан второй вариант программы генерации случайных величин с заданным законом распределения.

Рис. 7

 

Рис. 8

Пример реализации функций программы приведен на рис. 9.

 

а         б

 

 

в         г

 

д         е

Рис. 9

Обозначения функций программы (см. рис. 9):

1 – выход из программы;

2 – плотность распределения  и гистограмма (рис. 9,а);

3 – функция распределения и кумулятивная эмпирическая функция распределения (рис. 9,б);

4 – таблица результатов моделирования (рис. 9,в);

5 – параметры моделирования  и результаты статистических  тестов (рис. 9,г);

6 – протокол моделирования (рис. 9,д);

7 – меню настройки генераторов (рис. 9,е);

8 – режим задания произвольного  распределения вероятностей;

9 – выбор варианта задания;

10 – автоматический выбор границ  интервала случайной величины;

11 – выбор математического ожидания (параметр a);

12 – выбор дисперсии (параметр );

13 – переход между пунктами  меню настройки;

14 – выбор параметра (циклическое  переключение между значениями);

15 – выбор числовых значений  параметров (левая кнопка мыши  – уменьшить, правая - увеличить);

16 – быстрое переключение между распределениями;

17 – запуск моделирования.

Порядок работы с программой следующий:

1. Изучить соответствующие теоретические положения.

2. По заданию преподавателя выбрать вариант выполнения работы и задать параметры генератора случайных чисел (рис 9).

3. Выбрать интервал изменения случайной величины [xmin,xmax]. Обычно интервал изменения случайной величины принимается из расчета F(xmin)<0,0001, F(xmax)>0,9999.

4. Для метода обратных функций определить обратную функцию     x=F-1(P) для выбранного распределения.

5. Для метода кусочной аппроксимации рассчитать границы интервалов аппроксимации, используя обратную функцию x=F-1(P).

Для тех распределений, у которых нет аналитического выражения обратной функции, например для нормального распределения, программа автоматически определит границы. Окно программы приведено на рис. 10.

Рис. 10

 

6. Для метода исключения определить максимум плотности распределения согласно табл. 1.

7. Задать число интервалов сбора статистики, границы интервалов, рассчитать теоретические вероятности попадания случайной величины в интервалы, результаты занести в табл. 2.

8. Выполнить исследование для трех способов моделирования: обратных функций, исключения и кусочной аппроксимации.

Результаты представить в таблицах, аналогичных табл. 2. Также занести в подготовленные таблицы значения математического ожидания Mx, дисперсии Dx, критерия c2 и критерия Колмогорова P(K).

9. На основании выбранной доверительной вероятности сделать вывод о совпадении результатов моделирования с теоретическим распределением для всех трех случаев. Определить значения Mx и Dx по закону распределения и сравнить с полученными в трех опытах.

5.2. Программа генерации стационарных случайных процессов. Окно программного приложения для имитации стационарного случайного процесса приведено на рис. 11.