Нормальный закон распределения. 2

Оглавление 

Введение.

     В качестве самостоятельной семестровой  научно-исследовательской работы я  выбрала проблему нормального закона распределения. Данная тема, на мой взгляд, является актуальной, поскольку в настоящее время нормальный

закон широко распространен в технике, биологии, социологии, психологии и  многих других сферах человеческих знаний.

     «Закон помогает научиться не привязываться, не оценивать и принимать тот порядок вещей, который существует. На графике он выглядит как колоколообразная кривая. Смысл графика заключается в том, что все характеристики живой и неживой материи в этом мире распределяются по этому закону. Куда бы вы ни посмотрели, с чем бы вы ни столкнулись, вы всюду встречаетесь с законом нормального  распределения»1

     Целью моей работы является изучение нормального  закона распределения и критерий согласия.

     В связи с этим передо мной поставлены следующие задачи: рассмотреть нормальный закон распределения, то есть в чем заключается его суть и определить, какие существуют критерии согласия.

     Нормальное (гауссовское) распределение занимает центральное место в теории и практике вероятностно-статистических исследований. В качестве непрерывной аппроксимации к биномиальному распределению его впервые рассматривал А.Муавр в 1733 г. Через некоторое время нормальное распределение снова открыли и изучили К.Гаусс (1809 г.) и  - П.Лаплас, которые пришли к нормальной функции в связи с работой по теории ошибок наблюдений.

     Цель их объяснения механизма формирования нормально распределенных случайных величин заключается в следующем. Постулируется, что значения исследуемой непрерывной случайной величины формируются под воздействием очень большого числа независимых случайных факторов, причем сила воздействия каждого отдельного фактора мала и не может превалировать среди остальных, а характер воздействия - аддитивный (т.е. при воздействии случайного фактора F на величину а получается величина, где случайная "добавка"  мала и равновероятна по знаку).

     Во  многих случайных величинах, изучаемых  в технике и других областях, естественно  видеть суммарный аддитивный эффект большого числа независимых причин. Но центральное место нормального закона не следует объяснять его универсальной приложимостью.

     В этом смысле нормальный закон - один из многих типов распределения, имеющихся  в природе, однако с относительно большим удельным весом практической приложимости.

     Однако  полнота теоретических исследований, относящихся к нормальному закону, а также сравнительно простые математические свойства делают его наиболее привлекательным и удобным в применении. Даже в случае отклонения исследуемых экспериментальных данных от нормального закона существует, по крайней мере, два пути его целесообразной эксплуатации: во-первых, использовать нормальный закон в качестве первого приближения (при атом нередко оказывается, что подобное допущение дает достаточно точные с точки зрения конкретных целей исследования результаты); во-вторых, подобрать такое преобразование исследуемой случайной величины, которое видоизменяет исходный "не нормальные" закон распределения, превращая его в нормальный.

     Удобно  для статистических приложений и  свойство "самовоспроизводимости" нормального закона, заключающееся в том, что сумма любого числа нормально распределенных случайных величин тоже подчиняется нормальному закону распределения. Кроме того, с помощью закона нормального распределения выведен целый ряд других важных распределений, построены различные статистические критерии.

1. Нормальное распределение

     В приложениях статистики чаще всего  используется нормальное (гауссовское) распределение. Непрерывная случайная величина Х называется распределенной по нормальному закону с параметрами, если ее плотность распределения есть

2. Статистическая гипотеза

     Часто необходимо знать закон распределения генеральной совокупности. Если он неизвестен, но есть основания предположить, что он имеет определенный вид (назовем его А), выдвигают гипотезу: генеральная совокупность распределена по закону А. Таким образом, в этой гипотезе речь идет о виде предполагаемого распределения. Возможен случай, когда закон распределения известен, а его параметры неизвестны. Если есть основания предположить, то неизвестный параметр Q равен определенному значению  Q0 , выдвигают гипотезу: Q = Q0. Таким образом, в этой гипотезе речь идет о предполагаемой величине параметра одного известного распределения.      

     Возможны  и другие гипотезы: о равенстве  параметров двух или нескольких распределений, о независимости выборок и  многие другие.

     Статистической называют  гипотезу о виде неизвестного распределения  или о параметрах известных распределений.

     Например, статистическими будут гипотезы; генеральная распределена по закону Пуассона, дисперсии двух нормальных совокупностей равны между собой.

     В первой гипотезе сделано предположение  о виде неизвестного распределения, во второй - о параметрах двух известных распределений.

     Наряду  с выдвинутой гипотезой рассматривают  и противоречивую ей гипотезу. Если выдвинутая гипотеза будет отвергнута, имеет место противоречащая гипотеза. По этой причине эти гипотезы необходимо различать.

     Нулевой (основной) называют выдвинутую гипотезу Н0.

     Конкурирующей (альтернативной) называют гипотезу Н1, противоречащую нулевой.

3. Ошибки первого и второго рода. Уровень значимости

     Выдвинутая  гипотеза может быть правильной или  неправильной, поэтому возникает необходимость проверить ее. Поскольку проверку производят статистическими методами, ее называют статистической. В итоге статистической проверки гипотезы в двух случаях может быть принято неправильное решение, т.е. могут быть допущены ошибки двух родов.

Ошибка  первого рода состоит в том, что  будет отвергнута правильная гипотеза.

Ошибка  второго рода состоит в том» что  будет принята неправильная гипотеза.

     Правильное  решение может быть принято также  в двух случаях: гипотеза принимается; причем и в действительности она правильная; гипотеза отвергается, причем и в действительности она неверна.

     Вероятность совершить ошибку первого рода принято  обозначать q. Ее называют уровнем значимости. Наиболее часто уровень значимости принимают равным 0,05 или 0,01. Если, например, принят уровень значимости, равный 0,05, то это означает, что в пяти случаях из ста мы рискуем допустить ошибку первого рода (отвергнуть правильную гипотезу).

4. Степень свободы параметра

 

  Степень свободы  у какого-либо параметра определяют числом опытов, по которым рассчитывают данный параметр, за вычетом количества констант, найденных по этим опытам независимо друг от друга.

5. Критическая область. Область принятия гипотезы.

     Для проверки нулевой гипотеза используют специально подобранную случайную величину, точное или приближенное распределение которой известно. Ее обозначают t если она распределена по закону Стюдента, X2 - по закону Пирсона, F- по закону Фишера, G - по закону Кохрэна. Обозначим эту величину К.

     Статистическим  критерием (или просто критерием) называется случайная величина К, служащая для проверки нулевой гипотезы.

     Для проверки гипотезы по данным выборок  вычисляют частные значения входящих в критерий величин и таким  образом получают частное (наблюдаемое) значение критерия.

     Наблюдаемым значением (Кнабл) называют значение критерия, вычисленное по выборкам.

     После выбора определенного критерия множество  всех его возможных значений разбивают  на два непересекающихся подмножества; одно из них содержит значения критерия, при которых нулевая гипотеза отвергается, а другое - при которых она принимается.

     Критической областью называют совокупность значений критерия, при которых нулевую  гипотезу отвергают.

     Областью  принятия гипотезы (областью допустимых значений) называют совокупность значений критерия, при которых гипотезу принимают.

     Основной  принцип проверки статистических гипотез  можно сформулировать так: если наблюдаемое значение критерия принадлежит критической области - гипотезу отвергают, если наблюдаемое значение критерия принадлежит области принятия гипотезы -  гипотезу принимают.

     Поскольку критерий К - одномерная случайная величина, все ее возможные значения принадлежат некоторому интервалу. Поэтому критическая область и область принятия гипотезы также являются интервалами, и, следовательно, существуют точки, которые их разделяют.  

      Критическими  точками Ккр называют точки, отделяющие критическую область от области принятия гипотезы.

Различают, одностороннюю (правостороннюю или  левостороннюю) и двустороннюю критические области.

Правосторонней  называют критическую область, определяемую неравенством К>Ккр , где  Ккр- положительное число.

Левосторонней называют критическую область, определяемую неравенством К<Ккр , где  Ккр- отрицательное число.

Односторонней называют правостороннюю или левостороннюю критическую областью.

Двусторонней  называют критическую область, определяемую неравенствами  K<K1, K>K2, где К2>К1.

6.Критерии согласия 

В статистике применяется большое количество различных критериев согласия. Среди  них наиболее популярными являются критерии хи-квадрат Пирсона, Колмогорова-Смирнова, t-критерий Стьюдента и др.

6.1.Критерий согласия Пирсона.

Критерий  Пирсона, или критерий χ2 — наиболее часто употребляемый критерий для проверки гипотезы о законе распределения. Во многих практических задачах точный закон распределения неизвестен, то есть является гипотезой, которая требует статистической проверки.

Обозначим через X исследуемую случайную величину. Пусть требуется проверит гипотезу H0 о том, что эта случайная величина подчиняется закону распределения F(x). Для проверки гипотезы произведём выборку, состоящую из n независимых наблюдений над случайной величиной X. По выборке можно построить эмпирическое распределение F * (x) исследуемой случайной величины. Сравнение эмпирического F * (x) и теоретического распределений производится с помощью специально подобранной случайной величины — критерия согласия. Одним из таких критериев и является критерий Пирсона.

Для проверки критерия вводится статистика:

где — предполагаемая вероятность попадания в i-й интервал, — соответствующее эмпирическое значение, ni — число элементов выборки из i-го интервала.

Эта величина в свою очередь является случайной (в силу случайности X) и должна подчиняться распределению χ2.

Перед тем, как сформулировать правило  принятия или отвержения гипотезы необходимо учесть, что критерий Пирсона обладает правосторонней критической областью.

Правило. 
Если полученная статистика превосходит квантиль закона распределения заданного уровня значимости
с или с степенями свободы, где k — число наблюдений или число интервалов (для случая интервального вариационного ряда), а p — число оцениваемых параметров закона распределения, то гипотеза отвергается. В противном случае гипотеза принимается на заданном уровне значимости .

6.2.Критерий согласия Колмогорова- Смирнова

В статистике критерий согласия Колмогорова (также известный, как критерий согласия Колмогорова - Смирнова) используется для того, чтобы определить, подчиняются ли два эмпирических распределения одному закону, либо определить, подчиняется ли полученное распределение предполагаемой модели.

Критерий Колмогорова — Смирнова о проверке гипотезы об однородности двух эмпирических законов распределения является одним из основных и наиболее широко используемых непараметрических методов, так как достаточно чувствителен к различиям в исследуемых выборках.

Эмпирическая функция распределения (ЭФР) случайной величины , построенная по выборке , имеет вид:

где указывает, попало ли наблюдение Xi в область :

Статистика критерия для эмпирической функции распределения  определяется следующим образом:

где  — точная верхняя грань множества .

Обозначим нулевую гипотезу , как гипотезу о том, что выборка подчиняется распределению . Тогда по теореме Колмогорова для введённой статистики справедливо:

Учтём, что критерий имеет правостороннюю критическую область.

Правило (параметрический критерий Колмогорова). 
Если статистика превышает квантиль распределения Колмогорова заданного уровня значимости , то нулевая гипотеза (о соответствии закону ) отвергается. Иначе гипотеза принимается на уровне .

Если  достаточно велико, то можно приблизительно рассчитать по формуле:

Асимптотическая мощность критерия равна 1.

Обозначим теперь за нулевую гипотезу гипотезу о том, что две исследуемые выборки подчиняютсяодному распределению случайной величины. .

Теорема Смирнова. 
Пусть — эмпирические функции распределения, построенные по независимым выборкам объёмом n и m случайной величины ξ. Тогда, если , то , где .

Теорема Смирнова позволяет использовать данный критерий для проверки двух выборок на однородность.

Правило (непараметрический критерий Колмогорова). 
Если статистика превышает квантиль распределения Колмогорова
заданного уровня значимости , то нулевая гипотеза (об однородности выборок) отвергается. Иначе гипотеза принимается на уровне .

Заключение.

     Итак, статистическое правило, по которому принимается или отвергается статистическая гипотеза о том, что исследуемая случайная величина подчиняется заданному эмпирическому закону распределения, построенному на основе наблюдений, имеющихся в распоряжении исследователя.

     Закон, на соответствие которому проверяется  эмпирическое распределение, называют гипотетическим. Задача заключается в проверке соответствия эмпирического и гипотетического законов распределения. При этом выдвигаются две статистические гипотезы: нулевая и альтернативная. Первая утверждает, что различие между эмпирическим и гипотетическим законами (например нормальным) значимо и, следовательно, рассматриваемую случайную величину с большой вероятностью нельзя считать нормально распределенной. Вторая же предполагает отсутствие значимых отличий, а значит и согласованности эмпирического и гипотетического распределений. Таким образом, критерий согласия, как и другие статистические критерии, должен подтвердить или отвергнуть нулевую гипотезу.

     Задача  проверки соответствия эмпирических распределений  гипотетическим очень важна. Выдвигая гипотезу о согласии нашего эмпирического распределения известному гипотетическому, исследователь фактически выбирает статистическую модель исследуемого процесса, которую он будет использовать при его анализе. Если, например, критерий покажет, что закон распределения, построенный по наблюдаемым значениям исследуемой величины, согласуется с нормальным, то можно считать, что она является нормально распределенной. Это очень важно при применении статистических методов анализа, поскольку во многих из них используется предположение о нормальности распределения исследуемых величин (например, линейная и логистическая регрессии, байесовская классификация и т.д.).

Глоссарий.

 

    Генеральная совокупность - полная совокупность объектов, имеющих отношение к изучаемой проблеме.

    Дисперсия случайной величины - мера разброса данной случайной величины, то есть её отклонения от математического ожидания. Обозначается D[X] в русской литературе и (англ. variance) в зарубежной. В статистике часто употребляется обозначение или

    Критическая область – совокупность значений статистики критерия, которые «говорят», что нулевую гипотезу следует отвергнуть.

    Критические точки – точки, отделяющие критическую область от области принятия гипотезы.

    Эмпирическое  распределение - распределение выборки, т. е. распределение вероятностей, которое определяется по выборке для оценивания истинного распределения. 
     
     
     
     
     
     
     
     
     
     
     
     
     
     
     
     
     
     
     
     
     

Список  литературы.

 
    1. Громыко Г.Л. Теория статистики.– М.: ИНФРА-М, 2002.
    2. Ефимова М.Р., Ганченко О.И., Петрова Е.В. Практикум по общей теории статистики.– М.: Финансы и статистика, 2002.
    3. В.В. Жикаренцев «Жизнь без границ», 1999г
    4. Крамер Г. Математические методы статистики (2-е изд.). М.: Мир, 1986
Нормальный закон распределения. 2