Проверка статистических гипотез. 5

Часть 1.Теория.

1. Введение.

Сущность  задачи проверки статистических гипотез.

         Задачами математической статистики  являются определение вида распределения  генеральной совокупности экспериментальных данных и определение их основных числовых характеристик. Эти задачи решаются в виде выдвижения  гипотез, а не прямых расчетов. Каждый расчетный результат должен быть дополнен вероятностью его правильности (или ошибки), т.е. является гипотетическим.  Следовательно, статистическая гипотеза представляет собой некоторое предположение о законе распределения случайной величины F или о параметрах этого закона, формулируемое на основе выборки. Примерами статистических гипотез являются предположения:                               

      генеральная совокупность распределена по экспоненциальному закону;         

       математические ожидания двух экспоненциально распределенных выборок равны друг другу.

           В первой из них высказано предположение о виде закона распределения, а во второй – о параметрах двух распределений. Гипотезы, в основе которых нет никаких допущений о конкретном виде закона распределения, называют непараметрическими, в противном случае – параметрическими.

      Пусть задана выборка X = (X_v Х_г, ... , Х_п) из некоторого неизвестного распределения F, тип которого необходимо выяснить. Допускается, что все наблюдения имеют одинаковое распределение. Для этого относительно неизвестного распределения строят различные предположения, или гипотезы. По выборке конечного объема безошибочных выводов о типе распределения сделать невозможно, поэтому неверная гипотеза также может быть выбрана.

     2.Общая постановка задачи проверки статистической гипотезы.

 Гипотезу, утверждающую, что различие между сравниваемыми характеристиками отсутствует, а наблюдаемые отклонения объясняются лишь случайными колебаниями в выборках, на основании которых производится сравнение, называют

- нулевой (основной) гипотезой и обозначают Н₀. Наряду с основной гипотезой рассматривают и

- альтернативную (конкурирующую, противоречащую) ей гипотезу Н₁.               И, следовательно, если нулевая гипотеза будет отвергнута, то будет иметь место альтернативная гипотеза.

          Различают простые и сложные гипотезы. Гипотезу называют                                                  - простой, если она однозначно характеризует параметр распределения случайной величины.

Например, если l является параметром экспоненциального распределения, то гипотеза Н₀ о равенстве l =10 – простая гипотеза.

- Сложной называют гипотезу, которая состоит из конечного или бесконечного множества простых гипотез. Сложная гипотеза Н₀ о неравенстве l >10 состоит из бесконечного множества простых гипотез Н₀ о равенстве l =b_i , где b_i – любое число, большее 10. Гипотеза Н₀ о том, что математическое ожидание нормального распределения равно двум при неизвестной дисперсии, тоже является сложной. Сложной гипотезой будет предположение о распределении случайной величины Х по нормальному закону, если не фиксируются конкретные значения математического ожидания и дисперсии. Такие гипотезы предполагают, что распределение F является элементом некоторого класса распределений {F}.

          Пример. Н₀:Х N_0.1, - простая гипотеза.

          Н₁:Х Є N_0.2.- сложная гипотеза, поскольку неизвестны оба параметра а и .

         3. Понятие о статистических критериях

            Одна из основных задач математической  статистики состоит в проверке соответствия результатов эксперимента предполагаемой гипотезе H₀.  Для этого выбирается некоторая статистика (функция экспериментально полученной выборки X = (X_1, X ₂ ... ,  Х _n)). С помощью этой статистики строится правило проверки гипотезы.

          Статистическим критерием  (критерием согласия, или критерием значимости) проверки гипотезы называют правило, в соответствии с которым по имеющейся выборке X = (X_1, X ₂ ... ,  Х _n) можно определить, принимается гипотеза H₀ или отвергается.

          Построение критерия означает, что  все возможные выборки разбиваются на два непересекающихся класса S₀ и S *, такие, что их объединением является все выборочное пространство: S₀ S *= R*.

            Проверка гипотезы основывается на вычислении некоторой случайной величины – критерия, точное или приближенное распределение которого известно. Процедура проверки гипотезы предписывает каждому значению критерия одно из двух решений – принять или отвергнуть гипотезу. Тем самым все выборочное пространство и соответственно множество значений критерия делятся на два непересекающихся подмножества S₀ и S₁. Если значение критерия z попадает в область S₀, то гипотеза принимается, а если в область S₁, – гипотеза отклоняется. Множество S₀ называется областью принятия гипотезы или областью допустимых значений, а множество S₁ – областью отклонения гипотезы или критической областью. Выбор одной области соответствует истине с некоторой вероятностью и, соответственно, возможны два рода ошибок.                      Ошибка первого рода возникает с вероятностью a тогда, когда отвергается гипотеза Н0. в то время как она верна.

  Принятие или отклонение гипотезы Н0 по случайной выборке возникает с вероятностью 1-a и принимается конкурирующая гипотеза Н₁.

           Ошибка второго рода возникает с вероятностью b в том случае, когда принимается неверная гипотеза Н₀, в то время как справедлива конкурирующая гипотеза Н₁.

          Доверительная вероятность – это вероятность не совершить ошибку первого рода и принять верную гипотезу Н₀.  

         Вероятность отвергнуть ложную гипотезу Н₀ называется мощностью критерия.

     Следовательно, при проверке гипотезы возможны четыре варианта исходов, см. табл.

              Ошибка первого рода состоит в том, что будет отклонена гипотеза Н₀, если она верна (так называемый «пропуск цели»). Вероятность совершить ошибку первого рода называется уровнем значимости критерия и обозначается α:

            Правильное решение (гипотеза  H₁) принимается при этом с вероятностью 1 - α:

           Ошибка второго  рода состоит в том, что принимается гипотеза H₁. если она неверна («ложное срабатывание»). Вероятность ошибки второго рода обозначается β:

            Правильное решение (гипотеза  H₁,) принимается при этом с вероятностью 1 - β:

            Вероятность не допустить ошибку  второго рода 1 - β называют мощностью критерия.

  Например, рассмотрим случай, когда некоторая несмещенная оценка параметра q вычислена по выборке объема n, и эта оценка имеет плотность распределения f(q), см. рис.

Рис. Области  и отклонения гипотезы

         Предположим, что истинное значение оцениваемого параметра равно Т. Если рассматривать гипотезу Н₀ о равенстве q =Т, то насколько велико должно быть различие между q и Т, чтобы эту гипотезу отвергнуть. Ответить на данный вопрос можно в статистическом смысле, рассматривая вероятность достижения некоторой заданной разности между q и Т на основе выборочного распределения параметра q .

            Целесообразно полагать одинаковыми значения вероятности выхода параметра q за нижний и верхний пределы интервала. Такое допущение во многих случаях позволяет минимизировать доверительный интервал, т.е. повысить мощность критерия проверки. Суммарная вероятность того, что параметр q выйдет за пределы интервала с границами q _{1–a /2} и q a _/2, составляет величину a . Эту величину следует выбрать настолько малой, чтобы выход за пределы интервала был маловероятен. Если оценка параметра попала в заданный интервал, то в таком случае нет оснований подвергать сомнению проверяемую гипотезу, следовательно, гипотезу равенства q =Т можно принять. Но если после получения выборки окажется, что оценка выходит за установленные пределы, то в этом случае есть серьезные основания отвергнуть гипотезу Н₀. Отсюда следует, что вероятность допустить ошибку первого рода равна a (равна уровню значимости критерия).

            Если предположить, например, что истинное значение параметра в действительности равно Т + d, то согласно гипотезе Н₀ о равенстве q =Т – вероятность того, что оценка параметра q попадет в область принятия гипотезы, составит b , см. рис.

         При заданном объеме выборки вероятность совершения ошибки первого рода можно уменьшить, снижая уровень значимости a . Однако при этом увеличивается вероятность ошибки второго рода b (снижается мощность критерия). Аналогичные рассуждения можно провести для случая, когда истинное значение параметра равно Т – d.

         Единственный способ уменьшить обе вероятности состоит в увеличении объема выборки (плотность распределения оценки параметра при этом становится более "узкой"). При выборе критической области руководствуются правилом Неймана – Пирсона: следует так выбирать критическую область, чтобы вероятность a была мала, если гипотеза верна, и велика в противном случае. Однако выбор конкретного значения a относительно произволен. Употребительные значения лежат в пределах от 0,001 до 0,2. В целях упрощения ручных расчетов составлены таблицы интервалов с границами q _{1–a /2} и q a _/2 для типовых значений a и различных способов построения критерия.

         При выборе уровня значимости необходимо учитывать мощность критерия при альтернативной гипотезе. Иногда большая мощность критерия оказывается существеннее малого уровня значимости, и его значение выбирают относительно большим, например 0,2. Такой выбор оправдан, если последствия ошибок второго рода более существенны, чем ошибок первого рода. В зависимости от сущности проверяемой гипотезы и используемых мер расхождения оценки характеристики от ее теоретического значения применяются различные критерии. К числу наиболее часто применяемых критериев для проверки гипотез о законах распределения относятся критерии хи-квадрат Пирсона, Колмогорова, Мизеса, Вилкоксона, о значениях параметров – критерии Фишера, Стьюдента. 
 
 

4.Типовые распределения

               При проверке гипотез широкое применение находит ряд теоретических законов распределения. Наиболее важным из них является нормальное распределение. С ним связаны распределения хи-квадрат, Стьюдента, Фишера, а также интеграл вероятностей. Для указанных законов функции распределения аналитически не представимы. Значения функций определяются по таблицам или с использованием стандартных процедур пакетов прикладных программ. Указанные таблицы обычно построены в целях удобства проверки статистических гипотез в ущерб теории распределений – они содержат не значения функций распределения, а критические значения аргумента z(a ).

Для односторонней  критической области z(a ) = z_1–a , т.е. критическое значение аргумента z(a ) соответствует квантили z_1–a уровня 1– a , так как , см. рис.  

Односторонняя критическая область

Для двусторонней критической области, с уровнем  значимости a , размер левой области a 2, правой a- 1 (a 1+a 2=a), рис. 3.4. Значения z(a +2) и z(a- 1) связаны с квантилями распределения соотношениями z(a- 1)=z_1–a ₁, z(a 2)=za ₂, так как , . Для симметричной функции плотности распределения f(z) критическую область выбирают из условия a 1=a 2=a /2 (обеспечивается наибольшая мощность критерия). В таком случае левая и правая границы будут равны |z(a /2)|. 

Двусторонняя  критическая область

Нормальное  распределение.

Этот вид распределения  является наиболее важным в связи  с центральной предельной теоремой теории вероятностей: распределение  суммы независимых случайных  величин стремится к нормальному  с увеличением их количества при  произвольном законе распределения  отдельных слагаемых, если слагаемые обладают конечной дисперсией. Так как реальные физические явления часто представляют собой результат суммарного воздействия многих факторов, то в таких случаях нормальное распределение является хорошим приближением наблюдаемых значений. Функция плотности нормального распределения

– унимодальная, симметричная, аргумент х может принимать любые действительные значения, см. рис..

 вместо значений функции Ф(u) приводят значения интеграла вероятностей

Интеграл вероятностей связан с функцией нормального распределения  соотношением Ф(u) = 0,5 + F(u).

  Распределение хи-квадрат   .                                                                               Распределению хи-квадрат (c ²-распределению) с k степенями свободы соответствует распределение суммы квадратов n стандартизованных случайных величин u_i, каждая из которых распределена по нормальному закону, причем k из них независимы, n ³ k. Функция плотности распределения хи-квадрат с k степенями свободы

где х = a ², Г(k/2) – гамма-функция.                                                                                 Число степеней свободы k определяет количество независимых слагаемых в выражении для c ². Функция плотности при k, равном одному или двум, – монотонная, а при k >2 – унимодальная, несимметричная, см. рис.  

Плотность распределения хи-квадрат

Математическое  ожидание и дисперсия величины c ² равны соответственно k и 2k. Распределение хи-квадрат является частным случаем более общего гамма-распределения, а величина, равная корню квадратному из хи-квадрат с двумя степенями свободы, подчиняется распределению Рэлея.

С увеличением  числа степеней свободы (k >30) распределение хи-квадрат приближается к нормальному распределению с математическим ожиданием k и дисперсией 2k. В таких случаях критическое значение c ²(k; a ) » u_{1– a} (k, 2k), где u_{1– a} (k, 2k) – квантиль нормального распределения. Погрешность аппроксимации не превышает нескольких процентов.

Распределение Стьюдента.

Распределение Стьюдента (t-распределение), характеризует распределение случайной величины ,    где u₀, u₁, …, u_k взаимно независимые нормально распределенные случайные величины с нулевым средним и конечной дисперсией. Аргумент t не зависит от дисперсии слагаемых. Функция плотности распределения Стьюдента

Величина k характеризует количество степеней свободы. Плотность распределения – унимодальная и симметричная функция, похожая на нормальное распределение, см. рис.  

Область изменения аргумента t от –¥ до ¥ . Математическое ожидание и дисперсия равны 0 и k/(k–2) соответственно, при k>2. По сравнению с нормальным распределение Стьюдента более пологое, оно имеет меньшую дисперсию. Это отличие заметно при небольших значениях k, что следует учитывать при проверке статистических гипотез (критические значения аргумента распределения Стьюдента превышают аналогичные показатели нормального распределения). Таблицы распределения содержат значения для односторонней или двусторонней критической области.

Распределение Стьюдента применяется для описания ошибок выборки при k £ 30. При k >100 данное распределение практически соответствует нормальному, для 30 < k < 100 различия между распределением Стьюдента и нормальным распределением составляют несколько процентов. Поэтому относительно оценки ошибок малыми считаются выборки объемом не более 30 единиц, большими – объемом более 100 единиц. При аппроксимации распределения Стьюдента нормальным распределением для односторонней критической области вероятность Р{t > t(k; a )} = u_{1– a} (0, k/(k–2)), где u_{1– a} (0, k/(k–2)) – квантиль нормального распределения. Аналогичное соотношение можно составить и для двусторонней критической области.

Распределение Фишера.

Распределению Р.А. Фишера (F-распределению Фишера – Снедекора) подчиняется случайная величина х =[(y₁/k₁)/(y₂/k₂)], равная отношению двух случайных величин у₁ и у₂, имеющих хи-квадрат распределение с k₁ и k₂ степенями свободы. Область изменения аргумента х от 0 до ¥ . Плотность распределения

В этом выражении  k₁ обозначает число степеней свободы величины y₁ с большей дисперсией, k₂ – число степеней свободы величины y₂ с меньшей дисперсией. Плотность распределения – унимодальная, несимметричная, см. рис.  

Математическое  ожидание случайной величины х равно k₂/(k₂–2) при k₂>2, дисперсия т₂ = [2 k₂² (k₁+k₂–2)]/[k₁(k₂–2)²(k₂–4)] при k₂ > 4. При k₁ > 30 и k₂ > 30 величина х распределена приближенно нормально с центром (k₁ – k₂)/(2 k₁ k₂) и дисперсией (k₁ + k₂)/(2 k₁ k₂). 
 
 
 
 
 
 
 
 
 
 

5.Проверка гипотез о законе распределения

               Обычно сущность проверки гипотезы о законе распределения экспериментальных данных заключается в следующем. Имеется выборка экспериментальных данных фиксированного объема, выбран или известен вид закона распределения генеральной совокупности. Необходимо оценить по этой выборке параметры закона, определить степень согласованности экспериментальных данных и выбранного закона распределения, в котором параметры заменены их оценками.

Критерий  хи-квадрат К. Пирсона.

Использование этого критерия основано на применении такой меры (статистики) расхождения  между теоретическим F(x) и эмпирическим распределением F_п(x), которая приближенно подчиняется закону распределения c ². Гипотеза Н₀ о согласованности распределений проверяется путем анализа распределения этой статистики. Применение критерия требует построения статистического ряда.

Критерий  А.Н. Колмогорова.

Для применения критерия А.Н. Колмогорова экспериментальные данные требуется представить в виде вариационного ряда (экспериментальных данных недопустимо объединять в разряды). В качестве меры расхождения между теоретической F(x) и эмпирической F_n(x) функциями распределения непрерывной случайной величины Х используется модуль максимальной разности

dn = max|F(x) - F_n(x)|.