Методы математической статистики Excel
Содержание
Основы случайных процессов
Биномиальное распределение
Нормальное распределение
Генерация случайных чисел
Основы статистического анализа
Построение выборочной функции распределения
Расчет элементарных статистических характеристик
Определение доверительных интервалов
Подбор типа распределения
Сравнение и анализ двух выборок
Дисперсионный анализ
Поиск
статистических зависимостей.
Корреляция
Основы
случайных процессов
В предыдущих разделах, подбирая формулы и делая прогнозы, мы предполагали 100% достоверность исходных данных. В реальной жизни события, характеризующие эти данные, могут носить случайный характер и появляться с разной вероятностью.
Вероятность события p есть отношение числа благоприятных исходов m к числу всех возможных исходов n этого события: p=m/n. Например, вероятность появления туза в наугад выбранной карте из колоды в 52 карты равна 4/52=0.0769, так как m=4, а n=52.
Если известно соответствие между появлениями (величинами) x1, x2, …, xn случайного события (переменной) X и соответствующими вероятностями их реализации p1, p2, …, pn, то говорят, что известен закон распределения случайной величины F(x). Большинство встречающихся на практике распределений вероятностей реализовано в Excel.
Распределения
вероятностей имеют числовые характеристики.
Введем некоторые понятия и перечислим
функции Excel для вычисления числовых характеристик
распределения вероятностей. Они входят
в группу Статистические. При вычислении
функций в качестве случайных величин
используйте следующие значения:
Математическое ожидание случайной величины (среднее арифметическое), характеризующее центр распределения вероятностей, вычисляется функцией СРЗНАЧ. СРЗНАЧ(A1:A7) = 9.
Дисперсия, характеризует разброс случайной величины относительно центра распределения вероятностей и вычисляется функцией ДИСПР. ДИСПР(A1:A7) = 4.857.
Среднеквадратичное отклонение есть квадратный корень из дисперсии, характеризует разброс случайной величины в единицах случайной величины и вычисляется функцией СТАНДОТКЛОНП. СТАНДОТКЛОНП(A1:A7) = 2.203893.
Квантиль случайной величины с законом распределения F(x) есть значение случайной величины x при заданной вероятности p., т.е. есть решение уравнения F(x)=p. Медиана есть квантиль с вероятностью p=0.5.
Excel, вместо квантилей содержит функции вычисления х для определенных уровней р: квартили (кварта – четверть), децили (дециль – десятая часть), персентили (персент – процент). Различают нижний квартиль с вероятностью p=0.25 и верхний квартиль с вероятностью p=0.75. Децили это квантили с вероятностью 0.1, 0.2, …, 0.9.
Функцию КВАРТИЛЬ используют, чтобы разбить данные на группы. В качестве второго аргумента указывают уровень (четверть), для которого нужно вернуть решение: 0 – минимальное значение распределения, 1 – первый, нижний квартиль, 2 – медиана, 3 – третий, верхний квартиль, 4 – максимальное значение. Например, КВАРТИЛЬ(A1:A7;3) = 10, т.е. 75% всех значений меньше 10, КВАРТИЛЬ(A1:A7;2) = 9.
Функция ПЕРСЕНТИЛЬ вычисляет квантиль указанного уровня вероятности и используется для определения порога приемлемости значений. В качестве второго аргумента указывают уровень 0.1, 0.2, …, 0.9. ПЕРСЕНТИЛЬ(A1:A7;0,9) = 11.8, т.е. 90% всех значений меньше 11.8.
Пакет анализа Excel также содержит
инструмент Ранг и
персентиль, который на основе набора
данных формирует выходную таблицу, содержащую
порядковый и процентный ранги для каждого
значения в наборе данных. См. справку
по F1.
Далее рассмотрим наиболее распространенные распределения вероятностей, реализованные в Excel. Каждый закон распределения описывает процессы разной вероятностной природы и характеризуется специфическими параметрами:
- равномерное распределение – n случайных чисел выпадает с одной и той же вероятностью p=1/n; характеризуется нижней и верхней границей; примером является появление чисел 1, 2, …, 6 при бросании игральной кости (p=1/6);
- биномиальное распределение моделирует взаимосвязь числа успешных испытаний m и вероятностей успеха каждого испытания p при общем количестве испытаний n - функции БИНОМРАСП и КРИТБИНОМ;
- нормальное (гауссово) распределение описывает процессы, в которых на результат воздействует большое число независимых случайных факторов, среди которых нет сильно выделяющихся – функции НОРМРАСП, НОРМСТРАСП, НОРМОБР, НОРМСТОБР и НОРМАЛИЗАЦИЯ;
- распределение Пуассона, предсказывает число случайных событий на определенном отрезке времени или на определенном пространстве, позволяет аппроксимировать биномиальное распределение – функция ПУАССОН;
- экспоненциальное (показательное) распределение, моделирует временные задержки между событиями, описывает процессы в задачах массового обслуживания и в задачах с «временем жизни» - ЭКСПРАСП;
- распределение хи-квадрат, связано с нормальным, возвращает одностороннюю вероятность распределения и используется для сравнения предполагаемых и наблюдаемых значений – функция ХИ2РАСП;
- распределение Стьюдента, связано с нормальным, возвращает вероятность для t-распределения Стьюдента и используется для проверки гипотез при малом объеме выборки – функция СТЬЮДРАСП;
- F-распределение (Фишера), связано с нормальным и может быть использовано в F-тесте, который сравнивает степени разброса двух множеств данных – fраспобр;
- гамма-распределение используется для изучения случайных величин, имеющих асимметричное распределение, в теории очередей – функция ГАММАРАСП;
- а также другие распределения – функции БЕТАРАСП, ВЕЙБУЛЛ, ОТРБИНОМРАСП, ГИПЕРГЕОМЕТ, ЛОГНОРМРАСП и др.
Биномиальное
распределение
Биномиальное распределение характеризуется числом успешных испытаний m, вероятностью успеха каждого испытания p и общим количеством испытаний n. Классическим примером использования биномиального распределения является выборочный контроль качества больших партий товара, изделий в торговле, на производстве, когда сплошная проверка невозможна. Из партии выбирают n образцов и регистрируют число бракованных m. Бракованными могут быть 1, 2, … , n образцов, но вероятности реального числа бракованных будут различными. Если контрольная вероятность брака ниже допустимой вероятности, то можно гарантировать достаточное качество всей партии.
В Excel функция БИНОМРАСП вычисляет вероятность отдельного значения распределения по заданным m, n и р, а функция КРИТБИНОМ – случайное число по заданной вероятности. Обычно функция КРИТБИНОМ используется для определения наибольшего допустимого числа брака.
В
качестве примера построим график плотности
вероятности биномиального распределения
для n=10 (1, 2, …, 10) и p=0.2. Введите исходные
данные, как показано на рисунке:
Далее
в ячейку В4 введите статистическую
функцию БИНОМРАСП и заполните
ее параметры как показано на рис.
2.68:
Рис. 2.68
Здесь параметр Число_s есть число успешных испытаний m, Испытания – число независимых испытаний n, Вероятность_s – вероятность успеха каждого испытания p. Параметр Интегральный равен 0, если требуется получить плотность распределения (вероятность для значения m), и равен 1, если требуется получить вероятность с накоплением (вероятность того, что число успешных испытаний не меньше значения аргумента Число_s).
Формулу
из В4 размножьте в ячейки В5:В13. Ниже
показан результат Ваших действий:
Как видно, в колонке В вычислены вероятности успешных испытаний m=1, 2, …, 10. Теперь по диапазону В4:В13 постройте график или гистограмму биномиальной функции плотности распределения – результат на рис. 2.69. Поэкспериментируйте, изменяя значение вероятности в ячейке В1: 0.3, 0.4, 0.8, проследите за изменениями формы графика.
Поэкспериментировать с
Рис. 2.69
Для
иллюстрации функции КРИТБИНОМ
используем предыдущий пример – необходимо
найти число m, для которого вероятность
интегрального распределения больше или
равна 0.75. Вызовите функцию КРИТБИНОМ
и заполните параметры – рис. 2.70. Вы должны
получить значение 3. Это означает, что
при вероятности интегрального распределения
>= 0.75 будет не менее трех (m>=3) успешных
испытаний.
Рис. 2.70
Нормальное
распределение
Нормальное
распределение
характеризуется средним арифметическим
(математическим ожиданием) m и стандартным
(среднеквадратичным) отклонением r.
Дисперсия равна r2. Краткое
обозначение распределения N(m,r2).
График (рис. 2.71) нормального распределения
симметричен относительно центра распределения
(точки m), чем меньше r, тем больше
вероятность появления случайной величины.
В пределы [m-r,m+r] нормально распределенная
случайная величина попадает с вероятностью
0,683 в пределы [m-2r,m+2r] - с вероятностью
0,955 и т.д.
Рис. 2.71
При m=0 и r=1 нормальное распределение называется стандартным или нормированным – N(0,1).
Нормальное
распределение имеет очень
Рис. 2.72
Выполните следующие действия:
- в ячейку А4 введите формулу =B1-3*B2, в ячейку А5 формулу =A4+B$3 и размножьте ее по ячейку А22;
- в ячейку В4 введите функцию НОРМРАСП из группы Статистические – параметры заполните как на рис. 2.73;
- размножьте формулу из ячейки В4 по ячейку В22 и по диапазону В4:В22 постройте график; на 2-ом шаге мастера диаграмм в закладке Ряд введите подписи к оси х из диапазона А4:А22.
Рис. 2.73
Генерация
случайных чисел
Часто
требуется смоделировать
Excel содержит функцию СЛЧИС для генерации
равномерно распределенных случайных
чисел в диапазоне [0,1] и функцию СЛУЧМЕЖДУ
для генерации случайных чисел в произвольно
заданном диапазоне значений. См. справку
по F1, введя для поиска имя функции.
В качестве примера проверим качество инструмента Генерация случайных чисел для нормального распределения. Для этого сгенерируем случайные числа с характеристиками из предыдущего примера, построим график плотности вероятностей и визуально сравним с графиком на рис. 2.72.
Перейдите
на чистый лист Excel и вызовите инструмент
Генерация случайных
чисел через меню СервисàАнализ
данных…. Введите параметры, как показано
на рис. 2.74.
Рис. 2.74
Число переменных определяет число столбцов при выводе случайных чисел. В поле Распределение устанавливается нужный тип распределения. Параметры для каждого типа распределения различны. Выходной интервал должен содержать ссылку на ячейку, с которой будут в столбец выводиться случайные числа.
Нажмите
ОК – случайные числа разместятся
в ячейках А1:А30. В ячейку В1 введите
функцию =НОРМРАСП(A1;15;1,5;0) и размножьте
ее до ячейки В30. Далее по диапазону
В1:В30 постройте график – Вы получите
разбросанный график плотности вероятностей.
Теперь необходимо отсортировать диапазон
А1:А30 в порядке возрастания: выделите
диапазон А1:А30, вызовите пункт меню
ДанныеàСортировка
и сортировать в пределах
указанного выделения. По окончании
сортировки график примет вид, как на рис.
2.75. Визуальное сравнение с эталонным
графиком на рис. 2.72 показывает достаточное
сходство: при большем числе случайных
чисел кривая будет стремиться к нормальной.
Рис. 2.75
Отметим,
что на практике закон распределения
вероятностей для данных, полученных
в результате наблюдения, редко известен
заранее. Его устанавливают с помощью
статистических методов и процедур.
Основы
статистического
анализа
Статистический анализ охватывает методы описания и представления статистических данных (описательная статистика) и методы обработки этих данных (аналитическая статистика) с целью изучения, формулирования выводов, принятия решений и прогнозирования.
Статистический анализ строится на большом объеме данных, сплошном и полном охвате всех событий, называемой генеральной совокупностью. Часто генеральная совокупность слишком многочисленна или малодоступна, поэтому для исследования из нее делают выборки (выборочная совокупность), по которым судят обо всей генеральной совокупности. Для наилучшего представления информации о генеральной совокупности выборка должна быть представительной (репрезентативной). Иногда лучшим способом получения представительной выборки является многократный случайный отбор данных или повторение опыта. Если генеральная совокупность доступна, то для получения представительной выборки можно воспользоваться инструментом Выборка из Пакета анализа Excel. На основе полученной выборки приблизительно устанавливают выборочный закон (выборочную функцию) распределения и другие характеристики случайной величины.
Статистическая вероятность или статистическая частота есть отношение число успешных исходов m к общему числу испытаний n (m/n). Статистическая частота события стремится к теоретической вероятности p при большом числе испытаний. Выборочная функция распределения также стремится к теоретической функции распределения F(x) при больших n. Для построения выборочных функций распределения в Excel используется функция ЧАСТОТА и инструмент Гистограмма из Пакета анализа.
Случайные выборки значений из генеральной совокупности всех событий имеют числовые статистические характеристики. Среднее арифметическое случайных значений (СРЗНАЧ). Медиана есть число, которое является серединой множества чисел, т.е. половина чисел больше медианы, а половина меньше; вычисляется функцией МЕДИАНА. Мода есть наиболее часто встречающееся значение; вычисляется функцией МОДА. Среднее гармоническое есть величина обратная среднему арифметическому обратных величин (СРГАРМ). Среднее геометрическое используется для вычисления средних темпов роста и есть корень n-ой степени из произведения n положительных значений (СРГЕОМ). Дисперсия – функция ДИСП. Стандартное отклонение – функция СТАНДОТКЛОН. Эксцесс характеризует степень остроконечности (>0) или сглаженности (<0) «хвостов» распределения, т.е. частоты появления удаленных от среднего значений (ЭКСЦЕСС). Асимметрия характеризует степень несимметричности распределения относительно среднего вправо (>0) и влево (<0), вычисляется функцией СКОС. Подробнее см. справку по F1, введя для поиска имя функции.
При обработке случайных выборок в первую очередь вычисляют их числовые статистические характеристики и группируют по каждому параметру: по среднему значению, по разбросу от среднего, ошибке среднего и др. Кроме перечисленных выше функций, для работы с несколькими выборками и вычисления их статистических характеристик, Excel содержит инструмент Описательная статистика из Пакета анализа.
При обработке случайных выборок, кроме получения статистических характеристик, обычно решаются следующие задачи:
- Определение степени достоверности выборки, отнесение или не отнесение событий выборки к некоторой статистической совокупности. Определяется с помощью доверительных интервалов – интервалов, в который события попадают с заданной доверительной вероятностью p=1–a. a - есть уровень значимости – максимальное значение вероятности, при котором появление события практически невозможно. Достаточным обычно считается a=0.05 – ей соответствует доверительная вероятность 0.95. Для повышения надежности статистических выводов берут a=0.01, чему соответствует доверительная вероятность 0.99. Вычисление границ доверительного интервала в Excel используется функция ДОВЕРИТ и инструмент Описательная статистика.
- Определение меры соответствия выборки какому-либо теоретическому распределению. Выполняется с использованием критериев согласия, в частности ХИ-квадрат – функция ХИ2ТЕСТ в Excel. Ориентировочная оценка может быть выполнена с помощью построения графиков и визуального сравнения расхождений и совпадений выборочного и теоретического распределений.
- Выявление различий между выборками выполняется с использованием критериев различия, в частности t-критерия Стьюдента (функция ТТЕСТ) и критерия Фишера (функция ФТЕСТ). Можно использовать инструменты из Пакета анализа Excel: Двухвыборочный t-тест с различными дисперсиями Двухвыборочный F-тест для дисперсий, а также Парный двухвыборочный t-тест для средних и Двухвыборочный t-тест с одинаковыми дисперсиями.
- Оценка влияния на выборки одного, двух или более факторов – однофакторный, двухфакторный и т.д. дисперсионный анализ. Инструменты Excel: Однофакторный дисперсионный анализ, Двухфакторный дисперсионный анализ с повторениями и Двухфакторный дисперсионный анализ без повторений.
- Выявление степени связи между выборками (переменными) - корреляционный анализ. В качестве меры связи двух случайных величин используют коэффициент корреляции R. Если R=0 – зависимости нет, R>0 – зависимость прямо пропорциональная, R<0 – зависимость обратно пропорциональная. В Excel используется функция КОРРЕЛ и инструмент Корреляция.
- Установление формы зависимости (уравнения регрессии) между выборкой (случайной переменной Y) и одной или несколькими независимыми переменными величинами – регрессионный анализ, с целью оценки достоверности принятой математической модели статистическим данным. Инструменты регрессионного анализа были рассмотрены ранее.
Ниже
будут рассмотрены
Подробное описание каждого инструмента
из Пакета анализа Вы найдете в справке
по F1, введя для поиска строку «О средствах
статистического анализа данных».
Наиболее распространенными пакетами
статистического анализа и прогнозирования
являются Statistica, Statgraphics, NCSS, SPSS, Project
Expert (финансовое планирование). Извеcтны
также пакеты SAS, SYSTAT, SigmaStat, SigmaPlot, ESB Stats,
MVSP, Chameleon Statistics, Leo Statistic, Simca-P и другие.
Перспективным инструментом решения трудноформализуемых
задач прогнозирования, статистического
и регрессионного анализа являются пакеты,
построенные по технологии обучающихся
нейронных сетей, в частности пакет
STATISTICA Neural Network. Известны применения нейрокомпьютеров
(CNAPS PC/128), имитаторов нейронных сетей (Qnet
for WIndows) для прогнозирования финансовой
деятельности и пр. Найти описания возможностей
этих пакетов можно в поисковых системах
Интернет (Yandex, Rambler, Google) по названию пакета.
Построение
выборочной функции
распределения
Для построения выборочных функций распределения в Excel используют инструмент Гистограмма из Пакета анализа или функция ЧАСТОТА. При этом весь диапазон изменения случайной величины разбивают на интервалы равной ширины, называемые карманами. Число карманов обычно 5-15. Вычисляется число попаданий значений случайной величины в каждый карман. По ним вычисляются статистические (относительные) частоты - отношение числа попаданий в карман m к общему числу испытаний n (m/n), по которым и строится гистограмма выборочной функции распределения статистических вероятностей.
В
качестве примера построим выборочное
распределение по данным о ежедневных
продажах некоторого товара – на рис.
2.76 показана выборка за 2 месяца. Здесь
же заведен диапазон карманов – граничных
значений. Данные будут группироваться
в интервалы 0-170, 171-175, 176-180 и т.д.: при подсчете
в карман включаются значения на правой
(нижней) границе и не включаются значения
на левой (верхней) границе.
Рис. 2.76
Построим
выборочное распределение дневных продаж
инструментом Гистограмма: вызов через
меню СервисàАнализ
данных….
Рис. 2.77
На
рис. 2.77 показано заполнение параметров
инструмента. Входной
интервал $А$3:$Е$14 - это диапазон исследуемых
данных. Интервал карманов $G$2:$G$14 -
это границы, в которые группируются входные
данные. Выходной интервал $I$1 – это
ячейка, начиная с которой будет выведен
результат. Установите также флажок
Вывод графика - гистограммы. Флажок
Интегральный процент устанавливают,
если надо вычислить проценты частот с
накоплением и вывести график интегральных
процентов. Результат работы инструмента
показан на рис. 2.78.
Рис. 2.78
Теперь
построим выборочное распределение
дневных продаж, воспользовавшись функцией
ЧАСТОТА. Результат показан на рис.
2.79. Здесь функцией ЧАСТОТА подсчитывается
лишь колонка Частота; колонки I и
J следует вычислить вручную и построить
график.
Рис. 2.79
Проделайте следующие действия:
- Выделите диапазон H1:H14 и вызовите функцию ЧАСТОТА из группы Статистические и заполните параметры – рис. 2.80. После нажатия ОК встаньте на строку формул и нажмите Ctrl+Shift+Enter. Карманы будут заполнены частотами появления значений.
- В ячейку H15 введите формулу вычисления общего числа испытаний n: =СУММ(H2:H14).
- В ячейку I2 введите формулу вычисления статистической частоты =I2/H$15 и размножьте ее на весь диапазон I3:I14.
- В ячейку J2 запишите значение из I2, в ячейку J3 – формулу =J2+I3, которую следует размножить на весь диапазон J4:J14.
- Выделите диапазон I2:J14 для построения графика и вызовите мастер диаграмм: выберите нестандартный тип График | гистограмма 2. Построенный график (рис. 2.81) должен быть идентичен предыдущему (рис. 2.78).
Рис. 2.80
Рис. 2.81
Расчет
элементарных статистических
характеристик
При обработке случайных выборок в первую очередь вычисляют их числовые параметры, характеризующие тенденции, разброс и изменчивость данных. Их можно рассчитывать как с помощью перечисленных в предыдущих разделах функций, так и с применением инструмента Описательная статистика из Пакета анализа, который позволяет получить единый статистический отчет по всем характеристикам входных данных.
Применим
инструмент Описательная
статистика к выборкам сезонных результатов
двух прыгунов в высоту разными способами:
фосбюри-флопом и перекидным – рис. 2.82.
Рис. 2.82
Вызовите
инструмент Описательная
статистика через меню СервисàАнализ
данных…. На рис. 2.83 показано заполнение
параметров инструмента. Входной
интервал $А$2:$D$11 - это диапазон анализируемых
данных. Здесь данные выборки расположены
по столбцам, поэтому установлен переключатель
По столбцам. Выходной
интервал $D$1 – это ячейка, начиная с
которой будет выведен результат. Установите
также флажок Итоговая
статистика - в выходном интервале для
каждого столбца будут рассчитаны все
статистические показатели. Поле Уровень
надежности позволяет установить требуемый
уровень доверительной вероятности; по
умолчанию 95%, что соответствует уровню
значимости 0.05. Результат работы инструмента
показан на рис. 2.84.
Рис. 2.83
Рис. 2.84
Определение
доверительных интервалов
Важная характеристика выборки – среднее арифметическое – обычно не совпадает со средним арифметическим генеральной совокупности. Поэтому актуальным является определение приемлемых границ изменения среднего арифметического выборок – доверительного интервала среднего. Для этого вычисляют средние арифметические нескольких выборок; вычисленные значения рассматривают как случайные величины, распределенные по нормальному закону относительно среднего арифметического генеральной совокупности. Известно, что в пределы [m-r,m+r] нормально распределенная случайная величина попадает с доверительной вероятностью 0,683 (68.3%) в пределы [m-2r,m+2r] - с вероятностью 0,955 (95.5%), в пределы [m-3r,m+3r] - с вероятностью 0,997 (99.7%) – где m среднее, а r стандартное отклонение от среднего (рис. 2.71).