Простой линейный регрессионный анализ (с включением корреляционного анализа)

ФЕДЕРАЛЬНОЕ  АГЕНТСТВО  ПО  РЫБОЛОВСТВУ 

ФЕДЕРАЛЬНОЕ  ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ  УЧРЕЖДЕНИЕ

«МУРМАНСКИЙ  ГОСУДАРСТВЕННЫЙ  ТЕХНИЧЕСКИЙ  УНИВЕРСИТЕТ» 
 

Кафедра информационных систем

и прикладной математики. 
 

Расчетно-графическое  задание

По математике

Простой линейный регрессионный анализ

(с включением  корреляционного анализа) 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Выполнил: Горшенин И. В.

Студент группы – 

ЛОГ -202. 

Проверила: Комарова С.Н. 
 
 
 
 
 
 

Мурманск, 2011 
 

Введение

      Стохастическая  зависимость случайной величины Y от величины X, случайной или не случайной, в отличие от функциональной не предполагает однозначности. Каждому значению xÎX отвечает, в целом, множество значений yÎY с условным распределением вероятностей F_x(y) =P(Y<y /X=x). Меж тем стохастическая зависимость не всегда нужна во всей её полноте. Нас могут интересовать частные её проявления, например, как сильно влияет изменение величины X на величину Y (корреляционный анализ), или какова зависимость условной средней M(Y /X = x) от значений xÎX (регрессионный анализ). Будет ли эта зависимость линейной y=a+bx, параболической y=a+bx+ cx², гиперболической y=a/(x+b), экспоненциальной y=ae^bx и т. п.? Те же вопросы возникают и в том случае, когда X – вектор.

      Зависимость условной средней M(Y /X=x) от значения x величины X, случайной или не случайной, называют регрессией Y по X, равенство y= M(Y/X= x), связывающее x и y, – уравнением регрессии, а соответствующий график – линией регрессии Y по X. Статистическая оценка параметров зависимости условной средней y = M(Y/X=x) от x в основном осуществляется методом наименьших квадратов. В отличие от функциональной (однозначной), стохастическая зависимость имеет ту особенность, что регрессия x=M(X /Y=y) величины X по Y в общем случае отлична от y=M(Y /X=x), имеет, в целом, другой график и другое уравнение. 

      Целью данной работы является получение представления о параметрах – числовых характеристиках случайного вектора (X,Y), посредством их статистического оценивания по двумерной выборке (X_i,Y_i) – результатам n независимых измерений одновременно обеих составляющих X и Y вектора (X,Y), i=1, 2,…, n.

      Сопоставление данных выборки (X_i,Y_i) с теоретически возможной регрессионной зависимостью Y от X осуществляется обычно методом наименьших квадратов. Например, предполагается, что регрессия Y по X выражена функцией y = f(x,a,b) аргумента x, но истинные числовые значения параметров a и b нам не известны. Метод наименьших квадратов подбирает для a, b такие приближенные значения a, b, которые минимизируют расхождение Q между значениями функции f(x_i,a,b) и выборочными значениями y_i, выраженное функцией

    Ход работы: 

1. Статистический  материал в виде двумерной выборки  для пары величин X и Y вносится в электронную таблицу Excel. Для учебных целей мы имитируем его для пары нормальных случайных величин X Î N(m_x, s_x) в столбце A и Y Î N(m, s) в столбце B генерацией случайных чисел, m_x=MX, m=MY.
2. Параметры m_x, s_x, s выбираются произвольно, но приемлемые для экономики и производства: s_x £  m_x /16, s £ m/16.
3. Значениями величину Z=Y+k(X-m_x), связанными с X, заполняем столбец C.
4. Сначала проверяем на коррелированность двумерную выборку X, Y, а затем выборку значений X, Z. Для этого вычисляем эмпирический коэффициент корреляции r и статистику Стьюдента T

                                  .

5. Далее вычисляем P-значение для статистики Т – вероятности, что случайная величина Стьюдента примет значение по абсолютной величине большее, чем значение статистики T.
6. Выбираем уровень значимости a, например a = 0,01, вычисляем критическую точку t_a, отвечающую выбранному уровню значимости a.
7. Если статистика Т, подчинена неравенству |T|>t_a, она попадает в двустороннюю критическую область (-¥,-t_a)È (t_a+¥) и гипотеза H₀ о равенстве коэффициента корреляции r = 0 отвергается, значение эмпирического коэффициента корреляции r признаётся значимым (значимо отличным от нуля), а случайные величины X и Y коррелированными. При этом вполне оправданно выписать для величин X и Y соответствующие уравнения линейной регрессии. В противном случае, когда |T|<t_a, нет оснований говорить о коррелированности случайных величин X и Y, так как коэффициент корреляции либо 0, либо близок к 0. Заметим, что при r = 0 коэффициенты регрессии также равны нулю, b_yx= 0 и b_xy= 0.
8. Если знаки < и > согласуются с абсолютными значениями чисел в ячейках T и t_a  или, что равнозначно, P-значение для статистики Т и a = 0,01, то гипотеза H₀ о некоррелированности (независимости) величин X и Y принимается, в противном случае отвергается.
9. Во второй части работы исследуется на коррелированность двумерная выборка иной природы – для величин X и Z. Если в первой части работы независимость X и Y обеспечивал уже тот способ, каким эмитировались выборки этих величин, то в двумерной выборке X и Z это уже исключено. Аналогично для величин X и Z.
10.   В пакете программ Excel находим и осваиваем программу регрессионного анализа выбираем в соответствии с уровнем значимости a, например 99%. Программу последовательно применяем для исследования регрессии Y по X и Z по X. других опций при испытании на регрессионную зависимость величины Z по X помечаем для вывода также остатки и график подбора. Таблица выводит также многие другие характеристики линейной регрессии, её коэффициенты, предсказание, результаты F-теста.
11. Наконец, осуществляем прогнозирование ценностного показателя Y или Z для заданных значений X.

Решение:

Заключение 

   В результате проделанной работы можно сдать  следующие выводы: 

1.  Коэффициент  k обеспечивает зависимость Z от X, чтобы он статистически распознавался при упомянутых (невысоких) значениях n, выбираем k = 0,3.
2. Статистика T, вычисленная в ячейке E4, не подчинена неравенству |T|>t_a, следовательно нет оснований говорить о коррелированности случайных величин X и Y, так как коэффициент корреляции либо 0, либо близок к 0. Заметим, что при r = 0 коэффициенты регрессии также равны нулю, b_yx= 0 и b_xy= 0.
3. Гипотеза H₀ о некоррелированности (независимости) величин X и Y принимается, так как знаки, введенные в ячейки G4:G5, согласуются с абсолютными значениями чисел в ячейках T и t_a или, что равнозначно, в ячейках E5 и H5.
4. Гипотеза H_0Z о некоррелированности (независимости) величин X и Z отвергается, так как знаки, введенные в ячейки G4:G5, так как они не согласуются с абсолютными значениями чисел в ячейках F4 и H4 или, что равнозначно, в ячейках F5 и H5.
5. Если же в первой части работы независимость X и Y обеспечивается способом, каким эмитировались выборки этих величин, то в двумерной выборке X и Z , исследуемой во второй части, это уже исключено.

    На  основе проделанной работы можно  утверждать, что программа регрессивного  анализа применяется для исследования регрессии Y по X и Z по X.   Таблица выводит также многие другие характеристики линейной регрессии, её коэффициенты, предсказание, результаты F-теста.