Корреляционно регрессивный анализ

Оглавление

 

Задание 1

Переменные X и Y приняли  следующие значения:

 

Данные из приложения в таблице 1 (по двум последним цифрам зачетной книжки)

 

1. Без использования вычислительной техники найдите значение r(Y,X) выборочного коэффициента корреляции между этими переменными. Методом наименьших квадратов подберите модель линейной (непропорциональной) связи между этими переменными, считая переменную Y объясняемой, а переменную X объясняющей.

2. Получите разложение  полной суммы квадратов на  остаточную и объясненную подобранной  моделью суммы квадратов.

3. Вычислите коэффициент  детерминации R2.

4. Вычислите коэффициент  корреляции r (Y,Y*) между переменной Y и переменной Y*, значения которой заменяют значения переменной Y согласно оцененной модели ("выровненные" значения).

5. Сравните полученные  значения r(Y,X) и r(Y,Y*); объясните полученный  результат.

6. Методом наименьших квадратов подберите модель пропорциональной связи между переменными X и Y. Как следует вычислять коэффициент детерминации d в этом случае?

Решение:

Таблица исходных данных (Таблица 1):

 

Таблица 1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Найдем уравнение линейной связи между переменными Х  и Y вида Ỳ= a+bX.

Искать параметры данного линейного уравнения будем, используя метод наименьших квадратов. Для этого решим систему уравнений:

na+b∑X=∑Y,

a∑X+b∑X²=∑YX

 

Составим расчетную таблицу (Таблица 2).

Таблица 2

Расчетная таблица

 

16a+332,9b=219,2,

332,9a+7049,31b=4644,5

Решив систему уравнений, получим:

a= -0,48

b=0,68

Тогда получим линейное уравнение: Ỳ= -0,48+0,68Х

Вычислим коэффициент  корреляции:

r(Y,X)=b*(σ_x/σ_y) = 0,68*(2,77/2,08)=0,9056

Коэффициент корреляции показывает, что связь между переменными  Х и Y прямая и очень тесная.

Полная сумма квадратов отклонений равна:

Sy=∑(y-ycp)²=68,90

Получим разложение полной суммы квадратов на остаточную и  объясненную:

Sy=Sфакт + Sε, 

где

Sфакт = ∑(ỳ-ycp)²- объясненная сумма квадратов

Sε=∑(y-ỳ)^{2 —} остаточная сумма квадратов

 

Расчет выполним в Таблице 3:

Таблица 3

 

Sy=3093,88+43,12 = 3137,00

Вычислим коэффициент  детерминации:

R²=r²(Y,X)=0,9931²=0,9863 или 98,63%

Коэффициент детерминации показывает, что вариация Y на 98,63% объясняется  вариацией фактора Х и лишь на 1,37% вариацией других факторов, не учтенных в линейной модели.

Вычислим коэффициент  корреляции r (Y,Ŷ) между переменной Y и переменной Ŷ:

r (Y,Ŷ)=√Var(Ŷ)/Var(Y)=√193,37/196,06 = 0,9931

Таким образом, r (Y,Ŷ)=r (Y,Х).

При достаточно сильно выраженной линейной связи между переменными x и y, что соответствует значению R², близкому к 1, оказывается близким к 1 и коэффициент корреляции между переменными Y и Ŷ.

 

Методом наименьших квадратов  подберем модель пропорциональной связи  между переменными X и Y (необходимые  промежуточные вычисления см. Таблица 4):

 

Таблица 4

 

 

 

 

 

 

 

 

 

 

 

 

 

Y*=βX 

β=∑yx/∑x²=157641/70919=2,22

Тогда, Y*=2,22X — уравнение  линейной пропорциональной связи.

 

Вычислим коэффициент  детерминации:

d=1-∑(y-y*)²/∑y²=1-6752,59/357162=0,9811 или 98,11%

Коэффициент детерминации показывает, что вариация Y на 98,11% объясняется вариацией фактора Х и лишь на 1,89% вариацией других факторов, не учтенных в линейной пропорциональной модели.

 

 

Задание 2

Используя данные задания №1, найти:

 

1. β-коэффициент

 

2. Коэффициент эластичности

 

3. Коэффициент значимости F Фишера и сравните его с табличным значением при уровне значимости α = 0,05.

 

4. Коэффициент t критерия  Стьюдента и сравните его с  табличным значением при α  = 0,05.

 

5. Среднюю относительную  ошибку ε.

 

Сделать выводы по найденным  значениям.

 

Решение:

Все расчеты выполним для линейной непропорциональной модели Ỳ= 89,55+0,91X.

Здесь β=0,91, т. е. при изменении (возрастании/убывании) переменной Х на 1 единицу, Y аналогично изменяется (возрастает/убывает) на 0,91 единиц.

Вычислим коэффициент эластичности:

Э= b*x_cp/y_cp= 0,91*64,81/148,75 = 0,398

Коэффициент эластичности показывает, что с изменением переменной Х на 1%, Y изменяется на 0,398%.

Коэффициент значимости F Фишера:

F=(R²/(1-R²))*(n-m-1)/m=(0,9863/(1-0,9863))*(16-2)=1004,51

Fтабл = 4,60 при уровне значимости α = 0,05.

 

Т.к. Fфакт больше Fтабл, то параметры нашего уравнения с вероятностью 95% статистически значимы.

Коэффициент t критерия Стьюдента:

Определим случайные  ошибки:

m_b=√(∑(y-ŷ)²/(n-2))/∑(x-xcp)²=√(43,12/14)/3708,44=0,0288

m_a= √(∑(y-ŷ)²/(n-2))*(∑x²/n∑(x-xcp)²)=√(43,12/14)*(70919/16*3708,44)=1,92

m_r=√(1-r²_xy)/(n-2) =√(1-0,9863)/(16-2)=0,0313

Теперь вычислим  t критерий:

t_b=b/m_b=0,91/0,0288=31,69

t_a=a/m_a= 89,55/1,92 = 46,67

t_r=r/m_r=0,9931/0,0313 = 31,69

tтабл=2,14 при α = 0,05.

 

Так как tтабл < t_b,  tтабл < t_a,  tтабл < t_r, то b, a и r_xy не случайно отличаются от нуля и статистически значимы.

Вычислим среднюю ошибку ε:

ε=(1/n)*∑(|y-ŷ|/y)*100% = 0,93%

В среднем расчетные  значения отличаются от фактических  на 0,93%, что не превышает допустимых пределов.

Таким образом, сделанные  вычисления показали, что построенная  линейная модель статистически значима  и очень хорошо подходит для описания зависимости между переменными  X и Y.

 

Задание 3

6. Анализ линейной  статистической связи экономических данных, корреляция; вычисление коэффициентов корреляции, проверка их значимости

 

Для двух переменных коэффициент парной корреляции определяется следующим образом:

 

=       ,       (1)                         

 

где          - оценки дисперсий величин .

 

Дисперсия (оценка дисперсии)

 

                                                                           

характеризуют степень  разброса значений   ( )  вокруг своего среднего    ( , соответственно), или вариабельность  (изменчивость) этих переменных на множестве наблюдений.

В общем случае для получения несмещенной оценки дисперсии сумму квадратов следует делить на число степеней свободы оценки (n−p), где n - объем выборки, p - число наложенных на выборку связей. В данном случае p = 1, т.к. выборка уже использовалась один раз для определения среднего X, поэтому число наложенных связей равно единице, а число степеней свободы оценки (т.е. число независимых элементов выборки) равно (n −1).

Более естественно  измерять степень разброса значений переменных в тех же единицах, в которых измеряется и сама переменная. Эту задачу решает показатель, называемый среднеквадратическим отклонением или стандартным отклонением, или  стандартной ошибкой  переменной Х (переменной Y), определяемый соотношением:

 

                                                                               

 

Слагаемые в числителе  формулы (1) выражают взаимодействие двух переменных и определяют знак (положительной  или отрицательной) корреляции. Если, например, между переменными существует сильная положительная взаимосвязь (увеличение одной переменной при увеличении второй), каждое слагаемое будет положительным числом. Аналогично, если между переменными существует сильная отрицательная взаимосвязь, все слагаемые в числителе будут отрицательными числами, что в результате дает отрицательное значение корреляции.

Знаменатель выражения для коэффициента корреляции просто нормирует числитель  таким образом, что коэффициент  корреляции оказывается легко интерпретируемым числом, не имеющим размерности,  в диапазоне от -1 до 1.

Числитель выражения для коэффициента корреляции, который трудно интерпретировать из-за необычных единиц измерения, называется ковариацией Х и Y. Несмотря на то, что иногда он используется как самостоятельная характеристика (например, в теории финансов для описания совместного изменения курсов акций на двух биржах), удобнее пользоваться коэффициентом корреляции. Корреляция и ковариация представляют, по сути, одну и ту же информацию, однако корреляция представляет эту информацию в более удобной форме.

Следует отметить, что  величина коэффициента корреляции не является доказательством наличия  причинно-следственной связи между  исследуемыми признаками, а является оценкой степени взаимной согласованности в изменениях признаков. Установлению причинно-следственной зависимости предшествует анализ качественной природы явлений. Но есть и еще одно обстоятельство, объясняющее формулировку выводов о возможном наличии связи по величине коэффициента корреляции.

Связано это с тем, что оценка степени тесноты связи с помощью коэффициента корреляции производится, как правило, на основе более или менее ограниченной информации об изучаемом явлении. Возникает вопрос, насколько правомерно наше заключение по выборочным данным в отношении действительного наличия корреляционной связи в той генеральной совокупности, из которой была произведена выборка?

Принципиально возможны случаи, когда отклонение от нуля полученной величины выборочного коэффициента корреляции оказывается целиком, обусловленным  неизбежными случайными колебаниями  тех выборочных данных, на основании  которых он вычислен. Особенно осторожно следует подходить к истолкованию полученных коэффициентов корреляции при незначительных объемах выборочной совокупности.

В этой связи и возникает  необходимость оценки существенности линейного коэффициента корреляции, дающая возможность распространить выводы по результатам выборки на генеральную совокупность. В зависимости от объема выборочной совокупности предлагаются различные методы оценки существенности линейного коэффициента корреляции.

Оценка значимости коэффициента корреляции при малых объемах выборки выполняется с использованием  t-критерия Стьюдента. При этом фактическое (наблюдаемое) значение этого критерия определяется по формуле:

 

                                                                            

 

Вычисленное по этой формуле значение t_набл сравнивается с критическим значением t-критерия, которое берется из таблицы значений t Стьюдента с учетом заданного уровня значимости и числа степеней свободы (n-2).

Если t_набл > t_кр, то полученное значение коэффициента корреляции признается значимым (то есть нулевая гипотеза, утверждающая равенство нулю генерального коэффициента корреляции, отвергается). И таким образом делается вывод о том, что между исследуемыми переменными  есть тесная статистическая взаимосвязь.

Удобным графическим  средством анализа парных данных является  диаграмма рассеяния, которая  представляет каждое наблюдение в пространстве двух измерений, соответствующих двум факторам.

Диаграмму рассеяния, на которой изображается совокупность значений двух признаков, называют еще корреляционным полем. Каждая точка этой диаграммы имеет координаты X_i   и Y_i. По мере того, как возрастает сила линейной связи, точки на графике будут лежать более близко к прямой линии, а величина r будет ближе к 1.

 

28. Регрессионные модели с переменной структурой (фиктивные переменные).

 

Термин «фиктивные переменные» используется как противоположность «значащим» переменным, показывающим уровень количественного показателя, принимающего значения из непрерывного интервала. Как правило, фиктивная переменная – это индикаторная переменная, отражающая качественную характеристику. Это могут быть разного рода атрибутивные признаки, такие, например, как профессия, пол, образование, климатические условия, принадлежность к определенному региону. Чтобы ввести такие переменные в регрессионную модель, им должны быть присвоены те или иные цифровые метки, т. е. качественные переменные преобразованы в количественные. Такого вида сконструированные переменные в эконометрике принято называть фиктивными переменными. В литературе можно встретить термины «структурные переменные» или «искусственные переменные»

Например, в результате опроса группы людей 0 может означать, что опрашиваемый – мужчина, а 1 – женщина. К фиктивным переменным иногда относят регрессор, состоящий из одних единиц (т.е. константу, свободный член), а также временной тренд.

В регрессионных моделях  с временными рядами используется три  основных вида фиктивных переменных:

1) Переменные-индикаторы  принадлежности наблюдения к  определенному периоду – для моделирования скачкообразных структурных сдвигов. Границы периода (моменты «скачков») должны быть установлены из априорных соображений. Например, 1, если наблюдение принадлежит периоду 1941-45 гг. и 0 в противном случае. Это пример использования для моделирования временного структурного сдвига.  Постоянный структурный сдвиг моделируется переменной равной 0 до определенного момента времени и 1 для всех наблюдений после этого момента времени.

2) Сезонные переменные – для моделирования сезонности. Сезонные переменные принимают разные значения в зависимости от того, какому месяцу или кварталу года или какому дню недели соответствует наблюдение.

3) Линейный временной  тренд  - для моделирования постепенных плавных структурных сдвигов. Эта фиктивная переменная показывает, какой промежуток времени прошел от некоторого «нулевого» момента времени до того момента, к которому относится данное наблюдение (координаты данного наблюдения на временной шкале). Если промежутки времени между последовательными наблюдениями одинаковы, то временной тренд можно составить из номеров наблюдений.

Временной тренд отличается от бинарных фиктивных переменных тем, что имеет смысл использовать его степени: t² , t³ и т. д. Они помогают моделировать гладкий, но нелинейный тренд. (Бинарную переменную нет смысла возводить в степень, потому что в результате получится та же самая переменная.)

Можно также комбинировать  указанные виды фиктивных переменных, создавая переменные «взаимодействия» соответствующих эффектов.

 Комбинация рассмотренных фиктивных переменных позволяет моделировать еще один эффект – изменение наклона тренда с определенного момента. Помимо тренда в регрессию следует тогда ввести следующую переменную: в начале выборки до некоторого момента времени она равна 0, а вторая ее часть представляет собой временной тренд (1, 2, 3 и т. д. в случае одинаковых интервалов между наблюдениями).

Использование фиктивных  переменных имеет следующие преимущества:

1) Интервалы между наблюдениями не обязательно должны быть одинаковыми. В выборке могут быть пропущенные наблюдения.

2) Коэффициенты при фиктивных переменных легко интерпретировать, они наглядно представляют структуру динамического процесса.

3) Для оценивания модели не приходится выходить за рамки классического метода наименьших квадратов.

Пример.  Требуется построить регрессионную модель  зависимости заработной платы работника (Y) от возраста (Х)  с использованием фиктивной переменной по фактору  пол по 20 работникам одного предприятия (табл. 5).

 

Таблица 5

 

№	Y – заработная плата работника за месяц ($)	X - возраст работника  (лет)	Z – пол, М/Ж
1	300	29	Ж
2	400	40	М
3	300	36	Ж
4	320	32	Ж
5	200	23	М
6	350	45	Ж
7	350	38	Ж
8	400	40	М
9	380	50	М
10	400	47	М
11	250	28	Ж
12	350	30	М
13	200	25	М
14	400	48	М
15	220	30	Ж
16	320	40	М
17	390	40	М
18	360	38	М
19	260	29	Ж
20	250	25	М

 

 

Введем в модель фиктивную  переменную Z, которая принимает два значения: 1 – если пол мужской; 0 – если пол женский.  Оценим параметры модели методом наименьших квадратов. Для вычислений воспользуемся Пакетом анализа в EXCEL. Уравнение множественной регрессии примет вид:

                                  .

Коэффициент детерминации равен 0,74.

Уравнение регрессии значимо по F-критерию на 5% уровне, так как

Из полученного уравнения  регрессии следует, что при одном  и том же возрасте заработная плата  у работников мужчин на 17,27$  в  месяц выше, чем у женщин.

Из модели, включающей фиктивную переменную можно получить частные уравнения регрессии для работников мужчин (z=1) и женщин (z=0):

 

 

 

Сопоставляя частные  уравнения регрессии, видим, что  эти уравнения регрессии отличаются значениями свободного члена, а соответствующие  линии регрессии параллельны (рис. 1).  График частного  уравнения регрессии для мужчин будет располагаться выше, чем график частного  уравнения регрессии для женщин.

 

 

 

 

Рис. 1. График частных уравнений регрессии.

 

Использованная литература

 

1. Елисеева И.И., «Эконометрика» - М., Финансы, 2007

2. Магнус Я.Р., Катышев  П.К., Персецкий А.А., «Эконометрика» - М., ДЕЛО, 2003.

3. Новак Э. «Введение  в методы эконометрики» - М., 2008.

4. Орлова И.В. Эконометрика: Конспект лекций. – М.: ВЗФЭИ, 2007.