Построение и исследование регрессионных моделей

Содержание

Введение………………………………………………………………………….3

Исходные данные………………………………………………………………..3

Задание 1…………………………………………………………………………4

Задание 2…………………………………………………………………………5

Задание 3…………………………………………………………………………5

Задание 4…………………………………………………………………………8

Задание 5…………………………………………………………………………9

Задание 6………………………………………………………………………....12

Задание 7…………………………………………………………………………13

Задание 8…………………………………………………………………………14

Задание 9…………………………………………………………………………15

Задание 10………………………………………………………………………..15

Задание 11………………………………………………………………………..16

Задание 12………………………………………………………………………..17

Задание 13………………………………………………………………………..19

Задание 14………………………………………………………………………..29

Задание 15………………………………………………………………………..39

Задание 16………………………………………………………………………..39

Задание 17………………………………………………………………………..40

Заключение………………………………………………………………………42

Список литературы……………………………………………………………...43

 

 

 

 

 

 

 

 

Введение

Эконометрика – это самостоятельная научная дисциплина, которая с помощью математико-статических методов и современных информационных технологий занимается разработкой и исследованием математических моделей различных экономических объектов, путем обработки результатов экспериментальных наблюдений.

 Цель курсовой работы: практическое изучение и применение основных методов корреляционного и регрессионного анализа.

Данная курсовая работа предлагает исследовать автомобиль какой-либо зарубежной фирмы (в нашем  случае Volkswagen), в качестве исходных данных представлены следующие характеристики: расход горючего, мощность двигателя и масса автомобиля. При исследовании используются основные методы корреляционного и регрессионного анализа.

Исходные данные

Объект исследования: автомобильное производство ведущих зарубежных фирм.

Фирма	Номер в задании
Volkswagen	1
Ford	2
Masda	3
Datsun	4
Dodge	5
Chevrolet	6
Plymouth	7
Toyota	8

 

 

Цель исследования:  выявить, аналитически описать и обосновать зависимость расхода горючего от массы автомобиля и мощности его двигателя.

Регрессионные модели,  используемые в процессе выполнения работы:

Регрессионная модель	Номер в задании
y= 0+ 1x1+ 2x2+ 3x12+e	1
y= 0+ 1x1+ 2x2+ 3x22+e	2
y= 0+ 1x1+ 2x2+ 3x1x2+e	3
y= 0+ 1x1+ 2x2+ 3 +e	4
y= 0+ 1x1+ 2x2+ 3 +e	5

 

В этой таблице : y – расход горючего; x₁ – мощность двигателя; x₂ – масса автомобиля; _i, i=0, 1, 2, 3, – параметры регрессии, e – экспериментальная ошибка.

Задание 1

В соответствии с ниже приведенной таблицей  вариантов  заданий по назначенному Вам варианту задания определите фирму и регрессионную модель, подлежащие последующему исследованию.

Фирма	Модель
	1	2	3	4		5
1	1	2	3	4		5
2	6	7	8		9	10
3	11	12	13	14		15
4	16	17	18	19		20
5	21	22	23	24		25
6	26	27	28	29		30
7	31	32	33	34		35
8	36	37	38	39		40

 

Исходя из варианта задания, имеем для исследования фирму №1: Volkswagen и регрессионную модель №2: y= ₀+ ₁x₁+ ₂x₂+ ₃x₂²+e

Задание 2

Из прилагаемых к настоящим указаниям данных по зарубежным фирмам выделите относящиеся к Вашей фирме данные и систематизируйте их в форме таблицы

 

i	1	2	.  .  .	n
x1	x11	x12	.  .  .	x1n
x2	x21	x22	.  .  .	x2n
y	y1	y2	.  .  .	yn

 

Здесь: i – номер элемента  табличной выборки  (конкретной  модели автомобиля вашей фирмы);  n – объем выборки, индивидуальный для каждой фирмы; x_1i, x_2i, y_i – соответствующие табличные данные.  Принцип,  по которому осуществляется нумерация табличных данных, не существен и определяется вами самостоятельно.

Составим таблицу применительно к нашему случаю:

i	1	2	3	4	5	6	7	8	9	10
x1	48	71	71	76	48	48	62	74	74	52
x2	1985	1990	1925	2144	2085	2335	1845	2190	1980	2130
y	43.1	31.5	31.9	41.5	44.3	43.4	29.8	33	36	44

 

где x_1i, x_2i, y_i – соответственно мощность, масса и расход топлива для автомобилей Volkswagen различных моделей (n:=10).

Задание 3

Проверьте наличие зависимости  переменной y от аргументов x₁,x₂. Для упрощения анализа на начальном этапе исследования выявите наличие (или отсутствие) этой зависимости  отдельно по каждой экзогенной переменной  x₁ и x₂.  Соответствующий анализ проводится по следующей схеме.

На основании экспериментальных  данных находятся эмпирические коэффициенты корреляции и   эндогенной переменной  y с каждой из экзогенных переменных x₁ и x₂ :

=   , k=1,2.        (1)

Предположим, что на эндогенную переменную у влияют экзогенные переменные х1 и х2. Если у и х - гауссовские величины, то показателем тесноты их связи является коэффициент корреляции. Если он равен нулю, то гауссовские величины некоррелированы (независимы). При негауссовских величинах, если коэффициент корреляции равен нулю, величины могут оказаться зависимыми. Коэффициент корреляции используется как своеобразный индикатор связи и при негауссовских величинах, и в случае, если не известно с какими величинами мы имеем дело, как в данной работе.

   На практике истинное значение коэффициента корреляции вычислить не удается, т. к. неизвестна плотность вероятности f(x,y). Поэтому проводят эксперимент и по  полученным данным находят эмпирическую оценку коэффициента корреляции r.

Рассчитаем математическое ожидание и коэффициенты корреляции между эндогенной переменной у и экзогенными х1 и х2:

 

 

 

 

 

 

 

 

С помощью вычисленных эмпирических коэффициентов корреляции

находятся соответствующие значения случайной величины

g_k = ~ t(n-2),       k=1, 2.                                                       (2)

Определим эти значения:

 

 

Далее задаются доверительной вероятностью 1-a и по таблицам или с помощью Mathcad-программы находят  100a/2-процентную точку w_100a/2 распределения Стьюдента с n-2 степенями свободы.

Мы найдем 100a/2-процентную точку с помощью встроенной функции Mathcad:

    

 

 

Теперь нужно ввести 2 гипотезы:

• H0: величины хk и у некоррелированы      
• H1: величины хk и у коррелированны

 Если окажется, что при определенном k  g_k>w_100a/2, то с вероятностью a ошибиться гипотеза об отсутствии корреляционной связи величины y и соответствующей этому k экзогенной переменной отвергается как несоответствующая экспериментальным данным. При противоположном неравенстве с вероятностью 1-a считается справедливой гипотеза об отсутствии корреляционной связи эндогенной переменной и k-й экзогенной переменной как непротиворечащая экспериментальным данным.

Сравним значения g_k и w_100a/2 :

следовательно с вероятностью α ошибиться отвергаем гипотезу Н0 об отсутствии корреляционной связи между величиной у и экзогенной переменной х1 как несоответствующую экспериментальным данным

с вероятность (1-α) считаем справедливой гипотезу Н0 об отсутствии корреляционной связи между эндогенной величиной у и экзогенной переменной х2 как непротиворечащую экспериментальным данным

Иначе говоря, мы получили:

1. Гипотеза о корреляционной связи между расходом топлива (у) и мощностью двигателя (х1) отвергается (т. е. эти величины признаются некоррелированными). Этот вывод мы делаем с вероятностью a ошибиться. Тогда коэффициент корреляции r1 можно считать значимым.
2. Гипотеза о корреляционной связи между расходом топлива (у) и массой автомобиля принимается с вероятность 1-a правильности решения. Коэффициент корреляции r2 является незначимым.

Задание 4

Постройте доверительные  интервалы для истинных коэффициентов  корреляции r_yk, k=1, 2, воспользовавшись следующим определением:  с доверительной вероятностью 1-a выполняется

thc_k<r_yk£ thd_k,  k=1, 2,                                                                              (3)

где использованы обозначения

c_k, d_k = 0.5ln ± u_a/2 - ,                                              (4)

thb = –  гиперболический тангенс,

u_a/2 – a/2квантиль стандартного гауссовского распределения N(0, 1).

По имеющимся формулам и ранее полученным значениям  определим доверительные интервалы:

 

 

 

 

 

 

 

 

 

 

В итоге получаем доверительный интервал для истинного коэффициента корреляции r1: -0.911<r1<-0.05, и для r2: -0.1<r2<0.881 .

Задание 5

Пункты 3,4 задания выполните при учете совместного влияния на эндогенную переменную y обеих экзогенных переменных x₁ и x₂. С этой целью по подобной (1) формуле следует рассчитать эмпирический коэффициент корреляции между экзогенными переменными x₁ и x₂. Далее с использованием выражений

      ,                                            (5)

находятся частные эмпирические коэффициенты корреляции и эндогенной и экзогенных переменных,  учитывающие совместное воздействие экзогенных переменных на эндогенную переменную. Проверку гипотезы   H₀ о некоррелированности эндогенной и экзогенных переменных выполните с использованием статистики (2). Доверительные интервалы для истинных коэффициентов корреляции r_y1 и r_y2 находятся подобным (3), (4) образом, но в выражении (4) объем n выборки следует заменить на n-1. Сопоставьте результаты выполнения этого пункта с предыдущими результатами и дайте объяснение возникающим различиям в случае обнаружения таковых.

Выборочный коэффициент корреляции лишь приближенно определяет влияние  экзогенной переменной хi на эндогенную у. Этот коэффициент нужно очистить от влияния других экзогенных переменных: х1, х2..xi-1. xi+1..хn. В таком случае эти экзогенные переменные принято считать мешающими, а очищенный от влияния мешающих параметров выборочный коэффициент rxy принято называть частным коэффициентом корреляции.

Сначала рассчитаем эмпирический коэффициент корреляции между экзогенными переменными:

 

 

 

Затем определим частные  коэффициенты корреляции по формуле (5):

 

 

 

 

 

 

Далее по аналогии проверяем выполнимость гипотезы Н0, для чего проводим соответствующие вычисления:

 

 

 

Где gρ_k – соответствующие значения случайной величины, найденные с помощью частных коэффициентов корреляции. Их требуется сравнить с 100a/2-процентной точкой w_100a/2 распределения Стьюдента с n-2 степенями свободы, её значение было найдено раннее.

 

 

Таким образом, получаем, что:

1. С вероятностью a ошибиться, мы отвергаем гипотезу об отсутствии корреляционной связи между величинами у и х1. В этом случае частный коэффициент корреляции ρ1 считается значимым.
2. С вероятность 1-a правильности решения, принимаем гипотезу об отсутствии корреляционной связи между величинами у и х2. Частный коэффициент корреляции ρ2 считается незначимым.

И, наконец, найдем доверительные интервалы для истинных коэффициентов корреляции ρ1 и ρ2:

 

 

 

 

 

 

 

 

 

 

 

 

 

Для истинного частного коэффициента корреляции ρ1 получаем доверительный интервал вида: -0.92< ρ1<0.012, и для ρ2: -0.16< ρ2<0.894.

Сопоставляя результаты выполнения пункта 5 пунктов 3,4 можно выделить следующие моменты:

• Частные эмпирические коэффициенты корреляции и эмпирический коэффициент корреляции практически не отличаются:

  

 

Это можно объяснить слабой факторной связью (r12=-0,249)

• Гипотеза H0 о том, что величины хk и у некоррелированы, принимается идентично как для частных эмпирических коэффициентов корреляции ρ1 и ρ2, так и для эмпирических коэффициентов корреляции r1 и r2.

Задание 6

Используя метод наименьших квадратов, найдите МНК–оценки  вектора регрессионных параметров в соответствии с Вашим вариантом задания. В матрично-векторных обозначениях решение определяется соотношениями  

 

=(X^TX)^-1X^Ty,

                                                           

= , = , = .                          (6)

 

Функция  j(x₁,x₂) в составе матрицы определяется последним слагаемым в выражении регрессионной модели, соответствующей вашему варианту задания.

Реализуем приведенный  выше алгоритм:

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Задание 7

Используя выражение

= ,                                      (7)

где - i-я строка матрицы , m+1 – размерность вектора , определите величину , являющуюся мерой разброса экспериментальных данных y_i относительно значений, “предсказанных” регрессионной моделью (оценка дисперсии экспериментальных данных).

Результаты выполнения этого пункта таковы:

 

 

 

 

 

Задание 8

Вычислите коэффициент  детерминации K_d², соответствующий вашим экспериментальным данным, воспользовавшись определением

K_d²= ,                                                                                                                (8)

где использованы обозначения

y_i,     = [1  1  ...  1]^TÎRⁿ.

Прокомментируйте содержательный смысл этого коэффициента.

Коэффициент детерминации показывает, какая часть разброса эндогенной переменной относительно среднего значения определяется регрессионной составляющей, относительно того же среднего значения.

Если K_d² =0, то это означает, что экзогенные переменные меняются, а эндогенная переменная остается постоянной (т.е. эндогенная переменная вообще не зависит от экзогенной). Такая регрессионная модель считается составленной неверно, и её необходимо заблокировать. 

Если K_d² =1, то это означает, что регрессионная модель составлена так, что все модельные значения проходят точно через наблюдения. Такая модель оказывается плохой, в том смысле, что отслеживаются все случайные изменения вектора у и модель является неоправданно сложной.

Найдем этот коэффициент:

 

 

 

 

Мы получаем, что вариация экспериментальных данных на 80,6% объясняется разбросом регрессионной составляющей. А это говорит том, что расход горючего находится в достаточно тесной связи с экзогенными переменными с мощностью двигателя и массой автомобиля. На долю прочих факторов, не учтенных в нашей модели, приходится 19,4%. Данные результаты говорят о том, что регрессионная модель достаточно хорошо описывает исходные данные.

Задание 9

Подтвердите более тщательным образом наличие зависимости  рас-

хода топлива от мощности двигателя  и массы автомобиля. Для этого  следует найти величину

z = ~ F(m, n-m-1).                                                       (9)

Пусть w_100a – 100a% -я точка F-распределения с числом степеней свободы числителя m и знаменателя n-m-1. Тогда если окажется z< w_100a, то с вероятностью 1-a принимается гипотеза об отсутствии  связи между y и x₁, x₂. При противоположном неравенстве с вероятностью a ошибиться эта гипотеза отвергается. В пояснительной записке дайте подробную аргументацию этого решения.

т. о. с вероятностью α ошибиться принимается гипотеза о налмчии связи между переменными у и х1, х2

 

 

 

 

Задание 10

Воспользовавшись выражением

K = ,                                                                                      (10)

найдите ковариационную матрицу K ошибок оценок . Объясните смысл этой матрицы.

Ковариационная матрица  равна:

 

 

 

 

 

 

 

Элементы, стоящие на главной диагонали этой матрицы, представляют собой дисперсии ошибок оценивания, а остальные элементы – ковариации между этими ошибками. С помощью элементов ковариационной матрицы подсчитываются основные показатели случайного разброса оценок около соответствующих истинных значений анализируемых параметров и одновременно характеристики взаимозависимости полученных оценок.

Задание 11

Проверьте справедливость гипотезы a4=0 против альтернативы a4 0. Эту гипотезу с доверительной вероятностью 1-a следует признать, если

 

                                                                                 (11)

где ^{w_100a/2 –} 100a/2-процентная точка распределения Стьюдента с n-m-1 степенями свободы, K4,4 – соответствующий элемент матрицы K. При противоположном неравенстве эта гипотеза отвергается с вероятностью a ошибиться.

Выполним необходимые  расчеты:

 

 

Условие выполняется, а это значит, что гипотеза a4=0 признается с доверительной вероятностью 1-a. Также можно утверждать, что переменная х2 (масса автомобиля) оказывает незначительное влияние на переменную у (расход топлива).

Задание 12

Если принята гипотеза a4=0, следует надлежащим образом откорректировать регрессионную модель и заново провести расчеты в соответствии с пп. 6 – 10.

Гипотеза a4=0 была нами принята, следовательно, теперь нам необходимо откорректировать модель. С этой целью отбросим последнее слагаемое в модели.

Задание 12.6. Найдем МНК-оценки вектора регрессионных параметров.

 

 

 

 

 

 

 

 

 

 

Задание 12.7. Для новой модели и соответствующих ей характеристик определим величину _σ2, которая является мерой разброса экспериментальных данных  у относительно значений, "предсказанных" регрессионной моделью:

 

 

 

 

Следует отметить, что  σ1<σ2, а это значит, что качество откорректированной регрессионной модели уменьшилось.

Задание 12.8. Вычислим коэффициент детерминации:

 

 

Коэффициент детерминации используется для оценки качества регрессионной модели, чем ближе коэффициент детерминации к 1,тем лучше регрессия аппроксимирует эмпирические данные, тем теснее наблюдения примыкают к линии регрессии (т.е. тем точнее наша регрессионная модель).

- предыдущее значение.

Коэффициент детерминации уменьшился, а значит, и уменьшилась точность новой регрессионной модели.

Задание 12.9. Подтвердим более тщательным образом наличие зависимости расхода топлива от мощности двигателя и массы автомобиля.

 

 

Т. о. с вероятностью α ошибиться принимается гипотеза о наличии связи между переменными у и х1, х2

Задание 12.10. Найдем ковариационную матрицу K2 ошибок оценок а2k:

 

 

 

Сравнивая корреляционные матрицы ошибок K  и K2, видим, что что для всех МНК-оценок точность улучшилась.

Задание 13

Постройте (1-a)-доверительные интервалы для параметров ₂ и ₃ в уравнении регрессии. Соответствующие интервалы описываются выражением

_i + u_a/2 < _i £ _i - u_a/2 ,     i=1, 2.                                           (12)

где u_a/2  –   a/2-квантиль распределения Стьюдента с n-m-1 степенями свободы, величина находится по матрице K. Объясните смысл этого интервала.