Модель линейной регрессии

Переменные:

Зависимая: у – цена автомобилей бизнес-класса, тыс. руб.

Независимые:

Х₁ – год выпуска автомобиля

Х₂ – объём багажника, л

Х₃ – тип кузова автомобиля       1, универсал

                                                            0, седан  

Х₄ – коробка переключения передач       1, МКПП

                                                                             0, АКПП

Х₅ – объём двигателя, см³

Х₆ – комплектация автомобиля      1, максимальная комплектация

                                                                  0, не максимальная комплектация

Х₇ – тип привода     1, 4WD

                                     0, задний привод

Х₈ – пробег по России   1, есть пробег

                                              0, нет пробега

Х₉ – техническое состояние автомобиля    1, отличное

                                                                                0, удовлетворительное

Х₁₀ – максимальный расход топлива на 100 км, л

1 этап: Оценка взаимосвязей.

Строим матрицу парных коэффициентов корреляции:

Цена y (зависимая переменная):

1. Х₁ (r_yх1=0,96) => r_yх1>0,7
2. Х₂ (r_yx2 = 0,80) => r_yx2 >0,7
3. Х₃ (r_yx3 = 0,81) => r_yx3>0,7
4. X₄ (r_yx4 = 0,85) => r_yx4>0,7               - тесная связь
5. X₅ (r_yx5 = 0,93) => r_yx5>0,7
6. X₆ (r_yx6 = 0,83) => r_yx6>0,7
7. X₇ (r_yx7 = 0,83)=> r_yx7> 0,7
8. X₈ (r_yx8 = -0,09)=> r_yx8 <0,5 – слабая связь

Вывод: из матрицы видно, что с зависимой переменной (y) тесно связаны переменные: год выпуска автомобиля, объём багажника, тип кузова, КПП, объём двигателя, комплектация а/м, тип привода, техническое состояние а/м и максимальный расход топлива на 100км; такая переменная, как пробег автомобиля по России слабо связана с ценой автомобиля бизнес-класса.

2) Строим первую модель, используя все независимые переменные:

Результаты расчётов:

1-я модель (по всем переменным): F = 169,96, R²=0,98

Полученная на первой итерации модель имеет вид:

 y  = -36918,85 + 18,58x₁ + 0,02x₂ + (-22,12х₃) + (-55,41х₄) + 0,05х₅ + 8,82х₆ +17,44х₇ + (-17,48х₈) + 137,18х₉

                ^{(t = -5,60)       (t=5,63)      (t=0,35)          (t= - 0,80)          (t = -2,30)       (t = 6,92)     (t = 0,31)     (t = 0,62)        (t = -1,58)          (t=3,35)}

  + 6,06х₁₀

     ^{(t = 0,95)}

• Найдём критическую точку  t_кр. = t (α, n-k) , где уровень значимости α= 1-0,95=0,05, которая зависит от числа степеней свободы, равного (n-k) = 50-11 = 39, где n=50 – число наблюдений, k= 10+1=11 – число оцененных параметров модели (10 независимых переменных (Х_i) и 1 зависимая переменная (у)).

                                                      t_кр = 2,02

Оценка значимости коэффициентов  регрессии:

Вывод: по результатам расчётов мы видим, что всего 5 коэффициентов (4 независимых и 1 зависимый-свободный коэффициент) из 11 считаются статистически значимыми с вероятностью 95%, а остальные 6 являются статистически не значимыми.

Верификация модели:

а) Однофакторный дисперсионный  анализ:

С помощью Критерия Фишера проверим гипотезу: Но: b₁=b₂=….=b₁₀=0 (гипотеза об отсутствии линейной функциональной связи).

• Найдём критическое значение критерия:

Fкр. = F (α; k-1; n-k) = F (0,05; 11-1; 50-11) = F (0,05;10;39) = 2,084

Вывод: из полученных расчётов наблюдаемое значение F_о = 169 € d₁, следовательно, гипотеза Н_о отклоняется, принимается гипотеза Н₁,т.е. линейная функциональная связь между ценой автомобиля бизнес-класса и десятью независимыми переменными существует.

• Коэффициент детерминации R₂ = 0,98*100% = 98%,это значит, что общая вариация (изменчивость) цены на автомобиль бизнес-класса на 98% объясняется изменчивостью десятью независимых переменных (х_i). Значение коэффициента детерминации очень высокое, что свидетельствует о хорошем качестве подгонки.

Вывод по модели:

• Оценивания полученную модель по всем критериям, можно сказать, что её использование для построения прогноза непригодно, т.к. из 11 коэффициентов регрессии 6 являются статистические не значимыми, несмотря на хорошие результаты по F-статистике.
• По данной модели можно сделать вывод, что здесь присутствует эффект мультиколлинеарности факторов: большинство t-статистик по абсолютной величине меньше критического значения при высоком значении F-статистики.
• Также, если изучить значения парных коэффициентов корреляции между независимыми переменными, то мы видим, что тесная связь наблюдается между: годом выпуска автомобиля и объёмом двигателя (r_x1x5 = 0,88) , годом выпуска и максимальной комплектацией автомобиля (r_x1x6 = 0,75), годом выпуска и техническим состоянием автомобиля (r_x1x9 = 0,76); объёмом багажника и типом кузова (r_x2x3 = 0,65), КПП и типом привода(r_x4x7=0,88),КПП и максимальным расходом топлива на 100 км (r_x4x10 = 0,74).

1. х₁: х₅ (r_x1x5 = 0,88)

r_yx1 = 0,96                         0,96>0,93 => x₅(искл.)               

r_yx5 = 0,93

2. Х₁:х₆ (r_x1x6 = 0,75)

                 r_yx1 = 0,96                       0,96>0,83 =>   х₆(искл.) 

                  r_yx6 = 0,83  

3. Х₁:X₉ (r_x1x9 = 0,76)

r_yx1 = 0,96                           0,96>0,85 =>  x₉(искл.) 

r_yx9= 0,85     

4. Х₂:Х₃ (r_x2x3 = 0,65)

r_yx2= 0,80                      0,80<0,81=> X₂(искл.)

r_yx3=0,81

5. Х_4:Х₇ (r_x4x7=0,88)

r_yx4=0,85                        0,85>0,83 => x₇(искл.)         

r_yx7=0,83

6. Х₄:х₁₀ (r_x4x10 = 0,74)

r_yx4=0,85                      0,85<0,90=> Х₄(искл.)    

                 r_yx10 = 0,90

3) Перейдём к построению второй модели:

Исключим из первой модели следующие переменные: х₂,х₄,х₅,х₆,х₇,х₉ (для устранения эффекта мультиколлинеарности факторов).

2-я модель (исключаем х₂,х₄,х₅,х₆,х₇,х₉): F=175,19 ,R²=0,94

• Полученная на второй итерации модель имеет вид:

y = -60496,71+30,33х₁ + 64,84х₃ +  10,07х₈ + 34,22х₁₀

            ^{(t=-7,81)          (t=7,82)        (t=2,64)      (t=0,66)          (t=4,33)}

• Вычислим t_кр.= (0,05;50-5),где 5-оцененных параметров (4 независимых и 1 зависимая).

                               t_кр.= 2,01

Оценка значимости коэффициентов  регрессии:

Вывод: на данной этапе мы имеем 4 значимых коэффициента регрессии из 5 с вероятностью 95%. При этом значении F-статистики выросло до 175,19,но значение коэффициента детерминации осталось на прежнем уровне R²=0,94.

4) Перейдём к построению  третьей модели:

  Для этого исключим из второй модели следующую переменную: Х₈. Включаем из первой модели в нашу модель Х₁, Х₃, Х₁₀, возвращаем следующие переменные: Х₄ (т.к. r_yx4 = 0,85 –высокий уровень), Х₅ (т.к. r_yx5 = 0,93–высокий уровень), Х₆ (r_yx6 = 0,83–высокий уровень), Х₇ (r_yx7 = 0,83–высокий уровень), Х₉ (r_yx9 = 0,85–высокий уровень).

3-я модель (исключаем Х₈,возвращаем Х_4, Х_5, Х_6, Х_7,Х₉): F=206,38, R²=0,98

• Полученная на третьей итерации модель имеет вид:

y = -39991,58 + 20,11Х₁ + (-11,10Х₃) + (-53,56Х₄) + 0,05Х₅ + 9,89Х₆ + 15,93Х₇ + 124,61Х₉ + 7,14Х₁₀

               ^{(t=-6,39)         (t=6,42)               (t=-0,41)               (t=-2,23)        (t=6,76)         (t=0,34)        (t=0,55)            (t=3,07)          (t=1,11)}

• Вычислим t_кр. = (0,05; 50-9),где 9 – оцененных параметров (8 независимых и 1 зависимая).

                                 t_кр. = 2,02         

Оценка значимости коэффициентов  регрессии:

Вывод: на данной этапе мы уже имеем 5 значимых коэффициентов регрессии из 9 с вероятностью 95%. Значение F-статистики выросло до 206,38, значение коэффициента детерминации осталось на прежнем уровне R²=0,98.

5) Перейдём к построению четвёртой модели:

   Для этого из третьей  модели исключим следующие переменные: Х₆, Х₇, Х₁₀ (т.к. не значимые переменные). Включаем в модель: Х₁,Х₄,Х₅,Х₉, возвращаем из первой модели Х₂ (r_yx2=0,80-высокий уровень), оставляем Х₃ (посмотреть, как будет себя вести переменная в этой модели).

4-я модель (исключаем Х₆, Х₇, Х₁₀, возвращаем Х_2, Х₃): F=278,99, R²=0,98

• Полученная на четвёртой итерации модель имеет вид:

y = -40409,32 + 20,32Х₁ + 0,06Х₂ + (-12,10Х₃) + (-59,46Х₄) + 0,05Х₅ + 158,72Х₉

              ^{(t=-6,34)              (t=6,37)       (t=0,94)           (t=-0,45)              (t=-2,57)          (t=8,05)           (t=5,65)}

• Вычислим t_кр.=(0,05;50-7),где 7-оцененных параметров(6 независимых и 1 зависимая).

                                t_кр.= 2,02

Оценка значимости коэффициентов  регрессии:

Вывод: на данной этапе имеем 5 значимых коэффициентов регрессии из 7 с вероятностью 95%. Значение F-статистики выросло до 278,99, значение коэффициента детерминации осталось на прежнем уровне R²=0,98.