Построение и анализ модель множественной регрессии

Задача 1. Построение и анализ модель множественной регрессии

По исходным данным требуется:

1. Построить классическую линейную модель множественной регрессии, выполнить экономический анализ основных показателей модели: коэффициентов «чистой» регрессии, индекса корреляции, индекса детерминации, оценить значимость модели в целом (F-критерий Фишера) и отдельных ее параметров (t-статистика Стьюдента).

2. Проанализировать матрицу парных коэффициентов корреляции на наличие мультиколлинеарности. Если мультиколлинеарность присутствует - устранить (или ослабить) ее методом пошагового отбора переменных.

3. Построить линейную модель регрессии только со значимыми факторами (на основании выводов, сделанных в п.п. 1 и 2). Дать экономическую интерпретацию коэффициентов модели. Оценить качество построенной модели (индексы корреляции и детерминации, F-критерий Фишера, средняя относительная ошибка аппроксимации). Дайте оценку влияния значимых факторов на результат с помощью коэффициентов эластичности, β- и Δ- коэффициентов.

4. Построитьипроанализировать линейную модель парной регрессии с наиболее значимым фактором. Сравнить качество моделей, построенных в п.п. 3 и 4.

5. Осуществить прогнозирование (точечный прогноз и доверительный интервал прогноза) среднего значения показателя Y при уровне значимости a = 0,1 при условии, что прогнозное значения фактора X составит 80% от его максимального значения (для однофакторной модели).

6. Представить графически: фактические и модельные значения, точечный прогноз и доверительный интервал прогноза (для однофакторной модели).

Примечание. Выполнение задач отразить в аналитической записке, приложить компьютерные распечатки расчетов.

По территориям  Сибирского федерального округа имеются  данные за 20XX г. о значениях экономических показателей:

y – инвестиции в экономику, млрд. руб.,

x₁– среднегодовая численность занятых в экономике, млн. чел.,

x₂ – валовой региональный продукт, млрд. руб.,

x₃ – инвестиции прошлого года в экономику, млрд. руб.

Решение:

1. Построение уравнения множественной регрессии и оценка ее параметров

Коэффициенты  уравнения множественной регрессии оцениваются, как и коэффициенты парной регрессии, методом наименьших квадратов (МНК). Классический подход к оцениванию коэффициентов уравнения регрессии основан на методе наименьших квадратов (МНК).

Система нормальных уравнений VYRимеет вид:

Sy = ma₀  + а₁Sx1 +  а₂Sx2 + а₃Sx3

Syx1 = a₀Sx1  + а₁S(x1)² + а₂Sx1*х2 + а₃S х1*x3

Syx2 = a₀Sx2  + а₁Sx1*х2 + а₂S (х2)² + а₃S х2*x3

Syx3 = a₀Sx3  + а₁Sx1*х3 + а₂Sх2*х3 + а₃S (х3)²

Величины  Sy, Sx1, Syx1, S(x1)², Sx2, Syx2, S(x2)², Syх1*x2, Sx3, Syx3, S(x3)²,Sx1*х3, Sx2*х3находятся непосредственно по данным производственных измерений, которые заданы в таблице промежуточных вычислений.   

Для исходной задачи система нормальных уравнений примет вид:

93,1  = 12 * а₀ + 8,683 * а₁ + 509,1 * а₂ + 62,5*а₃

97,6819= 8,683 * а₀ +  8,83939 * а₁ + 542,727 * а₂ + 64,18 * а₃

6675,92 = 509,1 * а₀ +  542,727 * а₁ + 37180,3 * а₂ + 4203,43 * а₃

782,422 = 62,5 * а₀ +  64,18 * а₁ + 4203,43 * а₂ + 504,734 * а₃

Для построения уравнения линейной регрессии используем функцию «Сервис. Анализ данных. Регрессия» (рис 1).

Задав соответствующие  диапазоны данных в окне,

получим набор таблиц А, Б, В.

Таблица А –  регрессионный анализ

Таблица Б –  дисперсионный анализ

Таблица В

Из таблицы  В следует, что уравнение регрессии  имеет вид:

У = -0,0131 –3,71269*х1 + 0,087542*х2+1,294828*х3

Выполнен экономический анализ основных показателей модели: коэффициентов «чистой» регрессии, индекса корреляции, индекса детерминации, оценить значимость модели в целом (F-критерий Фишера) и отдельных ее параметров (t-статистика Стьюдента).

Коэффициент детерминации (индекс детерминации) можно определить из табл. А:

R²_{ух1,х2,….} = 0,966059

Очевидно, что  связь между факторами (х1, х2, х3) и  результатом (У) прямая и сильная. Величина R²= 0,966059 показывает долю изменения (вариации) результативного признака под действием факторного признака. Т.е. доля изменения (вариации) результативного признака под воздействием факторного признака равна  96,61 %

Коэффициент множественной корреляции (индекс корреляции) можно определить из табл. А:

R_{ух1,х2,….} =

Проверка значимости уравнения регрессии основана на использовании F-критерии Фишера. Фактическое значение критерия берется из таблицы Б, т. е.

Fфакт = 75,90049

Табличные зачения  составляют

F(0,05)=3,443357   F(0,01)= 5,71902.

Откуда следует, что уравнение регрессии значимо как при α = 0,05, так и при α = 0,01.

Оценим значимость отдельных параметров построенной  модели. Из таблицы 1 видно, что на уровне значимости α = 0,05 все включенные в модель факторы являются значимыми: Р – значение< 0,05.

Границы доверительного интервала для коэффициентов  регрессии не содержат противоречивых результатов:

2. Проанализирована матрица парных коэффициентов корреляции на наличие мультиколлинеарности. Если мультиколлинеарность присутствует - устранить (или ослабить) ее методом пошагового отбора переменных.

Построим корреляционную матрицу, используя функцию «Сервис. Анализ данных.Корреляция» табличного процессора MS Excel.

Из матрицы  следует, что наблюдается некоторая  коллинеарность между факторами x2 и x3  (так как r x2x3 = 0,928676) и факторами х1 и х3 (r x1x3 = 0,885602). Таким образом, далее будет строиться регрессия y на факторы x2, х3.

3. Построена линейная модель регрессии только со значимыми факторами (на основании выводов, сделанных в п.п. 1 и 2).

Для построения уравнения линейной регрессии используем функцию «Сервис. Анализ данных. Регрессия» (рис 3).

Задав соответствующие  диапазоны данных в окне,

получим набор  таблиц А, Б, В.

Таблица А –  регрессионный анализ

Таблица Б –  дисперсионный анализ

Таблица В

Из таблицы  В следует, что уравнение регрессии  имеет вид:

У = -0,70149 + 0,069869*х2+1,05516*х3

Дана экономическая интерпретация  коэффициентов модели. Оценить качество построенной модели (индексы корреляции и детерминации, F-критерий Фишера, средняя относительная ошибка аппроксимации). Дана оценка влияния значимых факторов на результат с помощью коэффициентов эластичности, β- и Δ- коэффициентов.

Коэффициент детерминации (индекс детерминации) можно определить из табл. А:

R²_{ух1,х2,….} = 0,952963

Очевидно, что  связь между факторами (х2, х3) и результатом (У) прямая и сильная. Величина R²= 0,952963 показывает долю изменения (вариации) результативного признака под действием факторного признака. Т.е. доля изменения (вариации) результативного признака под воздействием факторного признака равна  95,3 %

Коэффициент множественной  корреляции (индекс корреляции) можно  определить из табл. А:

R_{ух1,х2,….} =

Проверка значимости уравнения регрессии основана на использовании F-критерии Фишера. Фактическое значение критерия берется из таблицы Б, т. е.

Fфакт = 91,16845

Так как 4,0617= = 91,16845 то уравнение модели регрессии статистически значимо на 95% уровне значимости. Таким образом, связь У с включенным в модель факторами Х2, Х3 существенна.Откуда следует, что уравнение регрессии значимо и при α = 0,05, и α = 0,01.

Уровень точности модели характеризует  степень отклонения в среднем  фактических значений результативной переменнойУ от ее значений, полученных по модели регрессии (предсказанных). Для оценки уровня точности используются различные ошибки:  средняя относительная, стандартная и другие.

Cтандартная ошибка модели выводится в таблице Аотчета по регрессионному анализу.

Точность модели тем лучше, чем меньше ее стандартная  ошибка (это же имеет место и  при использовании для оценки уровня точности других видов ошибок). Однако, понятие «чем меньше» является относительным и зависит от порядка чисел, представляющих данные задачи. Поэтому модель считается точной, если  стандартная ошибка модели меньше стандартной ошибки (среднеквадратического отклонения) результативного признака Y = 6,936787091. Для нашего примера это условие выполняется

При оценке уровня точности модели на основе средней относительной ошибки, необходимо рассчитать величину = * 4,574059 * 100% = 38,117%,которая показывает, на сколько процентов в среднем фактические значения результативного признака отличаются от рассчитанных по модели (предсказанных). Уровень точности модели считается достаточным, если . В нашем случае уровень точности модели можно оценить как неудовлетворительный.

Учитывая, что коэффициенты регрессии невозможно использовать для непосредственной оценки влияния  факторов на зависимую переменную из-за различия единиц измерения и разной колеблемости факторов, используем коэффициенты эластичности,  бета-коэффициенты, дельта-коэффициенты.

Эластичность: 

где – коэффициент регрессии, стоящий перед фактором в уравнении регрессии.Средние значения переменных легко найти с помощью статистической функции Excel СРЗНАЧ.

Коэффициент эластичности показывает, на сколько процентов изменяется зависимая переменная при изменении фактора на один процент.

Э(х2) = 0,069869* = 0,3820656

Э (х3) = 1,05516*  = 0,70835

Бета-коэффициенты: 

где , – среднеквадратические отклонения (стандартные ошибки) соответствующих переменных, которые легко находить с помощью статистической функции СТАНДОТКЛОН.

Бета-коэффициент с математической точки зрения показывает, на какую часть величины среднеквадратического отклонения (СКО) меняется среднее значение зависимой переменной с изменением независимой переменной на одно среднеквадратическое отклонение при фиксированном на постоянном уровне значении остальных независимых переменных.

b (х2) = 0,069869* = 0,3790854

b (х3) = 1,05516*  = 0,613972

Вывод: при изменении каждого из факторов на одно СКО результат У меняется соответственно на 0,3790854 (прямая связь с фактором х2), и на0,613972 своего СКО (прямая связь со вторым фактором х3).

Долю влияния  конкретного фактора в суммарном  влиянии всех факторов можно оценить по величине дельта-коэффициентов: 

где – коэффициенты парной корреляции (в силу мультиколлинеарности факторов, воспользуемся коэффициентами частной корреляции) – коэффициент детерминации.

∆_Х2 = 0,949267 * = 0,377615

∆_Х3 = 0,96602 * = 0,622384

Общий вывод: наибольшее влияние наУ оказывает фактор х3

4. Построена и проанализирована линейная модель парной регрессии с наиболее значимым фактором. Сравнить качество моделей, построенных в п.п. 3 и 4.

Значения коэффициентов  а = (а₀, а₁), при которых достигается минимум, называются оценками метода наименьших квадратов.

Система нормальных уравнений имеет вид:

Sy = m a₀  + а₁Sx3

Syx3 = a₀Sx3  +а₁Sx3²

Величины  Sy, Sx3, Syx3, Sx3² находятся непосредственно по данным производственных измерений, которые заданы в таблице промежуточных вычислений. 

Для исходной задачи система нормальных уравнений примет вид:

93,1= 12 * а₀ + 62,5 * а₁

782,422 = 62,5 * а₀ + 504,7336 * а₁

Для построения уравнения линейной регрессии используем функцию «Сервис. Анализ данных. Регрессия» (рис 1).

Задав соответствующие  диапазоны данных в окне,

получим набор  таблиц А, Б, В.

Таблица А –  регрессионный анализ

Таблица Б –  дисперсионный анализ

Таблица В

Из таблицы  В следует, что уравнение регрессии  имеет вид:

У = -0,8884583 + 1,660183994*х3 

Сравним качество моделей, построенных ранее

В нашем случае индекс множественной дисперсии  равен наибольшее значения принимает для модели множественной регрессии с полным набором факторов (0,982883). Чем больше значение индекса множественной корреляции (коэффициента детерминации), тем больше роль в изменении результирующей переменной у  тех факторов, которые учтены в модели, т.е. тем лучше линейная модель отражает исходные данные.  В то время как линейная модель отражает исходные данные только на 98,9%.

Очевидно, что  только для модели парной регрессии показателей У и Х3 значение F факт = 139,6873³F_табл = 4,459, т.е. данное уравнение регрессии с вероятностью 0,95 в целом статистически значимо, т.е. принимается гипотеза о неслучайной природе выявленной зависимости и статистической значимости параметров уравнения и показателя тесноты связи. Для остальных моделей F факт несколько ниже, хотя все построенные уравнения регрессии с вероятностью 0,95 в целом статистически незначимы, т.е. гипотеза о неслучайной природе выявленной зависимости и статистической значимости параметров уравнения и показателя тесноты связи не принимается.

5. Осуществлено прогнозирование (точечный прогноз и доверительный интервал прогноза) среднего значения показателя Y при уровне значимости a = 0,1 при условии, что прогнозное значения фактора X составит 80% от его максимального значения (для однофакторной модели).

1) точечный прогноз фактора:

Х3 прогноз = 12,43 * 0,8 = 9,944

2) точечный прогноз (ТП)  показателя  Y:

У = -0,8884583 + 1,660183994*х3=

=  -0,8884583 + 1,6601833994 * 9,944 = 15,62

3) интервальный  прогноз показателя Y:

Вначале находят ошибку прогнозирования