Модели нелинейной регрессии и область их применения

 

ВВЕДЕНИЕ

Во многих практических случаях  моделирование экономических зависимостей линейными уравнениями дает вполне удовлетворительный результат и  может использоваться для целей  анализа и прогнозирования. Однако в силу многообразия и сложности  экономических процессов ограничиваться лишь рассмотрением линейных регрессионных моделей невозможно. Многие экономические зависимости не являются линейными по своей сути, и поэтому их моделирование линейными уравнениями регрессии, безусловно, не даст положительного результата

В данной курсовой работе рассматриваются  нелинейные модели регрессии и линеаризация на примере влияния уровня инфляции (индекс потребительских цен) на количество безработных. Проблема рынка труда, занятости и безработицы являются одной из важнейших социально-экономических проблем нашего времени. Эконометрические исследования призваны выяснить, насколько тесно связаны между собой два этих показателя и по возможности определить и рассчитать возможные варианты развития при дальнейшем увеличении или снижении уровня потребительских цен (инфляции).

Цель работы: Изучить модели нелинейной регрессии и область их применения.

Задачи работы:

  1. Ознакомиться с понятиями линейной регрессии и видами нелинейных регрессий;
  2. Привести к линейному виду нелинейные модели с помощью линеаризации;
  3. Оценить качество полученных моделей и их адекватность;
  4. Проанализировать влияние уровня инфляции на количество безработных.

Предметом исследования является модели нелинейной регрессии.

Объект исследования – линеаризация нелинейных моделей.

  1. ТЕОРЕТИЧЕСКИЕ ОСНОВЫ МЕТОДОВ ПОСТРОЕНИЯ НЕЛИНЕЙНЫХ РЕГРЕССИОННЫХ МОДЕЛЕЙ

 

    1. Линейная регрессия и  виды нелинейных моделей регрессии.

 

Математические  модели широко применяются в бизнесе, экономике, общественных науках, исследовании экономической активности даже в  исследовании политических процессов.

Математические  модели полезны для более полного  понимания сущности происходящих процессов, их анализа. Модель, построенная и  верифицированная на основе (уже имеющихся) наблюденных значений объясняющих  переменных, может быть использована для прогноза значений зависимой  переменной в будущем или для  других наборов значений объясняющих  переменных.1

Простейшая модель регрессии  – линейная регрессия. Линейная регрессия  находит широкое применение в  эконометрике ввиду четкой экономической  интерпретации ее параметров.

Линейная регрессия сводится к нахождению уравнения вида

         или .        (1.1)

Уравнение вида позволяет по заданным значениям фактора находить теоретические значения результативного признака, подставляя в него фактические значения фактора .

Построение линейной регрессии  сводится к оценке ее параметров –  и . Классический подход к оцениванию параметров линейной регрессии основан на методе наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров и , при которых сумма квадратов отклонений фактических значений результативного признака от теоретических минимальна 2:

. (1. 2)

 

Во многих практических случаях  моделирование экономических зависимостей линейными уравнениями дает вполне удовлетворительный результат и  может использоваться для целей  анализа и прогнозирования. Однако в силу многообразия и сложности  экономических процессов ограничиваться лишь рассмотрением линейных регрессионных моделей невозможно. Многие экономические зависимости не являются линейными по своей сути, и поэтому их моделирование линейными уравнениями регрессии, безусловно, не даст положительного результата.3

Если между экономическими явлениями существуют нелинейные соотношения, то они выражаются с помощью соответствующих  нелинейных функций.

Различают два класса нелинейных регрессий:

  1. Регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам, например

– полиномы различных степеней –  ,

 ;

– равносторонняя гипербола – ;

– полулогарифмическая функция  – .

  1. Регрессии, нелинейные по оцениваемым параметрам, например

– степенная – ;

– показательная – ;

– экспоненциальная – .

Где – случайная ошибка, характеризующая отличие наблюдаемого значения от вычисленного.

При изучении зависимости  между двумя признаками графический  метод подбора вида уравнения  регрессии достаточно нагляден. Основные типы кривых используемые при количественной оценке связей, представлены на рис. 1.1.

   

                

 

                  

Рис. 1.1. Основные типы кривых, используемые при количественной оценке связей между переменными.

 

    1. Линеаризация и логарифмические преобразования

 

Нелинейная регрессия  по включенным переменным не имеет  никаких сложностей для оценки ее параметров. Они определяются, как и в линейной регрессии, методом наименьших квадратов. Параметры и определяются либо методом подстановки, либо методом определителей:

; ; ;

где - определитель системы;

 - частные определители для параметров .

Регрессии нелинейные по включенным переменным приводятся к линейному  виду простой заменой переменных (линеаризация), а дальнейшая оценка параметров производится с помощью метода наименьших квадратов. Рассмотрим некоторые функции.

Парабола второй степени  приводится к линейному виду с помощью замены: . В результате получим двухфакторное уравнению , оценка параметров которого при помощи МНК, приводит к системе следующих нормальных уравнений:

                                   (1.3)

А после обратной замены переменных получаем:

                                           (1.4)

Парабола второй степени обычно применяется в случаях, когда для определенного интервала значений фактора меняется характер связи рассматриваемых признаков: прямая связь меняется на обратную или обратная на прямую.

При и кривая симметрична относительно высшей точки, то есть точки перелома кривой, изменяющей направление связи, а именно рост на падение. Такого рода функцию можно наблюдать в экономике труда при изучении зависимостии заработной платы работников физического труда от взраста – с увеличением возраста повышается заработная плата в виду одновременного увеличения опыта и повышения квалификации работника. Однако с определенного возраста в виду старения организма и снижение производительности труда дальнейшее повышение возраста приводит к снижению заработной платы.

При  и парабола второго порядка симметрична относительно своей низшей точки, что позволяет определить минимум функции в точке, меняющей направление связи, то есть снижение на рост. Например, в зависимости от объема выпуска продукции затраты на производство характеризуются параболой второй степени.

Парабола второй степени  рассматривается для характеристики зависимости урожайности от количества внесенных удобрений. Так с увеличением  количества внесенных удобрений  урожайность растет лишь до достижения оптимальной дозы вносимых удобрений. Дальнейший рост их дозы оказывается  вредным для растения и урожайность  снижается.

Равносторонняя гипербола  приводится к линейному уравнению простой заменой: . Система линейных уравнений при применении МНК будет выглядеть следующим образом:

                                                                   (1.5)

Равносторонняя гипербола  используется для характеристики удельных расходов сырья, материалов, топлива  с объемом выпускаемой продукции, времени обращения товаров от величины товарооборота. Классическим примером является кривая Филлипса, характеризующая нелинейное соотношение между нормой безработицы и процентом прироста заработной платы.

Английский экономист  А.В. Филлипс установил обратную зависимость прироста заработной платы от уровня  безработицы. При , имеем обратную зависимость, которая при характеризуется минимальным предельным значением , оценкой которого служит параметр .

При имеем, медленно повышающуюся функцию при , то есть с максимальным предельным уровнем , оценку которого дает параметр .

Примером может служить  взаимосвязь доли расходов на товары длительного пользования и общих  сумм расходов (или доходов). Математическим описанием подобного рода взаимосвязей получило название кривых Энгеля.

Немецкий статистик Э. Энгель сформулировал закономерность – с ростом дохода доля доходов, расходуемых на продовольствие уменьшается. Соответственно с увеличением дохода доля доходов, расходуемых на непродовольственные товары будет возрастать.

Равносторонняя гипербола  не является единственно возможной функцией для описания кривой Энгеля. В 1943 г. Уоркинг и в 1964г. Лизер для этих целей использовали полулогарифмическую кривую.

Полулогарифмическая функция  и уравнение с квадратными корнями приводятся к линейному виду так же как и равносторонняя гипербола.

Уравнение с квадратными  корнями используется в исследованиях  урожайности, трудоемкости сельскохозяйственного  производства.

Несколько иначе обстоит  дело с регрессиями нелинейными  по оцениваемым параметрам, которые  делятся на два типа:

  1. нелинейные модели внутренне линейные (приводятся к линейному виду с помощью соответствующих преобразований, например, логарифмированием)
  2. нелинейные модели внутренне нелинейные (к линейному виду не приводятся).4

К внутренне линейным моделям  относятся:

- степенная функция – 

Линеаризация проводится логарифмированием, 

 ,                                                   (1.6)

Сделаем замены:

После этого  уравнение регрессии становится линейным:

;                                                        (1.7)

- показательная функция –

Линеаризация проводится логарифмированием, 

;                                                  (1.8)

Сделаем замены:

После этого  уравнение регрессии становится линейным:

;                                                        (1.9)

- экспоненциальная функция –

Линеаризация проводится логарифмированием, 

;                                                          (1.10)

Сделаем замены:

После этого  уравнение регрессии становится линейным:

;                                                      (1.11)

Затем пересчитываются исходные данные для фактора , когда коэффициенты регрессии будут найдены, возвращаемся назад к коэффициентам .

Линеаризация моделей  представлена в таблице 1.1.

                                                                                                   

 

 

  Таблица 1.1

Линеаризация моделей

Название функции

Вид модели

Заменяемые  переменные

Вид линеаризированной модели

Показательная

 

 

 

 

Степенная

 

 

 

Экспоненциальная

 

 

 

Гиперболическая

     

Логарифмическая

     

К внутренне нелинейным моделям  можно, отнести следующие модели: .

 

1.3. Оценка качества и адекватности  модели

 

Широкое использование степенной  функции связано с тем, что  параметр в ней имеет четкое экономическое истолкование – он является коэффициентом эластичности.

Коэффициент эластичности показывает, на сколько процентов измениться в среднем результат, если фактор изменится на 1%.

 Формула для расчета  коэффициента эластичности имеет  вид:

.    (1.12) Так как для остальных функций коэффициент эластичности не является постоянной величиной, а зависит от соответствующего значения фактора , то обычно рассчитывается средний коэффициент эластичности:

        .                        (1.13)

В таблице 1.2 приведены формулы для расчета средних коэффициентов эластичности для наиболее часто используемых типов уравнений регрессии. 5

Таблица 1.2

Формулы расчета коэффициентов  эластичности

Вид функции,

Первая производная,

Средний коэффициент эластичности,

Линейная

   

Парабола второго порядка 

   

Гипербола  

   

Показательная

   

Степенная

   

Полулогарифмическая

   

Логистическая

   

Обратная 

   

Несмотря на широкое использование  в эконометрике коэффициентов эластичности, возможны случаи, когда их расчет экономического смысла не имеет. Это происходит тогда, когда для рассматриваемых признаков бессмысленно определение изменения значений в процентах.

Оценка значимости уравнения  регрессии в целом производится на основе F-критерия Фишера, которому предшествует дисперсионный анализ. В эконометрике он применяется как вспомогательное средство для изучения качества регрессионной модели.

Согласно основной идее дисперсионного анализа, общая сумма квадратов  отклонений переменной от среднего значения раскладывается на две части «объясненную» и «необъясненную»:

                          (1.14)

где – общая сумма квадратов отклонений;

 – сумма квадратов отклонений, объясненная регрессией (или факторная сумма квадратов отклонений);

 – остаточная  сумма квадратов отклонений, характеризующая  влияние неучтенных в модели  факторов.6

Схема дисперсионного анализа  имеет вид, представленный в таблице 1.3 ( – число наблюдений, – число параметров при переменной ).

Таблица 1.3

Схема дисперсионного анализа

Компоненты дисперсии

Сумма квадратов

Число степеней свободы

Дисперсия на одну степень  свободы

Общая

     

Факторная

     

Остаточная

     




Определение дисперсии на одну степень свободы приводит дисперсии  к сравнимому виду. Сопоставляя факторную  и остаточную дисперсии в расчете  на одну степень свободы, получим  величину -критерия Фишера:

                    (1.15)

Фактическое значение -критерия Фишера (1.15) сравнивается с табличным значением при уровне значимости и степенях свободы и . При этом, если фактическое значение -критерия больше табличного, то признается статистическая значимость уравнения в целом.

Уравнение нелинейной регрессии, так же, как и в случае линейной зависимости, дополняется показателем  тесноты связи. В данном случае это  индекс корреляции:

(1.16) 

где – общая дисперсия результативного признака ,

  – остаточная дисперсия.

                                    (1.17)

Величина данного показателя находится в пределах:. Чем ближе значение индекса корреляции к единице, тем теснее связь рассматриваемых признаков, тем более надежно уравнение регрессии.7

Квадрат индекса корреляции носит название индекса детерминации и характеризует долю дисперсии  результативного признака , объясняемую регрессией, в общей дисперсии результативного признака:

                         (1.18)

Где – факторная дисперсия.

Индекс детерминации можно сравнивать с коэффициентом детерминации для обоснования возможности применения линейной функции. Чем больше кривизна линии регрессии, тем величина меньше . А близость этих показателей указывает на то, что нет необходимости усложнять форму уравнения регрессии и можно использовать линейную функцию.

Индекс детерминации используется для проверки существенности в целом  уравнения регрессии по -критерию Фишера:

,                                      (1.19)

где – индекс детерминации, – число наблюдений, – число параметров при переменной .

Фактическое значение - критерия (1.19) сравнивается с табличным при уровне значимости и числе степеней свободы (для остаточной суммы квадратов) и (для факторной суммы квадратов).

О качестве нелинейного уравнения  регрессии можно также судить и по средней ошибке аппроксимации, которая вычисляется по формуле:

                                  (1.20)

Ошибка аппроксимации лежит в пределах 8-10%, что свидетельствует о хорошем подборе модели к исходным данным.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

  1. НЕЛИНЕЙНАЯ РЕГРЕССИЯ И ЛИНЕАРИЗАЦИЯ НА ПРИМЕРЕ ВЛИЯНИЯ УРОВНЯ ИНФЛЯЦИИ НА КОЛИЧЕСТВО БЕЗРАБОТНЫХ 

 

Данные об уровне инфляции и количестве безработных с 1999 года по 2012 год включительно представлены в таблице 1.4.

Таблица 1.4

Исходные данные

Год

Индекс потребительских  цен (инфляция),

Число безработных, тыс. чел.,

1999

15,0

50,8

2000

4,6

47,7

2001

2,2

58,9

2002

1,5

68,1

2003

1,3

81,5

2004

1,6

79,1

2005

1,4

88,7

2006

1,3

72,1

2007

1,2

57,6

2008

1,2

45,2

2009

1,1

43,4

2010

1,1

40,3

2011

1,1

33,2

2012

1,1

27,6


Для того чтобы определить уравнение регрессии воспользуемся  графическим методом. Построим зависимость количества безработных от уровня инфляции рис. 1.2.

Рис 2.1. Зависимость количества безработных от уровня инфляции

Из графика поля корреляции невозможно точно определить, какую  функцию лучше использовать. В  связи с этим исследуем каждую нелинейную функцию по отдельности, чтобы определить какая из них подходит.

  1. Парабола второй степени

Уравнение приводится к линейному виду с помощью замены: . В результате получим двухфакторное уравнению

Найдем параметры уравнения  и методом наименьших квадратов:

 

Где – фактическое значение.

Для нахождения параметров и   рассчитываем частные производные по каждому из параметров и приравниваем их к нулю.

 

Проведя дифференцирование, получим следующую систему уравнений:

                                  

А после обратной замены переменных получаем:

                                          

Произведем расчеты в  программе Microsoft Excel и занесем полученные данные в таблицу 1.5.

Таблица 1.5

Расчетные данные

Год

Индекс потребительских  цен (инфляция),

Число безработных, тыс. чел.,

         

1

2

3

4

5

6

7

8

1999

15,0

50,8

225

3375

50625

762

11430

2000

4,6

47,7

21,16

97,336

447,7456

219,42

1009,332

2001

2,2

58,9

4,84

10,648

23,4256

129,58

285,076

2002

1,5

68,1

2,25

3,375

5,0625

102,15

153,225

               

Продолжение таблицы 1.5

1

2

3

4

5

6

7

8

2003

1,3

81,5

1,69

2,197

2,8561

105,95

137,735

2004

1,6

79,1

2,56

4,096

6,5536

126,56

202,496

2005

1,4

88,7

1,96

2,744

3,8416

124,18

173,852

2006

1,3

72,1

1,69

2,197

2,8561

93,73

121,849

2007

1,2

57,6

1,44

1,728

2,0736

69,12

82,944

2008

1,2

45,2

1,44

1,728

2,0736

54,24

65,088

2009

1,1

43,4

1,21

1,331

1,4641

47,74

52,514

2010

1,1

40,3

1,21

1,331

1,4641

44,33

48,763

2011

1,1

33,2

1,21

1,331

1,4641

36,52

40,172

2012

1,1

27,6

1,21

1,331

1,4641

30,36

33,396

Итого:

35,7

794,2

268,87

3506,373

51127,34

1945,88

13836,44

Среднее:

2,55

56,728

         

 

Параметры и определим методом определителей: ; ; .

 

 

 

 

 

Уравнение параболы второй степени примет вид:

 

Определим коэффициент эластичности по формуле из таблицы 1.2.

 

Коэффициент эластичности показывает, что с ростом инфляции на 1% число  безработных уменьшится в среднем  на 0,12%.

Рассчитаем индекс корреляции:

 

Величина данного показателя находится в границах , чем ближе к единице, тем теснее связь. Из полученного , делаем вывод об отсутствии связи рассматриваемых признаков.

Произведем оценку значимости уравнения регрессии на основе F-критерия Фишера.

 

Так как , то используемое уравнение регрессии ненадежно.

Рассчитаем среднюю ошибку аппроксимации:

 

Так как ошибка аппроксимации  должна быть в пределах 8-10%, то это свидетельствует о том, что данная модель не подходит к исходным данным.

    1. Полулогарифмическая функция 

Уравнение приводится к линейному  виду с помощью замены:.

В результате получим линейное уравнение 

Найдем параметры уравнения  и с помощью программы Microsoft Excel, а после обратной замены переменной получаем:

 

Определим коэффициент эластичности по формуле из таблицы 1.2.

 

Коэффициент эластичности показывает, что с ростом инфляции на 1% число  безработных увеличится в среднем на 0,08%.

Рассчитаем индекс корреляции:

 

Величина данного показателя находится в границах , чем ближе к единице, тем теснее связь. Так как , то это свидетельствует об слабой связи рассматриваемых признаков.

Произведем оценку значимости уравнения регрессии на основе F-критерия Фишера.

0,222

Так как , можно сделать вывод, что используемое уравнение регрессии ненадежно.

Рассчитаем среднюю ошибку аппроксимации:

 

Так как ошибка аппроксимации  должна быть в пределах 8-10%, то это свидетельствует о том, что данная модель не подходит к исходным данным.

    1. Равносторонняя гипербола

Уравнение приводится к линейному  виду с помощью замены:.

В результате получим линейное уравнение 

Найдем параметры уравнения  и с помощью программы Microsoft Excel, а после обратной замены переменной получаем:

 

Определим коэффициент эластичности по формуле из таблицы 1.2.

Модели нелинейной регрессии и область их применения