Нелинейная регрессия
Министерства образования науки Республики Казахстан
Алматинская академия экономики и статистики
Информационно
– телекоммуникационный
центр г. Костанай
Специальность
5В050600 «Экономика»
КОНТРОЛЬНАЯ
РАБОТА
По
дисциплине: «Эконометрика
».
Выполнил (а): 1 курса группы № 1001 экономика
Проверил (а):Сахно А.Н
Старший
преподаватель
Костанай. 2011г.
Содержание:
1.Нахождение
параметров нелинейной
2.Коэфициент детерминации R2
3. Производственные функции, функции опроса.
4.Подбор эмпирических
формул.
1.Эконометрика — это раздел экономики, занимающийся разработкой и применением статистических методов для измерений взаимосвязей между экономическими переменными.
метод наименьших квадратов
Далеко не все задачи исследования взаимосвязей экономических переменных описываются обычной линейной регрессионной моделью. Во-первых, исходные данные могут не соответствовать тем или иным предпосылкам линейной регрессионной модели и требовать либо дополнительной обработки, либо иного модельного инструментария. Во-вторых, исследуемый процесс во многих случаях описывается не одним уравнением, а системой, где одни и те же переменные могут быть в одних случаях объясняющими, а в других - зависимыми. В-третьих, исследуемые взаимосвязи могут быть (и обычно являются) нелинейными, а процедура линеаризации не всегда легко осуществима и может приводить к искажениям. В-четвертых, структура описываемого процесса может обусловливать наличие различного рода связей между оцениваемыми коэффициентами регрессии, что также предполагает необходимость использования специальных методов.
Наиболее распространенным в практике статистического оценивания параметров уравнений регрессии является метод наименьших квадратов. Этот метод основан на ряде предпосылок относительно природы данных и результатов построения модели. Основные из них - это четкое разделение исходных переменных на зависимые и независимые, некоррелированность факторов, входящих в уравнения, линейность связи, отсутствие автокорреляции остатков, равенство их математических ожиданий нулю и постоянная дисперсия. Эмпирические данные не всегда обладают такими характеристиками, т.е. предпосылки МНК нарушаются. Применение этого метода в чистом виде может привести к таким нежелательным результатам, как смещение оцениваемых параметров, снижение их состоятельности, устойчивости, а в некоторых случаях может и вовсе не дать решения. Для смягчения нежелательных эффектов при построении регрессионных уравнений, повышения адекватности моделей существует ряд усовершенствований МНК, которые применяются для данных нестандартной природы.Одной из основных гипотез МНК является предположение о равенстве дисперсий отклонений еi, т.е. их разброс вокруг среднего (нулевого) значения ряда должен быть величиной стабильной. Это свойство называется гомоскедастичностью. На практике дисперсии отклонений достаточно часто неодинаковы, то есть наблюдается гетероскедастичность. Это может быть следствием разных причин. Например, возможны ошибки в исходных данных. Случайные неточности в исходной информации, такие как ошибки в порядке чисел, могут оказать ощутимое влияние на результаты. Часто больший разброс отклонений єi, наблюдается при больших значениях зависимой переменной (переменных). Если в данных содержится значительная ошибка, то, естественно, большим будет и отклонение модельного значения, рассчитанного по ошибочным данным. Для того, чтобы избавиться от этой ошибки нам нужно уменьшить вклад этих данных в результаты расчетов, задать для них меньший вес, чем для всех остальных. Эта идея реализована во взвешенном МНК.Пусть на первом этапе оценена линейная регрессионная модель с помощью обычного МНК. Предположим, что остатки еi независимы между собой, но имеют разные дисперсии (поскольку теоретические отклонения еi нельзя рассчитать, их обычно заменяют на фактические отклонения зависимой переменной от линии регрессии ^., для которых формулируются те же исходные требования, что и для єi). В этом случае квадратную матрицу ковариаций cov(ei, ej) можно представить в виде:
где cov(ei, ej)=0 при i № j; cov(ei, ej)=S2; п - длина рассматриваемого временного ряда.
Если величины известны, то далее можно применить взвешенный МНК, используя в качестве весов величины и минимизируя сумму
Формула Q, записана для парной регрессии; аналогичный вид она имеет и для множественной линейной регрессии. При использовании IVLS оценки параметров не только получаются несмещенными (они будут таковыми и для обычного МНК), но и более точными (имеют меньшую дисперсию), чем не взвешенные оценки.
Проблема заключается
в том, чтобы оценить величины
s2, поскольку заранее они обычно неизвестны.
Поэтому, используя на первом этапе обычный
МНК, нужно попробовать выяснить причину
и характер различий дисперсий еi. Для
экономических данных, например, величина
средней ошибки может быть пропорциональна
абсолютному значению независимой переменной.
Это можно проверить статистически и включить
в расчет МНК веса, равные .Существуют
специальные критерии и процедуры проверки
равенства дисперсий отклонений. Например,
можно рассмотреть частное от деления
cумм самых больших и самых маленьких квадратов
отклонений, которое должно иметь распределение
Фишера в случае гомоскедастичности.
Нелинейная регрессия
На практике
часто встречается ситуация, когда
априорно известен нелинейный характер
зависимости между объясняемыми
и объясняющими переменными. В этом
случае функция f в уравнении у=(а,х) нелинейна
(а - вектор параметров функции, которые
нам нужно оценить). Например, вид зависимости
между ценой и количеством товара в той
же модели спроса и предложения: она не
всегда предполагается линейной, как в
нашем примере. Нелинейную функцию можно
преобразовать в линейную, как это было
сделано, например, логарифмированием
с функцией Кобба-Дугласа. Однако не все
функции поддаются такой непосредственной
линеаризации. Любую дифференцируемую
нужное число раз функцию можно разложить
в функциональный ряд и затем оценить
регрессию объясняемой переменной с членами
этого ряда. Тем не менее такое разложение
всегда осуществляется в окрестности
определенной точки, и лишь в этой окрестности
достаточно точно аппроксимирует оцениваемую
функцию. В то же время оценить зависимость
требуется обычно на более или менее значительном
интервале, а не только в окрестности некоторой
точки. При линеаризации функции или разложении
её в ряд с целью оценки регрессии возникают
и другие проблемы: искажение отклонений
ей нарушение их первоначальных свойств,
статистическая зависимость членов ряда
между собой. Например, если оценивается
формула, полученная путем линеаризации
или разложения в ряд, то независимые переменные
х и х2 связаны между собой даже не статистически,
но функционально. Если исходная ошибка
е здесь связана с переменной х, то добавление
х2 приводит к появлению (с соответствующими
коэффициентами) квадрата этой переменной
и её удвоенного произведения с х, что
искажает исходные предпосылки модели.
Поэтому во многих случаях актуальна непосредственная
оценка нелинейной формулы регрессии.
Для этого можно воспользоваться нелинейным
МНК. Идея МНК основана на том, чтобы минимизировать
сумму квадратов отклонений расчетных
значений от эмпирических, т.е. нужно оценить
параметры о функции f(a,x) таким образом,
чтобы ошибки еi= уi-f(а,х), точнее - их квадраты,
по совокупности были минимальными. Для
этого нужно решить задачу минимизации.
Для решения этой задачи существует два
пути. Во-первых, может быть осуществлена
непосредственная минимизация функции
F с помощью методов нелинейной оптимизации,
позволяющих находить экстремумы выпуклых
линий. Это, например, метод наискорейшего
спуска, при использовании которого в
некоторой исходной точке определяется
антиградиент (направление наиболее быстрого
убывания) функции F. Далее находится минимум
F при движении в данном направлении, и
в точке этого минимума снова определяется
градиент. Процедура повторяется до тех
пор, пока разница значений f на двух последовательных
шагах не окажется меньше заданной малой
величины. Другой путь состоит в решении
системы нелинейных уравнений, которая
получается из необходимых условий экстремума
функции F. Эти условия - равенство нулю
частных производных функции F по каждому
из параметров аj., т.е.
Faj = 0,
j =1,..,m. Получается система уравнений
-2S (yi-f(a,xi))*fai'(a,xi) = 0, j = 1,..,m(4.2)
нелинейность
которой обусловлена
2. Коэффициент детерминации (R2)— это доля объяснённой дисперсии отклонений зависимой переменной от её среднего значения. Зависимая переменная объясняется (прогнозируется) с помощью функции от объясняющих переменных. В частном случае R2 является квадратом коэффициента корреляции между зависимой переменной и её прогнозными значениями с помощью объясняющих переменных. Тогда можно сказать, что R2 показывает, какая доля дисперсии результативного признака объясняется влиянием объясняющих переменных.
Формула для вычисления коэффициента детерминации:
где yi — наблюдаемое значение зависимой переменной, а fi — значение зависимой переменной предсказанное по уравнению регрессии - среднее арифметическое зависимой переменной. Содержание [убрать]
1 Проблемы и общие свойства R2
1.1 Интерпретация
1.2 Общие свойства для МНК регрессии
1.3 Общие свойства для МНК регрессии со свободным членом (единичным фактором)
1.4 Мнимая регрессия
2 Решение проблем или модификации R2
2.1 R2-скорректированный (adjusted)
2.2 R2-распространённый (extended)
2.3 R2-истинный (несмещённый)
[Иногда показателям тесноты связи можно дать качественную оценку (шкала Чеддока):Количественная мера тесноты связи Качественная характеристика силы связи
0,1 - 0,3 Слабая
0,3 - 0,5 Умеренная
0,5 - 0,7 Заметная
0,7 - 0,9 Высокая
0,9 - 0,99 Весьма высокая
Функциональная связь возникает при значении равном 1, а отсутствие связи — 0. При значениях показателей тесноты связи меньше 0,7 величина коэффициента детерминации всегда будет ниже 50 %. Это означает, что на долю вариации факторных признаков приходится меньшая часть по сравнению с остальными неучтенными в модели факторами, влияющими на изменение результативного показателя. Построенные при таких условиях регрессионные модели имеют низкое практическое значение.
[править]
Общие свойства для МНК регрессии
Линейная множественная регрессия методом наименьших квадратов (МНК) - наиболее распространённый случай использования коэффициента детерминации R2.
Линейная множественная МНК регрессия имеет следующие общие свойства [1]:
Чем ближе значение к 1 тем ближе модель к эмпирическим наблюдениям.
С увеличением количества объясняющих переменных увеличивается R2.
[править]
Общие свойства для МНК регрессии со свободным членом (единичным фактором)
Для случая наличия в такой регрессии свободного члена коэффициент детерминации обладает следующими свойствами: [2]
принимает значения из интервала (отрезка) [0;1].
в случае парной линейной регрессионной МНК модели коэффициент детерминации равен квадрату коэффициента корреляции, то есть R2 = r2. А в случае множественной МНК регрессии R2 = r(y;f)2. Также это квадрат корреляции Пирсона между двумя переменными. Он выражает количество дисперсии, общей между двумя переменными.[3]
R2 можно разложить
по вкладу каждого фактора
в значение R2, причём вклад каждого
такого фактора будет
Значения R2, , также могут быть манипулированы, с помощью включения фиктивных факторов. Например, если два показателя имеют возрастающую динамику, то их коэффициент корреляции (который входит в факторное разложение) будет достаточно высок. Поэтому логическая и смысловая адекватность модели имеют первостепенную важность. Только качество модели может быль проверено или сопоставлено с использованием R2 и его модификаций.
[править]
Решение проблем или модификации R2
[править]
R2-скорректированный (adjusted)
Для того, чтобы исследователи не увеличивали R2 с помощью добавления посторонних факторов, R2 заменяется на скорректированный , который даёт штраф за дополнительно включённые факторы, где n - количество наблюдений, а k - количество объясняющих переменных, включая свободный член.}
[править]
R2-распространённый (extended)
В случае отсутствия в линейной множественной МНК регрессии свободного члена все четыре вышеперечисленных свойства могут нарушаться для конкретной реализации. Поэтому регрессию со свободным членом и без него нельзя сравнивать по критерию R2. Эта проблема решается с помощью построения распространённого коэффициента детерминации , который будет совпадать с исходным для случая МНК регрессии со свободным членом, и для которого будут продолжать выполняться четыре свойства перечисленые выше. Суть этого метода заключается рассмотрении проекции единичного вектора на плоскость объясняющих переменных [2].
Для случая регрессии без свободного члена:
,
где X - матрица nxk значений факторов, P(X) = X * (X' * X) ? 1 * X' - проектор на плоскость X, , где in - единичный вектор nx1.
с условием небольшой модификации, также подходит для сравнения между собой регрессий построенных с помощью: МНК, обобщённого метода наименьших квадратов (ОМНК), условного метода наименьших квадратов (УМНК), обобщённо-условного метода наименьших квадратов (ОУМНК).
[править]
R2-истинный (несмещённый)
AIC - информационный
критерий Акаике - применяется исключительно
для сравнения между моделями.
Чем меньше значение тем лучше.
. Даёт меньший штраф за включение лишних лагов в модель, чем BIC.
BIC - информационный
критерий Шварца - используется и
интерпретируется аналогично AIC.
3.Теория производства изучает, прежде всего, соотношение между количеством применяемых ресурсов и объемом выпуска. Методологически теория производства во многом схожа с теорией потребления, однако с тем отличием, что основные ее категории имеют не субъективно-психологическую основу, а объективную природу и могут быть квантифицированы, т.е. измерены в определенных единицах.
Для того чтобы описать поведение фирмы, необходимо знать, какое количество продукта она может произвести, используя ресурсы в тех или иных объемах.
Исходным пунктом такого анализа служит производственная функция. Она была разработана в 1890 году английским математиком А. Берри, помогавшим А. Маршаллу при подготовке математического приложения к работе «Принципы экономической науки». Маршалл А. Принципы экономической науки. М., 1993, с.137.
Производственная функция - функция, описывающая зависимость количества продукта, которое может произвести фирма, от объемов затраченных ресурсов.
Производственная функция во многом похожа на функцию полезности, в теории потребления. Это объясняется тем, что по отношению к ресурсам фирма является потребителем и производственная функция характеризует именно эту сторону производства - производство как потребление.
Производственной функции присущи наиболее общие свойства функции полезности. Производственная функция описывает множество технически эффективных способов производства (технологий). Каждая технология характеризуется определенной комбинацией ресурсов, необходимых для получения единицы продукции. Хотя производственные функции различны для разных видов производств, все они обладают общими свойствами.
1. Существует предел увеличения объема производства, который может быть достигнут увеличением затрат одного ресурса при прочих равных условиях. Это значит, что на фирме при данном количестве станков и производственных помещений есть предел увеличения производства посредством привлечения большего количества рабочих. Прирост выпуска при увеличении численности занятых будет приближаться к нулю.
2. Существует
определенная
3. Способ производства
А считается технически более
эффективным, по сравнению со
способом Б, если он
4. Если способ
А предполагает использование
одних ресурсов в большем, а
других - в меньшем количестве, чем
способ Б, эти способы
Техническая эффективность
- это максимально возможный
Экономическая
эффективность - это производство данного
объема продукции с минимальными издержками.
В теории производства традиционно используются двухфакторная производственная функция, в которой объем производства, является функцией использования ресурсов труда и капитала
Q = f (L, K)
Графически каждый
способ производства (технология) может
быть представлен точкой, характеризующей
минимально необходимый набор двух факторов,
нужных для производства данного объема
продукции . Если соединить разные технологии
линией, получится изображение производственной
функции (линии равного выпуска), которая
получила название изокванты. На рисунке
показано, что объем производства Q может
быть достигнут при разных комбинациях
факторов производства (Т1,Т2,Т3, и т.д.).
Верхняя часть изокванты отражает капиталоемкие,
нижняя - трудоемкие технологии.
Карта изоквант-
это совокупность изоквант, отражающих
максимально достижимый уровень
выпускаемой продукции при
где MPL - предельный
продукт труда (изменение совокупного
продукта фирмы в результате изменения
количества труда на 1 ед.);
MPK - предельный
продукт капитала (изменение совокупного
продукта фирмы в результате изменения
использования капитала на 1 ед.).
Возможности замещения факторов предопределены особенностями технологии. В зависимости от значений MRTSLK можно выделить несколько типов производственной функции.
K K
0 L 0 L
А) для функции
Q = aK + bL Б) для функции Q = min(L/C1; К/C2)
Где Q- объем производства
Где С-
К- капитал С-
L- труд
а- константа
b- константа
K K
0 L 0 L
В) для функции Q = AKA LB Г) для функции Q = e0(e1L -B e2K-B)*h/B
В случае идеальной
взаимозаменяемости факторов (А), когда
один из них может быть полностью
заменен другим, т.е. производство может
осуществляться при помощи одного фактора
(продажа мороженного через
Виды производственных
функций. Производственная функция (ПФ)
выражает зависимость результата производства
от затрат ресурсов. При описании экономики
(точнее, ее производственной подсистемы)
с помощью ПФ эта подсистема рассматривается
как «черный ящик», на вход которого поступают
ресурсы R1, ..., Rn, а на выходе получается
результат в виде годовых объемов производства
различных видов продукции Х1, ..., Хm . В
качестве ресурсов (факторов производства)
на макроуровне наиболее часто рассматриваются
накопленный труд в форме производственных
фондов (капитал) К и настоящий (живой)
труд L, а в качестве результата - валовой
выпуск Х (либо валовой внутренний продукт
Y, либо национальный доход N). Во всех случаях
результат коротко будем называть выпуском
и обозначать X, хотя это может быть и валовой
выпуск, и ВВП, и национальный доход. Остановимся
несколько подробнее на обосновании состава
фактора К. Накопленный прошлый труд проявляется
в основных и оборотных, производственных
и непроизводственных фондах. Выбор того
или иного состава K определяется целью
исследования, а также характером развития
производственной и непроизводственной
сфер в изучаемый период. Если в этот период
в непроизводственную сферу вкладывается
примерно постоянная доля вновь созданной
стоимости и непроизводственная сфера
оказывает на производство примерно одинаковое
влияние, это служит основанием напрямую
учитывать в ПФ только производственные
фонды.
Но производственные фонды состоят из основных и оборотных производственных фондов. Если соотношение между этими составными частями производственных фондов примерно постоянное в течение всего изучаемого периода, то достаточно напрямую учитывать в ПФ только основные производственные фонды. Если изучаемый период достаточно продолжителен и однороден по влиянию на производство указанных выше составных частей, следует испробовать все варианты включения их в модель (от всех вместе до какого-то одного из них). Чтобы не вдаваться в детали, далее будем К называть фондами.
Таким образом, экономика замещается своей моделью в форме нелинейной ПФ
Х= F(K, L) [2.1]
т.е. выпуск (продукции) есть функция от затрат ресурсов (фондов и труда).
Теперь рассмотрим
экономическую интерпретацию
Производственная функция Х= F(K, L) называется неоклассической, если она является гладкой и удовлетворяет следующим условиям, поддающимся естественной экономической интерпретации:
F(0, L) = F(K, 0) = 0
- при отсутствии одного из ресурсов производство невозможно;
- с увеличением
ресурсов скорость роста
f(+, L) = F(K, +) = +
- при неограниченном увеличении одного из ресурсов выпуск неограниченно растет.
Мультипликативная ПФ задается выражением
a1>0 a2>0
где А -- коэффициент нейтрального технического прогресса; а1, a2 -коэффициенты эластичности по труду и фондам.
Таким образом, ПФ обладает свойством 1, адекватным реальной экономике: при отсутствии одного из ресурсов производство невозможно. Частным случаем этой функции служит функция Кобба-Дугласа
Где a1=a, a2=1-a [2.2]
Мультипликативная ПФ определяется по временному ряду выпусков и затрат ресурсов (Хt, Кt, Lt,), t= 1, ..., Т, где T- длина временного ряда, при этом предполагается, что имеет место Т соотношений
где t -- корректировочный случайный коэффициент, который приводит в соответствие фактический и расчетный выпуск и отражает флюктуацию результата под воздействием других факторов, Мt = 1. Поскольку в логарифмах эта функция линейна:

- Нелинейное программирование. Метод Хука-Дживса
- Нелинейные волны солитоны
- Нелинейные диэлектрики и их свойства
- Нелинейные радиолокаторы
- Нелинейные явления в оптическом волокне
- Немала біографічна преамбула й аналіз деяких праць Ф. Ніцше
- Немарксисткие модели социализма
- Нелегальный рынок труда
- Нелегитимные политические технологии и методы борьбы с ними
- Нелепые законы мира
- Нелетающие птицы
- Нелинейная архитектура
- Нелинейная наука и нелинейное мышление
- Нелинейная наука и нелинейное мышление