Слайд 2
Множественная регрессия
Эконометрика - Alexander Hollay
Парная регрессия может дать
хороший результат при моделировании, если влиянием других факторов, воздействующих
на объект исследования, можно пренебречь. Если же этим влиянием пренебречь нельзя, то в этом случае следует попытаться выявить влияние других факторов, введя их в модель, т.е. построить уравнение множественной регрессии.
Слайд 3
Множественная регрессия
Эконометрика - Alexander Hollay
Слайд 4
Множественная регрессия. Применение
Эконометрика - Alexander Hollay
Множественная регрессия широко
используется в решении проблем спроса, доходности акций, при изучении
функции издержек производства, в макроэкономических расчетах и целом ряде других вопросов эконометрики. В настоящее время множественная регрессия – один из наиболее распространенных методов в эконометрике. Основная цель множественной регрессии – построить модель с большим числом факторов, определив при этом влияние каждого из них в отдельности, а также совокупное их воздействие на моделируемый показатель.
Слайд 5
Спецификация модели. Отбор факторов при построении
уравнения множественной регрессии
Эконометрика
- Alexander Hollay
Слайд 6
Построение уравнения множественной регрессии
Эконометрика - Alexander Hollay
Построение
уравнения множественной регрессии начинается с решения вопроса о спецификации
модели. Он включает в себя два круга вопросов:
отбор факторов,
выбор вида уравнения регрессии.
Слайд 7
Построение уравнения множественной регрессии
Эконометрика - Alexander Hollay
Включение
в уравнение множественной регрессии того или иного набора факторов
связано прежде всего с представлением исследователя о природе взаимосвязи моделируемого показателя с другими экономическими явлениями.
Слайд 8
Построение уравнения множественной регрессии. Требования к факторам.
Эконометрика -
Alexander Hollay
Факторы, включаемые во множественную регрессию, должны отвечать следующим
требованиям.
1. Они должны быть количественно измеримы. Если необходимо включить в модель качественный фактор, не имеющий количественного измерения, то ему нужно придать количественную определенность.
2. Факторы не должны быть интеркоррелированы и тем более находиться в точной функциональной связи.
Слайд 9
Интеркоррелированность
Эконометрика - Alexander Hollay
Включение в модель факторов с
высокой интеркорреляцией, может привести к нежелательным последствиям – система
нормальных уравнений может оказаться плохо обусловленной и повлечь за собой неустойчивость и ненадежность оценок коэффициентов регрессии.
Если между факторами существует высокая корреляция, то нельзя определить их изолированное влияние на результативный показатель и параметры уравнения регрессии оказываются неинтерпретируемыми.
Слайд 10
Построение уравнения множественной регрессии. Коэффициент детерминации.
Эконометрика -
Alexander Hollay
Слайд 11
Построение уравнения множественной регрессии. Коэффициент детерминации.
Эконометрика -
Alexander Hollay
Слайд 12
Построение уравнения множественной регрессии. Коэффициент детерминации.
Эконометрика -
Alexander Hollay
Насыщение модели лишними факторами не только не снижает
величину остаточной дисперсии и не увеличивает показатель детерминации, но и приводит к статистической незначимости параметров регрессии по критерию Стьюдента.
Слайд 13
Построение уравнения множественной регрессии
Эконометрика - Alexander Hollay
Таким
образом, хотя теоретически регрессионная модель позволяет учесть любое число
факторов, практически в этом нет необходимости. Отбор факторов производится на основе качественного теоретико-экономического анализа. Однако теоретический анализ часто не позволяет однозначно ответить на вопрос о количественной взаимосвязи рассматриваемых признаков и целесообразности включения фактора в модель. Поэтому отбор факторов обычно осуществляется в две стадии: на первой подбираются факторы исходя из сущности проблемы; на второй – на основе матрицы показателей корреляции определяют статистики для параметров регрессии.
Слайд 14
Построение уравнения множественной регрессии.
Эконометрика - Alexander Hollay
Слайд 15
Построение уравнения множественной регрессии.
Эконометрика - Alexander Hollay
Если
факторы явно коллинеарны, то они дублируют друг друга и
один из них рекомендуется исключить из регрессии. Предпочтение при этом отдается не фактору, более тесно связанному с результатом, а тому фактору, который при достаточно тесной связи с результатом имеет наименьшую тесноту связи с другими факторами. В этом требовании проявляется специфика множественной регрессии как метода исследования комплексного воздействия факторов в условиях их независимости друг от друга.
Слайд 16
Построение уравнения множественной регрессии. Подбор переменных.
Эконометрика - Alexander
Hollay
Слайд 17
Построение уравнения множественной регрессии. Подбор переменных.
Эконометрика - Alexander
Hollay
Слайд 18
Построение уравнения множественной регрессии. Подбор переменных.
Эконометрика - Alexander
Hollay
По величине парных коэффициентов корреляции обнаруживается лишь явная коллинеарность
факторов. Наибольшие трудности в использовании аппарата множественной регрессии возникают при наличии мультиколлинеарности факторов, когда более чем два фактора связаны между собой линейной зависимостью, т.е. имеет место совокупное воздействие факторов друг на друга. Наличие мультиколлинеарности факторов может означать, что некоторые факторы будут всегда действовать в унисон. В результате вариация в исходных данных перестает быть полностью независимой и нельзя оценить воздействие каждого фактора в отдельности.
Слайд 19
Построение уравнения множественной регрессии. Подбор переменных.
Эконометрика - Alexander
Hollay
Включение в модель мультиколлинеарных факторов нежелательно в силу следующих
последствий:
1. Затрудняется интерпретация параметров множественной регрессии как характеристик действия факторов в «чистом» виде, ибо факторы коррелированы; параметры линейной регрессии теряют экономический смысл.
2. Оценки параметров ненадежны, обнаруживают большие стандартные ошибки и меняются с изменением объема наблюдений (не только по величине, но и по знаку), что делает модель непригодной для анализа и прогнозирования.
Слайд 20
Построение уравнения множественной регрессии. Матрица парных коэффициентов
Эконометрика -
Alexander Hollay
Слайд 21
Построение уравнения множественной регрессии. Матрица парных коэффициентов
Эконометрика -
Alexander Hollay
Слайд 22
Построение уравнения множественной регрессии. Матрица парных коэффициентов
Эконометрика -
Alexander Hollay
Если же, наоборот, между факторами существует полная линейная
зависимость и все коэффициенты корреляции равны единице, то определитель такой матрицы равен нулю:
Слайд 23
Построение уравнения множественной регрессии. Матрица парных коэффициентов
Эконометрика -
Alexander Hollay
Чем ближе к нулю определитель матрицы межфакторной корреляции,
тем сильнее мультиколлинеарность факторов и ненадежнее результаты множественной регрессии. И, наоборот, чем ближе к единице определитель матрицы межфакторной корреляции, тем меньше мультиколлинеарность факторов.
Слайд 24
Подходы к преодолению сильной межфакторной корреляции.
Эконометрика - Alexander
Hollay
Существует ряд подходов преодоления сильной межфакторной корреляции.
Самый простой
путь устранения мультиколлинеарности состоит в исключении из модели одного или нескольких факторов.
Другой подход связан с преобразованием факторов, при котором уменьшается корреляция между ними.
Слайд 25
Подходы к преодолению сильной межфакторной корреляции.
Эконометрика - Alexander
Hollay
Слайд 26
Подходы к преодолению сильной межфакторной корреляции.
Эконометрика - Alexander
Hollay
Слайд 27
Отбор факторов
Эконометрика - Alexander Hollay
Отбор факторов, включаемых в
регрессию, является одним из важнейших этапов практического использования методов
регрессии. Подходы к отбору факторов на основе показателей корреляции могут быть разные. Они приводят построение уравнения множественной регрессии соответственно к разным методикам. В зависимости от того, какая методика построения уравнения регрессии принята, меняется алгоритм ее решения на ЭВМ.
Слайд 28
Отбор факторов
Эконометрика - Alexander Hollay
Наиболее широкое применение получили
следующие методы построения уравнения множественной регрессии:
1. Метод исключения – отсев
факторов из полного его набора.
2. Метод включения – дополнительное введение фактора.
3. Шаговый регрессионный анализ – исключение ранее введенного фактора.
Слайд 29
Отбор факторов
Эконометрика - Alexander Hollay
Слайд 30
Метод наименьших квадратов (МНК).
Свойства оценок на основе МНК
Эконометрика
- Alexander Hollay
Слайд 31
Виды уравнений множественной регрессии
Эконометрика - Alexander Hollay
Возможны разные
виды уравнений множественной регрессии:
линейные,
нелинейные.
Ввиду четкой интерпретации параметров наиболее
широко используется линейная функция.
Слайд 32
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 33
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 34
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 35
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 36
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Как известно
из курса математического анализа, для того чтобы найти экстремум
функции нескольких переменных, надо вычислить частные производные первого порядка по каждому из параметров и приравнять их к нулю.
Слайд 37
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 38
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 39
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 40
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 41
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 42
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 43
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 44
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 45
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 46
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 47
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 48
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 49
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 50
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 51
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 52
Линейная множественная регрессия
Эконометрика - Alexander Hollay
В отличие
от парной регрессии частные уравнения регрессии характеризуют изолированное влияние
фактора на результат, ибо другие факторы закреплены на неизменном уровне. Эффекты влияния других факторов присоединены в них к свободному члену уравнения множественной регрессии.
Слайд 53
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 54
Линейная множественная регрессия
Эконометрика - Alexander Hollay
Слайд 55
Пример
Эконометрика - Alexander Hollay
Слайд 56
Условия
Эконометрика - Alexander Hollay
Слайд 57
Решение
Эконометрика - Alexander Hollay
Слайд 58
Решение
Эконометрика - Alexander Hollay
Слайд 59
Решение
Эконометрика - Alexander Hollay
Слайд 60
Решение
Эконометрика - Alexander Hollay
Слайд 61
Решение
Эконометрика - Alexander Hollay
Слайд 62
Решение
Эконометрика - Alexander Hollay
Слайд 63
Решение
Эконометрика - Alexander Hollay
Слайд 64
Решение
Эконометрика - Alexander Hollay
Так как стандартизованные коэффициенты регрессии
можно сравнивать между собой, то можно сказать, что мощность
пласта оказывает большее влияние на сменную добычу угля, чем уровень механизации работ.
Слайд 65
Решение
Эконометрика - Alexander Hollay
Слайд 66
Решение
Эконометрика - Alexander Hollay
Слайд 67
Проверка существенности факторов
и показатели качества регрессии
Эконометрика - Alexander
Hollay
Слайд 68
Эконометрика - Alexander Hollay
Практическая значимость уравнения множественной регрессии
оценивается с помощью показателя множественной корреляции и его квадрата
– показателя детерминации.
Показатель множественной корреляции характеризует тесноту связи рассматриваемого набора факторов с исследуемым признаком или, иначе, оценивает тесноту совместного влияния факторов на результат.
Слайд 69
Показатель множественной корреляции
Эконометрика - Alexander Hollay
Слайд 70
Показатель множественной корреляции
Эконометрика - Alexander Hollay
Слайд 71
Показатель множественной корреляции
Эконометрика - Alexander Hollay
При правильном включении
факторов в регрессионную модель величина индекса множественной корреляции будет
существенно отличаться от индекса корреляции парной зависимости. Если же дополнительно включенные в уравнение множественной регрессии факторы третьестепенны, то индекс множественной корреляции может практически совпадать с индексом парной корреляции (различия в третьем, четвертом знаках). Отсюда ясно, что сравнивая индексы множественной и парной корреляции, можно сделать вывод о целесообразности включения в уравнение регрессии того или иного фактора.
Слайд 72
Показатель множественной корреляции
Эконометрика - Alexander Hollay
Слайд 73
Показатель множественной корреляции
Эконометрика - Alexander Hollay
Слайд 74
Показатель множественной корреляции
Эконометрика - Alexander Hollay
Формула индекса множественной
корреляции для линейной регрессии получила название линейного коэффициента множественной
корреляции, или, что то же самое, совокупного коэффициента корреляции.
Слайд 75
Показатель множественной корреляции
Эконометрика - Alexander Hollay
Слайд 76
Показатель множественной корреляции
Эконометрика - Alexander Hollay
Слайд 77
Показатель множественной корреляции
Эконометрика - Alexander Hollay
Слайд 78
Показатель множественной корреляции
Эконометрика - Alexander Hollay
Как видим, величина
множественного коэффициента корреляции зависит не только от корреляции результата
с каждым из факторов, но и от межфакторной корреляции. Рассмотренная формула позволяет определять совокупный коэффициент корреляции, не обращаясь при этом к уравнению множественной регрессии, а используя лишь парные коэффициенты корреляции.
Слайд 79
Показатель множественной корреляции
Эконометрика - Alexander Hollay
Слайд 80
Скорректированный индекс множественной корреляции
Эконометрика - Alexander Hollay
Слайд 81
Скорректированный индекс множественной детерминации
Эконометрика - Alexander Hollay
Слайд 82
Скорректированный индекс множественной детерминации
Эконометрика - Alexander Hollay
Слайд 83
Скорректированный индекс множественной детерминации
Эконометрика - Alexander Hollay
Слайд 84
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Частные коэффициенты корреляции
характеризуют тесноту связи между результатом и соответствующим фактором при
элиминировании (устранении влияния) других факторов, включенных в уравнение регрессии.
Показатели частной корреляции представляют собой отношение сокращения остаточной дисперсии за счет дополнительного включения в анализ нового фактора к остаточной дисперсии, имевшей место до введения его в модель.
Слайд 85
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 86
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 87
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 88
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 89
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 90
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 91
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 92
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 93
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Рассчитанные по рекуррентной
формуле частные коэффициенты корреляции изменяются в пределах от –1
до +1, а по формулам через множественные коэффициенты детерминации – от 0 до 1. Сравнение их друг с другом позволяет ранжировать факторы по тесноте их связи с результатом. Частные коэффициенты корреляции дают меру тесноты связи каждого фактора с результатом в чистом виде.
Слайд 94
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 95
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 96
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 97
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 98
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 99
Частные коэффициенты корреляции
Эконометрика - Alexander Hollay
Слайд 100
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 101
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 102
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 103
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 104
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 105
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 106
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 107
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 108
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 109
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 110
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 111
Оценка значимости уравнения множественной регрессии
Эконометрика - Alexander
Hollay
Слайд 112
Пример
Эконометрика - Alexander Hollay
Слайд 113
Условия
Эконометрика - Alexander Hollay
Оценим качество уравнения, полученного в
предыдущем разделе.
Слайд 114
Решение
Эконометрика - Alexander Hollay
Слайд 115
Решение
Эконометрика - Alexander Hollay
Слайд 116
Решение
Эконометрика - Alexander Hollay
Слайд 117
Решение
Эконометрика - Alexander Hollay
Слайд 118
Решение
Эконометрика - Alexander Hollay
Слайд 119
Решение
Эконометрика - Alexander Hollay
Слайд 120
Решение
Эконометрика - Alexander Hollay
Слайд 121
Решение
Эконометрика - Alexander Hollay
Слайд 122
Решение
Эконометрика - Alexander Hollay
Слайд 123
Решение
Эконометрика - Alexander Hollay
Слайд 124
Решение
Эконометрика - Alexander Hollay
Слайд 125
Линейные регрессионные модели
с гетероскедастичными остатками
Эконометрика - Alexander Hollay
Слайд 129
Несмещенность
Эконометрика - Alexander Hollay
Несмещенность оценки означает, что математическое
ожидание остатков равно нулю. Если оценки обладают свойством несмещенности,
то их можно сравнивать по разным исследованиям.
Слайд 130
Эффективность
Эконометрика - Alexander Hollay
Оценки считаются эффективными, если они
характеризуются наименьшей дисперсией. В практических исследованиях это означает возможность
перехода от точечного оценивания к интервальному.
Слайд 131
Состоятельность
Эконометрика - Alexander Hollay
Слайд 132
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 133
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 134
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 135
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 136
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 137
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 138
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 139
Исследования остатков
Эконометрика - Alexander Hollay
В этих случаях
необходимо либо применять другую функцию, либо вводить дополнительную информацию
и заново строить уравнение регрессии до тех пор, пока остатки не будут случайными величинами.
Слайд 140
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 141
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 142
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 143
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 144
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 145
Исследования остатков
Эконометрика - Alexander Hollay
Слайд 146
Исследования остатков. Примеры гетероскедастичности
Эконометрика - Alexander Hollay
Слайд 147
Исследования остатков. Примеры гетероскедастичности
Эконометрика - Alexander Hollay
Слайд 148
Исследования остатков. Примеры гетероскедастичности
Эконометрика - Alexander Hollay
Слайд 149
Исследования остатков. Примеры гетероскедастичности
Слайд 150
Исследования остатков.
Эконометрика - Alexander Hollay
Для множественной регрессии
данный вид графиков является наиболее приемлемым визуальным способом изучения
гомо- и гетероскедастичности.
Слайд 151
Исследования остатков. Автокорреляция.
Эконометрика - Alexander Hollay
Слайд 152
Исследования остатков. Автокорреляция.
Эконометрика - Alexander Hollay
Слайд 153
Исследования остатков. Автокорреляция.
Эконометрика - Alexander Hollay
При несоблюдении
основных предпосылок МНК приходится корректировать модель, изменяя ее спецификацию,
добавлять (исключать) некоторые факторы, преобразовывать исходные данные для того, чтобы получить оценки коэффициентов регрессии, которые обладают свойством несмещенности, имеют меньшее значение дисперсии остатков и обеспечивают в связи с этим более эффективную статистическую проверку значимости параметров регрессии.
Слайд 154
Обобщенный метод наименьших квадратов (ОМНК)
самостоятельно. См. пособие стр.
73
Эконометрика - Alexander Hollay
Слайд 155
Регрессионные модели с переменной структурой
(фиктивные переменные)
самостоятельно. См. пособие
стр. 80
Эконометрика - Alexander Hollay