Слайд 5
Статистическая зависимость
Если при изменении X меняется закон распределения
случайной величины Y, то говорят, что величины (X,Y) связаны
статистической зависимостью.
Слайд 6
Статистическая зависимость
Здесь будет красивый рисунок (когда-нибудь)
Слайд 7
Статистическая зависимость
Статистическая зависимость называется корреляционной, если при изменении
X меняется математическое ожидание случайной величины Y.
Если при
изменении переменной X меняется дисперсия переменной Y, такую зависимость называют гетероскедастичностью.
Корреляция и гетерокедастичность могут наблюдаться одновременно
Слайд 12
Корреляция и гетероскедастичность
Слайд 13
Корреляция и гетероскедастичность
Слайд 14
Корреляционная зависимость
Если каждому значению величины X соответствует свое
значение
то говорят, что существует
регрессионная функция
Линию, которую описывает регрессионная функция, называется линия регрессии
Слайд 15
Случайная составляющая
Отклонение переменной Y от математического ожидания для
соответствующего значения переменной X называется ошибкой и обозначается
Слайд 16
Регрессионное уравнение
Уравнение
называется уравнением регрессии переменной Y на переменную
Слайд 18
Экономический смысл
невключение объясняющих переменных в уравнение. На
самом деле на переменную Y влияет не только переменная
X, но и ряд других переменных, которые не учтены в нашей модели по следующим причинам:
мы знаем, что другая переменная влияет, но не модем ее учесть, потому как не знаем, как измерить (психологический фактор, например);
существуют факторы, которые мы знаем, как измерить, но влияние их на Y так слабо, что их не стоит учитывать;
существенные переменные, но из-за отсутствия опыта или знаний мы их таковыми не считаем.
Слайд 19
Экономический смысл (продолжение)
Неправильная функциональная спецификация. Функциональное соотношение
между Y и Х может быть определено неправильно. Например,
мы предположили линейную зависимость, а она может быть более сложной.
Ошибки наблюдений (занижение реального уровня доходов). В этом случае наблюдаемые значения не будут соответствовать точному соотношению, и существующее расхождение будет вносить свой вклад в остаточный член.
Слайд 20
Способы определения регрессионной функции f(X)
параметрический – предполагаем,
что вид регрессионной функции известен, неизвестны параметры функции
непараметрический –
предполагаем, что вид регрессионной функции неизвестен и мы составляем алгоритм расчета значений функции в каждой точке
Слайд 21
Выбор вида f(X)
экономическая теория
опыт, интуиция исследователя
эмпирический анализ данных
Слайд 22
Эмпирический анализ данных
В парном случае материал наблюдений представляет
собой набор пар чисел:
.
Слайд 23
На плоскости каждому такому наблюдению соответствует точка:
Полученный график
называют облако наблюдений, поле корреляции или диаграмма рассеяния. По
виду облака наблюдений можно определить вид регрессионной функции.
Слайд 30
Парная линейная регрессионная модель Y=+X+.
Слайд 31
Выбор коэффициентов регрессионной прямой
Из всех возможных прямых мы
хотим выбрать ту, чтобы она «наилучшим образом» подходила к
нашим данным, т. е. отражала бы линейную зависимость Y от X. Иными словами, чтобы каждое Yi лежало бы как можно ближе к прямой. Можно сказать, мы хотим, чтобы желаемая прямая была бы в центре скопления наших данных.
Слайд 32
Выбор коэффициентов регрессионной прямой
β – коэффициент наклона (slope),
α
– свободный коэффициент (intercept)
Слайд 33
Истинная линия регрессии, определяемая коэффициентами α и β
Слайд 34
Точки наблюдений разбросаны вокруг этой линии. Их бесконечность.
Слайд 35
В выборку попадает только их часть
Слайд 36
В выборку попадает только их часть
Слайд 37
И что мы наблюдаем
Всего мы наблюдаем N
точек
Слайд 39
Линия, которую мы проводим
Проводим прямую через центр скопления
точек облака наблюдений, т. е. таким образом, чтобы точки
облака наблюдений были одновременно к этой линии близки.
Слайд 41
Разницу между реальным и прогнозным значением назовем остатком
Слайд 42
Рассмотрение остатков на графике
Слайд 43
Истинная и оцененная линия регрессии
Мы надеемся, что построенная
линия регрессии не очень сильно отличается от истинной, в
частности, чем больше объем выборки, тем шансы на то, что линии похожи, возрастают (состоятельность).
Слайд 44
Грусть печаль
Метод наименьших квадратов не всегда состоятельный
Слайд 45
Как найти «наилучшую» прямую аналитически?
Выберем меру близости одной
точки к прямой.
Построим интегральную меру близости всех точек к
прямой, учитывающую меру близости отдельных точек и выберем ту прямую, для которой эта мера близости минимальна.
Слайд 46
Мера близости одной точки к прямой – остаток.
Слайд 48
Интегральная мера близости
почему бы не минимизировать просто сумму
остатков?
Слайд 49
Для какой прямой сумма остатков равна 0?
Слайд 52
Метод наименьших квадратов
Среди всех возможных прямых выбираем ту,
для которой сумма квадратов остатков минимальна
Слайд 55
МНК-коэффициенты ПЛРМ
- коэффициент наклона
- свободный коэффициент
Слайд 56
Другие формы записи коэффициента наклона
Слайд 57
Замечания
Линия регрессии проходит через точку
Мы предполагаем, что
среди Xi есть разные, тогда dX 0. В
противном случае, оценок по методу наименьших квадратов не существует.
Слайд 58
Теснота линейной корреляционной связи
В качестве меры близости данных
наблюдений к линии регрессии служит выборочный коэффициент парной линейной
корреляции (парный линейный коэффициент корреляции):
Слайд 59
Вспомним теоретический коэффициент корреляции
Слайд 60
Связь между коэффициентом корреляции и коэффициентом наклона
Знак коэффициента
наклона линии регрессии и коэффициента корреляции совпадают
Слайд 61
Положительная корреляция
С ростом переменной X переменная Y в
среднем растет (имеет тенденцию к росту)
Слайд 62
Отрицательная корреляция
С ростом переменной X переменная Y в
среднем убывает (имеет тенденцию к уменьшению)
Слайд 63
Свойства коэффициента корреляции
- необходимое и достаточное
условием того, что все наблюдаемые значения (Xi,Yi) лежат на прямой регрессии
Слайд 64
Свойства коэффициента корреляции (продолжение)
переменные не связаны линейной корреляционной
связью. Линия регрессии проходит горизонтально.
между переменными существует линейная корреляционная
связь, которая тем лучше (ближе к линейной функциональной), чем ближе коэффициент корреляции по модулю к 1
Слайд 65
Уравнение одно, коэффициенты корреляции разные