Альтернативный способ получения коэффициентов МНК


8

В другом моем вопросе ответчик использовал следующий вывод коэффициента OLS:

У нас есть модель:

Y=X1β+X2β2+Zγ+ε,
где Zнезаметно. Тогда мы имеем:
plimβ^1=β1+γCov(X1,Z)Var(X1)=β1,
где X1=M2X1 а также M2=[IX2(X2X2)1X2],

Это выглядит иначе, чем обычно β=(XX)1XYчто я видел в эконометрике. Есть ли более явное изложение этого вывода? Есть ли название дляM2 матрица?


Я уверен, что это описано в лекционных заметках Хансена, но у меня их сейчас нет.
FooBar

Ответы:


8

M=IX(XX)1X матрица - это матрица «аннулятор» или «остаточный создатель», связанная с матрицей X, Это называется "аннигилятор", потому чтоMX=0 (для своего Xматрица конечно). Это называется "остаточный производитель", потому чтоMy=e^в регрессии y=Xβ+e,

Это симметричная и идемпотентная матрица. Он используется в доказательстве теоремы Гаусса-Маркова.

Кроме того, он используется в теореме Фриша – Во – Ловелла , из которой можно получить результаты для «секционированной регрессии», которая говорит, что в модели (в матричной форме)

y=X1β1+X2β2+u

у нас есть это

β^1=(X1M2X1)1(X1M2)y

поскольку M2 идемпотентен, мы можем переписать вышеупомянутое

β^1знак равно(Икс1'M2M2Икс1)-1(Икс1'M2M2)Y

и с тех пор M2 также симметрично мы имеем

β^1знак равно([M2Икс1]'[M2Икс1])-1([M2Икс1]'[M2Y]

Но это оценка наименьших квадратов из модели

[M2Y]знак равно[M2Икс1]β1+M2U

а также M2Y остатки от регрессии Y на матрице Икс2 только.

Другими словами: 1) Если мы регресс Y на матрице Икс2только, а затем регрессировать остатки от этой оценки на матрицеM2Икс1 только β^1Оценки, которые мы получим, будут математически равны оценкам, которые мы получим, если мы регрессируемY на обоих Икс1 а также Икс2 вместе в то же время, как обычная множественная регрессия.

Теперь предположим, что Икс1 скажем, не матрица, а всего лишь один регрессор Икс1, затемM2Икс1 это остатки от регрессии переменной Икс1 на матрице регрессора Икс2, И это обеспечивает интуицию здесь:β^1 дает нам эффект, что "часть Икс1 это необъяснимо Икс2"имеет" со стороны Y это осталось необъяснимым Икс2».

Это символическая часть классической алгебры наименьших квадратов.


Начал отвечать, но у меня было много совпадений с этим ответом. Вы можете найти много этой информации в главе 3.2.4 седьмого издания «Эконометрического анализа» Билла Грина.
cc7768

@ cc7768 Да, это хороший источник для алгебры наименьших квадратов. Но не стесняйтесь размещать дополнительные материалы. Например, по сути мой ответ охватывает только второй вопрос ОП.
Алекос Пападопулос

@AlecosPapadopoulos вы говорите, что если мы регресс M2Y на Икс1мы также получаем β^1, Но разве уравнение не говорит, регрессM2Y на M2Икс1вместо?
Гейзенберг

@ Heisenberg Правильно. Опечатка. Исправлено, и добавлено немного больше.
Алекос Пападопулос
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.