Почему проекционная матрица ортогональной проекции симметрична?

Я новичок в этом, поэтому я надеюсь, что вы простите меня, если вопрос наивный. (Контекст: я изучаю эконометрику из книги Дэвидсона и Маккиннона "Эконометрическая теория и методы" , и они, кажется, не объясняют этого; я также посмотрел книгу по оптимизации Люенбергера, которая рассматривает проекции на более продвинутом уровне, но без удачи).

Предположим , что у меня есть ортогональную проекцию с ассоциирована проекционной матрицы . Мне интересно проецировать каждый вектор в в некоторое подпространство . $\mathbb P$ $\bf P$ $\mathbb{R}^n$ $A \subset \mathbb{R}^n$

Вопрос : почему из этого следует, что , то есть симметрично? Какой учебник я мог бы посмотреть на этот результат? $\bf{P}=P$ $^T$ $\bf P$

regression least-squares

— weez13
источник

en.wikipedia.org/wiki/…

— whuber

Ответы:

Это фундаментальный результат линейной алгебры на ортогональных проекциях. Относительно простой подход заключается в следующем. Если ортонормальные векторы , охватывающих - мерное подпространство , и представляет собой матрица с «S в качестве столбцов, то Это непосредственно вытекает из того факта, что ортогональная проекция на может быть вычислена в терминах ортонормированного базиса как $u_1, \ldots, u_m$ $m$ $A$ $\mathbf{U}$ $n \times p$ $u_i$

P = U U^{T} .

$\mathbf{P} = \mathbf{U}\mathbf{U}^T.$

x

$x$

A

$A$

A

$A$

Это непосредственно следует из формулы вышечто

и что

Σ_{я знак равно 1}^{м} U_{я} U_{я}^{T} Икс,

$\sum_{i=1}^m u_i u_i^T x.$

P^{2} = P

$\mathbf{P}^2 = \mathbf{P}$

P^{T} = P .

$\mathbf{P}^T = \mathbf{P}.$

Также можно привести другой аргумент. Если является проекционной матрицей для ортогональной проекции, то по определению для всех Следовательно, $\mathbf{P}$ $x,y \in \mathbb{R}^n$

п Икс ⊥ Y - п Y,

$\mathbf{P}x \perp y-\mathbf{P}y.$

для всех

. Это показываетчто

, откуда

0 знак равно (п Икс)^{T} (Y - п Y) знак равно {Икс}^{T} п^{T} (я - п) Y знак равно {Икс}^{T} (п^{T} - п^{T} п) Y

$0 = (\mathbf{P} x)^T (y - \mathbf{P}y) = x^T \mathbf{P}^T (I - \mathbf{P}) y = x^T (\mathbf{P}^T - \mathbf{P}^T \mathbf{P}) y$

x, y \in R^{n}

$x, y \in \mathbb{R}^n$

P^{T} = P^{T} P

$\mathbf{P}^T = \mathbf{P}^T \mathbf{P}$

п знак равно (п^{T})^{T} знак равно (п^{T} п)^{T} знак равно п^{T} п знак равно п^{T},

$\mathbf{P} = (\mathbf{P}^T)^T = (\mathbf{P}^T \mathbf{P})^T = \mathbf{P}^T \mathbf{P} = \mathbf{P}^T.$

— NRH
источник

Спасибо за ваш проницательный комментарий (ы)! Каким-то образом статья из Википедии, в которой упоминалось что-то о самосопряженности оператора проекции, отбросила меня, поскольку ваши доказательства не так уж и сложны. :) Кстати, у вас есть любимый текст по линейной алгебре, который занимается такими вещами?

— weez13

Книга элементарной линейной алгебры, которую я знаю лучше всего, не покрывает это. Лучшие ссылки, которые я знаю, это продвинутые книги по функциональному анализу. Линейная алгебра сделала правильную книга выглядит хорошо, но я не знаю.

— NRH

x = x^{T}

$x = x^T$

(P x)^{T} = x P^{T}

$(Px)^T = xP^T$

(P x)^{T} (y - P y) = x P^{T} (I - P) y

$(Px)^T(y-Py)=xP^T(I-P)y$

x = x^{T}

$x = x^T$

P

$P$

x

$x$

(п Икс)^{T} знак равно {Икс}^{T} п^{T},

$(Px)^T = x^TP^T.$

P^{T} - P^{T} P = 0

$P^T - P^TP = 0$

x = x^{T}

$x=x^T$

x \in R^{n}

$x\in\mathbb{R}^n$

n = 1

$n=1$

x

$x$

Попытка геометрической интуиции ... Напомним, что:

Симметричная матрица является самосопряженной.
Скалярное произведение определяется только компонентами во взаимном линейном пространстве (и не зависит от ортогональных компонент любого из векторов).

$x$ $A$ $y$ $\langle x,Ay \rangle$ $x$ $y$ $\langle Ax,Ay \rangle$ $\langle Ax,y\rangle$

$A$

— JohnRos
источник

Большое спасибо! Перед прочтением вашего комментария я был довольно смущен тем, почему самосопряженность здесь важна. Теперь у меня есть подсказка, спасибо!

— weez13