Обратная ковариационная матрица против ковариационной матрицы в PCA

В PCA, имеет ли значение, если мы выбираем главные компоненты обратной ковариационной матрицы ИЛИ, если мы отбрасываем собственные векторы ковариационной матрицы, соответствующие большим собственным значениям?

Это связано с обсуждением в этом посте .

machine-learning pca computational-statistics

— Мустафа Ариф
источник

Заметим, что для положительно определенной ковариационной матрицы точность равна . $\mathbf \Sigma = \mathbf{UDU}'$ $\boldsymbol \Sigma^{-1} = \mathbf {U D}^{-1} \mathbf U'$

Таким образом, собственные векторы остаются неизменными, но собственные значения точности являются обратными значениями собственных значений ковариации. Это означает, что самые большие собственные значения ковариации будут самыми маленькими собственными значениями точности. Поскольку у вас есть обратное, положительная определенность гарантирует, что все собственные значения больше нуля.

Следовательно, если вы сохраняете собственные векторы, относящиеся к наименьшим собственным значениям точности, это соответствует обычному PCA. Так как мы уже взяли взаимные ( $k$ $\bf D^{-1}$ ), только квадратный корень из точных собственных значений должен использоваться для завершения отбеливания преобразованных данных.

— гипотезы
источник

+1, но я думаю, что ваше предложение «Так что да, это имеет значение» может ввести в заблуждение ОП; Вопрос не очень ясен, но я думаю, что они спрашивали, есть ли разница между выбором наибольших собственных значений матрицы inv cov и выбором наименьших собственных значений (= отбрасывание самых больших) матрицы cov. На этот вопрос ответ таков: Так что, возможно, если вы просто вырезаете это предложение, ответ будет более ясным.

— амеба

Спасибо, я понимаю, что вы имеете в виду и отредактировал соответственно.

— предположения

На самом деле последнее предложение было хорошо, я бы сохранил его!

— амеба

@ conjectures Спасибо, это идеальное объяснение.

— Мустафа Ариф

Кроме того, обратная ковариационная матрица пропорциональна частичной корреляции между векторами:

Corr(Xi, Xj | (Xothers )

Корреляция между Xi и Xj, когда все остальные фиксированы, это очень полезно для временных рядов.

— quantCode
источник

Это правда, но какое это имеет отношение к PCA?

— амеба