Учебники по матричному исчислению?

20

Короткая история: я прочитал «Элементы статистического обучения» и был разочарован, когда пытался проверить некоторые результаты, например, учитывая затем I Я ищу книгу матричного исчисления, которая написана так же, как ваша традиционная книга исчислений (т. е. доказательства теорем, примеры, упражнения по вычислениям и т. д.). Я уже видел этот вопрос

RSS (β) знак равно {(Y - Икс β)}^{Т} (Y - Икс β),

$\text{RSS}(\beta) = \left(\mathbf{y}-\mathbf{X}\beta\right)^{T}\left(\mathbf{y}-\mathbf{X}\beta\right)\text{,}$

\begin{aligned} \frac{\partial RSS}{\partial β} знак равно - 2 {Икс}^{Т} (Y - Икс β) \\ \frac{\partial^{2} RSS}{\partial β \partial β^{Т}} знак равно 2 {Икс}^{Т} Икс, \end{aligned}

$\begin{align}&\dfrac{\partial\text{RSS}}{\partial \beta} = -2\mathbf{X}^{T}\left(\mathbf{y}-\mathbf{X}\beta\right) \\ &\dfrac{\partial^2\text{RSS}}{\partial \beta\text{ }\partial \beta^{T}} = 2\mathbf{X}^{T}\mathbf{X}\text{.} \end{align}$ и чувствую, что текст Магнуса и Нойдекера слишком сильно фокусируется на теории, а текст, который я имею, нежно фокусируется слишком мало на теории и слишком много на стороне вычислений.

Есть ли радостная среда, доступная для тех, кто имеет опыт работы в бакалавриате?

references matrix matrix-calculus

— кларнетист
источник

4

Рассматривали ли вы матричную алгебру Харвиля с точки зрения статистиков ? Первые главы должны быть относительно элементарными, но затем они начинают развиваться.

— usεr11852 говорит восстановить Monic

2

amazon.com/Matrix-Algebra-Econometric-Exercises-Vol/dp/…

— Хашаа

1

Я часто использую эту запись в Википедии, чтобы найти идентификаторы проблем матричного исчисления: en.wikipedia.org/wiki/Matrix_calculus

— Томми Л

9

Для большинства матричных вопросов я всегда сначала обращаюсь к «Матричной поваренной книге» (см. Здесь ).

Он регулярно обновляется благодаря отзывам из разных источников. Есть доказательства, содержащиеся внутри, но в основном это руководство.

— Laurens van de Wiel
источник

3

Если вы нашли слишком много теории в книге Магнуса и Нойдекера, я рекомендую эту, также созданную Магнусом:

Абадир, К. М. и Магнус, JR Matrix Algebra Cambridge University Press, 2005

это делает больший акцент на приложениях матричного исчисления.

— Арриго Бенедетти
источник

2

Пользователь самостоятельно удалил следующий полезный ответ, который я воспроизведу здесь полностью, чтобы его информация не была потеряна:

На самом деле вам не нужно много результатов о векторных и матричных производных для ML, и статья Тома Минки охватывает большинство из них, но окончательный подход - это матричное дифференциальное исчисление Магнуса и Нойдекера с приложениями в статистике и эконометрике .

Действительно, у Magnus & Neudecker есть отличные рецензии на Amazon, а в статье Тома Минки (« Старая и новая матричная алгебра, полезная для статистики» , 2000) содержится много полезных формул, хотя он предупреждает, что «это продвинутый материал».

— whuber
источник

1

Я очень рекомендую эту статью на 26 страницах из Стэнфордского университета:

« Обзор и справочник по линейной алгебре » Зико Колтера

Он действительно сфокусирован на типичных вычислениях Sum с большим количеством i и j повсюду и сообщает вам соответствующие матричные вычисления (т.е. используя их «векторизованную» реализацию).

Это поможет вам сразу понять, какой тип матричной формулы вы должны написать, чтобы выполнить ваши расчеты.

— tmangin
источник