Является ли преобразование модели многомерной линейной регрессии в множественную линейную регрессию полностью эквивалентным? Я не имею в виду , просто запустив отдельных регрессий.
Я читал это в нескольких местах (Байесовский анализ данных - Гельман и др. И Многовариантная старая школа - Марден), что многомерная линейная модель может быть легко репараметризована как множественная регрессия. Однако ни один источник не уточняет это вообще. По сути, они просто упоминают об этом, а затем продолжают использовать многомерную модель. Математически я сначала напишу многовариантную версию,
Чтобы перепараметрировать это как знакомую множественную линейную регрессию, нужно просто переписать переменные следующим образом:
где используются повторные параметры: , и . означает, что строки матрицы расположены последовательно в длинный вектор, а - это произведение Кронекера, или внешнее произведение.β = r o w ( B ) D = X ⊗ I n r o w ( ) ⊗
Итак, если это так просто, зачем писать книги по многомерным моделям, тестировать статистику для них и т. Д.? Наиболее эффективно сначала преобразовать переменные и использовать обычные одномерные методы. Я уверен, что есть веская причина, мне просто трудно думать об этом, по крайней мере, в случае линейной модели. Существуют ли ситуации с многомерной линейной моделью и нормально распределенными случайными ошибками, когда эта репараметризация не применяется или ограничивает возможности анализа, который вы можете предпринять?
Источники, которые я видел это: Марден - многомерная статистика: Старая школа. Смотрите разделы 5.3 - 5.5. Книга доступна бесплатно по адресу : http://istics.net/stat/
Гельман и соавт. - Байесовский анализ данных. У меня есть второе издание, и в этой версии есть небольшой абзац в гл. 19 «Модели многомерной регрессии» под названием «Эквивалентная модель одномерной регрессии»
В принципе, можете ли вы сделать все с помощью эквивалентной модели линейной одномерной регрессии, которую вы могли бы сделать с помощью многомерной модели? Если так, зачем вообще разрабатывать методы для многомерных линейных моделей?
А как насчет байесовских подходов?