Когда неправильные линейные модели становятся очень красивыми?

Вопросов:

Используются ли ненадлежащие линейные модели на практике, или же они время от времени описываются любопытством в научных журналах? Если да, то в каких областях они используются?
Есть ли другие примеры таких моделей?
Наконец, будут ли правильные стандартные ошибки, , и т. Д., Взятые из OLS для таких моделей, или они должны быть как-то исправлены? $p$ $R^2$

Справочная информация: в литературе время от времени описываются неправильные линейные модели. В целом, такие модели можно описать как

y = a + b \sum_{i} w_{i} x_{i} + ε

$y = a + b \sum_i w_i x_i + \varepsilon$

что отличает их от регрессии, так это то, что - это не коэффициенты, оцениваемые в модели, а веса, которые $w_j$

равны для каждой переменной ( регрессия с единичным взвешиванием ), $w_i = 1$
на основе корреляций (Dana and Dawes, 2004), $w_i = \rho(y, x_i)$
выбран случайным образом (Dawes, 1979),
$-1$ $y$ $1$ $y$

$Z$

y = a + b v + ε

$y = a + b v + \varepsilon$

$v = \sum w_i x$

Ссылки:
Дауэс, Робин М. (1979). Надежная красота неподходящих линейных моделей при принятии решений . Американский психолог, 34, 571-582.

Graefe, A. (2015). Улучшение прогнозов с использованием одинаково взвешенных предикторов . Журнал Бизнес исследований, 68 (8), 1792-1799.

Wainer, Howard (1976). Оценка коэффициентов в линейных моделях: это не имеет значения . Психологический вестник 83 (2), 213.

Dana, J. and Dawes, RM (2004). Превосходство простых альтернатив регрессии для общественных наук . Журнал образовательной и поведенческой статистики, 29 (3), 317-331.

— Тим
источник

В каком смысле статистика, полученная из этих моделей, будет «неверной»?

— whuber

w_{i}

$w_i$

b

$b$

y

$y$

w_{i}

$w_i$

Это не был осознанный комментарий - бумаги все еще находятся в моей «для чтения» куче. Я просто задавался вопросом: «почему« неподходящий »?». Предсказатель нередко представляет собой линейную комбинацию других переменных - среднее значение по нескольким измерениям, оценку основного компонента, прогноз по другой регрессии, уровень по экспоненциально сглаженному временному ряду или вычисленное значение по хорошо установленному или специальный индекс. Не оценка весов от ответа лишает степени свободы, помогая избежать чрезмерного соответствия с меньшими размерами выборки.

— Scortchi - Восстановить Монику

x_{i}

$x_i$

w_{i}

$w_i$

x_{i}

$x_i$

w_{i} = ρ (y, x_{i})

$w_i = \rho(y, x_i)$

ρ

$\rho$

По сути, мне кажется, что это набор предполагаемых ковариационных структур. Другими словами, это тип байесовского предварительного моделирования.

$\downarrow$ $|\hat\beta|<|\beta|$ $\hat{R}^2<R^2$

Мой личный опыт показывает, что превосходство байесовского подхода заключается в использовании лучшего моделирования; преобразовывать параметры, использовать другие нормы и / или использовать нелинейные методы. То есть, как только физика проблемы и методы должным образом изучены и скоординированы, статистика F, коэффициент детерминации и т. Д. Улучшаются, а не ухудшаются.

— деревенщина
источник