Когда теоретически обоснованы смешанные модели с нулевой корреляцией?

Приведенная ниже блок-цитата от лидеров в области моделирования смешанных эффектов утверждает, что координаты сдвигов в моделях с нулевой корреляцией между случайными эффектами (модели «ZCP») изменяют предсказания модели. Но кто-то может уточнить или обосновать свои требования?

Заявления о которых идет речь в Бейтс и др в 2015 документ о lme4, Монтаж линейных смешанных эффектов модели с помощью lme4 , стр.7, второй абзац ( ссылку для загрузки ). $\newcommand{\slope}{\text{slope}} \newcommand{\int}{\text{int}} \newcommand{\intercept}{\text{intercept}}$

Вот перефразирование того, что они написали:

Хотя модели параметров с нулевой корреляцией используются для уменьшения сложности моделей со случайными наклонами, они имеют один недостаток. Модели, в которых допускается ненулевая корреляция уклонов и пересечений, инвариантны к аддитивным сдвигам непрерывного предиктора.

Эта инвариантность нарушается, когда корреляция ограничена до нуля; любой сдвиг в предикторе обязательно приведет к изменению оценочной корреляции, а также вероятности и предсказания модели. ¹ Например, мы можем устранить корреляцию в fm1, просто сдвинув Days [предиктор, сопровождающий $\slope$ ], на величину, равную отношению оцененных стандартных отклонений между субъектами, умноженных на предполагаемую корреляцию, то есть ² ,

$ρ_{скат : перехват} \times \frac{σ_{скат}}{σ_{перехват}}$ $\rho_{\slope:\intercept}\times\frac{\sigma_{\slope}}{\sigma_{\intercept}}$
Использование таких моделей в идеале должно быть ограничено случаями, когда предиктор измеряется по шкале отношений (т. Е. Нулевая точка на шкале имеет смысл, а не просто место, определяемое удобством или соглашением).

Вопросов:

Пронумерованы в соответствии с верхним индексом выше ...

Я вижу, что любой сдвиг в системе координат, по которому измеряется предиктор, приведет к изменению оценочной корреляции, что приведет к ненулевой корреляции. Это подтверждает утверждение о том, что модели параметров с нулевой корреляцией не являются инвариантными при сдвигах в системах координат предикторов и, следовательно, что любая модель с ненулевыми корреляциями случайных эффектов может быть преобразована в модель с нулевыми корреляциями с помощью подходящего сдвига координат. Я думаю, что он также поддерживает третий абзац в перефразировании выше: модели ZCP (и модели с нулевым перехватом - см. Ниже; но, пожалуйста, проверьте меня по этому вопросу ) действительны только для моделей, использующих определенные специальные системы координат. Но почему смещение координат должно предсказывать такие модели?

Например, сдвиг в координатах также изменит член перехвата с фиксированным эффектом для средних по группам (см. Ниже), но только на величину, соответствующую изменению происхождения для системы координат предиктора. Такое изменение не влияет на предсказания модели, если для смещенного предиктора используется новая система координат.

Для уточнения, если наклон с фиксированным эффектом, связанный со смещенным предиктором, является положительным, а начало координат для системы координат предиктора смещено в отрицательном направлении, то перехват с фиксированным эффектом будет уменьшаться, и любые связанные перехваты со случайным эффектом также будут меняться соответственно, отражая новое определение «происхождения» (и, следовательно, перехвата) в смещенной системе координат. Кстати, я думаю, что это рассуждение также подразумевает, что модель с нулевым перехватом также не является инвариантной при таких сдвигах.

Я думаю, что у меня есть разумный способ решить эту проблему, но получил ответ, немного отличный от Bates et al. Я что-то не так делаю?

Ниже мой ответ. Далее следует описание того, как я пришел к своему результату. Таким образом, я обнаружил, что если я смещу начало отрицательно на , так что в новой системе координат предиктор принимает значения , тогда корреляция в новой системе координат ноль, если: $x$ $\delta > 0$ $x' = x + \delta$ $\rho'$

$δ = ρ_{slope : intercept} \times \frac{σ_{intercept}}{σ_{slope}}$ $\delta=\rho_{\slope:\intercept}\times\frac{\sigma_{\intercept}}{\sigma_{\slope}}$
Это отличается от результата Бейтса и др .

Описание моего метода (опциональное чтение) . Допустим, у нас есть корреляция двух случайных эффектов, и ( для краткости ), оба соответствуют одному и тому же группирующему коэффициенту с уровнями (пронумерованы , начиная с в ). Скажем также, что непрерывный предиктор, с которым связан случайный , называется , определенный таким образом, что произведение генерирует условный вклад в подогнанное значение для уровня $\slope$ $\intercept$ $\int$ $k$ $i$ $1$ $k$ $\slope$ $x$ $x\times\slope_i$ $\hat y_{obs}$ $i$ связанного фактора группировки. Хотя в действительности алгоритм MLE определяет значение для максимизации вероятности , я ожидаю, что приведенное ниже выражение должно быть размерно-правильным способом определения эффектов равномерного перевода в , множителя случайного эффекта для , $\rho$ $x$ $\slope$

ρ_{slope : int} = \frac{E_{i} [({slope}_{i} - \bar{{slope}_{i}}) ({int}_{i} - \bar{{int}_{i}})]}{\sqrt{E_{i} [({slope}_{i} - \bar{{slope}_{i}})^{2}] E_{i} [({int}_{i} - \bar{{int}_{i}})^{2}]}}

$\rho_{\slope:\int} = \frac{E_{i}\big[(\slope_i -\overline {\slope_i})(\int_i -\overline {\int_i})\big]}{\sqrt{E_{i}\big[(\slope_i -\overline {\slope_i})^2\big]E_{i}\big[(\int_i-\overline {\int_i})^2\big]}}$

Чтобы получить мой результат, я сначала переписал старое значение для перехвата в терминах нового значения для перехвата, (здесь, ,' leftward ' 'сдвиг в происхождении для предиктора ). Затем я подставил полученное выражение в числитель вышеприведенной формулы для , вычислив значение которое привело к нулевой ковариации в новой системе координат. Обратите внимание, что, как указано в вопросе 1 выше, член перехвата с фиксированным эффектом также изменится аналогичным образом: . (Здесь $\int' = -\delta \times \slope + \int$ $\delta > 0$ $x$ $\rho$ $\delta$ $\beta_0' =- \delta\times\beta_x + \beta_0$ $\beta_x$ является предиктором с фиксированным эффектом, связанным со смещенным предиктором) $x.$

r mixed-model lme4-nlme

— clarpaul
источник

Несколько грубых идей. изменяется, если (1) изменяется фиксированный наклон или (2) изменяются случайные наклоны. Для (1): фиксированный уклон можно рассматривать как взвешенное среднее значение уклонов, характерных для кластера, где вес частично зависит от оцененных компонентов дисперсии. Пропуск ковариации изменяет вар. оценки, изменение веса, изменение фиксированного наклона. Для (2): случайные уклоны - это уклоны, характерные для кластера, которые «сжимаются» в направлении фиксированного уклона пропорционально одинаковым весам. Пропуск ковариации изменяет вар. оценки, изменение степени усадки, изменение случайных уклонов.

\hat{y}

$\hat{y}$

— Джейк Уэстфолл

Я немного разочарован, это не привлекло больше внимания, @clarpaul. Вы можете просто вставить свой собственный ответ. Если никто не ответит, я просто дам вам награду.

— gung - Восстановить Монику

Спасибо @gung, мой ответ будет тесно связан с моими "Правками" выше. Щедрость была бы хороша, но у меня может не быть времени прежде, чем это истечет. Я призываю всех принять мои «Правки» и превратить их в ответ, если они согласны с основными рассуждениями и готовы потратить время на их полировку.

— кларпол

Ответ на этот вопрос оказывается довольно определенным . Если бы кто-то сдвинул координаты независимых переменных модели ZCP и позволил корреляциям развиваться без ограничений , предсказания не изменились бы, потому что линейные модели смешанных эффектов с безусловными корреляциями являются трансляционно-инвариантными (это можно показать с небольшим количеством математики) , Но, по определению , модель ZCP имеет корреляции, ограниченные . При смещении координат корреляции не будут развиваться, как это требуется в модели LME без ограничений. Таким образом, модели ZCP не перевод инварианта, а координата сдвига будет $0$ изменить модель прогнозов. И (если вы ожидаете, что модели LME будут трансляционно-инвариантными к разумным сдвигам координат), только модели, в которых такие сдвиги координат не имеют смысла, теоретически целесообразны как модели ZCP (т. Е. «Специальные», упомянутые в третьем абзаце парафразе. из Bates и др выше). [Примечание: я буду украшать этот ответ в будущем, чтобы включить формулы, которые я получил для корреляции, которая развивается при смещении координат исходной модели ZCP, и для доказательства того, что модели LME с неограниченными корреляциями являются трансляционно-инвариантными.]
Бейтс и др. Результат просто опечатка. Ответ должен иметь те же размеры, что и предиктор, ( Days ), который смещен. Поскольку можно считать, что wlog, и имеют измерения единицы, , который имеет размеры (те же размеры, что и ), должен быть в знаменателе для того, чтобы чтобы иметь правильные размеры. $\delta$ $x$ $\sigma_{intercept}$ $\rho$ $\sigma_{slope}$ $1/x$ $slope$ $\delta$

— clarpaul
источник