На практике, как рассчитывается ковариационная матрица случайных эффектов в модели смешанных эффектов?

В основном меня интересует, как применяются различные ковариационные структуры и как рассчитываются значения внутри этих матриц. Такие функции, как lme (), позволяют нам выбирать, какую структуру мы бы хотели, но я бы хотел знать, как они оцениваются.

Рассмотрим модель линейных смешанных эффектов .$Y=X\beta+Zu+\epsilon$

Где и . Более того:ε d ~ N ( 0 , R $u \stackrel{d}{\sim} N(0,D)$$\epsilon \stackrel{d}{\sim} N(0,R)$

$Var(Y|X,Z,\beta,u)=R$

$Var(Y|X,\beta)=Z'DZ+R=V$

Для простоты примем .$R=\sigma^2I_n$

В основном мой вопрос: как точно оценивается по данным для различных параметризаций? Скажем, если мы предположим, что диагонально (случайные эффекты независимы) или полностью параметризовано (в случае, если я больше интересуюсь в данный момент), или какая-либо другая параметризация? Существуют ли простые оценки / уравнения для них? (Это, без сомнения, будет итеративно оценено.)D $D$$D$$D$

РЕДАКТИРОВАТЬ: Из книги Variance Components (Searle, Casella, McCulloch 2006) мне удалось высветить следующее:

Если тогда компоненты дисперсии обновляются и рассчитываются следующим образом:$D=\sigma^2_uI_q$

$\sigma_u^{2(k+1)} = \frac{\hat{\textbf{u}}^T\hat{\textbf{u}}} {\sigma_u^{2(k)}\text{trace}(\textbf{V}^{-1}\textbf{Z}^T\textbf{Z})}$

$\sigma_e^{2(k+1)} = Y'(Y-X{\hat{\beta}}^{(k)}-{Z}\hat{{u}}^{(k)})/n$

Где и - это е обновления соответственно.$\hat{\beta}^{(k)}$$\hat{{u}}^{(k)}$$k$

Существуют ли общие формулы, когда является диагональю блока или полностью параметризован? Я предполагаю, что в полностью параметризованном случае разложение Холецкого используется для обеспечения положительной определенности и симметрии.$D$

Goldstein .pdf @probabilityislogic - отличный документ. Вот список некоторых ссылок, которые обсуждают ваш конкретный вопрос:

Harville, 1976: расширение теоремы Гаусса-Маркова для оценки случайных эффектов .

Harville, 1977: Подходы с максимальным правдоподобием для оценки компонент дисперсии и связанных с этим проблем .

Laird and Ware, 1982: модели случайных эффектов для продольных данных .

McCulloch, 1997: алгоритмы максимального правдоподобия для обобщенных линейных смешанных моделей .

Руководство SAS пользователя Отрывок для смешанной процедуры имеет много информации о оценке ковариации и многих источниках более (начиная со стр 3968).

Существует множество качественных учебников по анализу данных по продольным / повторным измерениям, но вот один, который подробно описывает реализацию в R (от авторов lme4and nlme):

Пинейро и Бейтс, 2000: Модели со смешанными эффектами в S и S-PLUS .

РЕДАКТИРОВАТЬ : еще одна соответствующая статья: Линдстрем и Бейтс, 1988: Ньютон-Рафсон и EM Алгоритмы для линейных моделей смешанных эффектов для данных повторных измерений .

РЕДАКТИРОВАТЬ 2 : И еще: Дженрич и Шлухтер, 1986: Несбалансированные модели с повторными измерениями со структурированными ковариационными матрицами .

Харви Гольдштейн неплохое место для старта.

Как и в случае наиболее сложных методов оценки, это зависит от программного пакета. Однако часто то, что делается, состоит из следующих шагов:

1. $D$$D_0$$R$$R_0$$i=1$
2. $D=D_{i-1}$$R=R_{i-1}$$\beta$$u$$\epsilon$$\beta_i$$u_i$$\epsilon_i$
3. $\beta=\beta_i$$u=u_i$$\epsilon=\epsilon_i$$D$$R$$D_i$$R_i$
4. $i=i+1$

Одним простым и быстрым методом является IGLS, который основан на итерации между двумя процедурами наименьших квадратов и подробно описан во второй главе. Недостатком является то, что он не работает хорошо для компонентов дисперсии, близких к нулю.

Следующая статья дает решение в закрытой форме для D:

• J. Shao, Mari Palta & Roger Qu, (1998), " Оценка методом наименьших квадратов параметров регрессии в моделях смешанных эффектов с неизмеренными ковариатами ", Communications in Statistics - Theory and Methods , 27: 6, 1487-1501, DOI: 10.1080 / 03610929808832172

еще две ссылки, которые могли бы быть полезными Компоненты Дисперсии от Searle Et al и Lynch and Walsh Genetics and Analysis of Quantitative Traits . Книга Линча и Уолша дает пошаговый алгоритм, если я правильно помню