Регрессионное моделирование с неравной дисперсией

22

Я хотел бы соответствовать линейной модели (лм), где дисперсия остатков явно зависит от объясняющей переменной.

Я знаю, как это сделать, используя glm с семейством Gamma для моделирования дисперсии, а затем поместив ее обратно в веса в функции lm (пример: http://nitro.biosci.arizona.edu/r/chapter31 .pdf )

Я размышлял:

Это единственная техника?
Какие еще подходы актуальны?
Какие R пакеты / функции относятся к этому типу моделирования? (кроме ГЛМ, ЛМ)

— Таль Галили
источник

4

Где они используют glm()тогда lm()в главе, на которую вы ссылаетесь. Мне кажется, glm()это все, что требуется и используется там, но я, возможно, что-то упустил. Вы можете попробовать обобщенный метод наименьших квадратов ( gls()в формате nlme ), который позволяет оценивать веса, чтобы контролировать тип гетероскедастичности, который вы упоминаете; посмотрите ?varFuncи перейдите по ссылкам оттуда. IIRC varFixed()будет делать то, что вы хотите.

— Восстановить Монику - Дж. Симпсон

В 'proc mixed', subject = option 'создает блочно-диагональную структуру в матрице дисперсии-ковариации невязок. Рассматривали ли вы, таким образом, общую линейную смешанную модель, чтобы изменить гипотезу гомоскедастичности?

— Октябрь

Спасибо Гэвин, я немного посмотрел на эти функции. Два вопроса: 1) Вы рекомендуете какие-нибудь учебники? (Я подозреваю, что книга МАСС может быть хорошим началом, но мне было интересно, если вы подумали об этом). 2) Так как модель, которую я подгоняю, представляет собой простую OLS, насколько отличается оценка при использовании функции gls? (Если я правильно помню - не так много, так как он должен работать в некотором итеративном приближении первой степени, но я совсем не уверен в этом). Ocram - спасибо, но я не пользуюсь SAS.

— Тал Галили

Здесь, в разделе 2, объясняется, как это сделать в STATA для квазипуассонной регрессии: stata.com/meeting/fnasug08/gutierrez.pdf . Если бы кто-нибудь мог предложить способ перекодировать это в R, я был бы очень благодарен.

— a11msp

17

Таблетки против «эффекта мегафона» включают (среди прочего):

$Y$ . Это не точно, но иногда укрощает расширение.
Используйте взвешенную регрессию наименьших квадратов . При таком подходе каждому наблюдению присваивается свой коэффициент дисперсии. В этом ответе показано, как использовать WLSR в R (например, если дисперсия невязок пропорциональна средним, вы можете указать в качестве весов обратную величину для подобранного значения в невзвешенной модели).
Используйте надежную регрессию. Функция rlm()вMASS пакете R выполняет M-оценку, которая должна быть устойчивой к неравенству дисперсий.

Редактирование в июле 2017 года. Похоже, что обобщенный метод наименьших квадратов, как предлагается в ответе Грега Сноу, является одним из лучших вариантов.

— gui11aume
источник

2

Я построил этот ответ для вопроса переполнения стека .

— Питер Эллис

1

Возможно, стоит обратить внимание и на обобщенную опцию наименьших квадратов, используя gls с опцией weights, установленной в varFixed () - для меня это может показаться одним из более элегантных опций ...

— Том Венселерс

@ TomWenseleers Я согласен. Обратите внимание, что это ответ Грега Сноу.

— gui11aume

9

С пакетом gamlss вы можете смоделировать распределение ошибок ответа как линейную, нелинейную или гладкую функцию объясняющих переменных. Это довольно мощный подход (я много узнал обо всех возможностях, которые могут возникнуть в процессе выбора модели), и все это хорошо объясняется в нескольких публикациях (включая книги), на которые есть ссылки по ссылке выше.

— илы
источник

8

glsФункция в nlmeпакете для R можно оценить регрессии и отношения с дисперсией в то же время. Смотрите weightsаргумент и 2-й пример на странице справки.

— Грег Сноу
источник