Отрицательные значения для AICc (исправленный информационный критерий Акаике)

39

Я рассчитал AIC и AICc для сравнения двух общих линейных смешанных моделей; AIC положительны с моделью 1, имеющей более низкий AIC, чем модель 2. Однако оба значения AICc являются отрицательными (модель 1 по-прежнему <модель 2). Допустимо ли использовать и сравнивать отрицательные значения AICc?

mixed-model model-selection aic

— Фрейя Харрисон
источник

когда AIC стал минимальным? пожалуйста, ответьте мне

что это значит, когда AIC модели 1 меньше, чем модель 2? Модель 1 ближе к нулю или ближе к нулю? Другими словами, если AIC модели 1 составляет -390, а модель 2 имеет -450, я бы выбрал модель 1 или модель 2?

— Дженс

46

Все, что имеет значение, - это разница между двумя значениями AIC (или, лучше, AICc), представляющими соответствие двум моделям. Фактическое значение AIC (или AICc), и является ли оно положительным или отрицательным, ничего не значит. Если вы просто измените единицы, в которых выражены данные, AIC (и AICc) резко изменится. Но разница между AIC двух альтернативных моделей не изменилась бы вообще.

Итог: не учитывайте фактическое значение AIC (или AICc) и является ли оно положительным или отрицательным. Также игнорируйте соотношение двух значений AIC (или AICc). Обратите внимание только на разницу.

— Харви Мотульский
источник

2

Я нашел все ответы на этот вопрос полезными, но я думаю, что этот является наиболее практичным.

— Фрейя Харрисон

1

Меня смущает замечание о смене юнитов, потому что по определению AIC не имеет юнитов (это скорректированная максимальная логарифмическая вероятность). Изменение в единицах данных вообще не изменит максимизированной вероятности и, следовательно, также не изменит AIC. (Независимо от того, ваша рекомендация обратить внимание только на разницу не ставится под сомнение.)

— whuber

5

@whuber: если данные постоянно распространяются (что может быть, в зависимости от того, действительно ли первоначальный плакат означает «общий» или «обобщенный» LMM), тогда в плотности вероятности есть неявный термин «дельта-х», который действительно влияет изменение единиц. Смотрите также < emdbolker.wikidot.com/faq >

— Бен Болкер,

4

@Ben Спасибо. Когда я писал это, я был в замешательстве между AIC и различием AIC, думая, что последний был первым. Это верно, что выбор единиц вводит мультипликативную константу в вероятность. Отсюда логарифмическая вероятность имеет аддитивную константу, которая способствует (после удвоения) AIC. Разница АПК без изменений.

— whuber

27

AIC = -2Ln (L) + 2k

где L - максимальное значение функции правдоподобия для этой модели, а k - количество параметров в модели.

В вашем примере -2Ln (L) + 2k <0 означает, что логарифмическая вероятность на максимуме была> 0, что означает, что вероятность на максимуме была> 1.

Нет проблем с положительным логарифмическим правдоподобием. Это распространенное заблуждение, что логарифмическая вероятность должна быть отрицательной. Если вероятность получается из плотности вероятности, она вполне может превышать 1, что означает, что логарифмическая вероятность положительна, следовательно, отклонение и AIC отрицательны. Это то, что произошло в вашей модели.

Если вы считаете, что сравнение AIC является хорошим способом выбора модели, тогда все равно будет иметь место (алгебраически) более низкая AIC, а не та, с наименьшим абсолютным значением AIC. Чтобы повторить, вы хотите наиболее отрицательное число в вашем примере.

— Грэм Куксон
источник

13

Как правило, предполагается, что AIC (и, следовательно, AICc) определяется вплоть до добавления константы, поэтому факт, является ли он отрицательным или положительным, не имеет никакого значения вообще. Так что ответ да, это действительно.

Даже если константа включена, AIC (AICc) может быть отрицательным.

— Роб Хиндман

1

Вот что я написал.

5

Да, допустимо сравнивать отрицательные значения AICc так же, как и отрицательные значения AIC. Поправочный коэффициент в AICc может стать большим при небольшом размере выборки и относительно большом количестве параметров, и оштрафовать тяжелее, чем AIC. Таким образом, положительные значения AIC могут соответствовать отрицательным значениям AICc.

— АРС
источник

0

Да. Допустимо сравнивать значения AIC независимо от того, являются они положительными или отрицательными. Это потому, что AIC определяется как линейная функция (-2) логарифмического правдоподобия. Если вероятность велика, ваш AIC, скорее всего, будет отрицательным, но ничего не говорит о самой модели.

AICc похож, тот факт, что значения теперь настроены, ничего не меняет.

— SmallChess
источник