Регрессия Пуассона против регрессии по методу наименьших квадратов?

21

Пуассоновская регрессия - это GLM с функцией log-link.

Альтернативный способ моделирования данных с ненормально распределенным счетчиком - это предварительная обработка путем взятия журнала (или, скорее, журнала (1 + счет) для обработки 0). Если вы выполняете регрессию методом наименьших квадратов в ответах на количество журналов, связано ли это с регрессией Пуассона? Может ли он справиться с подобными явлениями?

regression poisson-distribution generalized-linear-model

— Брендан Оконнор
источник

6

Как вы планируете брать логарифмы любых подсчетов, которые равны нулю?

— whuber

3

Определенно не эквивалентно. Простой способ убедиться в этом - посмотреть, что произойдет, если вы наблюдаете ноль. (Комментарий создан до просмотра комментария @ whuber. По-видимому, эта страница не обновлялась надлежащим образом в моем браузере.)

— Кардинал

ОК, я, очевидно, должен сказать, журнал (1 + кол). Очевидно, не эквивалентно, но интересно, были ли отношения, или они могут справиться с подобными явлениями.

— Брендан Оконнор

1

Здесь есть полезное обсуждение этой проблемы: blog.stata.com/2011/08/22/…

— Майкл Бишоп

22

С одной стороны, в регрессии Пуассона левая часть модельного уравнения представляет собой логарифм ожидаемого числа: . $\log(E[Y|x])$

С другой стороны, в «стандартной» линейной модели левая часть представляет собой ожидаемое значение переменной нормального отклика: . В частности, функция связи - это функция тождества. $E[Y|x]$

Теперь допустим, что - переменная Пуассона, и вы намереваетесь ее нормализовать, взяв log: . Поскольку предполагается, что нормально, вы планируете использовать стандартную линейную модель, для которой левая часть . Но, в общем, . Как следствие, эти два подхода к моделированию различны. $Y$ $Y' = \log(Y)$ $Y'$ $E[Y'|x] = E[\log(Y)|x]$ $E[\log(Y) | x] \neq \log(E[Y|x])$

— ocram
источник

6

На самом деле,

когда - либо , если

для некоторого

измеримая функция

, т.е.

полностью определяется

.

E (\log (Y) | X) \neq \log (E (Y | X))

$\mathbb{E}(\log(Y) | X) \neq \log(\mathbb{E}(Y | X))$

P (Y = f (X) | X) = 1

$\mathbb{P}(Y = f(X) | X ) = 1$

σ (X)

$\sigma(X)$

f

$f$

Y

$Y$

X

$X$

— кардинал

@cardinal. Очень хорошо поставлено.

— Suncoolsu

9

Я вижу два важных различия.

Во-первых, прогнозируемые значения (в исходном масштабе) ведут себя по-разному; в логлинейных наименьших квадратах они представляют условные геометрические средние; в модели лог-пуассона представляют условные средства. Поскольку данные в этом типе анализа часто искажены правильно, условное геометрическое среднее будет недооценивать условное среднее.

Второе отличие - это подразумеваемое распределение: логнормальное и пуассоновское. Это относится к структуре гетероскедастичности остатков: остаточная дисперсия, пропорциональная квадрату ожидаемых значений (логнормальное), по сравнению с остаточной дисперсией, пропорциональной ожидаемому значению (Пуассон).

— лудо
источник

-1

Одно очевидное отличие состоит в том, что регрессия Пуассона будет давать целые числа в качестве точечных предсказаний, тогда как линейная регрессия с числом логарифмов может давать нецелые числа.

— Галит Шмуэли
источник

12

Как это работает? Разве GLM не оценивает ожидания , которые не обязательно являются интегральными?

— whuber

1

Это неправда. Механически пуассоновские регрессии вполне способны обрабатывать нецелые числа. Стандартные ошибки не будут распределяться по Пуассону, но вместо этого вы можете использовать надежные стандартные ошибки.

— Мэтью