Если линейная регрессия связана с корреляцией Пирсона, существуют ли какие-либо методы регрессии, связанные с корреляциями Кендалла и Спирмена?

27

Может быть, этот вопрос наивный, но:

Если линейная регрессия тесно связана с коэффициентом корреляции Пирсона, существуют ли какие-либо методы регрессии, тесно связанные с коэффициентами корреляции Кендалла и Спирмена?

— Мирослав Сабо
источник

3

В качестве простого примера , где у вас есть один пояснительный и зависимые переменный: линейная регрессия рядов от

и

даст коэффициент корреляции Спирмена как коэффициент регрессии. И в этом случае

и

x

$x$

y

$y$

x

$x$

y

$y$ взаимозаменяемы в регрессии.

— COOLSerdash

2

Всего несколько мыслей.

Кендалла и Спирмена

являются коэффициентами корреляции, основанными на рангах. Тогда искомые отношения между

и

должны будут включать их ряды. Однако вычисление рангов вводит зависимость между наблюдениями, что, в свою очередь, налагает зависимость между ошибочными членами, устраняя линейную регрессию. Однако в другой ситуации моделирование структуры зависимости между

и

с помощью копул сделало бы возможной связь с

Кендалла и / или

Спирмена , в зависимости от выбора связки.

τ

$\tau$

ρ

$\rho$

x

$x$

y

$y$

x

$x$

y

$y$

τ

$\tau$

ρ

$\rho$

— QuantIbex

1

@QuantIbex означает ли эта зависимость

?

E [ε_{i} ε_{j}] \neq 0

$E[\varepsilon_i\varepsilon_j]\neq 0$

— теневик

21

Существует очень простое средство, с помощью которого можно использовать практически любую меру корреляции для соответствия линейным регрессиям, и которое воспроизводит наименьшие квадраты при использовании корреляции Пирсона.

Учтите, что если наклон отношения равен , следует ожидать , что корреляция между и равна $\beta$ $y-\beta x$ $x$ $0$ .

Действительно, если бы это было что-то отличное от , были бы некоторые не зафиксированные линейные отношения - это то, что мера корреляции собирала бы. $0$

Поэтому мы можем оценить наклон, найдя наклон, который делает выборочную корреляцию между и $\tilde{\beta}$ $y-\tilde{\beta} x$ $x$ равной $0$ . Во многих случаях - например, при использовании мер на основе ранга - корреляция будет ступенчатой функцией значения оценки наклона, поэтому может быть интервал, где она равна нулю. В этом случае мы обычно определяем выборочную оценку как центр интервала. Часто ступенчатая функция перепрыгивает от нуля до нуля в некоторой точке, и в этом случае оценка находится в точке скачка.

Это определение работает, например, со всеми видами ранговых и надежных корреляций. Его также можно использовать для получения интервала для уклона (обычным образом - путем нахождения уклонов, которые обозначают границу между только значимыми и незначительными корреляциями).

Это только определяет наклон, конечно; как только наклон оценен, перехват может быть основан на подходящей оценке местоположения, вычисленной по остаткам . С корреляциями на основе рангов медиана является обычным выбором, но есть много других подходящих вариантов. $y-\tilde{\beta}x$

Вот корреляция, построенная против наклона для carданных в R:

введите описание изображения здесь

Корреляция Пирсона пересекает 0 на наклоне наименьших квадратов, 3.932
Корреляция Кендалла пересекает 0 на
склоне Тейла -Сен, 3.667 Корреляция Спирмена пересекает 0, давая наклон «Линии Спирмена» 3.714

Это три оценки наклона для нашего примера. Теперь нам нужны перехваты. Для простоты я просто буду использовать средний остаток для первого перехвата и медиану для двух других (в данном случае это не имеет большого значения):

           intercept
 Pearson:  -17.573 *     
 Kendall:  -15.667
 Spearman: -16.285

* (небольшое отличие от наименьших квадратов связано с ошибкой округления в оценке наклона; несомненно, в других оценках есть аналогичная ошибка округления)

Соответствующие подогнанные линии (с использованием той же цветовой схемы, что и выше):

введите описание изображения здесь

Изменить: Для сравнения, наклон квадрант-корреляции составляет 3.333

И корреляционные наклоны Кендалла, и корреляции Спирмена существенно более устойчивы к влиятельным выбросам, чем наименьшие квадраты. Смотрите здесь для драматического примера в случае Кендалла.

— Glen_b - Восстановить Монику
источник

(+1) Отличное объяснение! Есть ли какая-то причина, по которой Кендалл кажется более предпочтительным для Спирмена в этом контексте (по крайней мере, исходя из того факта, что корреляция Кендалла соответствует оценщику наклона с именем Тейл-Сен, а у Спирмена - нет)?

— говорит амеба: восстановите Монику

4

Есть ряд причин, почему это, кажется, имеет место. Во-первых, у линии Тейла-Сен есть просто описанная оценка (медиана парных наклонов), которой у Спирмена не хватает; в небольших образцах это очень удобно для ручного расчета. Корреляция Кендалла приближается к норме быстрее и является более математически понятной . Смотрите также здесь и здесь .

— Glen_b

20

$X$ $Y$ $Y$

$\chi^2$ статистика в модели ПО является именно статистикой Уилкоксона.

Модель ПО является частным случаем более общего семейства моделей кумулятивной вероятности (некоторые из них называют кумулятивной связью), включая пробит, пропорциональные опасности и дополнительные модели логарифмического журнала. Пример из практики см. В главе 15 моих раздаточных материалов .

— Фрэнк Харрелл
источник

4

Аарон Хан (1987 по эконометрике) предложил оценку корреляции максимального ранга, которая соответствует регрессионным моделям путем максимизации тау. Догерти и Томас (2012 в литературе по психологии) недавно предложили очень похожий алгоритм. Существует много работ на MRC, иллюстрирующих его свойства.

Аарон К. Хан, Непараметрический анализ обобщенной регрессионной модели: Оценка корреляции максимального ранга, Журнал эконометрики, том 35, выпуски 2–3, июль 1987 года, страницы 303-316, ISSN 0304-4076, http: // dx.doi.org/10.1016/0304-4076(87)90030-3 . ( http://www.sciencedirect.com/science/article/pii/0304407687900303 )

Dougherty, MR, & Thomas, RP (2012). Надежное принятие решений в нелинейном мире. Психологический обзор, 119 (2), 321. Получено с http://damlab.umd.edu/pdf%20articles/DoughertyThomas2012Rev.pdf .

— rankman
источник