Эмпирические правила для минимального размера выборки для множественной регрессии

В рамках предложения по исследованию социальных наук мне был задан следующий вопрос:

Я всегда использовал 100 + m (где m - количество предикторов) при определении минимального размера выборки для множественной регрессии. Это уместно?

Я часто получаю похожие вопросы, часто с разными правилами. Я также очень много читал такие практические правила в различных учебниках. Я иногда задаюсь вопросом, основана ли популярность правила с точки зрения цитирования на том, как низко установлен стандарт. Однако я также осознаю ценность хорошей эвристики в упрощении принятия решений.

Вопросов:

• В чем польза простых эмпирических правил для минимальных размеров выборки в контексте прикладных исследователей, проектирующих научные исследования?
• Вы бы предложили альтернативное правило для минимального размера выборки для множественной регрессии?
• В качестве альтернативы, какие альтернативные стратегии вы бы предложили для определения минимального размера выборки для множественной регрессии? В частности, было бы хорошо, если бы значение присваивалось той степени, в которой любая стратегия может быть легко применена не статистиком.

Я не фанат простых формул для генерации минимальных размеров выборки. По крайней мере, любая формула должна учитывать величину эффекта и интересующие вопросы. И разница между обеими сторонами отсечки минимальна.

Размер выборки как проблема оптимизации

• Большие образцы лучше.
• Размер выборки часто определяется прагматическими соображениями.
• Размер выборки следует рассматривать как одно из соображений в задаче оптимизации, где затраты времени, денег, усилий и т. Д. На привлечение дополнительных участников сопоставляются с преимуществами наличия дополнительных участников.

Грубое правило большого пальца

С точки зрения очень грубых эмпирических правил в типичном контексте наблюдательных психологических исследований, включающих такие вещи, как тесты способностей, шкалы отношений, показатели личности и т. Д., Я иногда думаю о:

• n = 100 как адекватный
• n = 200 хорошо
• п = 400 + как отлично

Эти эмпирические правила основаны на 95% доверительных интервалах, связанных с корреляциями на этих соответствующих уровнях, и степени точности, с которой я хотел бы теоретически понять отношения интересов. Однако это только эвристика.

Сила 3

• Обычно я использую G-Power 3 для расчета мощности на основе различных предположений, см. Мой пост .
• См. Это руководство на сайте G Power 3, посвященном множественной регрессии.
• Питания Грунтовка также является полезным инструментом для прикладных исследователей.

Множественная регрессия проверяет несколько гипотез

• Любой вопрос анализа мощности требует рассмотрения величины эффекта.

• Анализ мощности для множественной регрессии усложняется тем фактом, что существует множество эффектов, включая общий r-квадрат и один для каждого отдельного коэффициента. Кроме того, большинство исследований включают более одной множественной регрессии. Для меня это еще одна причина больше полагаться на общую эвристику и думать о минимальном размере эффекта, который вы хотите обнаружить.

• Что касается множественной регрессии, я часто буду больше думать о степени точности при оценке базовой корреляционной матрицы.

Точность в оценке параметров

Мне также нравится обсуждение Кеном Келли и коллегами точности в оценке параметров.

• Смотрите сайт Кена Келли для публикаций
• Как уже упоминалось @Dmitrij, в Kelley and Maxwell (2003) FREE PDF есть полезная статья.
• Кен Келли разработал MBESSпакет в R для проведения анализа, связывающего размер выборки с точностью при оценке параметров.

Я не предпочитаю думать об этом как о проблеме власти, а скорее задаю вопрос "насколько большим должно быть , чтобы можно было доверять очевидному "? Один из подходов к этому - рассмотреть соотношение или разницу между и , причем последний является скорректированным заданным и формирует более объективную оценку «истинного» .$n$$R^2$$R^2$$R_{adj}^{2}$$R^2$$1 - (1 - R^{2})\frac{n-1}{n-p-1}$$R^2$

Некоторый код R можно использовать для определения для фактора что должно быть таким, чтобы был только фактором меньшим, чем или только меньшим на . $p$$n-1$$R_{adj}^{2}$$k$$R^2$$k$

require(Hmisc)
dop <- function(k, type) {
  z <- list()
  R2 <- seq(.01, .99, by=.01)
  for(a in k) z[[as.character(a)]] <-
    list(R2=R2, pfact=if(type=='relative') ((1/R2) - a) / (1 - a) else
         (1 - R2 + a) /  a)
  labcurve(z, pl=TRUE, ylim=c(0,100), adj=0, offset=3,
           xlab=expression(R^2), ylab=expression(paste('Multiple of ',p)))
}
par(mfrow=c(1,2))
dop(c(.9, .95, .975), 'relative')
dop(c(.075, .05, .04, .025, .02, .01), 'absolute')

Обозначения: Ухудшение которое приводит к относительному падению с до на указанный относительный коэффициент (левая панель, 3 фактора) или абсолютную разницу (правая панель, 6 декрементов).$R^{2}$$R^{2}$$R^{2}_{adj}$

Если кто-нибудь видел это уже в печати, пожалуйста, дайте мне знать.

(+1) для действительно важного, на мой взгляд, вопроса.

В макроэкономике у вас обычно гораздо меньший размер выборки, чем в микро, финансовых или социологических экспериментах. Исследователь чувствует себя хорошо, когда может дать хотя бы возможные оценки. Мое личное наименьшее эмпирическое правило - ( степени свободы на один оценочный параметр). В других прикладных областях исследований вам, как правило, больше везет с данными (если это не слишком дорого, просто соберите больше точек данных), и вы можете спросить, каков оптимальный размер выборки (а не просто минимальное значение для таких данных). Последняя проблема связана с тем, что более низкокачественные (зашумленные) данные не лучше, чем более мелкая выборка высококачественных данных.$4\cdot m$$4$

Большинство размеров выборки связаны с силой тестов для гипотезы, которую вы собираетесь проверить после того, как вы подойдете к модели множественной регрессии.

Есть хороший калькулятор, который может быть полезен для нескольких моделей регрессии и некоторых формул за кулисами. Я думаю, что такой априорный калькулятор может быть легко применен не статистиком.

Возможно K.Kelley и SEMaxwell статья может быть полезным , чтобы ответить на другие вопросы, но мне нужно больше времени , чтобы изучить первую проблему.

Ваше эмпирическое правило не особенно хорошо, если очень велико. Возьмите : ваше правило гласит, что можно использовать переменных с наблюдениями. Я так не думаю!$m$$m=500$$500$$600$

Для множественной регрессии у вас есть теория, предлагающая минимальный размер выборки. Если вы собираетесь использовать обычные наименьшие квадраты, то одно из предположений, которые вам требуются, состоит в том, чтобы «истинные остатки» были независимыми. Теперь, когда вы подгоняете модель наименьших квадратов к переменным, вы накладываете линейные ограничения на свои эмпирические остатки (заданные наименьшими квадратами или «нормальными» уравнениями). Это подразумевает, что эмпирические остатки не являются независимыми - как только мы знаем из них, оставшиеся могут быть выведены, где - размер выборки. Таким образом, у нас есть нарушение этого предположения. Теперь порядок зависимости . Следовательно, если вы выбираете$m$$m+1$$n-m-1$$m+1$$n$$O\left(\frac{m+1}{n}\right)$$n=k(m+1)$ для некоторого числа , тогда порядок задается как . Итак, выбирая , вы выбираете, какую зависимость вы готовы терпеть. Я выбираю почти так же, как вы применяете для применения «центральной предельной теоремы» - - это хорошо, и у нас есть правило «подсчета статистики» (т.е. система подсчета статистики равна ).$k$kk10-2030≡∞1,2,…,26,27,28,29,$O\left(\frac{1}{k}\right)$$k$$k$$10-20$$30\equiv\infty$$1,2,\dots,26,27,28,29,\infty$

В психологии:

Зеленый (1991) указывает, что (где m - число независимых переменных) необходимо для тестирования множественной корреляции и для тестирования отдельных предикторов.N > 104 + $N > 50 + 8m$$N > 104 + m$

Другие правила, которые могут быть использованы ...

Харрис (1985) говорит, что число участников должно превышать количество предикторов как минимум на .$50$

Van Voorhis & Morgan (2007) ( pdf ), используя 6 или более предикторов, абсолютный минимум участников должен быть . Хотя лучше по участников на переменную.$10$$30$

Я согласен, что калькуляторы мощности полезны, особенно для того, чтобы увидеть влияние различных факторов на мощность. В этом смысле калькуляторы, которые включают больше входной информации, намного лучше. Для линейной регрессии, мне нравится регрессионный калькулятор здесь , который включает в себя такие факторы, как ошибки в Xs, корреляция между Xs, и многими другими.

Я нашел эту сравнительно недавнюю работу (2015 г.), в которой оценивается, что достаточно только 2 наблюдения на переменную, если мы заинтересованы в точности оценочных коэффициентов регрессии и стандартных ошибках (и в эмпирическом охвате результирующих доверительных интервалов), и мы используйте скорректированный :$R^2$

( pdf )

Конечно, как также признается в документе, (относительная) объективность не обязательно подразумевает наличие достаточной статистической мощности. Однако вычисления мощности и размера выборки обычно производятся путем указания ожидаемых эффектов; в случае множественной регрессии это предполагает гипотезу о значении коэффициентов регрессии или о матрице корреляции между регрессорами и результатом. На практике это зависит от силы корреляции регрессоров с результатом и между собой (очевидно, чем сильнее, тем лучше для корреляции с результатом, в то время как с мультиколлинеарностью дела ухудшаются). Например, в крайнем случае двух совершенно коллинеарных переменных вы не можете выполнить регрессию независимо от количества наблюдений и даже только с двумя ковариатами.