Почему в тесте независимости используется распределение хи-квадрат?

В тесте на соответствие критерия используется следующая статистика : В тесте предоставление этого условия выполнены, как используются - распределение для вычисления р-значение, учитывая правда можно было бы наблюдать такое значение в репрезентативной выборке одного и того же размера. $\chi^2$

χ_{0}^{2} = \sum_{i = 1}^{n} \frac{(O_{i} - E_{i})^{2}}{E_{i}}

$\chi_0^2=\sum_{i=1}^n\frac{(O_i-E_i)^2}{E_i}$

χ^{2}

$\chi^2$

H_{0}

$H_0$

Однако для того, чтобы статистика следовала за -распределением (с степенями свободы), должно быть верно, что: для независимого, стандартного нормального ( Википедия ). Условия для теста следующие (опять же из Википедии ): $\chi_0^2$ $\chi^2$ $n-1$

\sum_{i = 1}^{n} \frac{(O_{i} - E_{i})^{2}}{E_{i}} = \sum_{i = 1}^{n - 1} Z_{i}^{2}

$\sum_{i=1}^n\frac{(O_i-E_i)^2}{E_i}=\sum_{i=1}^{n-1}Z_i^2$

Z_{i}

$Z_i$

Выборочный представитель населения
Большой размер выборки
Ожидаемое количество клеток достаточно велико
Независимость между каждой категорией

Из условий (1,2) ясно, что мы удовлетворяем условиям вывода выборки из совокупности. (3) кажется необходимым предположением, потому что дискретный счет , который находится в знаменателе, не приводит к почти непрерывному распределению для каждого и если оно недостаточно велико, существует ошибка, которую можно исправить с помощью Yates Поправка - это, кажется, из того факта, что дискретное распределение в основном является «непрерывным» непрерывным, поэтому сдвиг на для каждого исправляет это. $E_i$ $Z_i$ $1/2$

Необходимость (4), кажется, пригодится позже, но я не вижу, как.

Сначала я подумал, что необходимо, чтобы статистика соответствовала распределению. Это привело меня к сомнительному предположению, что $Z_i=\frac{O_i-E_i}{\sqrt{E_i}}$ , что было действительно неправильно. Фактически, из уменьшения размерности для двух сторон равенства сдоясно,что это не может быть так. $O_i-E_i\sim \mathcal{N}(0, \sqrt{E_i})$ $n$ $n-1$

Благодаря объяснениям Уобера стало очевидно, что не должен равняться каждому $Z_i$ потому что(обратите внимание на уменьшение количества суммируемых переменных) для стандартных нормальных случайных величинкоторые являютсяфункциональнонезависимыми $\frac{O_i-E_i}{\sqrt{E_i}}$ $\chi_0^2=\sum_{i=1}^{n-1}Z_i^2$ $Z_i$

Мой вопрос , следовательно , как следовать за распределением ? Какие виды комбинаций каждого из $\chi_0^2$ $\chi^2$ Термины приводят к квадрату стандартных нормалей ? Это требует использования CLT, по-видимому (и это имеет смысл), но как? Другими словами, что каждыйравен (или приблизительно равен)? $\frac{(O_i-E_i)^2}{E_i}$ $Z_i^2$ $Z_i$

hypothesis-testing chi-squared

— VF1
источник

Мне любопытно, когда ты читаешь, что кто-то предполагает последнее, что ты сказал (

). В этом нет необходимости:статистика

может иметьраспределение

(по крайней мере, в очень хорошем приближении) без какого-либо из этих стандартизованных остатков, имеющих нормальное распределение. Вопросвыкажется, хотятчтобы спросить,как оправдать эти предположения отсылаястатистики краспределению? Сами по себеони этого не делают. Для обсуждения того, что может пойти не так, см. Мой пост наstats.stackexchange.com/a/17148.

O_{i} - E_{i} \sim N (0, \sqrt{E_{i}})

$O_i-E_i\sim \mathcal{N}(0, \sqrt{E_i})$

χ^{2}

$\chi^2$

χ^{2}

$\chi^2$ $\chi^2$ $\chi^2$

— whuber

Из равенства двух сумм квадратов нельзя сделать вывод, что квадратные корни равны по терминам! Поскольку это относится к простым числам, это, безусловно, относится и к случайным переменным.

— whuber

Для того, чтобы сделать этот бетон, предположим , что

являются независимо друг от друга , распространяемого с

распределения , имеющие степеней свободы

и что

но

для всех

(W_{i}), i = 1, \dots, n

$(W_i),i=1, \ldots,n$

χ

$\chi$

ν_{1}, ν_{2}, \dots, ν_{n}

$\nu_1,\nu_2,\ldots,\nu_n$

ν_{1} + ν_{2} + \dots + ν_{n} = n - 1

$\nu_1+\nu_2+\cdots+\nu_n=n-1$

ν_{i} \neq 1

$\nu_i\ne 1$

i

$i$ , Тогда, хотя ни один из является нормальным, тем не менее, имеет .

W_{i}

$W_i$

\sum_{i = 1}^{n} W_{i}^{2}

$\sum_{i=1}^n W_i^2$

χ^{2} (n - 1)

$\chi^2(n-1)$

— whuber

Если под «стандартным квадратом нормали» вы подразумеваете «сумму независимых квадратов стандартных нормалей», то я полагаю, что этот вопрос вы действительно хотели задать с самого начала :-). И, наконец, большинство анализов ситуации действительно вызывают Центральную предельную теорему, чтобы доказать, что стандартизированные невязки асимптотически являются стандартными нормальными (но не совсем независимыми, поэтому степени свободы равны а не ).

n - 1

$n-1$

n

$n$

— whuber

+1 за то, что я ожидаю, скоро станет очень хорошим вопросом. Первая проблема - проверка независимости не использует заявленную статистику. Статистика, приведенная в начале, является одномерной (сумма по категориям), в то время как для проверки независимости требуется более одной переменной. Пожалуйста, отредактируйте, чтобы название теста соответствовало статистике.

n

$n$

— Glen_b

Ответы:

Это о распределении Пуассона. Если - Пуассон со средним значением , то дисперсия равна . Это означает, что является подобной сущностью. По CLT, Пуассон стремится к норме, так как среднее становится большим, и именно здесь приходит хи-квадрат. Да, это асимптотический тест. $X$ $\lambda$ $X$ $\lambda$

\frac{(X - λ)^{2}}{λ}

$\frac{(X-\lambda)^2}{\lambda}$

z^{2}

$z^2$

Степени свободы взяты из теоремы Кохрана. По сути, Кокран объясняет, как хи-квадрат преобразуется (или остается неизменным), подвергаясь линейному преобразованию в баллов. $z^2$

\sum_{i} z_{i}^{2} = Z^{'} I Z

$\sum_i z_i^2=Z' I Z$

в матричной записи. Если вместо вычисления обычную сумму квадратов, вы вычисляете для некоторой матрицы Q, то вы все равно получите величину с аа распределения хи-квадрат, но степени свободы теперь ранг . На матрице Q есть больше условий, но это суть.

Z^{'} Q Z

$Z' Q Z$

Q

$Q$

Если вы с некоторыми матричными обозначениями, вы можете выразить в виде квадратичной формы. Cochran предполагает независимость от исходных нормальных переменных, поэтому столбцы таблицы показателей также должны быть независимыми.

\sum_{i} (z_{i} - \bar{z})^{2}

$\sum_i (z_i-\bar{z})^2$

— Placidia
источник

Извините, но вы определенно потеряли меня в «Если вместо этого вы делаете ...»

— VF1

@ VF1, я внес изменения, поэтому надеюсь, что это будет более понятно. Теорема Кокрейна является ответом на ваш вопрос о том, когда сумма квадратов с нормалями в ней имеет распределение хи-квадрат.

— Плацидия

Хорошо, я посмотрю на это. Я оставлю вопрос открытым, однако, на случай, если кому-то еще есть что добавить.

— VF1

Обычно размер выборки фиксирован. Это означает, что невозможно, чтобы любая из записей могла следовать распределению Пуассона. Таким образом, обращение к распределению Пуассона выглядит как еще одно приближение - и, кажется, оставляет нас там, где мы начали.

— whuber

$\chi^2$

Z_{i} = \frac{O_{i} - E_{i}}{\sqrt{E_{i}}}

$Z_i = \frac{O_i - E_i}{\sqrt{E_i}}$

\frac{O_{i} - E_{i}}{(S t a n d a r d E r r o r O f T h e O b s e r v e d)}

$\frac{O_i - E_i}{(Standard Error Of The Observed)}$

Далее в учебнике говорится, что лучше оценить по , поэтому термин становится . Учебник на самом деле не объясняет, почему такая замена является приемлемой, и я также хотел бы выяснить. $(StandardErrorOfTheObserved)$ $\sqrt{E_i}$ $Z_i = \frac{O_i - E_i}{\sqrt{E_i}}$

В любом случае, вы можете создать тестовую статистику вида

Z = | Z_{1} | + | Z_{2} | + | Z_{3} | + . . .

$Z = |Z_1| + |Z_2| + |Z_3| + ...$

но все квадраты лучше возводить в квадрат, потому что вы сразу получаете положительные значения, а более высокие значения выделяются больше после возведения в квадрат. Таким образом, вы получаете следующее:

χ^{2} = Z_{1}^{2} + Z_{2}^{2} + Z_{3}^{2} + . . .

$\chi^2 = Z_1^2 + Z_2^2 + Z_3^2 +...$

Но я не знаю, почему эта сумма должна следовать за , или какова связь с определением распределения (сумма квадратов стандартных нормальных независимых переменных). $\chi^2$ $\chi^2$

РЕДАКТИРОВАТЬ: я все еще изучаю статистику, и я все еще не думаю, что я правильно понимаю тест . Я надеюсь, что другие тоже могут просветить меня. $\chi^2$

— CamilB
источник