Влияние границ бина на основе данных на критерий пригодности хи-квадрат?

Оставляя в стороне очевидную проблему малой мощности хи-квадрата в подобных обстоятельствах, представьте себе, что вы проводите проверку качества хи-квадрата для некоторой плотности с неопределенными параметрами путем объединения данных.

Для конкретности, скажем, экспоненциальное распределение с неизвестным средним и размером выборки, скажем, 100.

Чтобы получить разумное количество ожидаемых наблюдений на одну ячейку, необходимо принять во внимание некоторые данные (например, если мы решили поместить 6 столбцов ниже среднего значения и 4 над ним, то при этом все равно будут использоваться границы бинов на основе данных) ,

Но такое использование бинов, основанное на просмотре данных, предположительно повлияет на распределение тестовой статистики при нулевом значении.

Я видел много дискуссий о том факте, что - если параметры оцениваются по максимальной вероятности из бин- данных - вы теряете 1 df на расчетный параметр (проблема, относящаяся ко времени Фишера против Карла Пирсона) - но я не помню читать что-нибудь о поиске самих границ бункера на основе данных. (Если вы оцениваете их по незавершенным данным, то с помощью бинов распределение тестовой статистики лежит где-то между и .) $k$ $\chi^2_{k}$ $\chi^2_{k-p}$

Влияет ли этот выбор корзин на основе данных существенным образом на уровень значимости или мощность? Есть ли какие-то подходы, которые важнее других? Если есть большой эффект, это что-то, что исчезает в больших выборках?

Если бы это оказало существенное влияние, это, похоже, использовало бы критерий хи-квадрат, когда параметры неизвестны, почти бесполезны во многих случаях (несмотря на то, что их все еще пропагандируют в нескольких текстах), если только у вас не было хорошего -приорная оценка параметра.

Обсуждение вопросов или указателей на ссылки (желательно с упоминанием их выводов) было бы полезно.

Отредактируйте, в основном, в сторону основного вопроса:

Мне приходит в голову, что есть потенциальные решения для конкретного случая экспоненциального * (и об этом придет в форму), но я все еще интересуюсь более общей проблемой влияния выбора границ бина.

* Например, для экспоненты можно использовать наименьшее наблюдение (скажем, оно равно ), чтобы получить очень грубое представление о том, где разместить ячейки (поскольку наименьшее наблюдение экспоненциально со средним значением ), а затем проверить оставшиеся различия ( ) на экспоненциальность. Конечно, это может дать очень плохую оценку $m$ $\mu/n$ $n-1$ $x_i - m$ $\mu$ и, следовательно, неудачный выбор бинов, хотя я полагаю, что можно использовать рекурсивный аргумент для того, чтобы взять два или три самых низких наблюдения, из которых можно выбрать разумные блоки, а затем проверить различия оставшихся наблюдений над самой большой из этих статистик наименьшего порядка для экспоненциальность)

chi-squared goodness-of-fit binning

— Glen_b - Восстановить Монику
источник

Интересный вопрос. Я не знаю ответа, но идея, что некоторые степени свободы должны быть потеряны, имеет смысл. Если вы еще этого не видели, этот ответ @whuber должен вызывать размышления: как понять степени свободы . Мне кажется, что некоторые симуляционные исследования позволят вам получить здесь опору, по крайней мере, для некоторых конкретных случаев.

— gung - Восстановить Монику

Не уверен, насколько это полезно, но есть аналогичная проблема в области надежной оценки. В частности, метод надежной оценки (например, усеченное среднее) часто требует параметризованного ввода (например, параметр, определяющий, сколько обрезать). Этот параметр может быть выбран методом, управляемым данными (например, посмотрите, насколько жирны хвосты, прежде чем выбрать параметр обрезки). Но предварительный выбор параметра обрезки влияет на распределение усеченного среднего по сравнению, скажем, с правилом фиксированных параметров. Обычный способ, которым это рассматривается в этой литературе, - через загрузчик.

— Колин Т Боуэрс

@ColinTBowers - потенциально несколько полезно, спасибо. Не думал о возможности самозагрузки.

— Glen_b

Может быть интересно разбить проблему на простейший случай. Представьте себе что-то вроде 5 наблюдений из вашего любимого дистрибутива и поместите в данные один делитель, чтобы сформировать всего две ячейки.

— zkurtz

Ответы:

Основные результаты проверки на соответствие критерия хи-квадрат можно понять иерархически .

Уровень 0 . Классическая статистика критерия хи-квадрат Пирсона для проверки полиномиальной выборки с фиксированным вектором вероятности равна $p$ Где обозначает число исходов в - ю ячейку из выборки размера . Это можно плодотворно рассматривать как квадратную норму вектора где

X^{2} (p) = \sum_{i = 1}^{k} \frac{(X_{i}^{(n)} - n p_{i})^{2}}{n p_{i}} \overset{d}{\to} χ_{k - 1}^{2},

$X^2(p) = \sum_{i=1}^k \frac{(X^{(n)}_i - n p_i)^2}{n p_i} \stackrel{d}{\to} \chi_{k-1}^2 \>,$

X_{i}^{(n)}

$X_i^{(n)}$

i

$i$

n

$n$

Y_{n} = (Y_{1}^{(n)}, \dots, Y_{k}^{(n)})

$\mathbf Y_n = (Y_1^{(n)},\ldots,Y_k^{(n)})$

который по многомерной центральной предельной теореме сходится по распределению при

Y_{i}^{(n)} = (X_{i}^{(n)} - n p_{i}) / \sqrt{n p_{i}}

$Y_i^{(n)} = (X_i^{(n)} - n p_i)/\sqrt{n p_i}$

Отсюда видно, что

поскольку

Y_{n} \overset{d}{\to} N (0, I - \sqrt{p} {\sqrt{p}}^{T}) .

$\mathbf Y_n \stackrel{d}{\to} \mathcal N(0, \mathbf I - \sqrt{p}\sqrt{p}^T) \>.$

X^{2} = ‖ Y_{n} ‖^{2} \to χ_{k - 1}^{2}

$X^2 = \|\mathbf Y_n\|^2 \to \chi^2_{k-1}$

идемпотент ранга

I - \sqrt{p} {\sqrt{p}}^{T}

$\mathbf I - \sqrt{p}\sqrt{p}^T$

k - 1

$k-1$

Уровень 1 . На следующем уровне иерархии мы рассматриваем сложные гипотезы с многочленными выборками. Поскольку интересующий нас точный неизвестен при нулевой гипотезе, мы должны оценить его. Если нулевая гипотеза является составной и состоит из линейного подпространства измерения , то оценки максимального правдоподобия (или другие эффективные оценки) могут использоваться в качестве «подключаемых» оценок. Тогда статистика $p$ $m$ $p_i$ При нулевой гипотезе.

X_{1}^{2} = \sum_{i = 1}^{k} \frac{(X_{i}^{(n)} - n {\hat{p}}_{i})^{2}}{n {\hat{p}}_{i}} \overset{d}{\to} χ_{k - m - 1}^{2},

$X^2_1 = \sum_{i=1}^k \frac{(X^{(n)}_i - n \hat{p}_i)^2}{n \hat{p}_i} \stackrel{d}{\to} \chi_{k-m - 1}^2 \>,$

Уровень 2 . Рассмотрим случай проверки пригодности параметрической модели, когда ячейки фиксированы и известны заранее: например, у нас есть выборка из экспоненциального распределения со скоростью и из этого мы получаем многочленовую выборку, разбивая ее на ячеек, тогда вышеупомянутый результат остается в силе при условии, что мы используем эффективные оценки (например, MLE) самих вероятностей бина, используя только наблюдаемые частоты . $\lambda$ $k$

$m$ $m = 1$

X_{2}^{2} = \sum_{i = 1}^{k} \frac{(X_{i}^{(n)} - n {\hat{p}}_{i})^{2}}{n {\hat{p}}_{i}} \overset{d}{\to} χ_{k - m - 1}^{2},

$X^2_2 = \sum_{i=1}^k \frac{(X^{(n)}_i - n \hat{p}_i)^2}{n \hat{p}_i} \stackrel{d}{\to} \chi_{k-m - 1}^2 \>,$

{\hat{p}}_{i}

$\hat{p}_i$

$Z_1,\ldots,Z_n \sim F_\lambda$ $\lambda$ $\chi_{k-m-1}^2$ $\chi_{k-1}^2$

$\mathbf Y_n$ $\mathcal N(0, \mathbf I - \sqrt{p_\lambda}\sqrt{p_\lambda}^T - \mathbf A(\lambda))$

$\lambda$ $\mathbf A(\lambda)$

$\mathbf Y_n$ $\mathbf B(\hat{\lambda})$

Y_{n}^{T} B^{T} B Y_{n} \overset{d}{\to} χ_{k - 1}^{2},

$\mathbf Y_n^T \mathbf B^T \mathbf B \mathbf Y_n \stackrel{d}{\to} \chi_{k-1}^2 \>,$

k

$k$

Примерами могут служить статистика Рао-Робсон-Никулин и статистики Джапаридзе-Никулин .

$k$ $1/k$ $\hat{I}_j = \hat \mu + \hat\sigma I_{0,j}$ $I_{0,j} = [F^{-1}((j-1)/k), F^{-1}(j/k))$ . This result has been further extended to the case where the number of random cells grows with the sample size.

References

A W. van der Vaart (1998), Asymptotic Statistics, Cambridge University Press. Chapter 17: Chi-Square Tests.
H. Chernoff and E. L. Lehmann (1954), The use of maximum likelihood estimates in $\chi^2$ tests for goodness of fit, Ann. Math. Statist., vol. 25, no. 3, 579–586.
F. C. Drost (1989), Generalized chi-square goodness-of-fit tests for location-scale models when the number of classes tends to infinity, Ann. Stat, vol. 17, no. 3, 1285–1300.
M. S. Nikulin, M.S. (1973), Chi-square test for continuous distribution with shift and scale parameters, Theory of Probability and its Application, vol. 19, no. 3, 559–568.
K. O. Dzaparidze and M. S. Nikulin (1973), On a modification of the standard statistics of Pearson, Theory of Probability and its Application, vol. 19, no. 4, 851–853.
K. C. Rao and D. S. Robson (1974), A chi-square statistic for goodness of fit tests within exponential family, Comm. Statist., vol 3., no. 12, 1139–1153.
N. Balakrishnan, V. Voinov and M. S. Nikulin (2013), Chi-Squared Goodness of Fit Tests With Applications, Academic Press.

— cardinal
источник

I've found at least partial answers to my question, below. (I'd still like to give someone that bonus, so any further information appreciated.)

Moore (1971) said that Roy (1956) and Watson (1957,58,59) showed that when the cell boundaries for a chi-square statistic are functions of best asymptotic normal estimated parameter values, then under certain conditions, the asymptotic null distribution of the chi-square statistic is still that of a sum of a $\chi^2_{k-p-1}$ and a weighted sum of $p$ $\chi^2_1$ variables (for $k$ cells, $p$ parameters) where the weights are between 0 and 1 (making the cdf of the distribution between that of a $\chi^2_{k-p}$ and a $\chi^2_{k}$ , as alluded to in my question for the distribution when using ML estimation), and the weights on those last $p$ terms are unaffected by that estimation.

References

Moore D.S. (1971), A Chi-Square Statistic with Random Cell Boundaries, Ann. Math. Stat., Vol 42, No 1, 147–156.

Roy A.R. (1956), On $\chi^2$ statistics with variable intervals, Technical Report No. 1, Dept of Statistics, Stanford University.

Watson, G.S. (1957), The $\chi^2$ goodness-of-fit test for normal distributions, Biometrika, 44, 336–348.

Watson, G.S. (1958), On $\chi^2$ goodness-of-fit tests for continuous distributions, J. Royal Statist. Soc. B, 20, 44–61.

Watson, G.S. (1959), Some recent results in $\chi^2$ goodness-of- fit tests, Biometrics, 15, 440-468

— Glen_b -Reinstate Monica
источник