Какова нормальная аппроксимация полиномиального распределения?

Если есть несколько возможных приближений, я ищу самый основной.

normal-distribution multinomial approximation

Ответы:

Вы можете аппроксимировать его многомерным нормальным распределением так же, как биномиальное распределение аппроксимируется одномерным нормальным распределением. Проверьте элементы теории распределения и полиномиального распределения страницы 15-16-17.

Пусть - вектор ваших вероятностей. Тогда средний вектор многомерного нормального распределения равен . Ковариационная матрица является симметричной матрицей. Диагональные элементы на самом деле являются дисперсией ; то есть , . Недиагональный элемент в i-й строке и j-м столбце имеет вид , где не равно . $P=(p_1,...,p_k)$ $np=(np_1,np_2,...,np_k)$ $k \times k$ $X_i$ $np_i(1-p_i)$ $i=1,2...,k$ $\text{Cov}(X_i,X_j)=-np_ip_j$ $i$ $j$

— Stat
источник

Проверьте 2-й справочник.

— Стат

Стат, чтобы этот ответ мог стоять сам по себе (и быть устойчивым к гниению ссылок), не могли бы вы дать краткое изложение решения?

— whuber

Нужно ли исправление непрерывности? Как бы вы применили это?

— Джек Эйдли

Ковариационная матрица не является положительно определенной, а скорее положительной, полуопределенной и не является полноценной. Это делает результирующее мультинормальное распределение неопределенным. Это проблема, с которой я столкнулся. Есть идеи, как с этим справиться?

— Мохаммад Алагган

@ M.Alaggan: Матрицы среднего значения / ковариации, определенные здесь, имеют одну незначительную проблему: для полиномиального распределения с переменными эквивалентная многомерная норма имеет переменную. Это очевидно в простом биномиальном примере, который аппроксимируется (обычным) нормальным распределением. Для дальнейшего обсуждения см. Пример 12.7 Элементов Теории Распределения .

k

$k$

k - 1

$k-1$

— MS Dousti

Плотность, приведенная в этом ответе, является вырожденной, и поэтому я использовал следующее для вычисления плотности, полученной в результате нормального приближения:

Есть теорема, в которой говорится, что заданная случайная величина , для мерного вектора с и , это; $X = [X_1, \ldots, X_m]^T \sim \text{Multinom}(n, p)$ $m$ $p$ $\sum_i p_i = 1$ $\sum_i X_i = n$

X \overset{d}{\to} \sqrt{n} diag (u) Q [\begin{matrix} Z_{1} \\ ⋮ \\ Z_{m - 1} \\ 0 \end{matrix}] + [\begin{matrix} n p_{1} \\ ⋮ \\ n p_{m} \end{matrix}],

$X \xrightarrow{d} \sqrt{n} \, \text{diag}(u) \, Q \begin{bmatrix} Z_1 \\ \vdots \\ Z_{m-1} \\ 0 \end{bmatrix} + \begin{bmatrix} n p_1 \\ \vdots \\ n p_m \end{bmatrix},$

для большого дано; $n$

вектор с ; $u$ $u_i = \sqrt{p_i}$
случайные величины для и; $Z_i \sim N(0,1)$ $i = 1, \ldots, m-1$
ортогональная матрица с последним столбцом . $Q$ $u$

То есть, с некоторой перестановкой, мы можем разработать мерное многомерное нормальное распределение для первых компонент (которые являются только интересными компонентами , поскольку является суммой остальных). $m-1$ $m-1$ $X$ $X_m$

Подходящим значением матрицы является с - то есть конкретным преобразованием Домохозяина. $Q$ $I - 2 v v^T$ $v_i = (\delta_{im} - u_i) / \sqrt{2(1 - u_m)}$

Если мы ограничим левую часть первыми строками и ограничим его первыми строками и столбцами (обозначим эти и соответственно), то: $m-1$ $Q$ $m-1$ $m-1$ $\hat{X}$ $\hat{Q}$

\hat{X} \overset{d}{\to} \sqrt{n} diag (\hat{u}) \hat{Q} [\begin{matrix} Z_{1} \\ ⋮ \\ Z_{m - 1} \end{matrix}] + [\begin{matrix} n p_{1} \\ ⋮ \\ n p_{m - 1} \end{matrix}] \sim N (μ, n Σ),

$\hat{X} \xrightarrow{d} \sqrt{n} \text{diag}(\hat{u}) \hat{Q} \begin{bmatrix} Z_1 \\ \vdots \\ Z_{m-1} \end{bmatrix} + \begin{bmatrix} n p_1 \\ \vdots \\ n p_{m-1} \end{bmatrix} \sim \mathcal{N} \left( \mu, n \Sigma \right),$

для больших , где; $n$

$\hat{u}$ обозначает первые члены ; $m-1$ $u$
среднее значение равно и; $\mu = [ n p_1, \ldots, n p_{m-1}]^T$
ковариационная матрица с . $n \Sigma = n A A^T$ $A = \text{diag}( \hat{u} ) \hat{Q}$

Правая часть этого окончательного уравнения - невырожденная плотность, используемая в расчете.

Как и ожидалось, когда вы подключаете все, вы получаете следующую ковариационную матрицу:

(n Σ)_{i j} = n \sqrt{p_{i} p_{j}} (δ_{i j} - \sqrt{p_{i} p_{j}})

$(n\Sigma)_{ij} = n \sqrt{p_i p_j} (\delta_{ij} - \sqrt{p_i p_j})$

для , что является именно ковариационной матрицей в оригинальном ответе ограничивается его первых строки и столбцов. $i,j = 1, \ldots, m-1$ $m-1$ $m-1$

Эта запись в блоге была моей отправной точкой.

— stephematician
источник

Другим полезным ресурсом являются ссылки, представленные по адресу

— сводный врач

Хороший ответ (+1) --- Обратите внимание, что вы можете вставлять ссылки с синтаксисом [textual description](hyperlink). Я позволил себе отредактировать этот ответ, чтобы встроить ваши ссылки.

— Бен - Восстановить Монику