Успех испытаний Бернулли с разными вероятностями

11

Если проводится 20 независимых испытаний Бернулли, каждое с различной вероятностью успеха и, следовательно, неудачи. Какова вероятность того, что именно n из 20 испытаний было успешным?

Есть ли лучший способ вычисления этих вероятностей, чем просто суммировать комбинации вероятностей успеха и неудачи?

— Maha123
источник

12

Дистрибутив, о котором вы спрашиваете, называется биномиальным распределением Пуассона с довольно сложным pmf (более широкое описание см. В Википедии)

Pr (X = x) = \sum_{A \in F_{x}} \prod_{i \in A} p_{i} \prod_{j \in A^{c}} (1 - p_{j})

$\Pr(X=x) = \sum\limits_{A\in F_x} \prod\limits_{i\in A} p_i \prod\limits_{j\in A^c} (1-p_j)$

Как правило, проблема заключается в том, что вы не можете использовать это уравнение для большего числа испытаний (обычно, когда количество испытаний превышает ). Существуют также другие методы вычисления pmf, например, рекурсивные формулы, но они численно нестабильны. Самым простым способом решения этих проблем являются методы аппроксимации (описанные, например, Hong, 2013 ). Если мы определим $n=30$

μ = \sum_{i = 1}^{n} p_{i}

$\mu = \sum_{i=1}^n p_i$

σ = \sqrt{\sum_{i = 1}^{n} p_{i} (1 - p_{i})}

$\sigma = \sqrt{ \sum_{i=1}^n p_i(1-p_i) }$

γ = σ^{- 3} \sum_{i = 1}^{n} p_{i} (1 - p_{i}) (1 - 2 p_{i})

$\gamma = \sigma^{-3} \sum_{i=1}^n p_i (1 - p_i) (1 - 2p_i)$

тогда мы можем приблизить pmf с распределением Пуассона через закон малых чисел или теорему Ле Камса

Pr (X = x) \approx \frac{μ^{x} \exp (- μ)}{x!}

$\Pr(X = x) \approx \frac{\mu^x \exp(-\mu)}{x!}$

но он видит, что в целом биномиальное приближение ведет себя лучше ( Choi and Xia, 2002 )

Pr (X = x) \approx B i n o m (n, \frac{μ}{n})

$\Pr(X = x) \approx \mathrm{Binom} \left( n, \frac{\mu}{n} \right)$

Вы можете использовать нормальное приближение

f (x) \approx ϕ (\frac{x + 0.5 - μ}{σ})

$f(x) \approx \phi \left( \frac{x + 0.5 - \mu}{ \sigma} \right)$

или cdf может быть аппроксимирован с использованием так называемого уточненного нормального приближения (Волкова, 1996)

F (x) \approx max (0, g (\frac{x + 0.5 - μ}{σ}))

$F(x) \approx \max\left(0, \ g \left( \frac{x + 0.5 - \mu}{ \sigma} \right) \right)$

где . $g(x) = \Phi(x) + \gamma(1-x^2) \frac{\phi(x)}{6}$

Другой альтернативой, конечно, является симуляция Монте-Карло.

Простая dpbinomфункция R будет

dpbinom <- function(x, prob, log = FALSE,
                    method = c("MC", "PA", "NA", "BA"),
                    nsim = 1e4) {

  stopifnot(all(prob >= 0 & prob <= 1))
  method <- match.arg(method)

  if (method == "PA") {
    # poisson
    dpois(x, sum(prob), log)
  } else if (method == "NA") {
    # normal
    dnorm(x, sum(prob), sqrt(sum(prob*(1-prob))), log)
  } else if (method == "BA") {
    # binomial
    dbinom(x, length(prob), mean(prob), log)
  } else {
    # monte carlo
    tmp <- table(colSums(replicate(nsim, rbinom(length(prob), 1, prob))))
    tmp <- tmp/sum(tmp)
    p <- as.numeric(tmp[as.character(x)])
    p[is.na(p)] <- 0

    if (log) log(p)
    else p 
  }
}

Большинство методов (и не только) также реализованы в пакете R poibin .

Чен, LHY (1974). О сходимости пуассонова бинома к пуассоновским распределениям. Анналы вероятности, 2 (1), 178-180.

Чен, SX и Лю, JS (1997). Статистические применения пуассоново-биномиальных и условных распределений Бернулли. Statistica Sinica 7, 875-892.

Chen, SX (1993). Распределение Пуассона-Бинома, условное распределение Бернулли и максимальная энтропия. Технический отчет. Статистический факультет Гарвардского университета.

Чен, XH, Демпстер, AP и Лю, JS (1994). Взвешенная конечная выборка населения для максимизации энтропии. Биометрика 81, 457-469.

Ван, YH (1993). О количестве успехов в независимых испытаниях. Statistica Sinica 3 (2): 295-312.

Hong Y. (2013). О вычислении функции распределения для биномиального распределения Пуассона. Вычислительная статистика и анализ данных, 59, 41-51.

Волкова А.Ю. (1996). Уточнение центральной предельной теоремы для сумм независимых случайных показателей. Теория вероятностей и ее приложения 40, 791-794.

Чой К.П. и Ся А. (2002). Приближенное число успехов в независимых исследованиях: биномиальное и пуассоновское. Анналы прикладной вероятности, 14 (4), 1139-1148.

Le Cam, L. (1960). Аппроксимационная теорема для биномиального распределения Пуассона. Тихоокеанский математический журнал 10 (4), 1181–1197.

— Тим
источник

0

Один из подходов заключается в использовании генерирующих функций. Решением вашей проблемы является коэффициент в полиноме $x^n$

\prod_{i = 1}^{20} (p_{i} x + 1 - p_{i}) .

$\prod_{i=1}^{20}(p_ix + 1-p_i).$

Это эквивалент динамического программирования (квадратичное время в числе переменных Бернулли) для суммирования в биномиальном распределении Пуассона из ответа Тима (который будет экспоненциальным временем).

— Нил Г
источник