Общая сумма гамма-случайных величин

Я читал, что сумма гамма-случайных величин с тем же параметром масштаба является еще одной гамма-случайной величиной. Я также видел статью Moschopoulos, описывающую метод суммирования общего набора гамма-случайных величин. Я пытался реализовать метод Мосхопулоса, но пока не добился успеха.

Как выглядит суммирование общего набора гамма-случайных величин? Чтобы конкретизировать этот вопрос, как он выглядит:

$\text{Gamma}(3,1) + \text{Gamma}(4,2) + \text{Gamma}(5,1)$

Если приведенные выше параметры не особенно показательны, пожалуйста, предложите другие.

Сначала объедините любые суммы, имеющие один и тот же масштабный коэффициент : переменная $\Gamma(n, \beta)$ плюс a $\Gamma(m,\beta)$ образуют переменную $\Gamma(n+m,\beta)$ .

Далее заметим, что характеристическая функция (cf) для $\Gamma(n, \beta)$ равна $(1-i \beta t)^{-n}$ , откуда cf суммы этих распределений является произведением

$$\prod_{j} \frac{1}{(1-i \beta_j t)^{n_j}}.$$

Когда весь интеграл, этот продукт расширяется в виде частичной доли в линейную комбинацию из ( 1 - я β J т ) - ν , где ν целых числа от 1 и п J . В примере с β 1 = 1 , n 1 = 8 (из суммы Γ ( 3 , 1 ) и Γ ( 5 , $n_j$ $(1-i \beta_j t)^{-\nu}$$\nu$$1$$n_j$$\beta_1 = 1, n_1=8$$\Gamma(3,1)$ ) и β 2 = 2 , n 2 = 4 находим$\Gamma(5,1)$$\beta_2 = 2, n_2=4$

$$\frac{1}{(1-i t)^{8}}\frac{1}{(1- 2i t)^{4}} = \\ \frac{1}{(x+i)^8}-\frac{8 i}{(x+i)^7}-\frac{40}{(x+i)^6}+\frac{160 i}{(x+i)^5}+\frac{560}{(x+i)^4}-\frac{1792 i}{(x+i)^3}\\-\frac{5376}{(x+i)^2}+\frac{15360 i}{x+i}+\frac{256}{(2 x+i)^4}+\frac{2048 i}{(2 x+i)^3}-\frac{9216}{(2 x+i)^2}-\frac{30720 i}{2 x+i}.$$

Обратное взятие cf является обратным преобразованием Фурье, которое является линейным : это означает, что мы можем применять его термин за термином. Каждый член распознается как кратное cf гамма-распределения и поэтому легко инвертируется для получения PDF . В примере мы получаем

$$\frac{e^{-t} t^7}{5040}+\frac{1}{90} e^{-t} t^6+\frac{1}{3} e^{-t} t^5+\frac{20}{3} e^{-t} t^4+\frac{8}{3} e^{-\frac{t}{2}} t^3+\frac{280}{3} e^{-t} t^3\\ -128 e^{-\frac{t}{2}} t^2+896 e^{-t} t^2+2304 e^{-\frac{t}{2}} t+5376 e^{-t} t-15360 e^{-\frac{t}{2}}+15360 e^{-t}$$

для PDF суммы.

Это конечная смесь гамма-распределений с масштабными коэффициентами, равными коэффициентам в сумме, и коэффициентами формы, меньшими или равными коэффициентам в сумме. За исключением особых случаев (где может произойти некоторое аннулирование), число слагаемых задается параметром общей формы (при условии, что все n j различны).$n_1 + n_2 + \cdots$$n_j$

---

В качестве теста приведем гистограмму из результатов, полученных путем добавления независимых отрисовок из распределений Γ ( 8 , 1 ) и Γ ( 4 , 2 ) . На него накладывается график, в 10 4 раза превышающий предыдущую функцию. Подгонка очень хорошая.$10^4$$\Gamma(8,1)$$\Gamma(4,2)$$10^4$

---

Мошопулос продвигает эту идею на один шаг вперед, расширяя cf суммы в бесконечный ряд гамма-характеристических функций всякий раз, когда один или несколько из нецелочислен, а затем завершает бесконечный ряд в точке, где он достаточно хорошо аппроксимируется. ,$n_i$

Я покажу другое возможное решение, которое довольно широко применимо, и с сегодняшним программным обеспечением R, довольно простое в реализации. Это приближение плотности седловой точки, которое должно быть более широко известным!

Для терминологии о гамма-распределении я буду следовать https://en.wikipedia.org/wiki/Gamma_distribution с параметризацией формы / масштаба, - параметр формы, а θ - масштаб. Для приближения седловой точки я буду следовать Рональду В. Батлеру: «Приближения седловой точки с приложениями» (Кембридж UP). Приближение седловой точки объясняется здесь: Как работает приближение седловой точки? здесь я покажу, как это используется в этом приложении.$k$$\theta$

Пусть - случайная величина с существующей порождающей момент функцией M ( s ) = E e s X, которая должна существовать для s в некотором открытом интервале, который содержит ноль. Затем определим производящую функцию кумулянта как K ( s ) = log M ( s ). Известно, что E X = K ′ ( 0 ) , Var ( X ) = K ″ ( 0 $X$

$$M(s) = E e^{sX}$$ $s$ $$K(s) = \log M(s)$$ $E X = K'(0), \text{Var} (X) = K''(0)$, Уравнение является перевал , который определяет неявный ы как функции х (которое должно быть в диапазоне X ). Обозначим эту функцию неявно определенную как з ( х ) . Обратите внимание, что уравнение седловой точки всегда имеет ровно одно решение, потому что кумулянтная функция является выпуклой. $$K'(\hat{s}) = x$$ $s$$x$$X$$\hat{s}(x)$

Тогда перевала приближение к плотности из X задается ф ( х ) = $f$$X$

$$\hat{f}(x) = \frac1{\sqrt{2\pi K''(\hat{s})}} \exp(K(\hat{s}) - \hat{s} x)$$

$X_1, X_2, \dots, X_n$$X_i$$(k_i, \theta_i)$

$$K(s) = -\sum_{i=1}^n k_i \ln(1-\theta_i s)$$ $s<1/\max(\theta_1, \theta_2, \dots, \theta_n)$ $$K'(s) = \sum_{i=1}^n \frac{k_i \theta_i}{1-\theta_i s}$$ $$K''(s) = \sum_{i=1}^n \frac{k_i \theta_i^2}{(1-\theta_i s)^2}.$$ R$n=3$$k=(1,2,3)$$\theta=(1,2,3)$R

shape <- 1:3 #ki
scale <- 1:3 # thetai
# For this case,  we get expectation=14,  variance=36
make_cumgenfun  <-  function(shape, scale) {
      # we return list(shape, scale, K, K', K'')
      n  <-  length(shape)
      m <-   length(scale)
      stopifnot( n == m, shape > 0, scale > 0 )
      return( list( shape=shape,  scale=scale, 
                    Vectorize(function(s) {-sum(shape * log(1-scale * s) ) }),
                    Vectorize(function(s) {sum((shape*scale)/(1-s*scale))}) ,
                    Vectorize(function(s) { sum(shape*scale*scale/(1-s*scale)) }))    )
}

solve_speq  <-  function(x, cumgenfun) {
          # Returns saddle point!
          shape <- cumgenfun[[1]]
          scale <- cumgenfun[[2]]
          Kd  <-   cumgenfun[[4]]
          uniroot(function(s) Kd(s)-x,lower=-100,
                  upper = 0.3333, 
                  extendInt = "upX")$root
}

make_fhat <-  function(shape,  scale) {
    cgf1  <-  make_cumgenfun(shape, scale)
    K  <-  cgf1[[3]]
    Kd <-  cgf1[[4]]
    Kdd <- cgf1[[5]]
    # Function finding fhat for one specific x:
    fhat0  <- function(x) {
        # Solve saddlepoint equation:
        s  <-  solve_speq(x, cgf1)
        # Calculating saddlepoint density value:
        (1/sqrt(2*pi*Kdd(s)))*exp(K(s)-s*x)
    }
    # Returning a vectorized version:
    return(Vectorize(fhat0))
} #end make_fhat

 fhat  <-  make_fhat(shape, scale)
plot(fhat, from=0.01,  to=40, col="red", main="unnormalized saddlepoint approximation\nto sum of three gamma variables")

в результате на следующем участке:

Я оставлю нормализованное приближение седловой точки в качестве упражнения.

Уравнение Уэлча – Саттервейта может быть использовано для получения приблизительного ответа в форме гамма-распределения. Это имеет приятное свойство, позволяющее нам рассматривать гамма-распределения как (приблизительно) закрытые при добавлении. Это приближение в обычно используемом t-тесте Уэлча.

(Гамма-распределение можно рассматривать как масштабированное распределение хи-квадрат и допускает нецелочисленный параметр формы.)

$k, \theta$

$$k_{sum} = { (\sum_i \theta_i k_i)^2 \over \sum_i \theta_i^2 k_i }$$

$$\theta_{sum} = { { \sum \theta_i k_i } \over k_{sum} }$$

$k=(3,4,5)$$\theta=(1,2,1)$

Таким образом, мы получаем примерно гамма (10,666 ..., 1,5)

$k$$\theta_i$$\theta$

$n$

$$\mathrm{G}\mathrm{D}\mathrm{C}\left(\mathrm{a}\kern0.1em ,\mathrm{b}\kern0.1em ,\alpha, \beta; \tau \right)=\left\{\begin{array}{cc}\hfill \frac{{\mathrm{b}}^{\mathrm{a}}{\beta}^{\alpha }}{\Gamma \left(\mathrm{a}+\alpha \right)}{e}^{-\mathrm{b}\tau }{\tau^{\mathrm{a}+\alpha}}^{-1}{}_1F_1\left[\alpha, \mathrm{a}+\alpha, \left(\mathrm{b}-\beta \right)\tau \right],\hfill & \hfill \tau >0\hfill \\ {}\hfill \kern2em 0\kern6.6em ,\hfill \kern5.4em \tau \kern0.30em \le \kern0.30em 0\hfill \end{array}\right.,$$ $Gamma(a,b) \rightarrow \Gamma(a,1/b)$$b$$\beta$