Связь между суммой гауссовых RV и гауссовой смеси


13

Я знаю, что сумма гауссианов является гауссовой. Итак, чем же отличается смесь гауссов?

Я имею в виду, смесь гауссианов - это просто сумма гауссиан (где каждый гауссиан умножается на соответствующий коэффициент смешения), верно?


7
Смесь гауссианов представляет собой взвешенную сумму гауссовых плотностей , а не взвешенную сумму гауссовских случайных величин.
вероятностная

Ответы:


7

Взвешенная сумма гауссовских случайных величин p i = 1 β i X i является гауссовой случайной величиной : если ( X 1 , , X p ) N p ( μ , Σ ), то β T ( X 1 , , X p ) N 1 ( βX1,,Xp

i=1pβiXi
(X1,,Xp)Np(μ,Σ)
βT(Икс1,...,Иксп)~N1(βTμ,βTΣβ)

Смесь гауссовых плотностей имеет плотность, заданную в виде взвешенной суммы гауссовых плотностей : которая почти всегда не равна гауссовой плотность. См., Например, синюю оценочную плотность смеси ниже (где желтая полоса является мерой изменчивости оценочной смеси):

е(;θ)знак равноΣязнак равно1пωяφ(;μя,σя)
введите описание изображения здесь

[Источник: Марин и Роберт, Байесовское ядро , 2007]

Икс~е(;θ)

Иксзнак равноΣязнак равно1пя(Zзнак равноя)Иксязнак равноИксZ
Икся~Nп(μя,σя)Zп(Zзнак равноя)знак равноωя
ZM(1;ω1,,ωp)

3

А вот код R, который дополняет ответ @ Xi'an:

par(mfrow=c(2,1))
nsamples <- 100000

# Sum of two Gaussians
x1 <- rnorm(nsamples, mean=-10, sd=1)
x2 <- rnorm(nsamples, mean=10, sd=1)
hist(x1+x2, breaks=100)

# Mixture of two Gaussians
z <- runif(nsamples)<0.5 # assume mixture coefficients are (0.5,0.5)
x1_x2 <- rnorm(nsamples,mean=ifelse(z,-10,10),sd=1)
hist(x1_x2,breaks=100)

введите описание изображения здесь


1

Распределением суммы независимых случайных величин является свертка их распределений. Как вы заметили, свертка двух гауссианов оказывается гауссовой.

X,YZXYZ=XZ=Y


Спасибо энтгри Я знаю, что следующий пример по своей сути неверен, но в любом случае он может быть интересным: скажем, у нас есть особый вид «смеси» (если мы все еще можем назвать ее «смесью») с 2 гауссовыми плотностями, где коэффициенты смешения оба соответствуют 1, это будет то же самое из суммы гауссовых RV?
njk

Нет, хотя ваша смесь rv будет гауссовой в этом случае, если вы добавите два RV с распределением компонента, сумма RV будет иметь большую дисперсию, чем RV смеси.
Enthdegree

@enthdegree Как смесь гауссов? Это все еще может быть бимодальным, если средства не совпадают, верно?
обучение

@ обучение, да ты прав. Когда я написал пред. комментарий по какой-то причине я предположил, что они имели то же самое значение.
Enthdegree
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.