Bootstrap filter / Алгоритм фильтра частиц (Понимание)

У меня действительно нет понимания того, как работает фильтр начальной загрузки. Я примерно знаю концепции, но не могу понять некоторые детали. Этот вопрос для меня, чтобы прояснить беспорядок. Здесь я буду использовать этот популярный алгоритм фильтрации из ссылки Душе (пока я думаю, что это самая простая ссылка). Позвольте мне сначала сказать вам, что моя проблема заключается в понимании того, какие распределения известны, а какие неизвестны.

Это мои вопросы:

1. В 2), каково распределение ? Известно ли это распределение ? Мы знаем это распределение для всех т ? Если это так, но что, если мы не можем взять образец из него? Забавно, что они называют это важным этапом выборки, но я не вижу распределения предложений.$p(x_t|x^{(i)}_{t-1})$$t$
2. Кроме того, в 2) в известное распределение? «Нормализация Важность Массы средства для ш ( я ) т = ~ ш ( я ) $p(y_t|\tilde{x}^{(i)}_{t})$ ? Что означает тильда нахиш? Означает ли это что-то вроде невысвеченной или ненормированной соответственно?$w^{(i)}_{t}=\frac{\tilde{w}^{(i)}_{t}}{\sum_{i=1}^{N}\tilde{w}^{(i)}_{t}}$$x$$w$
3. Я был бы признателен, если бы кто-нибудь мог привести простой игрушечный пример, используя известные дистрибутивы, чтобы использовать этот фильтр начальной загрузки. Конечная цель фильтра начальной загрузки мне не ясна.

1. $x_t$$p(x_t|x_{t-1})$ $p(x_t|x_{0:t-1},y_{1:t})$

2. $\tilde{x}$$x$$\tilde{w}$$w$$x$

3. $p(x_t|y_{1:t})$$t$$t$

Рассмотрим простую модель:

$$X_t = X_{t-1} + \eta_t, \quad \eta_t \sim N(0,1)$$ $$X_0 \sim N(0,1)$$ $$Y_t = X_t + \varepsilon_t, \quad \varepsilon_t \sim N(0,1)$$

$Y$$X$$p(X_t|Y_1, ..., Y_t)$

$$X_t | X_{t-1} \sim N(X_{t-1},1)$$ $$X_0 \sim N(0,1)$$ $$Y_t | X_t \sim N(X_t,1)$$

Применяя алгоритм:

1. $N$$X_0^{(i)} \sim N(0,1)$

2. $X_1^{(i)} | X_0^{(i)} \sim N(X_0^{(i)},1)$$N$

   $\tilde{w}_t^{(i)} = \phi(y_t; x_t^{(i)},1)$$\phi(x; \mu, \sigma^2)$$\mu$$\sigma^2$$y_t$

3. $w_t$$x$$x_{0:t}^{(i)}$

Вернитесь к шагу 2, двигаясь вперед с измененной версией частиц, пока мы не обработаем всю серию.

Реализация в R следующая:

# Simulate some fake data
set.seed(123)

tau <- 100
x <- cumsum(rnorm(tau))
y <- x + rnorm(tau)

# Begin particle filter
N <- 1000
x.pf <- matrix(rep(NA,(tau+1)*N),nrow=tau+1)

# 1. Initialize
x.pf[1, ] <- rnorm(N)
m <- rep(NA,tau)
for (t in 2:(tau+1)) {
  # 2. Importance sampling step
  x.pf[t, ] <- x.pf[t-1,] + rnorm(N)

  #Likelihood
  w.tilde <- dnorm(y[t-1], mean=x.pf[t, ])

  #Normalize
  w <- w.tilde/sum(w.tilde)

  # NOTE: This step isn't part of your description of the algorithm, but I'm going to compute the mean
  # of the particle distribution here to compare with the Kalman filter later. Note that this is done BEFORE resampling
  m[t-1] <- sum(w*x.pf[t,])

  # 3. Resampling step
  s <- sample(1:N, size=N, replace=TRUE, prob=w)

  # Note: resample WHOLE path, not just x.pf[t, ]
  x.pf <- x.pf[, s]
}

plot(x)
lines(m,col="red")

# Let's do the Kalman filter to compare
library(dlm)
lines(dropFirst(dlmFilter(y, dlmModPoly(order=1))$m), col="blue")

legend("topleft", legend = c("Actual x", "Particle filter (mean)", "Kalman filter"), col=c("black","red","blue"), lwd=1)

Полученный график:

Полезный урок - Дусет и Йохансен, см. Здесь .