Как работает метод обратного преобразования?

21

Как работает метод инверсии?
Скажем , у меня случайную выборку $X_1,X_2,...,X_n$ с плотностью $f(x;\theta)={1\over \theta} x^{(1-\theta)\over \theta}$ более
$0<x<1$ и, следовательно, cdf $F_X(x)=x^{1/\theta}$ на $(0,1)$ . Тогда методом обращения я получаю распределение $X$ как $F_X^{-1}(u)=u^\theta$ .

Так есть ли $u^\theta$ распределение $X$ ? Так работает метод инверсии?

u<-runif(n)
x<-u^(theta)

— Clarkson
источник

3

Смотрите наши темы о вероятностном интегральном преобразовании .

— whuber

1

Да, хотя это обычно называется «интегралом вероятности». Попробуйте вывести функцию распределения

чтобы понять, почему она работает.

F^{- 1} (U)

$F^{-1}(U)$

— dsaxton

20

Метод очень прост, поэтому я опишу его простыми словами. Сначала возьмем кумулятивную функцию распределения некоторого распределения, из которого вы хотите произвести выборку. Функция принимает в качестве входных данных некоторое значение $F_X$ $x$ и сообщает, какова вероятность получения . Так $X \leq x$

F_{X} (x) = Pr (X \leq x) = p

$F_X(x) = \Pr(X \leq x) = p$

в противоположность такой функции, будет принимать качестве входных данных и возвращать . Обратите внимание , что «s равномерно распределены - это может быть использовано для отбора проб из любого , если вы знаете , . Метод называется выборкой обратного преобразования . Идея очень проста: легко сэмплировать значения равномерно из , поэтому, если вы хотите сэмплировать из некоторого , просто возьмите значения $F_X^{-1}$ $p$ $x$ $p$ $F_X$ $F_X^{-1}$ $U(0, 1)$ $F_X$ и передать через , чтобы получить «ы $u \sim U(0, 1)$ $u$ $F_X^{-1}$ $x$

F_{X}^{- 1} (u) = x

$F_X^{-1}(u) = x$

или в R (для нормального распределения)

U <- runif(1e6)
X <- qnorm(U)

Чтобы визуализировать это, посмотрите на CDF ниже, как правило, мы думаем о распределениях в терминах рассмотрения оси для вероятностей значений из оси С помощью этого метода выборки мы делаем противоположное и начинаем с «вероятностей» и используем их для выбора значений, которые с ними связаны. С дискретными распределениями вы рассматриваете как строку от до и присваиваете значения, основанные на том, где находится некоторая точка на этой линии (например, если или если для выборки из $y$ $x$ $U$ $0$ $1$ $u$ $0$ $0 \leq u < 0.5$ $1$ $0.5 \leq u \leq 1$ ). $\mathrm{Bernoulli}(0.5)$

К сожалению, это не всегда возможно, так как не у каждой функции есть обратное, например, вы не можете использовать этот метод с двумерными распределениями. Он также не должен быть самым эффективным методом во всех ситуациях, во многих случаях существуют лучшие алгоритмы.

Вы также спросите, каково распределение . Поскольку является обратным к , то и , поэтому да, значения, полученные с помощью такого метода, имеют такое же распределение , как . Вы можете проверить это с помощью простой симуляции $F_X^{-1}(u)$ $F_X^{-1}$ $F_X$ $F_X(F_X^{-1}(u)) = u$ $F_X^{-1}(F_X(x)) = x$ $X$

U <- runif(1e6)
all.equal(pnorm(qnorm(U)), U)

— Тим
источник

Хороший ответ. Этот метод работает, когда у вас есть такие распределения, как экспоненциальное, коши, геометрическое, парето, логистика, экстремальное значение Вейбулла и т. Д. Например, вы не можете найти закрытую форму для нормального распределения . Поэтому вы не сможете использовать этот метод. Вы можете попробовать другие методы, такие как метод отклонения .

— Аббас Салими,

2

Вы можете использовать метод обратного преобразования с нормальным распределением. Существует множество реализаций для нормального обратного CDF . Например, вы можете написать нормальный обратный CDF, используя дополнительную функцию ошибок . Пример реализации erfc здесь . Не кодируйте erfc самостоятельно; использовать библиотеку. Отсутствие формулы для замкнутой формы не означает, что вы не можете использовать качественные числовые приближения.

— Мэтью Ганн,

2

Да, имеет распределение . $U^θ$ $X$

Две дополнительные точки на интуиции за методом обратного преобразования могут быть полезны

(1) Для того, чтобы понять, что $F^{-1}$ самом деле означает обратитесь к графику в ответе Тима, чтобы помочь мне понять функцию квантиля (обратный CDF)

(2) [Пожалуйста, просто проигнорируйте следующее, если это принесет больше путаницы вместо ясности]

Пусть быть любой случайной величины (с.в.) с непрерывной и строго возрастающей CDF . Тогда Обозначения в обозначениях: - rv. Следовательно, функция rv , - сама rv. $X$ $F$

F (X) \sim Unif (0, 1)

$F(X) \sim \text{Unif}(0,1)$

X

$X$

X

$X$

F (X)

$F(X)$

Например, если вы бы перевернули вопрос, чтобы иметь доступ к и захотели сгенерировать стандартную униформу, то . Пусть называть эту случайную величину . Таким образом , Возвращаясь к вашему вопросу, вы имеете противоположную задачу: сформировать из . Итак, действительно $X$ $X^{1/\theta} \sim \text{Unif}(0,1)$ $U$

U = X^{1 / θ}

$U = X^{1/\theta}$

X

$X$

U

$U$

X = U^{θ}

$X=U^\theta$

PS. Альтернативными названиями метода являются вероятностное интегральное преобразование, выборка обратного преобразования, квантильное преобразование и, в некоторых источниках, «фундаментальная теорема моделирования».

— den2042
источник