Теорема Байеса Интуиция

22

Я пытался развить интуитивное понимание теоремы Байеса с точки зрения априорной , апостериорной , вероятностной и предельной вероятности. Для этого я использую следующее уравнение: где представляет гипотезу или убеждение, а представляет данные или свидетельство. Я понял концепцию апостериор - это объединяющая сущность, которая сочетает в себе предшествующее убеждение и вероятность события. То, что я не понимаю, что означает вероятность ? И почему маргинальный

P (B | A) = \frac{P (A | B) P (B)}{P (A)}

$P(B|A) = \frac{P(A|B)P(B)}{P(A)}$

A

$A$

B

$B$
вероятность в знаменателе?
Изучив пару ресурсов, я наткнулся на эту цитату:

Вероятность является вес события $B$ определяется возникновением $A$ ... $P(B|A)$ является задней вероятностью события $B$ , при условии , что событие произошло. $A$

Вышеприведенные 2 утверждения кажутся мне идентичными, просто написаны по-разному. Может кто-нибудь объяснить, пожалуйста, разницу между ними?

bayesian likelihood intuition

— Анас Аюби
источник

4

У вас есть опечатка (или заблуждение).

B

$B$ должен быть «гипотезой или верой», а

A

$A$ должен быть «данными или доказательством» в вашей формулировке.

— gung - Восстановить Монику

1

см. мой ответ на math.stackexchange.com/a/1943255/1505 , вот как я понял это интуитивно

— Линдон Уайт

27

Хотя в законе Байеса перечислены четыре компонента, я предпочитаю думать в терминах трех концептуальных компонентов:

\underset{2}{\underset{⏟}{P (B | A)}} = \underset{3}{\underset{⏟}{\frac{P (A | B)}{P (A)}}} \underset{1}{\underset{⏟}{P (B)}}

$\underbrace{P(B|A)}_2 = \underbrace{\frac{P(A|B)}{P(A)}}_3 \underbrace{P(B)}_1$

До является то , что вы думали о , прежде встретив новую и соответствующую часть информации (то есть, ). $B$ $A$
Задний является то , что вы верите (или должен, если вы рациональны) о после встретив новую и соответствующую часть информации. $B$
Фактор вероятности , разделенный на предельной вероятности новой информации индексов информативности новой информации для ваших представлений о . $B$

— Gung - Восстановить Монику
источник

19

Уже есть несколько хороших ответов, но, возможно, это может добавить что-то новое ...

Я всегда думаю о байесовском правиле с точки зрения вероятностей компонентов, которые можно понимать геометрически с точки зрения событий и как показано ниже. $A$ $B$

Предельная вероятность и задаются площадей соответствующих кругов. Все возможные результаты представлены как , что соответствует набору событий « или ». В совместных вероятностей соответствует событию « и ». $P(A)$ $P(B)$ $P(A \cup B)=1$ $A$ $B$ $P(A \cap B)$ $A$ $B$

В этом контексте условные вероятности в теореме Байеса можно понимать как отношения площадей. Вероятность данного - это доля занятая , выраженная как Аналогично, вероятность заданная - это доля занятая , то есть $A$ $B$ $B$ $A \cap B$

P (A | B) = \frac{P (A \cap B)}{P (B)}

$P(A\vert B)=\frac{P(A \cap B)}{P(B)}$

B

$B$

A

$A$

A

$A$

A \cap B

$A \cap B$

P (B | A) = \frac{P (A \cap B)}{P (A)}

$P(B\vert A)=\frac{P(A \cap B)}{P(A)}$

Теорема Байеса на самом деле является лишь математическим следствием приведенных выше определений, которые можно переформулировать как I найти эту симметричную форму теоремы Байеса гораздо легче запомнить. То есть идентичность сохраняется независимо от того, какой или помечен как «предыдущий» или «задний».

P (B | A) P (A) = P (A \cap B) = P (A | B) P (B)

$P(B\vert A)P(A)=P(A \cap B)=P(A\vert B)P(B)$

p (A)

$p(A)$

p (B)

$p(B)$

(Другой способ понимания приведенного выше обсуждения дан в моем ответе на этот вопрос с точки зрения «бухгалтерской таблицы».)

— GeoMatt22
источник

9

У @gung отличный ответ. Я хотел бы добавить один пример, чтобы объяснить «инициацию» в реальном примере.

Для лучшей связи с примерами из реального мира я хотел бы изменить обозначение, где использовать чтобы представить гипотезу ( в вашем уравнении), и использовать чтобы представить доказательства. ( в вашем уравнении.) $H$ $A$ $E$ $B$

Таким образом, формула

P (H | E) = \frac{P (E | H) P (H)}{P (E)}

$P(H|E) = \frac{P(E|H)P(H)}{P(E)}$

Обратите внимание, что та же формула может быть записана как

P (H | E) \propto P (E | H) P (H)

$P(H|E) \propto {P(E|H)P(H)}$

где означает пропорциональность, а - вероятность, а - приоритет . Это уравнение означает, что апостериор будет больше, если правая часть уравнения больше. И вы можете думать, что - это нормализационная константа, чтобы превратить число в вероятность (причина, по которой я говорю, что это константа, в том, что доказательство уже дано). $\propto$ $P(E|H)$ $P(H)$ $P(E)$ $E$

Для примера из реальной жизни, предположим, что мы делаем какое-то обнаружение мошенничества при транзакциях по кредитным картам. Тогда гипотезой будет где представленная транзакция является нормальной или мошеннической. (Я выбрал крайне несбалансированный случай, чтобы показать интуицию). $H \in \{0,1\}$

Из знаний предметной области мы знаем, что большинство транзакций было бы нормальным, только очень немногие являются мошенничеством. Допустим, эксперт сказал нам, что из будет мошенничеством. Таким образом , мы можем сказать , что до является и . $1$ $1000$ $P(H=1)=0.001$ $P(H=0)=0.999$

$P(H|E)$

$E\in\{0,1\}$

$P(E=1|H=0)$ $P(E=1|H=1)$

$E=1$

— Haitao Du
источник

P (H = 0)

$P(H=0)$

0.999

$0.999$

P (H = 1) = 0.001

$P(H=1)=0.001$

1

Обратите внимание, что правило Байеса

$P(a|b)=\frac{P(b,a)}{P(b)}=\frac{P(b,a)}{P(b)P(a)}P(a)$

Обратите внимание на соотношение

\frac{п (б, a)}{п (б) п (a)},

$\frac{P(b,a)}{P(b)P(a)}.$

$B \perp A$ $P(b,a)=P(b)P(a)$

Интересно, что журнал этого соотношения также присутствует во взаимной информации:

I (A | B) = \sum_{a, b} P_{} (a, b) \log \frac{P_{} (b, a)}{P (b) P (a)}

$I(A|B) = \sum_{a,b}P_{}(a,b)\mathbf{\log\frac{P_{}(b,a)}{P(b)P(a)}}$

— Пользователь0
источник

0

$P(A,B)$

правдоподобие = пропорции строк сзади = пропорции столбцов

Приоритет и маргинал определяются аналогично, но основаны на «итогах» вместо определенного столбца.

маргинальный = общие пропорции строки предыдущий = общие пропорции столбца

Я считаю, что это помогает мне.

— probabilityislogic
источник