Вероятностная графическая модель (PGM) представляет собой график , формализм для моделирования компактно распределения совместных вероятностей и (в) Зависимость отношения на множестве случайных величин. PGM называется байесовской сетью, когда основной граф направлен, и марковской сетью / марковским случайным полемкогда базовый граф не является ненаправленным. Вообще говоря, вы используете первое для моделирования вероятностного влияния между переменными, имеющими четкую направленность, в противном случае вы используете второе; в обеих версиях PGM отсутствие ребер в связанных графах представляет условную независимость в закодированных распределениях, хотя их точная семантика отличается. «Марков» в «сети Маркова» относится к общему понятию условной независимости, закодированному PGM, при этом набор случайных переменных не зависит от других учитывая некоторый набор «важных» переменных (техническое название - марковский одеяло ), т.е. .ИксAИксСИксВр ( хA| ИксВ, хС) = p ( xA| ИксВ)
Марковский процесс является любым случайным процессом , удовлетворяющей марковость . Здесь акцент делается на совокупности (скалярных) случайных величин обычно рассматриваемых как индексируемые по времени, которые удовлетворяют определенному виду условной независимости, т. «Будущее не зависит от прошлого с учетом настоящего ", грубо говоря, . Это особый случай понятия Маркова, определенного PGM: просто возьмите множество и возьмите в качестве любого подмножества и вызвать предыдущее утверждение{ XT}X 1 , X 2 , X } C { t - 1 , t -Икс1, X2, X3, . , ,р ( хт + 1| ИксT, хт - 1, . , , , х1) = p ( xт + 1| ИксT)A = { t + 1 } , B = { t }С{ Т - 1 , т - 2 , . , , , 1 }р ( хA| ИксВ, хС) = p ( xA| ИксВ) . Отсюда видно, что марковское одеяло любой переменной является ее предшественником .Икст + 1Иксt
Поэтому вы можете представить марковский процесс с помощью байесовской сети в виде линейной цепочки, индексированной по времени (для простоты мы рассматриваем здесь только случай дискретного времени / состояния; рисунок из книги PRML Бишопа):
этот вид байесовской сети известен как динамическая байесовская сеть . Поскольку это байесовская сеть (следовательно, PGM), можно применять стандартные алгоритмы PGM для вероятностного вывода (например, алгоритм суммирования, в котором уравнения Чепмена-Колмогорова представляют собой особый случай) и оценки параметров (например, максимальное правдоподобие, которое кипит). до простого подсчета) по цепочке. Примером применения этого являются модель языка HMM и n-грамм.
Часто вы видите диаграмму с изображением цепи Маркова, подобной этой
Это не PGM, потому что узлы - это не случайные переменные, а элементы пространства состояний цепочки; ребра соответствуют (ненулевым) переходным вероятностям между двумя последовательными состояниями. Вы также можете думать об этом графе как об описании CPT (таблица условной вероятности) цепочки PGM. Эта цепочка Маркова кодирует только состояние мира на каждой временной метке как одну случайную переменную ( настроение ); Что, если мы хотим захватить другие взаимодействующие аспекты мира (такие как Здоровье и Доход какого-то человека) и рассматривать как вектор случайных величинр ( хT| Икст - 1)Х т ( Х ( 1 ) т , . . . Х ( Д ) тИксT( X( 1 )T, . , , Икс( D )T)? Именно здесь могут помочь PGM (в частности, динамические байесовские сети). Мы можем моделировать сложные распределения для
с использованием условной байесовской сети, обычно называемой 2TBN ( байесовская сеть с 2 временными интервалами ), которую можно рассматривать как более привлекательную версию байесовской сети с простой цепью.р ( х( 1 )T, . , , Икс( D )T| Икс( 1 )т - 1, . , , Икс( D )т - 1)
TL; DR : байесовская сеть - это разновидность PGM (вероятностная графическая модель), которая использует направленный (ациклический) граф для представления факторизованного распределения вероятностей и связанной с ним условной независимости над набором переменных. Марковский процесс - это случайный процесс (обычно рассматриваемый как совокупность случайных величин) со свойством «будущее, независимое от прошлого, данного настоящим»; больше внимания уделяется изучению эволюции единственной «шаблонной» случайной величины во времени (часто как ). (Скалярный) марковский процесс определяет специфическое свойство условной независимостиИксTt → ∞р ( хт + 1| ИксT, хт - 1, . , , , х1) = p ( xт + 1| ИксT)и, следовательно, может быть тривиально представлен цепочкой байесовской сети, в то время как динамические байесовские сети могут использовать полную репрезентативную мощность МПГ для моделирования взаимодействий между множеством случайных величин (то есть случайных векторов) во времени; отличная ссылка на это - глава 6 книги Дафни Коллер .