Вопросы с тегом «expectation-maximization»

Существуют ли какие-либо быстрые альтернативы алгоритму EM для обучения моделей со скрытыми переменными (особенно pLSA)? Я в порядке, жертвуя точностью ради скорости.

13 machine-learning  optimization  expectation-maximization  lsa 

Скажем, у меня 50 миллионов уникальных вещей, и я беру 10 миллионов образцов (с заменой) ... Первый прикрепленный график показывает, сколько раз я выбираю одну и ту же "вещь", что относительно редко население больше, чем моя выборка. Однако, если моя популяция составляет всего 10 миллионов штук, и я беру 10 …

13 r  sampling  expectation-maximization 

Я пытаюсь отделить две группы значений из одного набора данных. Я могу предположить, что одна из популяций обычно распределена и составляет не менее половины размера выборки. Значения второго значения ниже или выше значений первого (распределение неизвестно). То, что я пытаюсь сделать, - это найти верхний и нижний пределы, которые бы …

13 dataset  outliers  expectation-maximization 

У меня есть несколько простых концептуальных вопросов, которые я хотел бы прояснить в отношении MLE (Максимальная оценка правдоподобия) и какую связь он имеет, если таковые имеются, с EM (Максимальное ожидание). Насколько я понимаю, если кто-то говорит «Мы использовали MLE», означает ли это автоматически, что у него есть явная модель PDF …

12 estimation  maximum-likelihood  expectation-maximization 

Предположим, у меня есть набор независимых идентично распределенных одномерных наблюдений и две гипотезы о том, как был сгенерирован:хxxxxxx хH0H0H_0 : взят из одного распределения Гаусса с неизвестным средним и дисперсией.xxx xHAHAH_A : взят из смеси двух гауссианов с неизвестным средним, дисперсией и коэффициентом смешения.xxx Если я правильно понимаю, это вложенные …

11 hypothesis-testing  normal-distribution  expectation-maximization 

Каковы преимущества придания определенных начальных значений вероятностям перехода в скрытой марковской модели? В конце концов система изучит их, так какой смысл давать значения, отличные от случайных? Имеет ли базовый алгоритм такую ​​разницу, как Баум-Уэлч? Если бы я очень точно знал вероятности перехода в начале, и моя главная цель - предсказать …

11 machine-learning  expectation-maximization  hidden-markov-model 

Модель регрессии Пуассона с нулевым определяется для выборки как и далее предполагается, что параметры и удовлетворяютY i = { 0 с вероятностью p i + ( 1 - p i ) e - λ i k с вероятностью ( 1 - p i ) e - λ i λ k …

10 generalized-linear-model  maximum-likelihood  poisson-distribution  expectation-maximization  latent-variable 

Может кто-нибудь уточнить, как скрытые марковские модели связаны с максимизацией ожиданий? Я перебрал много ссылок, но не смог получить четкое представление. Спасибо!

10 markov-process  expectation-maximization  hidden-markov-model 

Я пытаюсь реализовать алгоритм EM для следующей модели факторного анализа; WJ= μ + B aJ+ еJзаj = 1 , … , nWj=μ+Baj+ejforj=1,…,nW_j = \mu+B a_j+e_j \quad\text{for}\quad j=1,\ldots,n где - p-мерный случайный вектор, a jWJWjW_jaJaja_j - это q-мерный вектор скрытых переменных, а - матрица параметров pxq.ВBB В результате других предположений, использованных …

10 factor-analysis  expectation-maximization 

В этом популярном вопросе ответ с высоким голосом разделяет MLE и Baum Welch в подгонке HMM. Для задачи обучения мы можем использовать следующие 3 алгоритма: MLE (оценка максимального правдоподобия), обучение Витерби (НЕ путать с декодированием Витерби), Baum Welch = алгоритм прямого и обратного хода НО в википедии написано Алгоритм Баума …

10 hidden-markov-model  expectation-maximization 

Вопрос основан на статье под названием «Восстановление изображений в диффузной оптической томографии с использованием связанной излучательной транспортно-диффузионной модели». Ссылка на скачивание Авторы применяют EM-алгоритм с разреженности неизвестного вектора \ mu для оценки пикселей изображения. Модель даетсяl1l1l_1μμ\mu y=Aμ+e(1)(1)y=Aμ+ey=A\mu + e \tag{1} Оценка дана в уравнении (8) как μ^=argmaxlnp(y|μ)+γlnp(μ)(2)(2)μ^=arg⁡maxln⁡p(y|μ)+γln⁡p(μ)\hat{\mu} = \arg max …

9 self-study  bayesian  maximum-likelihood  expectation-maximization  moving-average 

В настоящее время я изучаю иерархические байесовские модели, используя JAGS из R, а также pymc, используя Python ( «Байесовские методы для хакеров» ). Я могу получить некоторую интуицию из этого поста : «в итоге вы получите кучу чисел, которые выглядят так, словно« вам каким-то образом удалось взять независимые сэмплы из …

9 bayesian  mcmc  expectation-maximization 

Я изучаю модель гауссовой смеси и сам задаю этот вопрос. Предположим, что базовые данные генерируются из смеси гауссовского распределения и у каждого из них есть средний вектор \ mu_k \ in \ mathbb {R} ^ p , где 1 \ leq k \ leq K, и каждый из них имеет …

9 self-study  expectation-maximization  gaussian-mixture  consistency 

У меня есть смешанная модель, в которой я хочу найти оценку максимального правдоподобия для данного набора данных и набора частично наблюдаемых данных . Я реализовал и E-шаг (вычисление ожидания учетом и текущих параметров ), и M-шаг, чтобы минимизировать отрицательное логарифмическое правдоподобие с учетом ожидаемого .z z x θ k zxxxzzzzzzxxxθkθk\theta^kzzz …

9 maximum-likelihood  mixture  expectation-maximization 

Предположим, что у вас есть популяция с единицами, каждая со случайной величиной . Вы наблюдаете значений для любой единицы измерения, для которой . Мы хотим оценить .X i ∼ Пуассона ( λ ) n = N - n 0 X i > 0 λNNNИкся∼ Пуассон ( λ )Икся~Пуассон(λ)X_i \sim \text{Poisson}(\lambda)n …

9 expectation-maximization