Слепой источник разделения выпуклой смеси?

Предположим, у меня есть независимых источников, и я наблюдаю выпуклых смесей: $n$ $X_1, X_2, ..., X_n$ $m$

\begin{aligned} Y_{1} & знак равно a_{11} {Икс}_{1} + a_{12} {Икс}_{2} + \dots + a_{1 N} {Икс}_{N} \\ ,,, \\ Y_{м} & знак равно a_{м 1} {Икс}_{1} + a_{м 2} {Икс}_{2} + \dots + a_{м N} {Икс}_{N} \end{aligned}

$\begin{align} Y_1 &= a_{11}X_1 + a_{12}X_2 + \cdots + a_{1n}X_n\\ ...&\\ Y_m &= a_{m1}X_1 + a_{m2}X_2 + \cdots + a_{mn}X_n \end{align}$

с для всех и для всех . $\sum_j a_{ij} = 1$ $i$ $a_{ij} \ge 0$ $i,j$

Каков современный уровень восстановления от ? $X$ $Y$

PCA не может быть и речи, потому что мне нужны компоненты, чтобы их можно было идентифицировать. Я смотрел на ICA и NMF - я не могу найти способ навязать неотрицательность коэффициентов смешения для ICA, и NMF, кажется, не максимизирует независимость.

pca ica

— анонимный
источник

Я думаю, что это следует называть «анализом неотрицательных независимых компонентов», но, похоже, это имя использовалось для ICA с ограничением неотрицательности для источников , а не для матрицы микширования ( eecs.qmul.ac.uk/ ~ markp / 2003 / Plumbley03-алгоритмы-c.pdf ). Так что это не относится к вашему делу. Интересный вопрос.

X

$X$

A

$A$

— говорит амеба, восстанови Монику

Разве вы не хотите, чтобы суммы перебрасывали j вместо i? Можете ли вы предположить, что источники примерно гауссовы? если они унимодальны и имеют достаточно быстрое затухание, вполне возможно, что подойдет GMM.

— Яир Даон

@YairDaon Ах да, спасибо, хороший улов. К сожалению, источники дискретны и даже не похожи на смеси гауссов. Но, возможно, я мог бы приблизить их к гауссовым смесям, а затем уточнить. Но было бы неплохо иметь что-то более общее / надежное

— анонимное

Какие алгоритмы ICA вы пробовали? Я немного заржавел, но думаю, что предположение о неотрицательности коэффициентов микширования может быть наложено в некоторых алгоритмах, которые предполагают определенные модели для сигналов, таких как алгоритм слепой идентификации второго порядка с поправкой на вес (WASOBI), поскольку он предполагает, что вы можете смоделируйте сигналы как процессы AR и, таким образом, вы можете наложить условия на коэффициенты.

— Нестор

Все источники поддерживаются на множестве {1,2, ..., 96}

— анонимно

Этого можно достичь, используя экспоненциальную нелинейность вместо типичной / default tanh (), если X также неотрицателен.

Формула 40 в https://www.cs.helsinki.fi/u/ahyvarin/papers/NN00new.pdf и доступна в большинстве реализаций.

Например, в sklearn просто используйте fun = 'exp' https://scikit-learn.org/stable/modules/generated/sklearn.decomposition.FastICA.html

— Энрике Мендонса
источник

Добро пожаловать в Stats.SE. Можете ли вы отредактировать свой ответ и расширить его, чтобы объяснить основные этапы ссылок, которые вы предоставляете? Таким образом, информация доступна для поиска здесь (и иногда ссылки ломаются). Возможно, вы захотите взглянуть на некоторую справку по форматированию . Пока вы в этом, вы можете использовать LaTeX / MathJax .

— Ertxiem - восстановить Монику