Интуиция за ограниченной машиной Больцмана (RBM)

Я прошел курс Джеффа Хинтона по нейронным сетям на Coursera, а также познакомился с ограниченными машинами Больцмана , все еще не понимая интуицию, лежащую в основе УОКР.

Зачем нам нужно вычислять энергию в этой машине? И какая польза от вероятности в этой машине? Я также видел это видео . В видео он просто написал уравнения вероятности и энергии перед этапами вычисления и, похоже, нигде не использовал его.

Помимо вышесказанного, я не уверен, для чего предназначена функция правдоподобия?

RBM - интересный зверь. Чтобы ответить на ваш вопрос и оставить в памяти мою память, я выведу УОР и расскажу о выводе. Вы упомянули, что вы запутались в вероятности, поэтому мой вывод будет с точки зрения попытки максимизировать вероятность. Итак, начнем.

RBM содержат два разных набора нейронов, видимых и скрытых, я буду обозначать их и соответственно. Учитывая конкретную конфигурацию и , мы отображаем это пространство вероятностей.$v$$h$$v$$h$

$$p(v,h) = \frac{e^{-E(v,h)}}{Z}$$

Есть еще пара вещей, которые нужно определить. Суррогатная функция, которую мы используем для отображения из конкретной конфигурации в пространство вероятностей, называется энергетической функцией . Константа - это нормализующий фактор, который гарантирует, что мы на самом деле отобразим пространство вероятностей. Теперь давайте перейдем к тому, что мы действительно ищем; вероятность набора видимых нейронов, другими словами, вероятность наших данных. $E(v,h)$$Z$

$$Z = \sum_{v \in V}\sum_{h \in H}e^{-E(v,h)}$$ $$p(v)=\sum_{h \in H}p(v,h)=\frac{\sum_{h \in H}e^{-E(v,h)}}{\sum_{v \in V}\sum_{h \in H}e^{-E(v,h)}}$$

Хотя в этом уравнении много терминов, все сводится к написанию правильных уравнений вероятности. Будем надеяться, что до сих пор, это помогло вам понять , почему нам нужна функция энергии , чтобы вычислить вероятность того , или то , что делается чаще ненормированного вероятности . Ненормализованная вероятность используется, потому что функция разделения очень дорога для вычисления.$p(v)*Z$$Z$

Теперь давайте перейдем к фактическому этапу обучения УКР. Чтобы максимизировать вероятность, для каждой точки данных мы должны сделать шаг градиента, чтобы сделать . Чтобы получить выражения градиента, нужна математическая акробатика. Первое, что мы делаем, это берем журнал . Теперь мы будем работать в логарифмическом вероятностном пространстве, чтобы сделать математику выполнимой.$p(v)=1$$p(v)$

$$\log(p(v))=\log[\sum_{h \in H}e^{-E(v,h)}]-\log[\sum_{v \in V}\sum_{h \in H}e^{-E(v,h)}]$$ Let's take the gradient with respect to the paremeters in $p(v)$

$$\begin{align} \frac{\partial \log(p(v))}{\partial \theta}=& -\frac{1}{\sum_{h' \in H}e^{-E(v,h')}}\sum_{h' \in H}e^{-E(v,h')}\frac{\partial E(v,h')}{\partial \theta}\\ & + \frac{1}{\sum_{v' \in V}\sum_{h' \in H}e^{-E(v',h')}}\sum_{v' \in V}\sum_{h' \in H}e^{-E(v',h')}\frac{\partial E(v,h)}{\partial \theta} \end{align}$$

Now I did this on paper and wrote the semi-final equation down as to not waste a lot of space on this site. I recommend you derive these equations yourself. Now I'll write some equations down that will help out in continuing our derivation. Note that: $Zp(v,h)=e^{-E(v,h')}$, $p(v)=\sum_{h \in H}p(v,h)$ and that $p(h|v) = \frac{p(v,h)}{p(h)}$

$$\begin{align} \frac{\partial log(p(v))}{\partial \theta}&= -\frac{1}{p(v)}\sum_{h' \in H}p(v,h')\frac{\partial E(v,h')}{\partial \theta}+\sum_{v' \in V}\sum_{h' \in H}p(v',h')\frac{\partial E(v',h')}{\partial \theta}\\ \frac{\partial log(p(v))}{\partial \theta}&= -\sum_{h' \in H}p(h'|v)\frac{\partial E(v,h')}{\partial \theta}+\sum_{v' \in V}\sum_{h' \in H}p(v',h')\frac{\partial E(v',h')}{\partial \theta} \end{align}$$

And there we go, we derived maximum likelihood estimation for RBM's, if you want you can write the last two terms via expectation of their respective terms (conditional, and joint probability).

Notes on energy function and stochasticity of neurons.

As you can see above in my derivation, I left the definition of the energy function rather vague. And the reason for doing that is that many different versions of RBM implement various energy functions. The one that Hinton describes in the lecture linked above, and shown by @Laurens-Meeus is:

$$E(v,h)=−a^Tv−b^Th−v^TWh.$$

It might be easier to reason about the gradient terms above via the expectation form.

$$\frac{\partial \log(p(v))}{\partial \theta}= -\mathop{\mathbb{E}}_{p(h'|v)}\frac{\partial E(v,h')}{\partial \theta}+\mathop{\mathbb{E}}_{p(v',h')}\frac{\partial E(v',h')}{\partial \theta}$$

The expectation of the first term is actually really easy to calculate, and that was the genius behind RBMs. By restricting the connection the conditional expectation simply becomes a forward propagation of the RBM with the visible units clamped. This is the so called wake phase in Boltzmann machines. Now calculating the second term is much harder and usually Monte Carlo methods are utilized to do so. Writing the gradient via average of Monte Carlo runs:

$$\frac{\partial \log(p(v))}{\partial \theta}\approx -\langle \frac{\partial E(v,h')}{\partial \theta}\rangle_{p(h'|v)}+\langle\frac{\partial E(v',h')}{\partial \theta}\rangle_{p(v',h')}$$

Calculating the first term is not hard, as stated above, therefore Monte-Carlo is done over the second term. Monte Carlo methods use random successive sampling of the distribution, to calculate the expectation (sum or integral). Now this random sampling in classical RBM's is defined as setting a unit to be either 0 or 1 based on its probability stochasticly, in other words, get a random uniform number, if it is less than the neurons probability set it to 1, if it is greater than set it to 0.

В дополнение к существующим ответам, я хотел бы немного поговорить об этой энергетической функции и ее интуиции. Извините, если это немного долго и физически.

Функция энергии описывает так называемую модель Изинга , которая является моделью ферромагнетизма в терминах статистической механики / квантовой механики. В статистической механике мы используем так называемый гамильтонов оператор, чтобы описать энергию квантово-механической системы. И система всегда пытается быть в состоянии с самой низкой энергией.

Теперь модель Изинга в основном описывает взаимодействие между электронами со спином $\sigma_k$ +1 или -1, в присутствии внешнего магнитного поля $h$, Взаимодействие двух электронов$i$ и $j$ описывается коэффициентом $J_{ij}$, Этот гамильтониан (или энергетическая функция)

$$\hat{H} = \sum_{i,j} J_{ij} \sigma_i \sigma_j - \mu \sum_j h_j \sigma_j$$ where $\hat{H}$ denotes the Hamiltonian. A standard procedure to get from an energy function to the probability, that a system is in a given state (i.e. here: a configuration of spins, e.g. $\sigma_1 = {+1}, \sigma_2 = {-1}, ...$) is to use the Boltzmann distribution, which says that at a temperature $T$, the probability $p_i$ of the system to be in a state $i$ with energy $E_i$ is given by $$p_i = \frac{\exp(-E_i/kT)}{\sum_{i}\exp(-E_i/kt)}$$ На данный момент, вы должны признать, что эти два уравнения являются точно такими же уравнениями, как в видео Хинтона и ответ Армена Агаджаняна . Это приводит нас к вопросу:

Какое отношение имеет RBM к этой квантово-механической модели ферромагнетизма?

Нам нужно использовать конечную физическую величину: энтропию. Как мы знаем из термодинамики, система будет располагаться в состоянии с минимальной энергией, что также соответствует состоянию с максимальной энтропией.

Как представил Шенон в 1946 году, в теории информации энтропия $H$ также может рассматриваться как показатель содержания информации в $X$определяется следующей суммой по всем возможным состояниям $X$:

$$H(X) = -\sum_i P(x_i) \log P(x_i)$$ Теперь самый эффективный способ кодирования информационного контента в $X$, это использовать способ, который максимизирует энтропию $H$,

Наконец , вот где мы возвращаемся к RBM: в основном, мы хотим, чтобы этот RBM кодировал как можно больше информации. Итак, поскольку мы должны максимизировать (теоретико-информационную) энтропию в нашей RBM-системе. Как предложил Хопфилд в 1982 году, мы можем максимизировать теоретико-информационную энтропию точно так же, как физическую энтропию: моделируя RBM, как модель Изинга выше, и используя те же методы, чтобы минимизировать энергию. И именно поэтому нам нужна эта странная энергетическая функция для RBM!

Хороший математический вывод в ответе Армена Агаджаняна показывает все, что нам нужно сделать, чтобы минимизировать энергию, таким образом максимизируя энтропию и сохраняя / сохраняя как можно больше информации в нашей УОКР.

_{PS: Пожалуйста, дорогие физики, простите любые неточности в выводе этого инженера. Не стесняйтесь комментировать или исправлять неточности (или даже ошибки).}

The answer of @Armen has gave myself a lot of insights. One question hasn't been answered however.

The goal is to maximize the probability (or likelihood) of the $v$. This is correlated to minimizing the energy function related to $v$ and $h$:

$$E(v,h) = -a^{\mathrm{T}} v - b^{\mathrm{T}} h -v^{\mathrm{T}} W h$$

Our variables are $a$, $b$ and $W$, which have to be trained. I'm quite sure this training will be the ultimate goal of the RBM.