Intuición detrás de la máquina de Boltzmann restringida (RBM)

Realicé el curso de redes neuronales de Geoff Hinton en Coursera y también a través de la introducción a las máquinas de boltzmann restringidas , pero aún no entendía la intuición detrás de las RBM.

¿Por qué necesitamos calcular la energía en esta máquina? ¿Y de qué sirve la probabilidad en esta máquina? También vi este video . En el video, acaba de escribir las ecuaciones de probabilidad y energía antes de los pasos de cálculo y no parece usarlo en ningún lado.

Además de lo anterior, no estoy seguro de para qué sirve la función de probabilidad.

Los RBM son una bestia interesante. Para responder a su pregunta y refrescar mi memoria sobre ellos, derivaré RBM y hablaré sobre la derivación. Usted mencionó que está confundido sobre la probabilidad, por lo que mi derivación será desde la perspectiva de tratar de maximizar la probabilidad. Vamos a empezar.

Las RBM contienen dos conjuntos diferentes de neuronas, visibles y ocultas, las denominaré y h respectivamente. Dada una configuración específica de v y h , le asignamos el espacio de probabilidad.$v$$h$$v$$h$

$$p(v,h) = \frac{e^{-E(v,h)}}{Z}$$

Hay un par de cosas más para definir. La función sustituta que usamos para mapear desde una configuración específica al espacio de probabilidad se llama función de energía . La constante Z es un factor de normalización para garantizar que realmente asignemos al espacio de probabilidad. Ahora vamos a lo que realmente estamos buscando; la probabilidad de un conjunto de neuronas visibles, en otras palabras, la probabilidad de nuestros datos. Z = ∑ v ∈ V ∑ h ∈ H e - E ( v , h ) p ( v $E(v,h)$$Z$

$$Z = \sum_{v \in V}\sum_{h \in H}e^{-E(v,h)}$$ $$p(v)=\sum_{h \in H}p(v,h)=\frac{\sum_{h \in H}e^{-E(v,h)}}{\sum_{v \in V}\sum_{h \in H}e^{-E(v,h)}}$$

Aunque hay muchos términos en esta ecuación, simplemente se reduce a escribir las ecuaciones de probabilidad correctas. Con suerte, hasta ahora, esto ha ayudado a darse cuenta por qué necesitamos función de energía para calcular la probabilidad, o lo que se hace por lo general más la probabilidad no normalizada . La probabilidad no normalizada se usa porque la función de partición Z es muy costosa de calcular.$p(v)*Z$$Z$

Ahora pasemos a la fase de aprendizaje real de los RBM. Para maximizar la probabilidad, para cada punto de datos, tenemos que dar un paso de gradiente para hacer que . Para obtener las expresiones de degradado, se necesitan algunas acrobacias matemáticas. Lo primero que hacemos es tomar el registro de p ( v ) . Estaremos operando en el espacio de probabilidad de registro a partir de ahora para que las matemáticas sean factibles.$p(v)=1$$p(v)$

Tomemos el gradiente con respecto a los parámetros en p ( v

$$\log(p(v))=\log[\sum_{h \in H}e^{-E(v,h)}]-\log[\sum_{v \in V}\sum_{h \in H}e^{-E(v,h)}]$$ $p(v)$

$$\begin{align} \frac{\partial \log(p(v))}{\partial \theta}=& -\frac{1}{\sum_{h' \in H}e^{-E(v,h')}}\sum_{h' \in H}e^{-E(v,h')}\frac{\partial E(v,h')}{\partial \theta}\\ & + \frac{1}{\sum_{v' \in V}\sum_{h' \in H}e^{-E(v',h')}}\sum_{v' \in V}\sum_{h' \in H}e^{-E(v',h')}\frac{\partial E(v,h)}{\partial \theta} \end{align}$$

Ahora hice esto en papel y escribí la ecuación semifinal para no desperdiciar mucho espacio en este sitio. Le recomiendo que obtenga estas ecuaciones usted mismo. Ahora escribiré algunas ecuaciones que ayudarán a continuar nuestra derivación. Tenga en cuenta que: ,p(v)=∑ h ∈ H p(v,h)y quep(h|v)$Zp(v,h)=e^{-E(v,h')}$$p(v)=\sum_{h \in H}p(v,h)$$p(h|v) = \frac{p(v,h)}{p(h)}$

$$\begin{align} \frac{\partial log(p(v))}{\partial \theta}&= -\frac{1}{p(v)}\sum_{h' \in H}p(v,h')\frac{\partial E(v,h')}{\partial \theta}+\sum_{v' \in V}\sum_{h' \in H}p(v',h')\frac{\partial E(v',h')}{\partial \theta}\\ \frac{\partial log(p(v))}{\partial \theta}&= -\sum_{h' \in H}p(h'|v)\frac{\partial E(v,h')}{\partial \theta}+\sum_{v' \in V}\sum_{h' \in H}p(v',h')\frac{\partial E(v',h')}{\partial \theta} \end{align}$$

Y ahí vamos, derivamos la estimación de máxima verosimilitud para RBM, si lo desea puede escribir los dos últimos términos a la espera de sus respectivos términos (condicional y probabilidad conjunta).

Notas sobre la función energética y la estocasticidad de las neuronas.

Como puede ver arriba en mi derivación, dejé la definición de la función de energía bastante vaga. Y la razón para hacerlo es que muchas versiones diferentes de RBM implementan varias funciones de energía. La que Hinton describe en la conferencia vinculada anteriormente, y mostrada por @ Laurens-Meeus es:

$$E(v,h)=−a^Tv−b^Th−v^TWh.$$

Puede ser más fácil razonar sobre los términos de gradiente anteriores a través del formulario de expectativa.

$$\frac{\partial \log(p(v))}{\partial \theta}= -\mathop{\mathbb{E}}_{p(h'|v)}\frac{\partial E(v,h')}{\partial \theta}+\mathop{\mathbb{E}}_{p(v',h')}\frac{\partial E(v',h')}{\partial \theta}$$

La expectativa del primer término es realmente fácil de calcular, y ese fue el genio detrás de las RBM. Al restringir la conexión, la expectativa condicional simplemente se convierte en una propagación directa del RBM con las unidades visibles fijadas. Esta es la llamada fase de estela en las máquinas de Boltzmann. Ahora calcular el segundo término es mucho más difícil y generalmente se utilizan los métodos de Monte Carlo para hacerlo. Escribir el gradiente a través del promedio de carreras de Monte Carlo:

$$\frac{\partial \log(p(v))}{\partial \theta}\approx -\langle \frac{\partial E(v,h')}{\partial \theta}\rangle_{p(h'|v)}+\langle\frac{\partial E(v',h')}{\partial \theta}\rangle_{p(v',h')}$$

Calculating the first term is not hard, as stated above, therefore Monte-Carlo is done over the second term. Monte Carlo methods use random successive sampling of the distribution, to calculate the expectation (sum or integral). Now this random sampling in classical RBM's is defined as setting a unit to be either 0 or 1 based on its probability stochasticly, in other words, get a random uniform number, if it is less than the neurons probability set it to 1, if it is greater than set it to 0.

In addition to the existing answers, I would like to talk about this energy function, and the intuition behind that a bit. Sorry if this is a bit long and physical.

The energy function describes a so-called Ising model, which is a model of ferromagnetism in terms of statistical mechanics / quantum mechanics. In statistical mechanics, we use a so-called Hamiltonian operator to describe the energy of a quantum-mechanical system. And a system always tries to be in the state with the lowest energy.

Now, the Ising model basically describes the interaction between electrons with a spin $\sigma_k$ of either +1 or -1, in presence of an external magnetic field $h$. The interaction between two electrons $i$ and $j$ is described by a coefficient $J_{ij}$. This Hamiltonian (or energy function) is

$$\hat{H} = \sum_{i,j} J_{ij} \sigma_i \sigma_j - \mu \sum_j h_j \sigma_j$$ where $\hat{H}$ denotes the Hamiltonian. A standard procedure to get from an energy function to the probability, that a system is in a given state (i.e. here: a configuration of spins, e.g. $\sigma_1 = {+1}, \sigma_2 = {-1}, ...$) is to use the Boltzmann distribution, which says that at a temperature $T$, the probability $p_i$ of the system to be in a state $i$ with energy $E_i$ is given by $$p_i = \frac{\exp(-E_i/kT)}{\sum_{i}\exp(-E_i/kt)}$$ At this point, you should recognize that these two equations are the exact same equations as in the videos by Hinton and the answer by Armen Aghajanyan. This leads us to the question:

What does the RBM have to do with this quantum-mechanical model of ferromagnetism?

We need to use a final physical quantity: the entropy. As we know from thermodynamics, a system will settle in the state with the minimal energy, which also corresponds to the state with the maximal entropy.

As introduced by Shanon in 1946, in information theory, the entropy $H$ can also be seen as a measure of the information content in $X$, given by the following sum over all possible states of $X$:

$$H(X) = -\sum_i P(x_i) \log P(x_i)$$ Now, the most efficient way to encode the information content in $X$, is to use a way that maximizes the entropy $H$.

Finally, this is where we get back to RBMs: Basically, we want this RBM to encode as much information as possible. So, as we have to maximize the (information-theoretical) entropy in our RBM-System. As proposed by Hopfield in 1982, we can maximize the information-theoretical entropy exactly like the physical entropy: by modelling the RBM like the Ising model above, and use the same methods to minimize the energy. And that is why we need this strange energy function for in an RBM!

The nice mathematical derivation in Armen Aghajanyan's answer shows everything we need to do, to minimize the energy, thus maximizing entropy and storing / saving as much information as possible in our RBM.

_{PS: Please, dear physicists, forgive any inaccuracies in this engineer's derivation. Feel free to comment on or fix inaccuracies (or even mistakes).}

The answer of @Armen has gave myself a lot of insights. One question hasn't been answered however.

The goal is to maximize the probability (or likelihood) of the $v$. This is correlated to minimizing the energy function related to $v$ and $h$:

$$E(v,h) = -a^{\mathrm{T}} v - b^{\mathrm{T}} h -v^{\mathrm{T}} W h$$

Our variables are $a$, $b$ and $W$, which have to be trained. I'm quite sure this training will be the ultimate goal of the RBM.