¿Es beneficioso representar una red neuronal como una matriz?

Una red neuronal es un gráfico ponderado dirigido. Estos pueden ser representados por una matriz (escasa). Hacerlo puede exponer algunas propiedades elegantes de la red.

¿Es esta técnica beneficiosa para examinar las redes neuronales?

Para las ANN grandes, en la práctica se usa algo equivalente a un 'formato de matriz dispersa'.

En contraste con lo que se dice en otra respuesta dada, considerar un ANN como un gráfico en realidad no compra mucho, por dos razones:

1. El algoritmo de retropropagación puede definirse útilmente en términos de operaciones matriciales. Esta página ofrece una descripción legible y completa.

2. Todas las matrices con valores reales se pueden representar como gráficos, pero lo contrario claramente no es el caso. Entonces, si bien es cierto que un ANN puede considerarse como un caso especial de una estructura de datos de gráfico, hacer que esa especialización sea explícita en forma de matriz es más eficiente.

Depende del tipo de redes neuronales con las que esté tratando.

Para redes neuronales de tamaño mediano, el enfoque matricial es una muy buena manera de hacer cálculos rápidos e incluso retropropagación de errores. Incluso se pueden explotar matrices dispersas para comprender la arquitectura dispersa de algunas redes neuronales.

Pero, para redes neuronales muy grandes, el uso de cálculos matriciales sería computacionalmente muy intensivo. Por lo tanto, se utilizan métodos relevantes como tiendas basadas en gráficos, etc., dependiendo del propósito y la arquitectura.

La representación matricial es beneficiosa para implementar redes neuronales en silicio.

Pero para examinar empíricamente las redes neuronales, a veces es bueno visualizar los valores de peso de la sinapsis como imágenes o videos: la exploración de Jason Yosinski de una red neuronal de convolución. La red parece tener un "filtro" que solo detecta hombros. Un poco como una cerradura que solo se abre cuando reconoce el patrón de los hombros.