El pensamiento lógico. Parte 8: Asignación de los factores en las redes de onda

En las partes anteriores se describe un modelo de una red neuronal, llama la ola. Nuestro modelo difiere significativamente de los modelos de olas tradicionales. Por lo general, basado en el hecho de que cada neurona oscilaciones propias peculiares. Trabajo en equipo tales propensos a las neuronas de la ondulación sistemáticas conduce a los modelos clásicos de una sincronización general y en particular la aparición de ritmos globales. Invertimos en ola de actividad de la corteza completamente diferente significado. Hemos mostrado que las neuronas son capaces de capturar información no sólo por el cambio de la sensibilidad de sus sinapsis, sino también debido a cambios en los receptores de membrana situados fuera de la sinapsis. Como resultado, la neurona adquiere la capacidad de responder a un gran conjunto de patrones específicos de neuronas de actividad circundante. Hemos demostrado que la activación de varias neuronas, formando un cierto patrón, siempre se inicia una onda que se propaga en la corteza. Una ola de este tipo no es sólo una perturbación se transmite de neurona a neurona, y crea una señal de como se mueve un cierto patrón de actividad neuronal que es único para cada patrón rechazan. Esto significa que en cualquier lugar de la corteza con el patrón que ha llevado a los patrones de onda se puede determinar para cualquier estudio de la corteza en la actividad. Hemos demostrado que en una pequeña fibra de haces de señales de onda se pueden proyectar en otras áreas de la corteza. Ahora hablamos de cómo puede producirse aprendizaje neuronas sinápticas en nuestras redes de onda.

Factores onda Aislamiento
Tome una arbitrarias neuronas corticales (figura siguiente). Él tiene un campo receptivo dentro del cual tiene una densa red de conexiones sinápticas. Estos compuestos incluyen tanto las neuronas circundantes y los axones que entran en las señales de cojinete corteza de otras regiones del cerebro. Con esta neurona puede monitorizar la actividad de una pequeña área circundante. Si el área de la corteza, a la que pertenece, tiene a la proyección topográfica, entonces la neurona recibe señales de los axones que entran dentro de su campo receptivo. Si hay activo sobre la actividad patrones de corteza evocado, la neurona ve fragmentos de las ondas de identidad de ellos cuando pasan por él. Del mismo modo, con las ondas que surgen de la onda de túneles que llevan el patrón de onda de una región del cerebro a otra.



Fuentes de información para el factor de aislamiento. 1 - neuronas corticales, 2 - el campo receptivo, 3 - proyección topográfica, 4 - patrones de actividad evocados, 5 - ola túnel i>

En la actividad de las neuronas detectable en su campo receptivo, independientemente de su origen, se observa el principio fundamental - cada fenómeno único es único, exclusivo de este patrón fenómeno. Fenómeno repetido - el patrón repetido de actividad, neurona visible
.
Si un evento contiene varios fenómenos, superpuesta en uno a varios patrones. Al aplicar los patrones de actividad no puede ser igualada en el tiempo, es decir, la onda frentes puede razminutsya. Para dar cuenta de esto, elegimos un intervalo de tiempo muestran igual al período de un ciclo de onda. Ha acumulado para cada actividad sináptica neurona de entrada durante este tiempo. Eso es sólo una suma como puntas vienen a una entrada particular. Como resultado, se obtiene el vector de entrada que describe una imagen integrada del ciclo de la actividad sináptica. Con este vector de entrada, se puede utilizar para todas las neuronas métodos descritos anteriormente de la enseñanza. Por ejemplo, podemos dar vuelta a la neurona filtro Hebb y hacer que se destaque un componente principal contenida en el flujo de datos de entrada. Implícitamente se identificará esos insumos, que a menudo manifiestan señales entrantes juntos. Aplicado a las olas de la identificación - que es una neurona determina qué ondas tienen la regularidad se producen de vez en cuando, juntos, y para ajustar sus pesos reconocimiento de esta combinación. Es decir, la selección de un factor tan sería la actividad neuronal inducida por el ejercicio, cuando se reconocerá una combinación familiar de identificadores.

Por lo tanto, la neurona adquirirá las propiedades de la neurona-detector sintonizado a un determinado fenómeno detectado en sus características. En este caso, la neurona se disparará no sólo como un sensor de presencia (un fenómeno - no hay fenómeno), será el nivel de su actividad de la señal de la gravedad del factor por el que fue entrenado. Curiosamente, cuando esta no es la naturaleza esencial de señales sinápticas. Con el mismo éxito neurona puede estar configurado para procesar los patrones de ondas, patrones de proyección topográfica o actividad conjunta.

Cabe señalar que el aprendizaje de Hebb, selecciona el primer componente principal se da puramente ilustrativa para mostrar que el campo receptivo local de la corteza de cada neurona contiene toda la información necesaria para estudiar como un detector universal. Bienes algoritmos de aprendizaje colectivo neuronas que producen una amplia variedad de factores, organizaron un poco más complicado.

Estabilidad -
plasticidad Aprendizaje de Hebb es muy clara. Es útil para ilustrar la esencia del aprendizaje iterativo. Si hablamos sólo de la activación de las conexiones, luego como la neurona está entrenado, su peso ajustado para una determinada imagen. Para una actividad combinador lineal se define:



Señal de coincidencia a la imagen que se destaca en los pesos sinápticos, causando un fuerte desajuste neurona respuesta - débil. La enseñanza de Hebb, fortalecemos el peso de la sinapsis, que recibe una señal en los momentos en los que la propia neurona se activa y debilitar las de peso, lo que en este momento no hay señal.

Para evitar el crecimiento infinito de pesos se introducen rutina normalizadora que los mantiene cantidad dentro de ciertos límites. Esta lógica conduce, por ejemplo, a la regla de Oia:

Lo más molesto en el aprendizaje de Hebb estándar - es la necesidad de introducir relación de velocidad de la formación, que debe reducirse en lo que el aprendizaje de la neurona. El hecho es que si no lo hace, entonces la neurona es entrenado por cualquier manera, entonces, si la naturaleza del cambio señales de entrada, a entrenar para una nueva asignación de los factores específicos de la secuencia de datos alterados. Una reducción en la velocidad de la formación, en primer lugar, por supuesto, retarda el proceso de aprendizaje, y en segundo lugar no requiere disminución obvia en estos métodos de control. Los manejos bruscos en la velocidad de aprendizaje puede conducir a la "fibrosidad" de toda la red y la inmunidad a los nuevos datos.

Todo esto se conoce como el dilema estabilidad plasticidad. El deseo de responder a nuevo cambio de experiencias amenaza el equilibrio de estabilización neural previamente entrenada también conduce al hecho de que una nueva experiencia deja de afectar a la red y es simplemente ignorado. Tenemos que elegir entre la estabilidad o la flexibilidad. Para entender qué mecanismos pueden ayudar en la solución de este problema, volver a las neuronas biológicas. Examinemos un poco más de detalle los mecanismos de plasticidad sináptica, eso es así, debido a que hay sináptica aprendizaje neuronas reales.

La esencia de los fenómenos de plasticidad sináptica que la eficiencia de la transmisión sináptica no es constante y puede variar dependiendo del patrón de actividad actual. Y la duración de estos cambios puede variar mucho y causar diferentes mecanismos. Hay varias formas de plasticidad (ver figura abajo).



Dinámica de sensibilidad sináptica. (A) - Facilitación, (B) - la ganancia y la depresión, (C) - potencia postetánica (D) - A largo plazo la potencia y la depresión a largo plazo (. J. Nicholls, Martin R., Wallace B., P. Fuchs, 2003) i>

Volea corta de espigas puede provocar la liberación de alivio (facilitación) mediador de la terminal presináptica correspondiente. Facilitación aparece instantáneamente salvos durante la volea y mucho más visible a unos 100 milisegundos después de la estimulación. La misma exposición corta puede conducir a la supresión (depresión) la liberación de mediadores, que dura unos pocos segundos. Facilitación puede pasar a la segunda fase (ganancia) duración similar a la duración de la depresión.

Continuo tren de pulsos de alta frecuencia se le llama comúnmente el tétanos. El nombre es debido al hecho de que esta serie está precedido por la contracción muscular tetánica. Recepción de tétanos en la sinapsis puede causar la liberación de mediadores potencia postetánica, ver por unos minutos.

Actividad repetitiva puede causar cambios a largo plazo en las sinapsis. Una razón para estos cambios - el aumento de la concentración de calcio en la célula postsináptica. El fuerte incremento de la concentración de una cascada de mediadores secundarios, dando lugar a la formación de receptores adicionales en la membrana postsináptica, y un aumento general en la sensibilidad de los receptores. Más de un ligero aumento en la concentración del efecto opuesto - reducido el número de receptores, disminuye la sensibilidad. La primera condición se llama potencia a largo plazo, el segundo - la depresión a largo plazo. La duración de estos cambios - a partir de varias horas a varios días (J. Nicholls, Martin R., Wallace B., P. Fuchs, 2003).
.
Cómo cambiar la sensibilidad de una sola sinapsis en respuesta a la recepción de los impulsos externos, si habrá un aumento o la depresión ocurre, depende de muchos procesos. Podemos suponer que esto depende en gran medida de cómo el panorama general se compone de excitación neuronal y en qué etapa de la formación que es.

El comportamiento descrito sensibilidad sináptica permite supone además que la neurona es capaz de las siguientes operaciones:
lo suficientemente rápido como para sintonizar una cierta manera - la facilitación; para restablecer este valor en un intervalo de 100 milisegundos o transferirlo a una retención mayor - la ganancia y la depresión; restablecer ganancia de estado y la depresión, o convertirlos en largo plazo o largo plazo la depresión potencia.


La ART red resonancia adaptativa i>

La aplicación práctica de esta teoría - Red de Arte. Primera ART red no sabe nada. Primero presentó su imagen crea una nueva clase. La misma imagen se copia como la clase prototipo. Las siguientes imágenes se comparan con las clases existentes. Si la imagen ya está cerca de crear una clase que está causando resonancia, hay una imagen de la clase de entrenamiento de recuperación. Si la imagen es única y no es similar a uno de los prototipos, se crea una nueva clase, con una nueva imagen se convierte en su prototipo.
Si se supone que la formación de los detectores en las neuronas de la corteza se produce de una manera similar, las fases de la plasticidad sináptica se pueden dar los siguientes significados:

neurona aún no ha recibido una especialización como detector, pero vino de la actividad debido a la ola de la activación, cambiando rápidamente el peso de sus sinapsis, sintonizar con una foto de la actividad de su campo receptivo. Estos cambios están en la naturaleza de la facilitación y duran alrededor de una medida de actividad de las ondas;
si resultó que en las inmediaciones tienen suficientes neuronas detectores sintonizados a este estímulo, la neurona se restablece, de lo contrario, las sinapsis traslada a la conservación más largo de la imagen;
Si durante la etapa de amplificación para cumplir con ciertas condiciones, las sinapsis neuronales trasladadas a la conservación a largo plazo de la imagen. Detector neurona se convierte en un estímulo apropiado.
para usarlas puede ser bastante completo y describir adecuadamente lo que está sucediendo; para tal descripción para aislar las leyes básicas inherentes a los sucesos actuales
Enfoque conocido se basa en la compresión de datos óptimo. Por ejemplo, utilizando el análisis factorial, podemos obtener los componentes principales, que representan la mayor parte de la variabilidad. Dejando a los valores de algunos primer componente y descartando el resto, podemos reducir significativamente la longitud de la descripción. Además, los valores de los factores nos dicen acerca de la gravedad del evento descrito en los fenómenos que corresponden a estos factores. Pero tal compresión tiene un lado negativo. Para los eventos reales de los primeros factores principales explican juntos por lo general sólo un pequeño porcentaje de la varianza total. Cada uno de los factores insignificantes aunque inferior a muchas veces el valor del primer factor, pero es la suma de estos factores insignificantes responsables de la información básica.

Por ejemplo, si se toma unos pocos miles de películas y obtener su valoración fijada análisis factorial cientos de miles de usuarios, estos datos se pueden realizar. El más importante serán los primeros cuatro-cinco factores. Se reunirán las direcciones básicas de la película Género: Aventura, comedia, romance, ficción detectivesca. Para los usuarios rusos de relieve, además, un fuerte factor que describe nuestro viejo cine soviético. Factores dedicados tienen una interpretación sencilla. Si describimos una película en el espacio de estos factores, será una descripción de los coeficientes de habla cómo se expresa un factor dado en la película. Cada usuario tiene un cierto preferencias de género que afectan a su calificación. El análisis factorial permite aislar las direcciones principales de influencia y los convierten en factores. Pero resulta que los primeros factores significativos explican sólo el 25% de las estimaciones de la varianza. Todo lo demás cae en un millar de otros factores pequeños. Es decir, si tratamos de comprimir la película para su retrato en los principales factores que vamos a perder la mayor parte de la información.

Además, es imposible hablar de importante a baja potencia explicativa. Por lo tanto, la adopción de las varias películas de un director, la evaluación probablemente estrechamente correlacionados entre sí. Los factores relevantes explicarían un porcentaje significativo de las estimaciones de la varianza de estas películas, pero sólo estos. Esto significa que, dado que este factor no aparece en otras películas, que explica el interés en todo el volumen de datos será insignificante. Pero es precisamente por estas películas, él será mucho más importante que el primer componente principal. Y así, por factores casi todos pequeños.

Los argumentos dados para el análisis de los factores, es posible cambiar a otros métodos de codificación de la información. David Field en el artículo de 1994 "¿Cuál es el objetivo de la codificación sensorial?» (Field, 1994) consideró estas preguntas con respecto a los mecanismos inherentes al cerebro. Llegó a la conclusión de que el cerebro no se dedica a la compresión de datos y tiende a datos de forma compacta. El cerebro es más conveniente para verlas emperifollada al tener que describir una variedad de diferentes signos, que también utiliza sólo una pequeña parte de ellos (figura siguiente).



A codificación compacta (A) y la codificación distribuida económica (B) (Field, 1994) i>

Y el análisis de factores, y muchos otros métodos de descripción son repelidos desde la búsqueda de patrones específicos y resaltan los factores o signos relevantes de clases. Pero a menudo hay conjuntos de datos en este enfoque es muy poco práctico. Por ejemplo, si tomamos la posición de las agujas del reloj, resulta que ella no tiene ninguna dirección preferida. Ella se mueve de manera uniforme alrededor de la esfera, contando las horas y horas.


Referencias


Parte 1. Neurona
Parte 2. Factores
Parte 3: Perceptrón, red de convolución
Parte 5. Las ondas cerebrales

Alex Redozubov (2014)