逻辑思维。第8部分：要素分配的浪潮网络 Bashny.Net

在之前的部分 我们描述了一个神经网络模型，称为波。我们的模式从传统的波浪模式显著不同。通常是基于每一个神经元拥有奇特的振荡的事实。这种团队精神容易发生系统性波动的神经元导致的特定通用同步和全球节奏出现的经典车型。我们投资于波活动树皮完全不同的意义。我们已经表明，神经元是能够捕捉到的信息，不仅通过改变突触的灵敏度，而且还由于改变位于突触外膜受体。其结果，所述神经元获得对一大组的特定活动周围神经元的模式作出反应的能力。我们已经表明，活化几个神经元，形成了一定的图案，总是起始于皮质传播的波。这样的波不仅仅是一个扰动由神经元发送到神经元，并作为移动的神经元活动的一定的模式是唯一的每个图案拒绝它创建的信号。这意味着在上地壳到已经带来了波图案的形成图案的任何地方都可以用于在活动的任何地壳研究来确定。我们已经表明，在一个小的光纤束波信号可被投射到皮层的其它区域。现在我们来谈谈如何学习可以在我们的网络浪潮发生突触神经元。

孤立波因素
就拿任意皮层神经元（下图）。他有一个感受野之内，它有一个密集网络的突触连接。这些化合物包括周围神经元和进入其他脑区的树皮承载信号的轴突两者。用该神经元可以监视一个小的周边地区的活性。如果皮层，他所属的区域，具有地形投影，则神经元接收来自那些属于其感受野内的轴突的信号。如果有活动的树皮模式诱发活性，神经元看到身份波的片段从他们时，他们从他那里经过。同样，出现在携带从一个大脑区域的波浪纹到另一个隧道的波荡漾。



为隔离因子的信息来源。 1 - 皮层神经元，2 - 感受野，3 - 地形投影，4 - 诱发活动模式，5 - 波坑道 I>

在其感受野的活性可检测的神经元，而不管其来源，主要原理是观察 - 每个独特的现象是独特的，特有的这种现象的图案。重复的现象 - 活动的重复模式，可见神经元
。
如果事件包含几种现象，叠加在彼此的几个图案。当应用活动的模式不匹配的时间，即波前可以razminutsya。为了说明这一点，我们选择一个节目的时间间隔等于一个波周期的周期。积累了在此期间，每个输入神经元突触活动。这仅仅是一个总和尖峰来到一个特定的输入。其结果是，我们得到描述突触活动的周期的集成图象输入矢量。与该输入矢量，我们可以使用用于教学的所有神经元先前描述的方法。例如，我们可以打开过滤器神经元赫布并使其脱颖而出包含在输入数据流中的主要组成部分。它的内在含义将确定这些投入，这往往表现输入信号在一起。施加到所述识别的波 - 这是一个神经元来确定哪个波具有规律性发生不时，一起，并调整它们的权重识别这种组合。也就是说，选择这样的因素将是该运动引起的神经元的活性，当它会认识到一个熟悉的标识符的组合。

因此，神经元将获得的神经元检测器调谐到在它们的特性发现某种现象的性质。在这种情况下，神经元将触发不仅作为存在传感器（一种现象 - 没有任何现象），这将是其活性水平的信号的量他被训练的因素的严重程度。有趣的是，当这不是突触信号本质。用同样的成功的神经元可以被配置为处理波图案，地形投影或关节的活动模式。

应当指出的是赫布学习，选择第一主成分给出只是为了说明，以表明每个神经的地壳的局部感受野包含所有必要的信息，以研究它作为一种普遍的检测器。产生各种各样的因素，真正的集体学习算法的神经元，组织比较复杂一点。

稳定性 - 可塑性
赫布学习是很清楚的。它说明了迭代学习的本质是有用的。如果我们只谈激活连接，然后随着神经元的训练，它的重量调整为特定的图像。对于一个线性组合的活性定义如下：



巧合的信号，即突出对突触的权重，引起了强烈的反响神经元不匹配的图像 - 弱。教学赫布，我们加强突触，其中接收信号的时刻，当神经元本身是活动的，并削弱那些重量，这在这个时候，没有信号的权重。

为了避免重的无限增长的介绍，在一定范围内让他们量正火程序。这种逻辑导致，例如，伊亚的规则：

最讨厌的事在标准赫布学习 - 是需要引进的训练速度比，应尽量减少学习的神经元。事实是，如果不这样做，那么神经元通过任何方式的训练，然后，如果输入信号的变化的性质，再训练为特定于已改变的数据流的因素一个新的分配。在训练的速度降低，首先，当然，减缓学习过程，其次需要对这些控制方法没有明显的下降。粗暴地对待在学习的速度会导致整个网络和免疫力的新数据的“木质”。

所有这一切都被称为稳定塑性困境。对新经验的变化作出反应的愿望威胁的平衡以前训练的神经稳定，也导致了一种全新的体验不再影响网络，并简单地忽略了一个事实。我们要选择使用的稳定性和灵活性。要了解什么样的机制能解决这个问题的帮助，回到生物神经元。让我们看看更详细一点的突触可塑性的机制，就是这样，因为其中有突触学习真正的神经元。

突触可塑性的现象的本质是突触传递效率不恒定，并且可以根据当前的活动模式而有所不同。而这些变化的持续时间可以变化很大，并导致不同的机制。有几种形式的可塑性（见下图）。



突触敏感度动态。 （A） - 便利，（B） - 增益和抑郁症，（C） - 后强直效力（D） - 长期效力和长期萧条（J.尼科尔斯，马丁R.华莱士B.，P.福克斯，2003年） I>

尖峰短凌空可能会导致从相应的突触前终端救济（便利）介质的释放。便利出现凌空期间即时保存，许多关于刺激后100毫秒更为明显。相同的短曝光可导致抑制（抑郁）介质释放，持续几秒钟。便利可以移动到第二阶段（增益）的持续时间类似抑郁症的持续时间。

连续的高频脉冲串通常称为破伤风。名称是由于这样的事实，这一系列的前面强直肌肉收缩。收到破伤风的突触会导致后期强直效力介质释放，观看了几分钟。

重复的活动可能会导致突触的长期变化。一个原因这些改变 - 增加在突触后细胞钙的浓度。次级介质的级联的浓度的强劲增长，导致额外的受体在突触后膜的形成，并在受体的敏感性的总体增加。以上在相反的效果的浓度略有增加 - 减少受体的数量，降低灵敏度。第一状态称为长期效力，所述第二 - 长期抑郁症。这些变化的时间 - 从几个小时到几天（J.尼科尔斯，马丁R.华莱士B.，P.福克斯，2003。）
。
如何改变单个突触的灵敏度，响应于接收到外部的冲动，是否存在将增加或凹陷时，取决于许多工艺。我们可以假设，这在很大程度上取决于如何整体画面是由神经元激发和在它是什么阶段的训练。

所描述的行为突触灵敏度可进一步假设该神经元能够下列操作：
在足够快的速度来调整以某种方式 - 便利; 要在100毫秒的间隔重置此设置或将其转移到一个更长的保留 - 增益和抑郁症; 重置增益状态和抑郁，或将其转换为长期或长期效力的抑郁症。 ul>这逐步的训练以及相关已知的概念“自适应共振理论”。这一理论提出了由斯蒂芬·格罗斯伯格（格罗斯伯格，1987），以此来解决稳定性的可塑性的窘境。这一理论的实质是，输入信息被划分成类。每个职业都有其原型 - 该类最匹配的图像。对于新的信息通过它是否属于一个现有的类的确定，或者它是独特的，不同于任何以前。如果该信息不是唯一的，它是用来改进原型类。如果这是一些全新的东西，它会创建一个新的类，它的原型落在这一形象。这种方法允许，一方面，产生新的检测器，并在另一方面，虽然不破坏已经启动。



网络自适应共振ART I>

这一理论的实际执行 - ART网络。第一个网络ART什么也不知道。第一次提出她的形象会创建一个新的类。很形象被复制为原型类。以下图片与现有的类进行比较。如果图像已经接近创建一个引起共鸣的一类，有辅导培训班的图像。如果图像是独一无二的，是不是类似于原型之一，它创建了一个新的类，以崭新的形象成为其原型。
如果假定在皮层神经元的检测器的形成发生在一个类似的方式，突触可塑性的相位可以给出以下含义：

在神经元目前还没有接到一个专业化的检测，但进来的活动，由于激活的浪潮，迅速改变其感受野的活动画面的突触，调整的权重。这些变化是在便利的性质和持续大约一个度量波活动;
如果事实证明，在附近有足够的神经元探测器调整到这种刺激，神经元被复位，否则突触结转到更长的保留图像;
LI> 如果在扩增阶段，以满足某些条件​​，结转到长期存储图像的神经元突触。神经检测仪成为一个适当的刺激。
ul>现在尽量组织的培训程序，适合人工神经网络有点想法。向下推学习目标。我们假设我们希望得到尽可能培养满足两个基本要求的神经元探测器的结果：
来使用它们可以说是相当全面，充分地描述所发生的事情; 这样的描述来隔离固有的时事新闻的基本规律 ul>第一个允许记忆。 ，积累的信息，而在同一时间，那么它可以是重要的法律缺少的部分。第二提供这些因素中的说明中，这可能会影响该决定的可视性。

公知的方法是基于所述最佳数据压缩。例如，采用因子分析，我们可以得到的主要组成部分，占变异的主要份额。留下一些第一成分的值，并丢弃其余的，我们可以显著降低描述的长度。另外，各因素的值告诉我们在对应于这些因素的现象所描述的事件的严重性。但是，这样的压缩有一个缺点。对于第一个主要的因素真实事件解释起来的总方差通常只有一小部分。每个微不足道的因素虽然不如多次所述第一系数的值，但它是负责的基本信息，这些微不足道因素的总和。

例如，如果你把几千元的电影，并得到他们的评估贴的用户数十万，这样的数据可以进行因子分析。最重要的将是前四 - 五个因素。他们将会见类型电影的基本方向：冒险，喜剧，爱情，侦探小说。对于俄罗斯用户而且突出描述我们的老苏联电影的一个重要因素。专用的因素有一个简单的解释。如果我们描述的膜在这些因素的空间，这将是发言如何在给定因子表达于膜中的系数的描述。每个用户都有影响其评级某一类型的偏好。因子分析可以隔离影响的主要方向，并把它们变成因素。但事实证明，第一显著因素解释只有约25％的方差估计。一切落入千其他小的因素。也就是说，如果我们试图压缩电影到他在这我们将失去的大部分信息的主要因素的画像。

此外，这是不可能谈论重要的低解释力。因此，服用几片一个董事，该评价可能会密切相关的对方。有关的因素可以解释这些膜的方差估计的显著百分比，但只有这些。这意味着，由于这个因素不会出现在其他薄膜，它解释在数据的整个体积的利益将是微不足道的。但恰恰是这些电影，他会比第一主成分更为重要。所以，几乎所有的小因素。

给予因子分析的参数，有可能转移到编码信息的其他方法。戴维·菲尔德在1994年的一篇文章“什么是感官编码的目标是什么？»（场，1994）认为这些问题对于固有的大脑机制。他来到大脑不从事数据压缩和趋于紧凑型数据的结论。大脑是更方便的，以查看他们打扮得当具有以描述各种不同的标志，他还使用只有一小部分人（见下图）。



紧凑编码（A）和经济的分布编码（B）（场，1994年） i>的

和因子分析，并说明许多其他的方法是从搜索特定的模式排斥，突出类的相关因素或迹象。但往往有数据集，其中这种做法是相当不切实际的。举例来说，如果我们采取的立场顺时针，事实证明，她没有首选方向。她的动作均匀环绕表盘，数着几个小时。




第1部分神经元
第2部分因素
部分4.背景活动
第5部分的脑电波
第7部分：人机界面