回复：Jeff hawkins的Numenta的研究成果BAM

6.1.2. 空间结构与时序记忆共用的概念
6.1.2.1. 二值权重
HTM突触只能以0或1来影响后突触；它们“权重”是二值的，不像许多神经网络模型使用范围在0.0到1.0之间的标量变值。

6.1.2.2. 树突
突触连接到树突部分。有两种树突部分，proximal(译者：近的)和distal(译者：远的)。
proximal树突部分形成产生前馈输入的突触。连到这种树突部分的活跃突触线性地相加来决定前馈地激活一个细胞柱。
distal树突部分形成的突触连到同层细胞。每一个细胞有许多的distal树突部分。如果distal树突部分的活跃突触的和超过阈值，那么其连接的细胞进入预测态。因为每个细胞有许多种类的distal树突部分，一个细胞的预测态为一些组成的阈值检测器的逻辑或操作。

6.1.2.3. 潜在突触
每个树突部分都有一些潜在突触。所有的突触都具有permanence值，如果它们的permanence值超过了permanence阈值，那么它们就可能成为功能性突触。

6.1.3. 时序记忆的具体概念
TM算法学习序列并做出预测。在TM算法中，当一个细胞变为活跃时，它就形成与先前活跃的其他细胞的连接。然后细胞可以通过观察它们的连接来预测它们何时活跃。如果所有的细胞都这样做，它们就可以存储和记忆模式序列，并能预测下一步可能发生什么。没有一个模式序列的中央存储；相反，记忆分布在各个细胞中。由于记忆是分布式的，所以系统对噪声和误差具有很强的鲁棒性。单个细胞可能会失败，通常没有什么明显的效果。

6.1.3.1. 稀疏表征属性的使用
TM算法如果不充分利用SDRs的特性，将是毫无意义的。
假设我们有一个假设层，它总是通过在总共10000个细胞中使用200个活跃细胞来形成表示（2%的细胞在任何时候都是活动的）。我们如何记住和识别200个活跃细胞的特定模式？这样做的一个简单方法是列出我们关心的200个活跃细胞。如果我们看到相同的200个细胞再次活跃，我们将识别这模式。但是，如果我们只列出了200个活动细胞中的20个，而忽略了其他180个细胞呢？会发生什么事？你可能认为只记住20个细胞会导致很多错误，这20个细胞可能在许多不同的200个活跃细胞组成的模式中是活跃的。但事实并非如此。因为模式是大而稀疏的（在这个例子中，200个活跃的细胞中有10000个），记住20个活跃的细胞几乎和记住所有200个细胞一样好。在实际系统中出错的机会非常小，我们大大减少了内存需求。

HTM层中的细胞利用了这个属性。每个细胞的树突段都有些连接到层中的其他细胞的连接。一个树突段形成这些连接作为识别某一时刻网络状态的方法。附近可能有成百上千的活跃细胞，但树突段仅连接到15或20个细胞。当树突片段看到15的活跃细胞时，可以相当确定较大的模式正在发生。这种技术称为“抽样”，并在整个HTM算法中使用。

每个细胞参与许多不同的分布模式和许多不同的序列。一个特殊的细胞可能是几十个或几百个序列转换的一部分。因此，每个细胞都有多个树突段，而不仅仅是一个。理想情况下，一个细胞识别每一种活跃模式使用一个树突段。实际上，树突段可以学习几种完全不同的模式的连接，仍然有效。例如，一个树突段可能为4种不同模式中的每一种学习20种连接，总共有80个连接。然后，我们设置一个阈值，使树突段变得活跃时，它的任何15个连接是活跃的。这就引入了出错的可能性。通过混合不同的模式,树突段达到15个活跃连接的阈值是可能的。然而，这种错误是不太可能的，再次由于稀疏表征。

现在我们能看到一个拥有一二十个树突和几千个突触的细胞如何能够识别成百的不同的细胞活跃状态。

6.1.3.2. 一阶与多阶序列预测
每个细胞柱有更多或更少的细胞的影响是什么？如果我们每个细胞柱只有一个细胞会发生什么？

正如我们在本章后面所展示的，一个由100个活动细胞柱组成的输入，每个细胞柱有4个细胞，可以用4的100次方种不同的方式编码。因此，同样的输入可以在许多上下文环境中出现而不会混淆。例如，如果输入模式代表单词，那么一个层可以记住许多句子，它们重复使用同一个词，而不会混淆。像“狗”这样的词在不同的上下文中有独特的表现形式。此功能允许HTM层进行所谓的“变序”预测。变序预测不是仅基于当前发生的情况，而且还基于不同的过去上下文。HTM层是变序记忆的。

然而，使每个细胞柱的细胞数目更小，确实有很大的区别。

如果每个细胞柱只有一个细胞，我们就失去了将上下文包含在表示中的能力。一个层的输入总是导致相同的预测，不管上下文如何。每细胞柱只有一个细胞，HTM层的记忆是“一阶”记忆；预测仅基于当前输入。

一阶预测非常适合于大脑解决的一类问题：静态空间推理。如前所述，暴露于短暂的视觉图像的人能够识别物体是什么，即使暴露时间短到眼睛还没来得及移动。而听力，你总是需要听到一系列的模式来识别它是什么。视觉通常是这样的，你通常处理一系列视觉图像。但在某些情况下，您可以识别瞬间曝光的图像。

时序和静态识别可能需要不同的推理机制。一个需要识别模式序列并根据可变长度上下文语义进行预测。另一种不使用时序上下文语义来识别静态空间模式。每个细胞柱有多个细胞的HTM层非常适合识别基于时间的序列，每细胞柱有一个细胞的HTM层非常适合识别空间模式。