(讨论) 如何将人工神经网络（ANN）跟推理（reasoning）整合起来

D系黑: 很难用ann表征诸如 for while if这些逻辑关系

@ieBugH @D系黑 @LJ人工智能 @卡西地

关于第四个问题： 如何用ANN表示个体，个体属性，和个体间关系的问题，下面是一些想法。
假设我们这个系统有如下的结构：
1. 多个已经训练好的ANN（recognition ANN, 以集合{r-ANN}代表）可以分别辨识很多类来自各种知觉（视觉，听觉，等）的物体。每次辨识成功时会有一个或多个特定的输出层神经元被激活（如认出张人脸，一辆车，一个特定字串，等）。
2. 一个 binding ANN （以b-ANN代表），其输入为： A) 任何被激活的 r-ANN 输出层神经元n，以及: B) 从被激活神经元n反推一层的各种特征。这个b-ANN的一个目的是把 n 当作为一个独立的个体处理（个体 n 的属性就是从r-ANN反推一层得到的特征）。另一个目的是学习及认知这些‘个体’之间的关联。这样的一个b-ANN等于是一个可以涵盖多个个体，个体属性，及个体间关系的一个规则。多个 b-ANN 可以用来产生多条规则。
这样大致解决了第四个问题。还需要更多反例来验证这个结构的优劣点。

回复 think__123 (24楼： 在研究问题前，先有一个用例（use case）不好吗，都不知道自己具体目标的什么？）
下面是这个系统的一个目标use case。这个 use case 一方面可以用来验证这个系统的功能，另一方面可以澄清研发的思路和走向。
这里的目标是让系统可以从完全空白开始，直到能够自主的和对手玩一个简单的尼姆游戏(nim)。Nim 起始有数堆棋子（或者任何道具皆可），游戏者轮流从一堆棋子中取走一个或者任意多个棋子，取全局最后一个棋子的就是输家。
以下是对这个系统的要求：
- 起始时完全没有关于Nim的知识，也没有任何特地为Nim而设计的功能。
- 可以接受部分关于Nim的规则的能力（即填鸭学习能力)
- 可以在有监督的情形下学习完整的Nim规则
- 可以在无监督的情形下学习各种策略的获胜概率。
- 可以自行根据学习的结果构建多层的获胜策略（即main goal, subgoals，等）。这部分跟反向推理有关。
- 可以在反复学习及练习的情形下逐渐变强。
- 系统必须绝大部分以ANN构建，不得有手写的复杂黑箱模块（如alpha-beta算法，等）。
想了想，不知OX棋（即tic-tac-toe，井字棋，井字游戏、圈圈叉叉，打井游戏，过三关) 是不是更合适些。

一楼所提第四第五点广义来说是关于知识表示法(KR, knowledge representation)的问题。一个AI系统的能力在很大程度上跟所用KR的有很大关系。一阶符号逻辑（FOPL, First order predicate logic)可以表达高级的概念，如∀x is-human(x)⇒will-die(x) (即：所有的人都会死），然后据此可以推理出某甲也必然会死。ANN有很强的学习模糊概念的能力，可是目前的ANN还不能用来表达类似FOPL的高级概念或执行相关的推理。扩充ANN的知识表示法是要整合ANN和reasoning必须做的第一步。
下面从KR的角度逐步探讨如何用ANN来表示类似FOPL的高级概念。首先讨论‘类’（class）和‘对象’（即个体，object, class instance）的表示方法。
假设我们有一个ANN-1从很多图片学会了辨认出人脸。这样的ANN-1学到的是一个‘类’的概念（即‘所有的人脸形状’）。那么某一特定的人脸(如某甲的脸）x该怎么以ANN表示，而且这个个体跟‘所有的人脸’的这个类的关系该怎么表示呢？一个办法是用另一个ANN-2来代表像x这样的一个个体。ANN-2可以看成是用训练好了的ANN-1复制出来并初始化的另一个ANN,而且他的输出层是特地用来代表这个类下面的一些特定对象（如某甲的脸，某乙的脸等等）。
为什么这样的一个ANN-2是代表个体呢？这是因为ANN-2的输出神经元是代表一组经常同时出现的特定的特征组合（如某甲的大嘴小眼招风耳等），不像ANN-1是记下了人脸的平均化的一些通用特征。
为什么这样的ANN-2算是ANN-1的一个instance呢？这是因为每次观察到一个新的图片时如果ANN-2激活（如输出判定是某甲的脸）则ANN-1必然也在激活状态（即输出判定是人脸），反过来则不一定（如ANN-1看到某丙的脸而ANN-2没有某丙的资料）。另外ANN-2所用的特征也是来自ANN-1。这正是‘类’（class）和对象（object）之间的关系。

下面探讨一个用来控制整体推理和学习导向的机制。虽然这个系统的目的不是仿生，这个机制这里还是暂命名为PFC,借用人脑里控制目标导向行为和注意力的前额叶（Pre-Frontal Cortex）的名字。这里我们会从神经科学找灵感，不过在实现细部机制时将会以达成目标功能为导向而无视于神经科学的理论。
假设我们已经有很多零碎的r-ANN(recognition ANN)经由学习在特定的领域具有良好的辨识（如识别人脸）或预测功能（如word2vec从上下文做预测）。如一楼所述，我们可以把这些r-ANN看成是可以做一步正向或反向推理的规则。这里PFC必须达成下列的功能：
PFC.1 给予某一个目标，如何根据目标机动的选择并控制已有规则的激发顺序（即跟attention, inhibition，有关）
PFC.2 如何将一个母目标根据需要分解为多个子目标（即top-down processing,或goal-oriented behavior）并将执行过程合并为所需的解答。
PFC.3 决定PFC的操作结构,如基本的内建operators该是什么，PFC如何和r-ANN连结，工作记忆（working memory）的结构和操作方式，等等。
PFC.4 如何进行结构映射（structure mapping)将两组分别的知识产生关联。这个对支持基本的语言能力会有帮助。
PFC.5 如何产生知识的抽象化（abstraction)和应用。例如计算石头数目和计算人头数目的计数知识该要能被抽象化到同一个程序，所以可以被应用到任何物体的计数。
PFC.6 如何进行PFC层次的学习,以便令PFC能够从学习经验中反复的优化上述的功能
PFC.7 如何基于ANN的架构来实现上所述的功能

(续51楼）
下面继续探讨51楼提出的PFC机制。这层的目标是要建立能够达成51楼所提的那些功能的一个基本架构。稍后会提出一些简单用例以解释这个架构的操作方法。
以下是这个PFC的一些基本设计理念（Design Principles, DP）：
DP-1. 会从神经科学找灵感，可是并不是以仿生为目标。
DP-2. 尽可能用ANN构建所有的机制（类似NTM，Neural Turing Machine）。以下将抽象化的ANN视为一个可具有模糊性的规则(rule)，必要时一个规则可以进入学习模式从新接受训练。
DP-3. 提出一个能够紧密结合学习，辨识或演绎（正向推理），和目标导向解题（反向推理）的架构，因此可以无缝的（seamlessly)根据需要随时调用合适的机制。
DP-4. 根据连锁的正向或反推理实现执行复杂程序的功能（有些类似ACT-R)
DP-5. 从程序语言设计的观点（在以ANN为基础的原则下）尽可能提高这个系统的"广义化程序"（generalized procedures)表达能力。其中包含支持重要机制如scoped/local variables,产生及呼叫子程序，参数传递，保留内部状态，继承，等等。这里的目的是让这种可经由学习产生及修正的"程序"也可以在原则上达到接近高级程序语言的能力。
DP-6. 注重在有限监督情形下（即有教师引导）的高效学习。理由是以纯粹无监督方式学习程序（如NTM）的难度太高，因此不容易达到实用的阶段。因此这里也注重与教师互动和一定程度的可经学习得到的语言能力。
DP-7. 能够进行meta learning, 即这个PFC能够透过学习而逐渐优化本身的控制机制以提高整体的效率（详见下面的SM-6)
下面会用到一些编程的术语来形容这系统的一些机制，理由是这个系统在某方面必须解决一些高级编程语言也会碰到的问题。不过请注意这个系统的目的并不是为了设计一个新的编程语言，因此所用上的编程术语只是用来广泛的形容这个基于ANN构建的PFC的一些设计概念。
系统模块 （System Modules，SM）：
SM-1. Global Working Memory, GWM - 这是顶层的全系统共用工作记忆。GWM除了包含系统机动产生的工作资料外，也可能含有来自教师或自学的标签资料（contextual info）。
SM-2. Local Working Memory, LWM - 每个规则或规则组有它自己的工作记忆，这个相当于程序语言里的scoped/local variables。将资料复制进入LWM即相当于传递参给一个子程序。LWM也可以让一个规则组具有状态记忆。例如根据一个负责计数的规则组RS4的LWM我们可以知道目前RS4计数的结果是73，等等。
SM-3. Goal Stack GS - 包含目前关注的目标状态
SM-4. Rule store 规则库. 这里我们把一个经学习得到具有良好预测率的ANN简称为“规则”(rule),因为可以如1楼所述它可以被拿来做一步式的正向或反向推理。一组根据经验经常在短时间内共同激发的数个ANN也叫做“规则组”(ruleset）。一个ruleset在这里的概念上大致类似于高级程序语言里的一个子程序。PFC也可能将同一个ruleset加上不同的背景标签（context）以便决定何种情形下该将它引入RWM（见SM-5)。数个规则组可以以叠加的方式组合形成新的规则组，上层的规则等于是改写下层具有同一激活因条件的规则，因此达成一种类似继承（inheritance）的机制。
SM-5. Rules Working Memory, RWM - 包含目前关注的规则或规则组(即这些规则将会被优先考虑执行）。引入RWM的规则组根据其自身的激活条件也会特别关注GWM中的某些资料。因此可以说这是一种关于如何以目标导向控制注意力（attention）的机制。
SM-6. Meta Learning Module, MLM. 具有透过学习的过程而优化PFC内部的控制程序的能力。举例来说，上面提到RWM里的规则会被
优先执行，那么系统怎能知道应该从RuleStore里头众多的规则中调入哪一些规则进入RWM呢？这可以被当作为一个做meta learning的目标，即给予GS的状态，透过学习导出哪些规则被引入SM-5可以最有效率的解决眼前的问题。
SM-7. 与教师沟通的管道。即有一个简便的方式可以看到教师的动作，给的指令或资料，或给予的奖惩值。
SM-8. Real-world Interface, RWI， 即操作及认知外头世界的界面，类似ACT-R的visual module和motor module。在极端简化的用例下也可能就是简单的文字读取或文字操作。
系统基本操作程序(Basic Operational Procedure, BOP)
BOP-1. 经常共同激发的规则将会被定义为一个规则组。经过验证有效或得到教师认可的规则组会进一步被固化。
BOP-2. GS+LWM+GWM 反复激发RWM内的规则组执行反向推理，造成导向推理的基本效果。
BOP-3. LWM+GWM 反复激发RWM内的规则组执行正向推理，以提出隐藏的事实。
BOP-4. MLM会并行学习GS和规则组的关联。这种关联用来决定给予GS的某种状态，则哪些规则组该被引入RWM。引入RWM的规则为规则库中的复制版，因此原则上RWM中可能会有同一规则组的多个版本存在并且可以有各自的状态。
BOP-5. 系统内部的各种操作过程也是MLM学习及优化的目标。这类内部操作过程包含对各个工作记忆的操作（copy, move, clear, push, pop, etc.),各个规则的激活状态，GS的状态，以及对外界世界（透过RWI)的操作和观察。
系统本能 （System Instincts, SI), 即缺省行为
SI-1 没有确切目标时则企图复制教师所产生的状态
SI-2 给于来自教师的赏罚较高的权重，以引导学习的过程
SI-3 发现有多种解法时，给简单的或较经常有效的解法较高权重（即最节约能量原则）
SI-4 具有好奇心，即把透过搜索或学习到能降熵的规则（即使没有其他的明显好处）当作为一种奖赏
SI-5 与教师通信时，如果没有明显任务并缺乏有用的信息时，缺省假设为眼前的信息是有目的的。即缺省的动作是将眼前的信息代入目标解题的操作模式。

一篇Hinton的相关论文 Aetherial Symbols http://tieba.baidu.com/p/3722594290

读到这篇论文 Intrinsic Representation: Bootstrapping SymbolsFrom Experience
http://courses.csail.mit.edu/6.803/pdf/larson.pdf
是关于如何用ANN提取近似符号信息。
里头一个有意思的想法是用 SOM (self-organizing map)将样本向量聚类，每一个cluster 即代表一个可能的类别，符号，或个体。然后以Hebbian Learning 导出多个 cluster 之间的关联 （即近似于符号逻辑里的n-ary relations)。一旦做到这种程度，要做推理的工作就简单多了。
论文是挺老了，不过感觉是还有很多后续的研究可以做。