回复：(讨论) 如何将人工神经网络（ANN）跟推理（reasoning）整合起

考虑如下任务：
14乘17等于几？
ACT-R的解释：
1、识别任务（乘法）, 并设定一些表征的预激活和预抑制（心理学叫"启动效应"）
2、设定子目标，并堆栈，（4乘7 加4乘10，结果存入工作记忆“临时1”，类似于内存指针）
3、解决子目标，如在陈述性记忆（颞叶-海马）中查表（4乘7=28），结果存入工作记忆
ACT-R的解释框架基本是靠谱的，有大量实验证据支持，细节和表征方式有各种可能性，无法验证
涉及的操作：
1、对工作记忆的模式识别（基本前馈ANN过程）
2、对指定工作记忆的读取（抑制其他区域的输入避免干扰）
3、对指定工作记忆的写入（隔离到其他区域的输出避免干扰）
4、对指定模块（if-then 系统）的激活
5、工作记忆对表征的维持（基本RNN过程）
6、通过RL训练以上操作
注：操作234均通过抑制特定区域实现（即基本前馈ANN过程）
一个现成的例子是SPAUN，基本实现了以上过程
http://www.sciencemag.org/content/338/6111/1202
此外ACT-R对基底节的解释是过时的（80年代），这点不如SPAUN

如果学会一个乘法就需要以学会一个完整的符号逻辑体系或者语言体系为基础。
（我严重怀疑真的是这样，起码动物是这样）
那我们怎么下手开始做啊，
道理说的再天花乱坠也没用啊。

什么叫一个人工神经网络（ANN）会推理（reasoning）乘法？
给个定义先？
我可以用一个简单的ANN实现一个与非门
然后用多个这种与非门ANN实现任何逻辑，包括加法器和乘法器，
现成的数字电路设计图啊。
做个计算机都没问题。计算机的砖头就是与非门。
问题是，这叫会推理的ANN？

一个简单的会推理的ANN的输入和输出是什么样子的？
先不说怎么实现的。
难道要通过图灵测试才算么？

在研究问题前，先有一个用例（use case）不好吗，都不知道自己具体目标的什么？

而且我并不觉得RL训练这个东西有多难，既然已经模块化成一大堆子任务了，RL训练每个子任务（模块间抑制）而已，维度并不高，模块之间相对独立，抑制错了解除掉而已；除了模式识别（降维）能力需要继续提高，规模要扩大以外没觉得有什么理论上的gap；数据来源和运算规模是很成问题，但10年之内运算能力其实是可以达到的；
AGI有何商业价值？用这么多超级电脑实现婴儿水平的full-intelligence有什么意义？除非普通PC的计算能力和人脑持平，那也是20年以后的事情了，还得看摩尔定律的脸色。

连接主义和符号主义想融合，还早的很呢
真的实现了那一步，真的AI也就实现了

难得看到好帖。

4.如何用ANN表示个体，个体属性，和个体间关系。这是个大课题，有了这个才能表示复杂高级的结构。
这个问题有一些影像学的证据，就是动物（agent）和静物在颞叶的表征区域是完全不同的，但是不同的静物、动物组内表征有很多共用的部分，这个话题应该算是transfer learning？按照这个线索推下去，应该会有专门的区域表征当前物体的属性和主谓宾结构（物体间关系），当一个物体的表征在颞叶被激活，这些区域相应激活。
大量证据表明，相近的概念或物体在表征位置上相近，甚至共用表征（见教科书）
http://tieba.baidu.com/p/2092558028
很多特定的概念都有特定的表征区域，研究得比较多的比如“自我”
http://www.dartmouth.edu/~thlab/pubs/02_Kelley_etal_JOCN_14.pdf