网页
资讯
视频
图片
知道
文库
贴吧
地图
采购
进入贴吧
全吧搜索
吧内搜索
搜贴
搜人
进吧
搜标签
日
一
二
三
四
五
六
签到排名:今日本吧第
个签到,
本吧因你更精彩,明天继续来努力!
本吧签到人数:0
一键签到
成为超级会员,使用一键签到
一键签到
本月漏签
0
次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行
补签
。
连续签到:
天 累计签到:
天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
04月27日
漏签
0
天
人工智能吧
关注:
114,027
贴子:
505,287
看贴
图片
吧主推荐
视频
游戏
首页
上一页
9
10
11
12
13
14
15
16
17
下一页
尾页
268
回复贴,共
18
页
,跳到
页
确定
<<返回人工智能吧
>0< 加载中...
回复:Jeff hawkins的Numenta的研究成果BAM
取消只看楼主
收藏
回复
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
解决这个问题的一个方法是给一个严格的顺序给所有决定抽样哪些比特的坐标。为此,我们可以使用确定性hash性函数将每个坐标映射到0到1之间的浮点数:
Hash(x, y) = wx,y
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
因为我们使用的是确定性散列函数,所以这些权重可以在需要时计算,不需要存储在内存中。当我们需要十五个活跃比特时,前面的编码可能看起来像这样:
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
加权方案有助于偏好相同的坐标以便于邻近位置的编码选择一些相同的坐标,但它并不能保证这。因此,从总数中选择足够高的数和活跃比特是确保适当的重叠所必要的。
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
4.5.3 包含速度的地理空间数据编码器
坐标或地理空间编码器的一个很有前景的应用是对人或车辆位置的异常检测。人或车的速度对于在他们不再具有重叠之前想知道应该选择多远位置是重要的。实现这个过程自动化的一种方法是动态调整半径,根据当前速度选择比特,将距离语义改变为相对速度,而不是绝对度量。
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
下面的图(图6A、6B和6C)展示了三个位置的编码表示。第一个和第二个编码是缓慢移动的实体的位置,而第三个代表了加速了的实体的位置。请注意,虽然第三个位置离得更远,但它仍然与前面的编码共享相同数量的比特。
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
4.6 例4-编码自然语言
单词,句子,和文件也可以被编码成SDRs。目前有许多技术创造语言向量编码,其中有一个由cortical.io创造。他们的技术在最近的白皮书中有详细描述(Webber,2015).
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
4.6.1 选择编码尺寸
每一个编码器,无论代表什么,应该创造SDRs,其有一个固定的比特数N和固定数量的激活比特W。你怎么知道哪一个N和W的值是好的?为了保持来自稀疏性的属性,w不能是n的很大一部分,但是如果w太小,我们就失去了具有分布式表示的属性。作为一般规则,数值w至少要20来妥善处理噪声和抽样,并且N应至少100以提供足够的分辨率来区分许多数。
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
下面是一些在实际应用中已经成功应用的值。
在一个从服务器看数值度量值的实验中,一个优化算法选择n=134和w=21作为好的值。
在另一个实验中,N=2048和w=41被认为是地理空间编码器的良好值。
当编码类别时,w可以是n的较高比例,一个极端例子,如果你编码了二进制值,n可以是100,w可以是50。
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
当创建一个新的编码器时,用较宽广的知道原则选择最初的n和w通常是一个很好的策略。在编码器调试好并且有较精确的测试后,对编码器性能可以通过仔细选择N和W来调整,很多选择N和W好值的内容来自Ahmad和Hawkins对SDRs的性质所做的工作(Ahmad和Hawkins,2016)。
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
4.6.2 编码多值
有些应用需要为单个HTM模型编码多个值。单独的值可以自己编码,然后连接起来形成组合编码。当这样做时,重要的是保持激活比特的数量,W,对于每个单独的编码器取相对类似的值,以便其中一个值不占代表性的主导地位。n的总比特数非常不同对于每个编码器来说很好。
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
4.7 总结
有许多编码器可以覆盖大多数应用的需求。如果您需要为一个新的数据类型构建一个编码器,您可以使用一些简单的规则创建编码器:
1. 语义类似的数据在SDRs中应该有重叠的激活比特。
2. 相同的输入必须输出相同的SDRs
3. 所有输入的输出必须有相同的维度(总比特数)
4. 对于所有输入,输出应该具有相同的稀疏性并且有足够的激活比特来处理噪声和抽样。
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
第5章 空间结构
5.1 空间结构算法细节
我们首先介绍一些重要的术语,然后是抽象的步骤,其次是细节的伪代码。
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
5.1.1 术语
Column:一个HTM区域用一列列的细胞来组织。SP在列层次进行运算,一列细胞作为计算单元。
Mini-column:详见“Column”
Inhibition:保持活跃细胞稀疏性的机制。在SP中这表现为一列列的细胞组织相邻的列变成活跃态。
Inhibition radius:一列细胞领域的尺寸,在这个尺寸内细胞列将阻止相互变为激活态。
Active duty cycle:细胞活跃频率的滑动平均值。
Overlap duty cycle:一个滑动平均值表示了细胞列重叠值至少等于proximal segment激活阈值的频率。
Receptive field:一个细胞列潜在地能连接到的输入空间。
Permanencevalue:指示空间池算法中的一个Mini-column与它的Receptive field中的一个单元之间的增长量。
Permanencethreshold: 如果一个突触的持久性超过这个值,它被认为是完全连接的。可接受的值域为[0,1].
Synapse:即突触。一种细胞间的连接。在SP算法中,一个细胞列的树突上的突触连接到输入空间的比特上。一个突触可以是以下几种状态:
Connected:Permanence超过阈值。
Potential:Permanence低于阈值
Unconnected:无法连接。
水瓶座Karl
自动驾驶
6
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
5.1.2 步骤
1. 从一个由固定数比特组成的输入开始。这些比特可能表达传感数据或者他们可能从任何另一个HTM区域而来。
2. 通过分配一个固定的细胞列数连接到输入域来初始化HTM区域。每一个细胞列拥有一个连接着其他细胞的树突状部分,作为输入域的连接部分。通过向接收该输入的区域分配固定数量的细胞柱初始化HTM区域。每个细胞柱都有一个相关的树突段,作为连到输入空间的连接。每个树突段都有一组潜在的突触,代表输入端的一个(随机)子集。每个潜在突触都有permanence值。这些值是在permanence threshold周围随机初始化的。基于他们的permanence值,一些潜在的突触将是已经连接的;那些permanence值大于permanence threshold的。
3. 对于任何给定的输入,确定每个细胞柱上有多少连接的突触连接到活跃(输入)比特上。这些是活跃的突触。
4. 活跃突触的数目乘以一个“boosting”因子,它是由一个细胞柱相对于它的邻居活跃的频率而动态决定的。
5. inhibition radius里的一小部分活跃度最高(boosting后)细胞柱将变为活跃,并禁用半径内的其他细胞柱变为活跃。inhibition radius本身是由输入位的范围动态决定的。现在有一些稀疏的活跃细胞柱了。
6. 该区域现在遵循SP(Hebbian学习规则)学习规则:为每个活跃的细胞柱,我们调整所有潜在突触的permanence值。与活跃输入比特相应的突触的permanence值增加。与非活跃输入比特相应的突触的permanence值减小。对permanence值的改变可能使一些突触从连接到不连接,反之亦然。
7. 对于以后的输入,我们从第3步开始重复。
登录百度账号
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频!
贴吧页面意见反馈
违规贴吧举报反馈通道
贴吧违规信息处理公示