Hash魔法:分布式哈希算法
2012-01-09 00:00
1206 查看
我们从浅入深一步一步介绍什么是分布式哈希表。
![](https://oscdn.geek-share.com/Uploads/Images/Content/201505/accf09e3d40d535a2d733a548359d0a2.png)
哈希函数需要经过精心设计才能够达到比较好的效果,但是总是无法达到理想的效果。多个值也许会映射到同样的地址上。这样就会产生冲突,如图中的红线所示。在设计哈希函数时要尽量减少冲突的产生。
最简单的哈希函数就是一个求余运算: hash(A) = A % N。这样就把A这个值映射到了[0~N-1]这样一个范围之中。
哈希表是一中数据结构,它把KEY 和 VALUE用某种方式对应起来。使用hash()函数把一个KEY值映射到一个index上,即hash(KEY) = index。这样就可以把一个KEY值同某个index对应起来。然后把与这个KEY值对应的VALUE存储到index所标记的存储空间中。这样,每次想要查找KEY所对应的VALUE值时,只需要做一次hash()运算就可以找到了。
举个例子:图书馆中的书会被某人借走,这样“书名”和“人名”之间就形成了KEY与VALUE的关系。假设现在有三个记录:
简明现代魔法小明最后一天小红变形记小红
这就是“书名”和“人名”的对应关系,它表示某人借了某本书。现在我们把这种对应关系用哈希表存储起来,它们的hash()值分别为:
hash(简明现代魔法) = 2hash(最后一天) = 0hash(变形记) = 1
然后我们就可以在一个表中存储“人名”了:
0小红1小红2小明
这三个人名分别存储在0、1和2号存储空间中。当我们想要查找《简明现代魔法》这本书是被谁借走的时候,只要hash()一下这个书名,就可以找到它所对应的index,为2。然后在这个表中就可以找到对应的人名了。在这里,KEY为“书名”, VALUE为“人名”。
当有大量的KEY VALUE对应关系的数据需要存储时,这种方法就非常有效。
分布式哈希表通常采用一致性哈希函数来对机器和数据进行统一运算。这里先不用深究一致性哈希究竟是什么,只需要知道它是对机器(通常是其IP地址)和数据(通常是其KEY值)进行统一的运算,把他们全都映射到一个地址空间中。假设有一个一致性哈希函数可以把一个值映射到32bit的地址空间中,从0一直到2^32 – 1。我们用一个圆环来表示这个地址空间。
![](https://oscdn.geek-share.com/Uploads/Images/Content/201505/79a050f408b8d093477d7528d67c0dce.jpg)
假设有N台机器,那么hash()就会把这N台机器映射到这个环的N个地方。然后我们把整个地址空间进行一下划分,使每台机器控制一个范围的地址空间。这样,当我们向这个系统中添加数据的时候,首先使用hash()函数计算一下这个数据的index,然后找出它所对应的地址在环中属于哪个地址范围,我们就可以把这个数据放到相应的机器上。这样,就把一个哈希表分布到了不同的机器上。如下图所示:
![](https://oscdn.geek-share.com/Uploads/Images/Content/201505/33fff0b168a9ab005682154330345b0c.jpg)
这里蓝色的圆点表示机器,红色的圆点表示某个数据经过hash()计算后所得出的地址。
在这个图中,按照逆时针方向,每个机器占据的地址范围为从本机器开始一直到下一个机器为止。用顺时针方向来看,每个机器所占据的地址范围为这台机器之前的这一段地址空间。图中的虚线表示数据会存储在哪台机器上。
Hash魔法:哈希表的原理与实现
Hash魔法:一致性 hash 算法
Hash魔法:分布式哈希算法
Hash魔法:哈希表的工作原理与常用操作
哈希函数
哈希函数是一种计算方法,它可以把一个值A映射到一个特定的范围[begin, end]之内。对于一个值的集合{k1, k2, … , kN},哈希函数把他们均匀的映射到某个范围之中。这样,通过这些值就可以很快的找到与之对应的映射地址{index1, index2, … , indexN}。对于同一个值,哈希函数要能保证对这个值的运算结果总是相同的。![](https://oscdn.geek-share.com/Uploads/Images/Content/201505/accf09e3d40d535a2d733a548359d0a2.png)
哈希函数需要经过精心设计才能够达到比较好的效果,但是总是无法达到理想的效果。多个值也许会映射到同样的地址上。这样就会产生冲突,如图中的红线所示。在设计哈希函数时要尽量减少冲突的产生。
最简单的哈希函数就是一个求余运算: hash(A) = A % N。这样就把A这个值映射到了[0~N-1]这样一个范围之中。
哈希表
哈希表的核心就是哈希函数hash()。哈希表是一中数据结构,它把KEY 和 VALUE用某种方式对应起来。使用hash()函数把一个KEY值映射到一个index上,即hash(KEY) = index。这样就可以把一个KEY值同某个index对应起来。然后把与这个KEY值对应的VALUE存储到index所标记的存储空间中。这样,每次想要查找KEY所对应的VALUE值时,只需要做一次hash()运算就可以找到了。
举个例子:图书馆中的书会被某人借走,这样“书名”和“人名”之间就形成了KEY与VALUE的关系。假设现在有三个记录:
简明现代魔法小明最后一天小红变形记小红
这就是“书名”和“人名”的对应关系,它表示某人借了某本书。现在我们把这种对应关系用哈希表存储起来,它们的hash()值分别为:
hash(简明现代魔法) = 2hash(最后一天) = 0hash(变形记) = 1
然后我们就可以在一个表中存储“人名”了:
0小红1小红2小明
这三个人名分别存储在0、1和2号存储空间中。当我们想要查找《简明现代魔法》这本书是被谁借走的时候,只要hash()一下这个书名,就可以找到它所对应的index,为2。然后在这个表中就可以找到对应的人名了。在这里,KEY为“书名”, VALUE为“人名”。
当有大量的KEY VALUE对应关系的数据需要存储时,这种方法就非常有效。
分布式哈希表
哈希表把所有的东西都存储在一台机器上,当这台机器坏掉了之后,所存储的东西就全部消失了。分布式哈希表可以把一整张哈希表分成若干个不同的部分,分别存储在不同的机器上,这样就降低了数据全部被损坏的风险。分布式哈希表通常采用一致性哈希函数来对机器和数据进行统一运算。这里先不用深究一致性哈希究竟是什么,只需要知道它是对机器(通常是其IP地址)和数据(通常是其KEY值)进行统一的运算,把他们全都映射到一个地址空间中。假设有一个一致性哈希函数可以把一个值映射到32bit的地址空间中,从0一直到2^32 – 1。我们用一个圆环来表示这个地址空间。
![](https://oscdn.geek-share.com/Uploads/Images/Content/201505/79a050f408b8d093477d7528d67c0dce.jpg)
假设有N台机器,那么hash()就会把这N台机器映射到这个环的N个地方。然后我们把整个地址空间进行一下划分,使每台机器控制一个范围的地址空间。这样,当我们向这个系统中添加数据的时候,首先使用hash()函数计算一下这个数据的index,然后找出它所对应的地址在环中属于哪个地址范围,我们就可以把这个数据放到相应的机器上。这样,就把一个哈希表分布到了不同的机器上。如下图所示:
![](https://oscdn.geek-share.com/Uploads/Images/Content/201505/33fff0b168a9ab005682154330345b0c.jpg)
这里蓝色的圆点表示机器,红色的圆点表示某个数据经过hash()计算后所得出的地址。
在这个图中,按照逆时针方向,每个机器占据的地址范围为从本机器开始一直到下一个机器为止。用顺时针方向来看,每个机器所占据的地址范围为这台机器之前的这一段地址空间。图中的虚线表示数据会存储在哪台机器上。
延伸阅读
此文章所在专题列表如下:Hash魔法:哈希表的原理与实现
Hash魔法:一致性 hash 算法
Hash魔法:分布式哈希算法
Hash魔法:哈希表的工作原理与常用操作
相关文章推荐
- Hash魔法:分布式哈希算法
- java实现分布式环境Hash一致性
- 一致性 Hash 算法学习(分布式或均衡算法)
- md5是哈希算法的改进加强,因为不同原始值可能hash结果一样,但md5则改善了用于验证消息完整性,不同md5值原始值也必将不一样
- 算法知识——哈希算法(hash)
- 分布式内存数据库---Redis操作String、list、set、hash和Zset
- Java Hash Algorithm Collision Practice (JAVA哈希算法冲突实践)
- 一致性hash在分布式系统中的应用
- 一致性 Hash 算法学习(分布式或均衡算法)
- 经典的hash算法 常见hash 哈希算法
- 分布式中hash取模算法中的问题
- 分享一个新的对字符串的哈希算法之FastHash
- Redis分布式部署,一致性hash;分布式与缓存队列
- Hash魔法:一致性 hash 算法
- DHT(Distributed Hash Table): 分布式哈希表
- 分布式与集群的区别,一致性hash,hadoop与HBASE,消息,关于分布式系统的数据一致性问题(来自公众号:360doc个人图书馆)
- 模拟客户端分布式的一致性hash
- 分布式资本宣布孵化成立Hashgard项目
- ELFhash - 优秀的字符串哈希算法
- 分布式中一致性Hash的应用