分布式存储杂谈之一:特点、难点和疑点
2018-07-27 22:55
316 查看
当前分布式存储很火,笔者也有机会投身到了这股洪流。下面就结合这段时间的工作,分专题简要总结一下一些感想。
分布式存储的特点
扩展性好,支持横向扩展,扩容、扩性能直接加机器就好;
无需特别硬件支持,区别于一些中高端存储的专门的PCIE NTB、Fibre Channel 、SAS controller 、JBOD等设备,分布式存储用通用服务器硬件就可以了;
灵活的多副本支持:副本数量,从2个到多个可以配置,只要大部分副本正常还可以自动恢复;
较高的可用性:由于支持跨节点、机架、机房、区域的副本放置策略,可用性比较高
分布式存储的要点:
可靠的副本一致性协议
1.1 数据平面,保证多副本通过网络及时复制、修补、重放,同时减小写放大;
1.2 控制平面,保证meta data管理、卷的创建、删除、挂载、卸载等工作正常,支持主丛切换的及时性和正确性;
全面的负载均衡
需要考虑多个方面
2.1 空间负载均衡
2.2 ioutil/吞吐的负载均衡
2.3 副本的负载均衡
3.高效的快照、克隆、回滚服务
3.1 MVCM 和 COW
3.2 快照、克隆、回滚时的读写防御
3.3 快照、克隆、回滚时的挂载卸载处理
3.4 快照、克隆、回滚任务调度
分布式存储的难点
各种情况下的主从同步(HA);
全面高效的负载均衡;
在保证高可靠性的前提下炸出最后一滴性能;
分布式存储的特点
扩展性好,支持横向扩展,扩容、扩性能直接加机器就好;
无需特别硬件支持,区别于一些中高端存储的专门的PCIE NTB、Fibre Channel 、SAS controller 、JBOD等设备,分布式存储用通用服务器硬件就可以了;
灵活的多副本支持:副本数量,从2个到多个可以配置,只要大部分副本正常还可以自动恢复;
较高的可用性:由于支持跨节点、机架、机房、区域的副本放置策略,可用性比较高
分布式存储的要点:
可靠的副本一致性协议
1.1 数据平面,保证多副本通过网络及时复制、修补、重放,同时减小写放大;
1.2 控制平面,保证meta data管理、卷的创建、删除、挂载、卸载等工作正常,支持主丛切换的及时性和正确性;
全面的负载均衡
需要考虑多个方面
2.1 空间负载均衡
2.2 ioutil/吞吐的负载均衡
2.3 副本的负载均衡
3.高效的快照、克隆、回滚服务
3.1 MVCM 和 COW
3.2 快照、克隆、回滚时的读写防御
3.3 快照、克隆、回滚时的挂载卸载处理
3.4 快照、克隆、回滚任务调度
分布式存储的难点
各种情况下的主从同步(HA);
全面高效的负载均衡;
在保证高可靠性的前提下炸出最后一滴性能;
相关文章推荐
- 微服务架构下的分布式数据存储-技术之家
- IIs 网站应用程序与虚拟目录的区别及高级应用说明(文件分布式存储方案)
- 【分布式】Zookeeper数据与存储
- NAND FLASH (一)存储布局及存储操作特点
- IIs 网站应用程序与虚拟目录的区别及高级应用说明(文件分布式存储方案)[转]
- 分布式键值存储系统ETCD调研
- 分布式文件存储fastdfs
- innodb和myisam在存储上有何特点和区别
- Percona 开始尝试基于Ceph做上层感知的分布式 MySQL 集群,使用 Ceph 提供的快照,备份和 HA 功能来解决分布式数据库的底层存储问题
- Bigtable:一个分布式的结构化数据存储系统
- 图片存储类型的种类、特点、区别
- [Elasticsearch] 分布式文档存储
- 高并发分布式计算与存储系统设计(二)
- 分布式的Key-Value存储系统voldemort
- 大数据学习笔记之二十二 云存储的分布式对象存储和分布式块存储
- (DBA之路【二】)mysql 主流存储引擎的特点
- UCan下午茶武汉站,为你全面挖宝分布式存储
- 关于分布式文件存储系统问题的自我思考
- 几种分布式网络存储编码的数据恢复问题()
- 一键安装nginx和fsfs分布式文件存储shell脚本