分布式原理以及系统介绍
2013-05-09 14:54
295 查看
这周四有个新生入职考试,这里复习一下。这些东西先简单看下,以后深入研究下,作者是公司的yanyan。
分布式系统包含一系列的计算机,他们通过计算机网络相互协调工作达到共同的目标。--wiki
CAP,一致性、可用性、网络差异的容错性。
一致性,所有的改变都可以更新出去,所有的副本都是一致的。比如数据库的数据一致性,操作系统的数据一致性等。
eg:mysql -CA、Dynamo-AP、HBase-CP。
挑战:
性能--吞吐量、延迟资源
可用性--稳定性,异常回复
功能多样性--耦合、迅速变化
分析--灵活性、快速
解决方案
关注点
存储
服务
分析
存储
DB
Cache
Nosql
DFS
MYSQL 问题
读取:更多的访问量。慢。
备份
解决方法:
N Slaves 约等于 XN Reading speed
N Slaves 约等于 失败的可能^N
Slave:请求分摊
Master:发Binlog
Slave:IO 线程访问Binlog 以及列队
Slave:SQL 线程消费队列,并且响应Binlog
MYSQL 问题2
读:更多的访问X10+、更多的表。
写:更多的访问X5,更多的记录50M。
分片(sharding)
垂直:特化
横向:N 倍的横切,约等于XN倍的读取速度。
MySQL 在renern
Jade + DBDescriptor -》DAL
Auto Switch-》DAL
MYSQL 问题3
Access X 100
Hot Date
潜在请求
Cache
Cache 问题1
吞吐量 XN
但节点的限制
解决:切分
简单Hash
一致性Hash
路由表
一致性Hash:
Cache 问题2
持续请求
快速回复
HA
NoSql
持续性
性能
无关系
分布式
分布式
多个节点
分散的
Cache+持续性
一个重要的问题是分布式系统的数据复制。数据通常情况下复制需要提高可用性以及性能。主要的问题是复制的一致性,也就是说等一个数据更新后,其他系统的副本也要更新。
一致性级别
严格的
线性一致
连续性的
因果的
最后的
一致性副本
复制
多重读,Hybrid
consistent Base
2PC/3PC
PAXOS
服务
去耦合
控制
时间表/协调
交互
服务控制
Zookeeper
查找:/<Root>/<Service>/<version>/<stat>/<node>
角色以及ACL
Service Schedule
Load Balance
Flood Peek
依赖检测
安全防卫
Communication
同步
req-resp
异步
pub-sub -> MQ
消息队列
制作者
队列
消费者
分布式MQ
消费:分享主题,复制主题
队列:HA、分享
MQ在renren
RabbitMQ
XMQ
CommonMQ
数据分析
分布式系统包含一系列的计算机,他们通过计算机网络相互协调工作达到共同的目标。--wiki
CAP,一致性、可用性、网络差异的容错性。
一致性,所有的改变都可以更新出去,所有的副本都是一致的。比如数据库的数据一致性,操作系统的数据一致性等。
eg:mysql -CA、Dynamo-AP、HBase-CP。
挑战:
性能--吞吐量、延迟资源
可用性--稳定性,异常回复
功能多样性--耦合、迅速变化
分析--灵活性、快速
解决方案
关注点
存储
服务
分析
存储
DB
Cache
Nosql
DFS
MYSQL 问题
读取:更多的访问量。慢。
备份
解决方法:
N Slaves 约等于 XN Reading speed
N Slaves 约等于 失败的可能^N
Slave:请求分摊
Master:发Binlog
Slave:IO 线程访问Binlog 以及列队
Slave:SQL 线程消费队列,并且响应Binlog
MYSQL 问题2
读:更多的访问X10+、更多的表。
写:更多的访问X5,更多的记录50M。
分片(sharding)
垂直:特化
横向:N 倍的横切,约等于XN倍的读取速度。
MySQL 在renern
Jade + DBDescriptor -》DAL
Auto Switch-》DAL
MYSQL 问题3
Access X 100
Hot Date
潜在请求
Cache
Cache 问题1
吞吐量 XN
但节点的限制
解决:切分
简单Hash
一致性Hash
路由表
一致性Hash:
Cache 问题2
持续请求
快速回复
HA
NoSql
持续性
性能
无关系
分布式
分布式
多个节点
分散的
Cache+持续性
一个重要的问题是分布式系统的数据复制。数据通常情况下复制需要提高可用性以及性能。主要的问题是复制的一致性,也就是说等一个数据更新后,其他系统的副本也要更新。
一致性级别
严格的
线性一致
连续性的
因果的
最后的
一致性副本
复制
多重读,Hybrid
consistent Base
2PC/3PC
PAXOS
服务
去耦合
控制
时间表/协调
交互
服务控制
Zookeeper
查找:/<Root>/<Service>/<version>/<stat>/<node>
角色以及ACL
Service Schedule
Load Balance
Flood Peek
依赖检测
安全防卫
Communication
同步
req-resp
异步
pub-sub -> MQ
消息队列
制作者
队列
消费者
分布式MQ
消费:分享主题,复制主题
队列:HA、分享
MQ在renren
RabbitMQ
XMQ
CommonMQ
数据分析
相关文章推荐
- 基于Dubbo的分布式系统架构-持续集成原理介绍
- 消息顺序和消息事务 - RocketMQ及分布式消息系统的原理以及重要问题解读
- REST微服务的分布式事务实现-分布式系统、事务以及JTA介绍
- 《推荐系统实践》:业内人士中文原创的推荐系统原理介绍
- 比特币系统采用的公钥密码学方案和ECDSA签名算法介绍——第一部分:原理
- cobar阿里巴巴开源关系型数据分布式处理系统介绍
- 李洪强iOS经典面试题32-简单介绍 ARC 以及 ARC 实现的原理
- 【转】Ettercap简要原理介绍以及使用说明
- Rose双机热备两款软件原理介绍以及共享存储双机热备方案和镜像双机热备方案介绍
- 利用Spring Cloud和Docker构建微服务以及如何构建起自我修复型分布式系统
- (Hdoop Distributed File System )分布式文件系统原理;HDFS文件系统基本架构和运行机制
- 分布式系统原理要点
- 分布式系统介绍
- DOS攻击原理以及常见方法介绍
- 详细介绍Struts、Hibernate、Spring的原理以及优点
- Memcached 缓存系统的-介绍、安装以及应用
- tomcat 配置以及原理介绍
- 单反相机成像原理以及介绍
- 日志采集框架Flume以及Flume的安装部署(一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统)
- 猜你喜欢-----推荐系统原理介绍