负载均衡计算公式
2009-09-18 08:59
190 查看
1.设计网站初期
假设网站有6w个动态内容处于频繁访问的状态,通过Cache-Control将它的反向代理服务器上的缓存有效期都设置成60秒,这样后端服务器必须承受最多每秒处理1000个动态内容的工作量,如果这些动态内容都进行完整的计算(例如访问数据库),那么后端压力很大,我们可以设置缓存有效期延长到300秒(5分钟)这样后端每秒只处理200个动态内容。
计算公式 每秒总共访问的动态内容数/缓存有效期 = 后端每秒处理的动态内容数
2. 缓存命中率和后端吞吐率的理想计算模型
先假设三个条件
1.缓冲区的空间足够大,那么缓存永远不会因为空间已满而被淘汰,除非到达缓存有效期后主动离开。
2.站点拥有一定数目的活跃内容,而这么内容都可以被反向代理缓存,同时我们假设一个平均缓存有效期
3.以上活跃内容在每个缓存有效周期内至少被访问一次
涉及到的几个变量
1.活跃内容数
2.实际吞吐率
3.平均缓存有效期
缓存有效周期内的实际请求次数为
一个缓存有效周期内的实际请求次数 = 实际吞吐率 X 平均缓存有效期
缓存丢失率
缓存丢失率 = (活跃内容数 / (实际吞吐率 X 平均缓存有效期)) X 100%
缓存命中率
缓存命中率 = 1 - (活跃内容数 / (实际吞吐率 X 平均缓存有效期)) X 100%
例子:
假设站点有1个活跃内容,即是index.htm,实际吞吐率为10reqs/s,我们把反向代理缓存有效期设置为10秒,那么缓存命中率为
缓存命中率 = 1 - (1/(10X10)) X 100% = 99%
后端吞吐率为
后端吞吐率 = 活跃内容数 / 平均缓存有效期
例如后端吞吐率 = 1/10 = 0.1reqs/s
缓存命中率 = 1 - (后端吞吐率 / 实际吞吐率)) X 100%
后端吞吐率 = (1 - 缓存命中率) X 实际吞吐率
结论:
1.活跃内容数和平均缓存有效期一定的情况下,缓存命中率和实际吞吐率成正比
2.实际吞吐率和平均缓存有效期一定的情况下,缓存命中率和活跃内容数成反比
3.活跃内容数和实际吞吐率一定的情况下,缓存命中率和平均缓存有效期成正比
4.活跃内容数一定的情况下,后端吞吐率与平均缓存有效期成反比
5.平均缓存有效期一定的情况下,后端吞吐率和活跃内容数成正比
6.缓存命中率的变化不一定会影响后端吞吐率
7.后端吞吐率的变化不一定会影响缓存命中率
假设网站有6w个动态内容处于频繁访问的状态,通过Cache-Control将它的反向代理服务器上的缓存有效期都设置成60秒,这样后端服务器必须承受最多每秒处理1000个动态内容的工作量,如果这些动态内容都进行完整的计算(例如访问数据库),那么后端压力很大,我们可以设置缓存有效期延长到300秒(5分钟)这样后端每秒只处理200个动态内容。
计算公式 每秒总共访问的动态内容数/缓存有效期 = 后端每秒处理的动态内容数
2. 缓存命中率和后端吞吐率的理想计算模型
先假设三个条件
1.缓冲区的空间足够大,那么缓存永远不会因为空间已满而被淘汰,除非到达缓存有效期后主动离开。
2.站点拥有一定数目的活跃内容,而这么内容都可以被反向代理缓存,同时我们假设一个平均缓存有效期
3.以上活跃内容在每个缓存有效周期内至少被访问一次
涉及到的几个变量
1.活跃内容数
2.实际吞吐率
3.平均缓存有效期
缓存有效周期内的实际请求次数为
一个缓存有效周期内的实际请求次数 = 实际吞吐率 X 平均缓存有效期
缓存丢失率
缓存丢失率 = (活跃内容数 / (实际吞吐率 X 平均缓存有效期)) X 100%
缓存命中率
缓存命中率 = 1 - (活跃内容数 / (实际吞吐率 X 平均缓存有效期)) X 100%
例子:
假设站点有1个活跃内容,即是index.htm,实际吞吐率为10reqs/s,我们把反向代理缓存有效期设置为10秒,那么缓存命中率为
缓存命中率 = 1 - (1/(10X10)) X 100% = 99%
后端吞吐率为
后端吞吐率 = 活跃内容数 / 平均缓存有效期
例如后端吞吐率 = 1/10 = 0.1reqs/s
缓存命中率 = 1 - (后端吞吐率 / 实际吞吐率)) X 100%
后端吞吐率 = (1 - 缓存命中率) X 实际吞吐率
结论:
1.活跃内容数和平均缓存有效期一定的情况下,缓存命中率和实际吞吐率成正比
2.实际吞吐率和平均缓存有效期一定的情况下,缓存命中率和活跃内容数成反比
3.活跃内容数和实际吞吐率一定的情况下,缓存命中率和平均缓存有效期成正比
4.活跃内容数一定的情况下,后端吞吐率与平均缓存有效期成反比
5.平均缓存有效期一定的情况下,后端吞吐率和活跃内容数成正比
6.缓存命中率的变化不一定会影响后端吞吐率
7.后端吞吐率的变化不一定会影响缓存命中率
相关文章推荐
- 云计算之路-Azure vs 阿里云:从负载均衡中摘/挂虚拟机
- CPU+GPU集群计算中的一种动态负载均衡设计方法
- 集群、分布式计算、负载均衡的区别
- 集群、分布式计算、负载均衡的区别
- 云计算之路-阿里云上:负载均衡的小感冒,我们早就感觉到
- 我眼中的云计算4-负载均衡
- 云计算之负载均衡
- 负载均衡设备选型计算参考
- 负载均衡操作日志分析
- Apache负载均衡设置方法: mod_proxy
- POI中的手动公式计算方法
- Dubbo与Zookeeper、SpringMVC整合和使用(负载均衡、容错)
- libevent带负载均衡的多线程使用示例
- Apach POI 如何拿到有公式的单元格,计算结果
- 营业税计提及企业所得税的相关计算公式
- netfix ribbon提供的负载均衡策略
- php 团购折扣计算公式
- 搭建一个高可用负载均衡的集群架构(第一部分)
- ICE的负载均衡以及如何容错