降低Nginx代理服务器的磁盘IO使用率,提高转发性能
2016-01-07 10:39
429 查看
目前很多Web的项目在部署的时候会采用Nginx做为前端的反向代理服务器,后端会部署很多业务处理服务器,通常情况下Nginx代理服务器部署的还是比较少,而且其以高效性能著称,几万的并发连接处理速度都不在话下。
然而去年的时候,我们的线上系统也采用类似的部署结构,同时由于我们的业务需求,Nginx的部署环境在虚拟机上面,复用了其他虚拟机的整体磁盘,在高IO消耗的场景中,我们发现Nginx的磁盘写入消耗还是很明显的,而且到了影响其他服务的情况。
发现问题的过程很曲折,开始的时候我们并没有怀疑到是Nginx的问题,一直在排查我们的业务处理服务程序,检查为什么会带来如此多磁盘消耗,经 过详细的排查后,我们发现是Nginx带来的磁盘消耗,这时我们注意到了Nginx的磁盘缓存目录:proxy_temp、 client_body_temp,我们将这两个目录从磁盘文件系统移到了内存文件系统,再次进行压力测试,发现改观非常明显,现在差不多已经定位到哪里 带来的问题了。
接下来我们又详细看了一下Nginx的配置参数,发现了 proxy_buffering 这个参数,它含义是:Nginx不是立即转发收到的请 求,而是等buffer满之后再转发,默认是On。那么道理很简单了,我们将Nginx作为代理进行转发数据时,由于我们转发的body相对较大(几百 K),而且在并发又很高的情况,那么大量的数据就要被缓存,而当Nginx的buffer空间不够的时候,就会将buffer的数据刷新到磁盘缓存目录, 到时候磁盘写入非常高,同时由于磁盘的性能也会影响到转发的性能和效率。
通常的解决方案就是,直接Off关闭这个选项就可以了。如果需要考虑到使用缓存(避免转发回调次数),又需要快速缓存的话,那么缓存目录可以使用内存文件系统或是SSD以提高效率,这个可以进行一些对比测试。
通过这个事情,也发现我们的一些问题,在使用一些第三方软件的时候,很多时候只是参考了一些基本配置,对更详细的参数含义及性能调优方面的配置还不够充分。
然而去年的时候,我们的线上系统也采用类似的部署结构,同时由于我们的业务需求,Nginx的部署环境在虚拟机上面,复用了其他虚拟机的整体磁盘,在高IO消耗的场景中,我们发现Nginx的磁盘写入消耗还是很明显的,而且到了影响其他服务的情况。
发现问题的过程很曲折,开始的时候我们并没有怀疑到是Nginx的问题,一直在排查我们的业务处理服务程序,检查为什么会带来如此多磁盘消耗,经 过详细的排查后,我们发现是Nginx带来的磁盘消耗,这时我们注意到了Nginx的磁盘缓存目录:proxy_temp、 client_body_temp,我们将这两个目录从磁盘文件系统移到了内存文件系统,再次进行压力测试,发现改观非常明显,现在差不多已经定位到哪里 带来的问题了。
接下来我们又详细看了一下Nginx的配置参数,发现了 proxy_buffering 这个参数,它含义是:Nginx不是立即转发收到的请 求,而是等buffer满之后再转发,默认是On。那么道理很简单了,我们将Nginx作为代理进行转发数据时,由于我们转发的body相对较大(几百 K),而且在并发又很高的情况,那么大量的数据就要被缓存,而当Nginx的buffer空间不够的时候,就会将buffer的数据刷新到磁盘缓存目录, 到时候磁盘写入非常高,同时由于磁盘的性能也会影响到转发的性能和效率。
通常的解决方案就是,直接Off关闭这个选项就可以了。如果需要考虑到使用缓存(避免转发回调次数),又需要快速缓存的话,那么缓存目录可以使用内存文件系统或是SSD以提高效率,这个可以进行一些对比测试。
通过这个事情,也发现我们的一些问题,在使用一些第三方软件的时候,很多时候只是参考了一些基本配置,对更详细的参数含义及性能调优方面的配置还不够充分。
相关文章推荐
- LNMP实现(CentOS7+Nginx-1.9.4+PHP-5.6+MySQL-5.6.26)
- Nginx+Keepalived实现
- nginx压力测试使用webbench
- 阿里云服务器使用OneinStack的lnmp一键安装包后查看nginx的并发数
- nginx queue设计
- Nginx配置文件详细说明
- Nginx服务器中为网站或目录添加认证密码的配置详解
- nginx的配置问题
- nginx配置文件强制下载
- django+uwsgi+nginx ajax post 504 Gateway Time-out
- Windows系统下安装配置Nginx
- CentOS6下基于Nginx搭建mp4/flv流媒体服务器(可随意拖动)并支持RTMP/HLS协议(含转码工具)
- nginx常见502问题的解决
- linux下安装nginx
- Nginx使用
- Java项目部署总结(三)nginx安装与配置
- 统计5分钟内Nginx访问量及平均相应时间
- 虚拟机上CentOS 7.0编译安装Nginx+MySQL+PHP(二)
- Nginx基本配置、性能优化指南
- NGINX-PHP-FPM-配置-最大上传文件