来自 推荐阅读 2019-07-12 14:53 的文章

网站大数据量高并发下服务器调优

最近在高并发、较大数据的网站优化上有一些心得和体会,所以特写此文做一下总结,这块的高手就可以直接跳到文尾了哈,费话就不多说,直接进正文。
 
1.了解你的网站和项目到底有多大的流量和并发?
 
当项目的用户量达到一定规模以后,网站往往会经常出现502 bad gateway(Nginx),连接超时(Apache),MYSQL拒绝连接等问题。这个时候,一般的理解就是网站的访问量比较大,请求数比较高,所以服务器不堪重负,开小差去了。这个时候最快的解决办法一般就是重启apache,nginx或mysql,当然这个不能解决根源,只是临时解决一下而已。
 
那么,首先你应该清楚你的网站的流量到底有多大?每秒的流量到底有多高?CPU占用峰值是多少?对于这个问题,首当其冲方案的肯定使用是监控软件了,这类的监控软件比较多,有cacti(完全图形化的流量监控工具),zabbix(支持各种数据的监控且可自己扩展监控模块并集成报警功能,非常强大!)所以第一步你就一定要先在所有服务器上安装监控客户端,如cacti的snmp,zabbix的zabbix_client,然后搭建自己的监控服务端。然后静默收集数据一段时间,可以是几天也可以是一周。然后了解服务器的峰值是多少,平均值是多少,CPU占用,内存占用。这样你能先做到对服务器的状态心里有底。
 
2.查找高并发源泉
 
如果服务器一直运行得比较正常,但突然一段时间经常出现502,超时,超高CPU时,排除流量的超大幅度增长以外的原因,那么原因就有可能是程序卡死了或服务器硬件故障。如果排除硬件故障以后这个时候最好第一步查询MYSQL、PHP、Nginx、Apache的错误日志,慢日志,定位根源文件及代码块,往往新功能如果没有经过完整的测试就上线,就非常容易引起这类的问题。
 
比如我们的一台线上服务器有段时间曾经上线了一个新功能,就是要求在某代码模块中将MYSQL服务器地址更改为其它机房的MYSQL服务器,由于代码没有经过严格的测试,而直接使用了MYSQL_CONNECT重新连接。在这个功能上线以后,服务器经常出现502,超时,CPU90%。后来排查时才看到这里,由于其它机房的网络问题引起MYSQL_CONNECT超慢,所以大量的MYSQL_CONNECT卡死在这里引起了阻塞。另外一个统计模块的file_get_contents也是同样的问题,所以我们在后面的开发中要求一定要禁止使用file_get_contents,另外MYSQL_CONNECT也要限制超时的时间。
 
如果程序上没有问题,那就要从数据库或队列上去查找原因了。数据库上的问题会非常多,比如一条没有经常优化的SQL语句引起表的锁死啊,MYSQL并发量达到预设峰值,表崩溃啊,等待进程过多啊等等。
 
3.使用队列和缓存
 
经验告诉我们,队列和缓存绝对是解决高并发的非常有效的办法。比如邮件发送,这类功能其实客户端并不需要等待完成,所以我们在前端只需要一直把要发送的邮件地址,内容等一并放到队列里,后台程序慢慢从队列里面去取就OK。对于队列的解决方案有许多,比如memcache,redis等。
 
关于memcache,前段时间尝试自己用memcache来写了一个队列,平台windows。最终效果非常不理想,在循环的get或set时,memcache会显得非常缓慢,并且最终的命中率一点都不高。在windows平台上的redis会由于pull的不支持造成在高并发时经常redis server gone away的情况。在*inux平台上,redis表现了非常棒的性能和稳定性,目前公司线上产品在使用redis后,已经非常稳定,所以redis绝对是值得使用的神器。
 
4.特别注意阻塞
 
这是一个非常严重的问题。HTTP上的阻塞,MYSQL的阻塞,阻塞的结果将是服务器不能正常响应请求,CPU居高不下,并且很难发现问题。这要求我们在开发阶段,对于容易引起阻塞的地方一定要特别注意,如果某段代码执行的时间会非常长,就一定要交给子进程来做这个事情。对于这个情况,node.js是一个非常好的解决方案,因为node.js正是为非阻塞而生的。并且这几年node.js发展迅速,各类模块越来越多,也越来越稳定,框架的出现也大大的提升了代码编写的速度,像express和eventproxy这类的,新手可以非常快的开发一个node.js未阻塞应用。
 
5.数据库的优化
 
在高并发和大数据量的情况下,分表分库是一定要的,并且尽量按模块分。不要相信分区,分区这货非常容易引起表崩溃,特别是MYISAM引擎下,分区不仅会在一个文件夹下产生一堆的文件,还非常有可能因为打开的文件句柄过多而出现各种MYSQL错误。
 
根据情况选择不同的引擎或数据库软件,MYISAM,INNODB等引擎要在不同的情况下使用,MYSIAM适用于查询多,插入少;INNODB适用于写入多,查询少和事务支持。noSQL也是非常值得尝试的产品,PHP对mongdb的支持还行,操作也挺方便的。
 
M/S在高并发下存在延迟问题,临时解决方案是可以用缓存。
 
6.静态资源与动态分离
 
带宽是非常珍贵和昂贵的。有条件一定要使用CDN,在速度上提升会非常明显,同时也能保证动态程序服务器的稳定。
 
好了,以上就是近期总结的一些经验。

TAG:服务器调优