高并发性是互联网分布式系统架构设计中必须考虑的因素之一。通常意味着通过设计,系统可以同时并行处理许多请求。
高并发是系统运行过程中遇到的一种“短时间内大量操作请求”的情况,主要发生在web系统中通过大量访问收到大量请求时(例如12306的抢票情况;双十一活动)。这种情况的发生会导致系统在此期间执行大量的操作,比如请求资源、数据库操作等。
高并发相关指标
响应时间(Response Time)
系统对请求做出响应的时间。例如系统处理一个HTTP请求需要200ms,这个200ms就是系统的响应时间
吞吐量(Throughput)
单位时间内处理的请求数量
每秒查询率QPS(Query Per Second)
每秒响应请求数。在互联网领域,这个指标和吞吐量区分的没有这么明显
并发用户数(User Concurrence)
同时承载正常使用系统功能的用户数量。例如一个即时通讯系统,同时在线量一定程度上代表了系统的并发用户数
高并发优化方面
单进程最大打开文件数限制
内核TCP参数方面
IO事件分配机制