QPS多少，才算高并发 ？

关注△mikechen的互联网架构△，10年+BAT架构经验倾囊相授

大家好，我是 mikechen | 陈睿 。

QPS 多少才算高并发？这是个面试高频问题。

对此了解得不够深入的同学，这篇文章就一定要认真看看了。

本文，我们详解：什么是高并发，以及 QPS 多少才算高并发。@mikechen

什么是高并发

高并发，是指系统在短时间内、同时处理大量请求的能力。

比如：大家熟知的阿A里双 11，一秒峰值完成 58.3 万笔订单，这就是典型的高并发场景。

这可能包括多个用户同时发送请求、多个客户端同时连接到服务器、或者同时进行大量的事务处理。

多大算高并发

我们可以通过一些关键指标，来判断何时可以将一个系统视为高并发系统。

比如：通过 QPS 来计算具体的数据标志。

QPS 是Query Per Second的缩写，即每秒查询率，是衡量系统、服务或数据库每秒能够处理的查询请求数量。

QPS 通常用于衡量数据库、Web 服务器、API 等系统的性能。

QPS 的计算方式很简单，就是统计系统在每秒内处理的查询请求数量。

通常情况下，QPS在几千到几万以上的范围内可以被认为是高并发。

比如：QPS 在 1000 到 10000 之间，通常属于较为繁忙的系统，就属于有一定的并发量了。

如果超过 10,000...QPS 甚至到数十万、上百万 QPS 的级别，也就是非常高的并发场景。

这类系统往往依赖于复杂的架构，如：多级缓存、负载均衡、数据库分库分表、消息队列...等来解决。

多级缓存

多级缓存，就会涉及到：

客户端缓存：例如：浏览器缓存，减少服务器压力...等等；

CDN（内容分发网络）：CDN也就缓存的一大利器，一般都会采用：把静态资源缓存到距离用户最近的边缘节点；

本地缓存：以及还会涉及到本地缓存，比如：将热点数据缓存到应用服务器内存，如：Guava、Ehcache...等等都是使用较多的本地缓存。

分布式缓存：通过 Redis、Memcached ...等技术实现多级缓存，支持水平扩展、和高可用。

负载均衡

负载均衡，也是高并发的常见手段。

常见的负载均衡，有硬件的负载均衡、以及软件的负载均衡。

比如：

硬件负载均衡器：

如 F5、A10 ...等，硬件的效果最好，但是就是比较贵。

软件负载均衡：

如 Nginx、LVS、HAProxy ...等，软件负载均衡相对硬件效果差一点，但是省钱啊。

分库分表

当数据量比较大的时候，都会考虑到“分库分表”，这里就会涉及到：垂直拆分、和水平拆分...等等拆分方式。

垂直分库：按业务模块拆分，例如将用户表、订单表分到不同的数据库。

水平分库：将同一张表的数据按一定规则（如用户 ID）分到不同的数据库实例上。

分表：将数据按一定规则分成多个表存储，减少单表的数据量和索引压力。

消息中间件

如果数据库压力大，你肯定想到缓存，除此之外，就会涉及到消息中间件，这也是一大利器。

通过消息队列进行异步处理，解耦系统组件，避免高峰期的请求压力直接传递到数据库、或后端系统。

比如：高并发最典型的场景，就是：异步处理、削峰填谷、...等等。

削峰填谷：是高并发系统中常用的一种架构设计模式，主要用于平衡系统在高并发场景下的负载压力。

它的核心思想：削峰、和填谷。

削峰

什么是削峰呢？

削峰就是：在并发请求达到峰值时，系统无法在短时间内处理所有请求，可以通过一些手段将请求削减，或者暂时存储起来，这就是削峰。

当请求量过大时，生产者（发起请求的一方）会将请求写入消息队列，消费者（处理请求的一方）则以相对较慢的速度从队列中读取数据并处理，这样系统不至于在短时间内被大量请求压垮。

通过“削峰”的方式，可以避免系统在短时间内被巨量的请求压垮。

填谷

填谷就是：当系统处于较低负载时，可以从之前存储的请求中逐步取出，充分利用系统的剩余资源来处理这些积压的任务或请求。

比如：当请求量减少时，消费者继续从队列中获取消息处理，保证资源充分利用，不会因为请求量减少而让资源闲置。

最典型的场景：就是秒杀活动，通常会产生大量瞬时请求，系统往往无法在同一时间处理所有请求。

可以使用消息队列对请求进行缓冲，后台逐步处理订单，避免系统崩溃。

以上，是 QPS 多少才算高并发详细解析，欢迎评论区留言交流或拓展。

我是 mikechen | 陈睿 ，关注【mikechen的互联网架构】，10年+BAT架构技术倾囊相授。

新的架构专题内容，第一时间更新至：阿里架构师进阶全部合集。

本文已同步我的技术博客 www.mikechen.cc，更新至我原创的《30W+字阿里架构技术合集》中。