博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
电商系统学习笔记之redis单线程架构以及IO通信模型
阅读量:1971 次
发布时间:2019-04-27

本文共 2025 字,大约阅读时间需要 6 分钟。

Redis单线程架构

CPU不会成为瓶颈,不是计算密集型,是IO密集型场景,所以可以考虑单线程,减少线程间交互,加锁等问题。而且,利用IO多路复用技术,处理连接数过大的场景(大于1000),如果连接数比较小,IO多路复用反而不如多线程+阻塞IO方式。

Redis采用的是基于内存的采用的是单进程单线程模型的KV数据库,由C语言编写。官方提供的数据是可以达到100000+的qps。这个数据不比采用单进程多线程的同样基于内存的KV数据库Memcached差。

Redis快的主要原因是:

  1. 完全基于内存
  2. 数据结构简单,对数据操作也简单(尤其采用hash的存储方式)
  3. 使用多路 I/O 复用模型

第一、二点不细讲,主要围绕第三点采用多路 I/O 复用技术来展开。

多路 I/O 复用模型是利用select、poll、epoll可以同时监察多个流的 I/O 事件的能力,在空闲的时候,会把当前线程阻塞掉,当有一个或多个流有I/O事件时,就从阻塞态中唤醒,于是程序就会轮询一遍所有的流(epoll是只轮询那些真正发出了事件的流),并且只依次顺序的处理就绪的流,这种做法就避免了大量的无用操作。这里“多路”指的是多个网络连接,“复用”指的是复用同一个线程。采用多路 I/O 复用技术可以让单个线程高效的处理多个连接请求(尽量减少网络IO的时间消耗),且Redis在内存中操作数据的速度非常快(内存内的操作不会成为这里的性能瓶颈),主要以上两点造就了Redis具有很高的吞吐量

和Memcached不同,Redis并没有直接使用Libevent,而是自己完成了一个非常轻量级的对select、epoll、evport、kqueue这些通用的接口的实现。在不同的系统调用选用适合的接口,linux下默认是epoll。因为Libevent比较重更通用代码量也就很庞大,拥有很多Redis用不上的功能,Redis为了追求“轻巧”并且去除依赖,就选择自己去封装了一套。

IO 知识

同步阻塞IO:

read为例:

(1)进程发起read,进行recvfrom系统调用;

(2)内核开始第一阶段,准备数据(从磁盘拷贝到缓冲区),进程请求的数据并不是一下就能准备好;准备数据是要消耗时间的;

(3)与此同时,进程阻塞(进程是自己选择阻塞与否),等待数据ing;

(4)直到数据从内核拷贝到了用户空间,内核返回结果,进程解除阻塞。

也就是说,内核准备数据数据从内核拷贝到进程内存地址这两个过程都是阻塞的。

同步非阻塞IO

      (1)当用户进程发出read操作时,如果kernel中的数据还没有准备好;

  (2)那么它并不会block用户进程,而是立刻返回一个error,从用户进程角度讲 ,它发起一个read操作后,并不需要等待,而是马上就得到了一个结果;

  (3)用户进程判断结果是一个error时,它就知道数据还没有准备好,于是它可以再次发送read操作。一旦kernel中的数据准备好了,并且又再次收到了用户进程的system call;

  (4)那么它马上就将数据拷贝到了用户内存,然后返回。

  所以,nonblocking IO的特点是用户进程内核准备数据的阶段需要不断的主动询问数据好了没有

IO多路复用

        (1)当用户进程调用了select,那么整个进程会被block;

      (2)而同时,kernel会“监视”所有select负责的socket;

  (3)当任何一个socket中的数据准备好了,select就会返回;

  (4)这个时候用户进程再调用read操作,将数据从kernel拷贝到用户进程。

  所以,I/O 多路复用的特点是通过一种机制一个进程能同时等待多个文件描述符,而这些文件描述符(套接字描述符)其中的任意一个进入读就绪状态,select()函数就可以返回

  这个图和blocking IO的图其实并没有太大的不同,事实上,还更差一些。因为这里需要使用两个system call (select 和 recvfrom),而blocking IO只调用了一个system call (recvfrom)。但是,用select的优势在于它可以同时处理多个connection。

  所以,如果处理的连接数不是很高的话,使用select/epoll的web server不一定比使用多线程 + 阻塞 IO的web server性能更好,可能延迟还更大。

  select/epoll的优势并不是对于单个连接能处理得更快,而是在于能处理更多的连接。)

  在IO multiplexing Model中,实际中,对于每一个socket,一般都设置成为non-blocking,但是,如上图所示,整个用户的process其实是一直被block的。只不过process是被select这个函数block,而不是被socket IO给block。

你可能感兴趣的文章
Apache Spark 2.4 中解决复杂数据类型的内置函数和高阶函数介绍
查看>>
数据结构与算法?看这篇就够了!
查看>>
Apache Kafka:优化部署的 10 种最佳实践
查看>>
HBase 中加盐之后的表如何读取:Spark 篇
查看>>
一篇文章了解 Spark Shuffle 内存使用
查看>>
【免费下载】某平台3980元Hadoop大数据/机器学习全套视频,仅此1次
查看>>
Apache Hive 联邦查询(Query Federation)
查看>>
为什么说流处理即未来?
查看>>
Leetcode 剑指 Offer 39. 数组中出现次数超过一半的数字 c#
查看>>
Leetcode 35. 搜索插入位置 c#
查看>>
LeetCode64:最小路径和
查看>>
LeetCode931. 下降路径最小和
查看>>
LeetCode62. 不同路径
查看>>
记gdb调试一次报错:Missing separate debuginfos, use: zypper install glibc-32bit-debuginfo-2.22-15.3.x86_64
查看>>
LeetCode242. 有效的字母异位词
查看>>
LeetCode83. 删除排序链表中的重复元素
查看>>
【VMware vSAN 7.0】3.1.2 vSAN 中的闪存缓存设备设计注意事项—我们有软硬件解决方案
查看>>
关于301和302重定向的理解
查看>>
java 练习10 - 复制数组
查看>>
python 解析 XML
查看>>