我们平时开发Java web应用，Tomcat是最常用的服务器，不过Tomcat单机的并发性能比较差。为了提升并发性能，通常需要部署多台Tomcat服务器，并进行负载均衡。如果要想在单台主机上实现高并发的服务，Netty是一个不错的选择。单体的Netty服务器在CPU、内存资源配置较高的情况下，如果配置得当，甚至可以支撑百万级别的并发。

什么是Netty

Netty是JBoss公司为了快速开发高性能、高可扩展的网络服务端和客户端程序，而提供的一套框架，现在已经成为了Github上面的开源项目。

Netty采用了异步事件驱动的NIO模式。前文《Java面试常见问题：什么是BIO、NIO和AIO？》曾经介绍了NIO机制，基于NIO机制，可以构建多路复用、同步非阻塞 IO的服务端程序，相比传统IO大幅提高了线程的使用效率。

尽管从Java1.4版本，Java的java.nio包提供了原生NIO的实现方法，但我还是建议大家使用Netty框架开发网络程序，这样要比使用原生Java NIO开发，优雅得多，也简单得多。因为Netty的设计目标之一就是让开发变得轻松愉快。

Netty的另一个设计目标是要做到高性能和高可扩展性。基于Java NIO，Netty设计了一套优秀的Reactor模式，即反应器模式。反应器模式充分发挥了NIO在效率方面的优势，下面我们重点介绍一下Netty的反应器模式。

Reactor模式（反应器）

反应器的作用是进行一个IO事件的select查询和dispatch分发。一个IO事件从操作系统底层产生后，在Reactor模式的处理流程如下图所示，主要由通道（Channel）、选择器（Selector）、反应器（EventLoop）和处理器（Handler）四个组件构成。

1. 通道注册：一个IO事件，一定属于某一个通道（Channel），首先要将通道注册到选择器Selector，这样IO事件就会被选择器查询到。
2. 查询选择：反应器模式中，一个反应器或一个子反应器会负责一个线程，不断查询选择器中的IO事件。
3. 事件分发：如果查询到IO事件，则分发给与IO事件有绑定关系的处理器Handler。
4. IO操作：最后由Handler负责完成真正的IO操作和业务处理。

其中前两步其实是Java NIO的功能，反应器正好利用了Java NIO的优势。通道是Netty中非常重要的组件，反应器模式和通道紧密相关，反应器的查询和分发的IO事件都来自于Channel通道组件。

Channel通道组件

Netty对Java NIO的Channel通道组件进行了封装，可以支持一系列通信协议。Netty的每一种协议的通道，都有异步IO和阻塞式IO两个版本。

平时我们用得最多的协议还是TCP协议，对应的异步IO通道类为 NioSocketChannel类，阻塞式IO通道类为 OioSocketChannel 类。OIO的意思就是Old-IO，即传统的阻塞式IO。

Netty的 NioSocketChannel 封装了Java NIO的 SelectableChannel，在 NioSocketChannel 上的IO操作最终都会落在 Java NIO的底层通道类的IO操作上。SelectableChannel 类可通过 Selector 实现多路复用的通道。

在Netty中，负责服务器连接监听和接受的通道，称为父通道，比如NioServerSocketChannel；负责数据传输的通道，称为子通道，比如NioSocketChannel。

父通道的业务流程是固定的：接受新连接后，创建子通道，初始化子通道。子通道的处理流程是不固定的，需要通过装配子通道的流水线来确定。

反应器类

Netty的反应器也有多个实现类，与Channel通道有对应关系，比如对应于 NioSocketChannel 通道，Netty的反应器类型为 NioEventLoop。一个反应器可以注册成千上万的通道。

NioEventLoop类的继承关系可见，NioEventLoop绑定了一个Thread线程类成员，和一个Java NIO选择器成员。一个NioEventLoop对象有一个线程，负责一个Selector选择器的IO事件轮询。

EventLoop反应器内部的NIO选择器成员，负责执行事件的查询，然后进行对应的分发。事件分发的目标就是Handler处理器。

在Netty中，一个EventLoop是一个子反应器，多个EventLoop线程组成一个 EventLoopGroup线程组。Netty主要使用的就是 EventLoopGroup 线程组，而不是单个EventLoop线程。

Netty服务器程序中，会设置两个EventLoopGroup线程组，一个线程组（Boss Group）负责新连接的监听和接受，另一个线程组（Worker Group）负责IO事件处理。

Handler处理器

Netty的Handler处理器包括两大类：一类是通道入站处理器（ChannelInboundHandler），另一类是通道出站处理器（ChannelOutboundHandler）。

通道和Handler之间是多对多的关系，那么之间是如何绑定的呢？Netty设计了一个特殊的组件，叫做通道流水线（ChannelPipeline），将绑定到一个通道的多个Handler处理器实例串在一起，形成一条流水线。一个Netty通道拥有一条流水线。

ChannelPipeline 是基于责任链设计模式的，内部是一个双向链表结构，可以支持动态地添加和删除Handler业务处理器。

入站处理器的处理次序是从前到后，加在前面的，执行也在前。

出站处理器的处理次序是从后到前，最后加入的处理器，执行在最前。

那么通道、EventLoop反应器和Handler处理器是如何装配起来的呢？

启动器类

另外Netty还提供了Bootstrap启动器类把通道、EventLoop反应器和Handler处理器快速组装起来。Bootstrap 类是一个工厂类，负责完成Netty组件的组装及Netty程序的初始化。

Netty有两个启动器类，分别用于客户端和服务器端，这两个启动器仅是使用场景不同，配置和使用方法都是相同的。

服务器端 BootStrap的启动流程如下：

1. 创建反应器线程组EventLoopGroup，并赋给 ServerBootstrap 启动器实例。
2. 设置通道的IO类型，比如NIO或OIO。
3. 设置监听端口。
4. 设置传输通道的配置选项，比如 ChannelOption 的 SO_KEEPALIVE表示：是否开启TCP底层心跳机制。
5. 装配子通道的Pipeline流水线。每一个通道的子通道，都用一条流水线。这里就是要把业务处理器 ChannelHandler 实例加入到流水线的双向链表中。父通道的流水线不需要装配，是因为父通道的业务处理流程是固定的。
6. 开始绑定服务器新连接的监听端口。

至此，Netty服务器正式启动了。

亿级流量并发架构

如果要支持亿级流量，那么就需要用到Netty集群。下图是一个支撑亿级流量高并发IM的参考架构设计。

• Netty集群：负责维护和客户端的TCP连接，完成消息的发送和接收。
• ZooKeeper集群：负责集群管理，包括注册、路由、负载均衡等。
• Redis集群：负责用户关系、用户群组以及远程会话数据的缓存，加快信息的读取速度
• MongoDB集群：保存离线消息等非重要信息。
• Mysql集群：保存用户信息、群组信息等重要信息。
• RocketMQ集群：将优先级不高的操作，从高并发模式转为低并发模式。比如，可将离线消息发给消息队列，再异步保存到MongoDB数据库中。

参考资料：《Netty、Redis、ZooKeeper高并发实战》

我会持续更新关于物联网、云原生以及数字科技方面的文章，用简单的语言描述复杂的技术，也会偶尔发表一下对IT产业的看法，请大家多多关注，欢迎留言和转发，希望与大家互动交流，谢谢。