• 近期将进行后台系统升级,如有访问不畅,请稍后再试!
  • 极客文库-知识库上线!
  • 极客文库小编@勤劳的小蚂蚁,为您推荐每日资讯,欢迎关注!
  • 每日更新优质编程文章!
  • 更多功能模块开发中。。。

一个故事讲清楚NIO

假设某银行只有 10 个职员。该银行的业务流程分为以下 4 个步骤:

1) 顾客填申请表(5 分钟);

2) 职员审核(1 分钟);

3) 职员叫保安去金库取钱(3 分钟);

4) 职员打印票据,并将钱和票据返回给顾客(1 分钟)。

我们看看银行不同的工作方式对其工作效率到底有何影响。

一:BIO 方式

每来一个顾客,马上由一位职员来接待处理,并且这个职员需要负责以上 4 个完整流程。当超过 10 个顾客时,剩余的顾客需要排队等候。

我们算算这个银行一个小时到底能处理多少顾客?一个职员处理一个顾客需要 10 分钟(5+1+3+1)时间,一个小时(60 分钟)能处理 6 个顾客,一共 10 个职员,那就是只能处理 60 个顾客。

可以看到银行职员的工作状态并不饱和,比如在第 1 步,其实是处于等待中。

这种工作其实就是 BIO,每次来一个请求(顾客),就分配到线程池中由一个线程(职员)处理,如果超出了线程池的最大上限(10 个),就扔到队列等待 。

二:NIO方式

如何提高银行的吞吐量呢?

思路:分而治之,将任务拆分开来,由专门的人负责专门的任务。

具体来讲,银行专门指派一名职员 A,A 的工作就是每当有顾客到银行,他就递上表格让顾客填写,每当有顾客填好表后,A 就将其随机指派给剩余的 9 名职员完成后续步骤。

我们计算下这种工作方式下银行一个小时到底能处理多少顾客?

假设顾客非常多,职员 A 的工作处于饱和中,他不断的将填好表的顾客带到柜台处理,柜台一个职员 5 分钟能处理完一个顾客,一个小时 9 名职员能处理:9*(60/5)=108。

可见工作方式的转变能带来效率的极大提升。

这种工作方式其实就NIO的思路。下图是非常经典的NIO说明图,mainReactor 线程负责监听 server socket,accept 新连接,并将建立的 socket 分派给 subReactor;subReactor 可以是一个线程,也可以是线程池(一般可以设置为 CPU 核数),负责多路分离已连接的 socket,读写网络数据,这里的读写网络数据可类比顾客填表这一耗时动作,对具体的业务处理功能,其扔给 worker 线程池完成。

可以看到典型NIO有三类线程,分别是 mainReactor 线程、subReactor 线程、work 线程。不同的线程干专业的事情,最终每个线程都没空着,系统的吞吐量自然就上去了。

        

三:异步方式

第二种工作方式有没有什么可以提高的地方呢?

仔细查看可发现第 3 步骤这 3 分钟柜台职员是在等待中度过的,那怎么能让柜台职员保持满负荷呢?

还是分而治之的思路,指派 1 个职员 B 来专门负责第 3 步骤。每当柜台员工完成第 2 步时,就通知职员 B 来负责与保安沟通取钱。这时候柜台员工可以继续处理下一个顾客。当职员 B 拿到钱之后,他会怎么办呢?他会通知顾客钱已经到柜台了,让顾客重新排队处理,当柜台职员再次服务该顾客时,发现该顾客前 3 步已经完成,直接执行第 4 步即可。

我们可以算算通过这种方法,银行的吞吐量能提高到多少。

假设职员 B 的工作非常饱和,柜台一个职员现在 2 分钟能处理完一个顾客,一个小时 8 名职员能处理:8*(60/2)=240。

在当今 web 服务中,经常需要通过 RPC 或者 Http 等方式调用第三方服务,这里对应的就是第 3 步,如果这步耗时较长,通过异步方式将能极大降低资源使用率。

jetty Continuations 就实现了上述异步方式,有兴趣的同学可以去尝试下(http://wiki.eclipse.org/Jetty/Feature/Continuations)。

NIO+异步的方式能让少量的线程(资源)做大量的事情,这适用于很多应用场景,比如代理服务、api 服务、长连接服务等等,这些应用如果用同步方式将耗费大量机器资源。尽管 NIO+异步能提高系统吞吐量,但其并不能让一个请求的等待时间下降,相反可能会增加等待时间。

四:小结

总结就一句:“分而治之,将任务拆分开来,由专门的人负责专门的任务”,这不仅在计算机领域生效,在整个社会领域都生效。


丨极客文库, 版权所有丨如未注明 , 均为原创丨
本网站采用知识共享署名-非商业性使用-相同方式共享 3.0 中国大陆许可协议进行授权
转载请注明原文链接:一个故事讲清楚 NIO
喜欢 (0)
[247507792@qq.com]
分享 (0)
勤劳的小蚂蚁
关于作者:
温馨提示:本文来源于网络,转载文章皆标明了出处,如果您发现侵权文章,请及时向站长反馈删除。

欢迎 注册账号 登录 发表评论!

  • 精品技术教程
  • 编程资源分享
  • 问答交流社区
  • 极客文库知识库

客服QQ


QQ:2248886839


工作时间:09:00-23:00