查看原文
其他

现在面试都开始问 DeferredResult 了吗?

why技术 2023-04-08

The following article is from yes的练级攻略 Author 是Yes呀

你好呀,我是歪歪。

有读者反馈说面试的时候被问到 DeferredResult 这个玩意,两眼一抹黑,不知道是干啥的。

这有啥,不知道就是不知道,没事,不慌,正常,学就行了。

今天我们就来盘一下 Spring DeferredResult,这玩意使用起来是很简单的,回答的话可深可浅。

浅一点就是直接回答它的作用,深一点的话就是原理了,而这个原理其实还需要涉及到 tomcat (默认 tomcat 为 web 容器)。

我们先来看下 DeferredResult 的作用及使用方式。

DeferredResult 的用处

DeferredResult 其实是基于 Servlet 3.0 对异步请求的支持而来的,我们来看这样一个场景:

当前 controller 里面有个方法 A,其内部逻辑依赖 redis 里面的一个值,如果 redis 里面有值了,就可以获取返回,如果没值这时候没有东西可以返回,只能返回 null,而往 redis 塞入值依赖另一个后台线程。

正常的实现我们肯定可以想到轮询的方案,即浏览器不断轮询方法 A,直到有值才停止轮询,但是有时候过于频繁的轮询会给服务器产生压力。

而这时候 DeferredResult 就可以登场啦,从名字我们就可以知道:延期的结果

我们来简单的看下使用方式:

可以看到,只需要用 DeferredResult 包装本来需要返回的值,然后设置一个超时时间和超时兜底值即可,例子设置了 5s。

我们来实验一下,如果后台线程就睡了 100 ms ,未超过设置的超时时间,此时过了 100 ms 就立马返回值:

如果后台线程睡了 10000 ms ,那么超过设置的超时时间,此时等待了 5 秒后,返回的是:

可以看到,这功能符合我们的预期。

关于 DeferredResult  还有一个很重要的点:

请求的处理线程(即 tomcat 线程池的线程)不会等到 DeferredResult#setResult() 被调用才释放,而是直接释放了。

也就是说 tomcat 线程安排好 DeferredResult 的一些配置后,不会等逻辑处理完(DeferredResult#setResult()的调用或者超时)。

而是直接释放了,这样 tomcat 线程就被回收到线程池中了,可以响应其他请求,不会傻傻地阻塞等着 DeferredResult#setResult() 被调用或超时。

我们都知道 tomcat 的线程池大小是有限的,如果我们的一些业务逻辑处理慢的话,会渐渐地占满 tomcat 线程,这样就无法处理新的请求,所以一些处理缓慢的业务我们会放到业务线程池中处理,但单纯的放到业务线程池中处理的话,我们无法得知其什么时候处理完,也无法将处理完的结果和之前的请求匹配上,所以常做的方式就是轮询。

而 DeferredResult 的做法就类似仅把事情安排好,不会管事情做好没,tomcat 线程就释放走了,注意此时不会给请求方(如浏览器)任何响应,而是将请求存放在一边,咱先不管它,等后面有结果了再把之前的请求拿来,把值响应给请求方。

最后还有个兜底的处理,如果超时了还没把该返回的值塞进来,那么就响应请求方兜底的值。

我来画个图(注意这不是源码分析图,仅仅只是为了更好地理解 DeferredResult 的逻辑):

看到这里想必你应该明白 DeferredResult 的用法以及它的一些特性了吧?

接下来我们看下原理。

DeferredResult 原理分析

这个原理说来话长,真要完全理解的话需要同时懂得 Tomcat 的原理和 SpringMvc 的原理,为了避免过度展开偏离主题,本文主要针对 DeferredResult 的原理。

后面有时间再补充完整 Tomcat 和 SpringMvc 的原理,有需要的可以评论区留个言,多的话我立马安排。

我打算主要用文字来描述整体的过程,会跟一些源码(如果全上源码的话我怕会看晕了,毕竟调用链路还是有点长的)

我们做到理解就行,真对源码有兴趣的可以自行研究。

一个请求先要通过 tomcat 的调度,然后才会到我们的 Spring 中来,待我们在 Spring 中处理完业务逻辑后,tomcat 才会把相关的响应返回给客户端(如浏览器)。

所以想要完成 DeferredResult 的功能,需要 tomcat 的配合,它需要晓得这是一个异步请求,在结果还未设置且没超时之前,不能将响应返回给客户端,待 DeferredResult 塞入值之后,再将请求返回给客户端。

我再贴一下示例代码,我们基于这个代码分析:

如果你用浏览器请求调用这个方法,那么 tomcat 此时肯定不知道这是一个异步处理的请求,只会认为是正常请求进行处理。

所以正常的话是 tomcat 调用 SpringMvc 定义的DispatcherServlet#doDispatch来处理请求。

根据 url 找到 controller 处理的方法即上文的实例方法。

正常处理的话,这个方法应该给浏览器直接返回我们 new 的那个 deferredResult,但显然刚才演示的结果并不是这样。

那中间发生了什么事呢?

这就涉及到 SpringMvc 的内容。

当通过反射调用 controller 中的方法得到返回值的时候,需要根据返回值的类型调用不同的 returnValueHandlers 来处理。

先来解释下为什么需要 returnValueHandlers 来处理返回值。

你想想看,如果我们返回类型可能是视图名或者是被标注了 @RequestBody 的值,这两者的处理方式肯定不一样,所以需要对返回值处理下。

而Spring搞了个 returnValueHandler 是专门用来处理 DeferredResult  类型的返回值,即 DeferredResultMethodReturnValueHandler。

这里就可以做一些操作了,可以看到支持处理的返回类型是 DeferredResult :

从这里我们可以得知,对于 DeferredResult  返回类型其实前半部的处理和正常的返回值没有区别,区别就在于对方法的返回值做了特殊处理

我简要地说下这个 returnValueHandler 触发的操作:

它调用了 tomcat 里面 Request#startAsync 方法,也传递了 timeout 的时间,这个操作是让 tomcat 明白当前请求是一个异步请求,这样 tomcat 就不会直接将 new 的那个 deferredResult 返回给客户端,也不会销毁当前的 request 和 response 。

而是会将处理这个请求的 Processor 暂时保存起来(简单的理解为每个请求都有对应的一个 processor,这是 tomcat 里面的概念),放到 waitingProcessors 里面。

然后 tomcat 线程池就溜了,处理完了,不管了。

此时上半部的准备工作就做完了,后面有两种处理路径:

  • 一种是 timeout 了
  • 一种是在超时前调用了 DeferredResult#setResult 成功返回。

我们分别来看看两种的不同:

请求超时了

从前面我们已经得知,异步请求已经被放到 waitingProcessors 里,且超时时间也已经设置上了,而 tomcat 会有一个线程,每隔 1 秒遍历 waitingProcessors 里面的 processor ,看看它们过期了没:

如果发现过期了,那么会重新往 tomcat 里面线程池里面投掷任务,但是这个任务不太一样,可以看到 SocketEvent 是 TIMEOUT

这样线程池跑到这个任务的时候就知道这个已经超时请求任务,此时就会将超时值塞入到请求中(具体是通过之前设置的 DeferredResult 相关的 interceptor 中的 handleTimeout 方法)

这个 setResultInteral 最终就会将值保存到请求中(实际上是请求管理的 asyncManager 里),并将该请求重新进入 DispatcherServlet#doDispatch() 中处理。

你看这个请求又走了一遍 doDispatch,所以 DeferredResult 类型的方法会走两遍 doDispatch 逻辑,第二次走进来的时候发现请求里面的 asyncManager 已经被放入值了。

因为已经塞了值,所以后面处理的时候,就会走到这个 if 里面,这里面就会把原先 controller 里面方法的反射内容替换了,新建一个反射内容,这个新建的反射方法的调用是直接返回塞入的 result。

看到没,这就是所谓的移花接木,这样还是复用了正常的处理流程,只不过后面执行的时候获得的是被塞入的超时值,且由于是正常类型,那么该怎么处理就怎么处理,最终返回给了浏览器。

请求未超时

其实,DeferredResult#setResult 和请求超时的处理逻辑是一模一样的,差别就是触发的来源不同。

请求超时是 tomcat 线程池扫描到超时,然后通过 handleTimeout 调用 setResultInternal 将超时默认值塞入后重新触发 DispatcherServlet#doDispatch()  处理。

而 DeferredResult#setResult 是我们应用线程主动塞入值:

实际上也是调用 setResultInternal ,然后重新触发 DispatcherServlet#doDispatch()  处理。

所以两者后面的处理逻辑一模一样!

补充

其实里面有很多源码和比较重要的点都没提及,主要是展开的话太多了,这里稍微带一下。

比如 WebAsyncManager,这玩意就如其名是一个异步的管理器,每个请求都会 new 一个与之配对,上面也有提到一点点。

正常请求都只会进入一次到 doDispatch 方法中,而异步的 DeferredResult 进入了两次,这就要保证第二次进入的时候跟第一次进入是同一个 WebAsyncManager,一些信息需要缓存对齐,并且里面还有异步处理的逻辑,比如设置值重新触发 doDispatch 等等。

还有 tomcat 的请求其实有个状态机在,这里就需要了解 tomcat 的相关概念。

例如开始异步处理的时候会调用:

这个 action 底层就会调用 asyncStateMachine 进行操作:

然后这种状态机最终是通知到 CoyoteAdapter 的,这也是 tomcat 里面的一个概念。

tomcat 的连接器是通过调用 CoyoteAdapter#service 来调用容器的,这里面有异步请求的处理

public void service(org.apache.coyote.Request req, org.apache.coyote.Response res)
            throws Exception {
    ...省略部分代码....
    try {
        // Parse and set Catalina and configuration specific
        // request parameters
        postParseSuccess = postParseRequest(req, request, res, response);
        if (postParseSuccess) {
            // Calling the container 调用容器
            connector.getService().getContainer().getPipeline().getFirst().invoke(
                    request, response);
        }
        if (request.isAsync()) { //这里就是通过状态机判断的
            async = true;
            .....省略部分代码....
        } else {
  //如果不是异步就结束了
            request.finishRequest(); 
            response.finishResponse();
        }

    } catch (IOException e) {
        // Ignore
    } finally {
        .... 省略部分代码....
        if (!async) {
            updateWrapperErrorCount(request, response);
            //不是异步就回收request和response了
            request.recycle();
            response.recycle();
        }
    }
}

最后

大概了解到这个程度差不多了,如果想要深入了解还是需要掌握挺多内容的。

用简单的话来总结下 Spring DeferredResult :如果返回值类型是 DeferredResult  则表明其是异步请求,tomcat 线程不会等到应用程序处理完或者超时,而是会立即释放线程。

而这个未处理完的请求则会暂存,tomcat 知晓其为异步请求,也不会对客户端进行响应,直至 tomcat 线程扫描到请求超时或者应用线程将 result 塞入到 DeferredResult 中。

主要原理就是 Spring 有个 DeferredResultMethodReturnValueHandler,识别到返回值是 DeferredResult  类型的话,会将这个请求标记为异步请求(这是基于 tomcat 对 servlet 3.0 异步请求的支持),且暂存这个请求。

待 tomcat 每秒扫描等待的异步请求是否超时来触发是否返回默认值,或者应用线程手动塞值到 DeferredResult  触发返回,具体返回的逻辑其实是二次利用 Spring 的 DispatcherServlet#doDispatch,进行再次分发。

利用一个 WebAsyncManager 对象与请求进行绑定,进行异步操作的管理,如返回值的保存,上下文的保存等。

通过 WebAsyncManager  状态的不同 DispatcherServlet#doDispatch 处理逻辑有所不同,判断其实异步请求、判断其是否已经有异步返回值等。

如果有了返回值则通过新建一个反射内容替换之前 request 对应的 controller 的方法,通过移花接木的方式替换反射返回的结果。

好了,就这样差不多了。

前面我也提了,这其实涉及到 tomcat 的底层原理,然后还有 SpringMvc 的原理,说实话作为面试题不错,可以延伸挺多的~

好了,那本文的技术部分就到这里啦。

下面这个环节叫做[荒腔走板],技术文章后面我偶尔会记录、分享点生活相关的事情,和技术毫无关系。我知道看起来很突兀,但是我喜欢,因为这是一个普通博主的生活气息。

你要不喜欢,退出之前记得文末点个“在看”哦。

荒腔走板

最近四川用电我觉得已经到了严峻,非常严峻,异常严峻,极端严峻的局面了。

公司由于限电的原因,不仅空调没了,连灯都是隔排开。我工位这排的灯刚好关了,摸黑办公,氛围极佳。

前段时间在网上看到有的公司用大冰块进行降温,我还在想“应该不至于吧”,没想到这周冰块我工位旁边就立着一个大冰块。

关键是它虽然就立在我旁边,我觉得也没啥大用处啊。

四川的部分高校也陆续的发出了延迟开学的公告,我现在算是明白了为什么“久旱逢甘雨”能和“他乡遇故知,洞房花烛夜,金榜题名时”放在一起了。

吃饭时和同事闲聊的时候也聊到了小时候的夏天。

我的脑海里浮现出了一些画面:一个大铁勺子舀一勺透心凉的井水、经过水缸冰镇的西瓜、树荫下卖樱桃的老爷爷、小河边嬉笑着抓螃蟹的同伴、提着一杯凉白开走在上学路上的自己,还有傍晚在顶楼纳凉的邻居们。

那个时候没有谁家里有冰箱,但是家家户户都有一个大水缸。夏天,买一个西瓜回来,冲干净后扔在大水缸里面,晚上吃的时候,甭说多带劲了。

冰箱都没有,更别说空调了。所以到了夏天非常热,仅仅是靠一个吊扇是带来不了丝毫凉意的。大家就会不约而同的带着凉席、枕头、薄毯和蒲扇去顶楼睡一晚上。

而楼上楼下的邻居大多都熟识,大家就在顶楼上相互走动,坐在凉席上拉家常。

我小時候特别喜欢在顶楼睡,在顶楼上睡的时候可以看到很多星星,还能听到窸窸窣窣的虫叫。

对了,我昨天还去我们小区的顶楼看了一下,想着限电,光污染少一点,会不会在成都看到星星呢?

结果,真的看到了。

五颗。

··············  END  ··············

推荐👍千万不要在方法上打断点!

推荐👍啥是高可用啊?

推荐👍 :深谙国企之道,我猜这至少是个处级...

推荐👍 :单元测试,永远的痛。

推荐👍 :2021,我这一年。

你好呀,我是歪歪。我没进过一线大厂,没创过业,也没写过书,更不是技术专家,所以也没有什么亮眼的title。

当年高考,随缘调剂到了某二本院校计算机专业。纯属误打误撞,进入程序员的行列,之后开始了运气爆棚的程序员之路。

说起程序员之路还是有点意思,可以点击蓝字,查看我的程序员之路

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存