全异步线程池调用

UJES如何实现全异步线程池调用

1 全异步线程池调用的优势

  • 5大异步消息队列和线程池

  • Job每次占用线程不到1毫秒

  • 每个入口可承接超1万+TPS常驻型Job请求

2 如何实现

全异步调用线程池

  • 如何提高上层的请求吞吐能力？

    Entrance的WebSocket处理器，内置一个处理线程池和处理队列，接收Spring Cloud Gateway路由转发的上层请求。

  • 如何保证不同系统不同用户的执行请求，互相隔离？

    Entrance的Job调度池，每个系统的每个用户，都有一个专用线程，保证隔离度

  • 如何保证Job执行高效？

    Job执行池，只用于提交Job，一旦Job提交给了Engine端，则立马放入Job执行队列，保证每个Job占用执行池线程的时间不超过1毫秒。

    RPC请求接收池，用于接收和处理Engine端推来的日志、进度、状态和结果集，并实时更新Job的相关信息。

  • 如何实时将Job的日志、进度和状态推给上层系统？

    WebSocket发送池，专门用于处理Job的日志、进度和状态，将信息推给上层系统。