动态线程池的最佳实践,好用!
基于配置中心的轻量级动态线程池,内置监控告警功能,集成常用中间件线程池管理,可通过SPI自定义扩展实现
使用痛点
使用线程池 ThreadPoolExecutor
过程中你是否有以下痛点呢?
代码中创建了一个
ThreadPoolExecutor
,但是不知道那几个核心参数设置多少比较合适凭经验设置参数值,上线后发现需要调整,改代码重新发布服务,非常麻烦
线程池相对开发人员来说是个黑盒,运行情况不能及时感知到,直到出现问题
如果有以上痛点,动态可监控线程池框架(DynamicTp)或许能帮助到你。
如果看过 ThreadPoolExecutor 的源码,大概可以知道它对核心参数基本都有提供 set / get 方法以及一些扩展方法,可以在运行时动态修改、获取相应的值,这些方法有:
public void setCorePoolSize(int corePoolSize);
public void setMaximumPoolSize(int maximumPoolSize);
public void setKeepAliveTime(long time, TimeUnit unit);
public void setThreadFactory(ThreadFactory threadFactory);
public void setRejectedExecutionHandler(RejectedExecutionHandler handler);
public void allowCoreThreadTimeOut(boolean value);
public int getCorePoolSize();
public int getMaximumPoolSize();
public long getKeepAliveTime(TimeUnit unit);
public BlockingQueue<Runnable> getQueue();
public RejectedExecutionHandler getRejectedExecutionHandler();
public boolean allowsCoreThreadTimeOut();
protected void beforeExecute(Thread t, Runnable r);
protected void afterExecute(Runnable r, Throwable t);
现在大多数的互联网项目都会微服务化部署,有一套自己的服务治理体系,微服务组件中的分布式配置中心扮演的就是动态修改配置,实时生效的角色。
那么我们是否可以结合配置中心来做运行时线程池参数的动态调整呢?
答案是肯定的,而且配置中心相对都是高可用的,使用它也不用过于担心配置推送失败这类问题,而且也能减少研发动态线程池组件本身的难度和工作量。
综上,可以总结出以下的背景
广泛性:在 Java 开发中,想要提高系统性能,线程池已经是一个 90% 以上开发都会选择使用的基础工具
不确定性:项目中可能会创建很多线程池,既有 IO 密集型的,也有 CPU 密集型的,但线程池的参数并不好确定;需要有套机制在运行过程中动态去调整参数
无感知性:线程池运行过程中的各项指标一般感知不到;需要有套监控报警机制在事前、事中就能让开发人员感知到线程池的运行状况,及时处理
高可用性:配置变更需要及时推送到客户端,需要有高可用的配置管理推送服务,配置中心是现在大多数互联网系统都会使用的组件,与之结合可以极大提高系统可用性
功能特性
基于以上背景分析,我们对线程池 ThreadPoolExecutor
做一些扩展增强,主要实现以下目标
实现对运行中线程池参数的动态修改,实时生效
实时监控线程池的运行状态,触发设置的报警策略时报警,报警信息推送办公平台
定时采集线程池指标数据,配合像
Grafana
这种可视化监控平台做大盘监控
经过多个版本的迭代,目前最新版本 v1.1.0 具有以下特性
代码零侵入:我们改变了线程池以往的使用姿势,所有配置均放在配置中心,服务启动时会从配置中心拉取配置生成线程池对象放到 Spring 容器中,使用时直接从 Spring 容器中获取,对业务代码零侵入
通知告警:提供多种报警维度(配置变更通知、活性报警、容量阈值报警、拒绝触发报警、任务执行或等待超时报警),已支持企业微信、钉钉、飞书、邮件报警,同时提供 SPI 接口可自定义扩展实现
运行监控:定时采集线程池指标数据,支持通过 MicroMeter、JsonLog 日志输出、Endpoint 三种方式,可通过 SPI 接口自定义扩展实现
任务增强:提供任务包装功能,实现 TaskWrapper 接口即可,如 MdcTaskWrapper、TtlTaskWrapper、SwTraceTaskWrapper,可以支持线程池上下文信息传递
多配置中心支持:基于主流配置中心实现线程池参数动态调整,实时生效,已支持 Nacos、Apollo、Zookeeper、Consul、Etcd、Polaris,同时也提供 SPI 接口可自定义扩展实现
中间件线程池管理:集成管理常用第三方组件的线程池,已集成 Tomcat、Jetty、Undertow、Dubbo、RocketMq、Hystrix、Grpc、Motan、Okhttp3、Brpc、Tars、SofaRpc、RabbitMq 等组件的线程池管理(调参、监控报警)
轻量简单:基于 SpringBoot 实现,引入 starter,接入只需简单 4 步就可完成,顺利 3 分钟搞定
多模式:参考 Tomcat 线程池提供了 IO 密集型场景使用的 EagerDtpExecutor 线程池
兼容性:JUC 普通线程池和 Spring 中的 ThreadPoolTaskExecutor 也可以被框架监控,@Bean 定义时加 @DynamicTp 注解即可
可靠性:框架提供的线程池实现 Spring 生命周期方法,可以在 Spring 容器关闭前尽可能多的处理队列中的任务
高可扩展:框架核心功能都提供 SPI 接口供用户自定义个性化实现(配置中心、配置文件解析、通知告警、监控数据采集、任务包装等等)
线上大规模应用:参考美团线程池实践,美团内部已经有该理论成熟的应用经验
美团线程池实践:https://tech.meituan.com/2020/04/02/java-pooling-pratice-in-meituan.html
架构设计
框架功能大体可以分为以下几个模块
配置变更监听模块
线程池管理模块
监控模块
通知告警模块
三方组件线程池管理模块
接入步骤
引入相应配置中心的依赖,具体见官网文档
配置中心配置线程池实例,配置文件见官网文档
启动类加
@EnableDynamicTp
注解使用
@Resource
或@Autowired
进行依赖注入,或通过DtpRegistry.getDtpExecutor("name")
获取通过以上 4 步就可以使用了,是不是感觉超级简单呀
通知报警
触发报警阈值会推送相应报警消息(活性、容量、拒绝、任务等待超时、任务执行超时),且会高亮显示相应字段
配置变更会推送通知消息,且会高亮变更的字段
监控
目前框架提供了四种监控数据采集方式,通过 collectorTypes 属性配置监控指标采集类型,默认 Micrometer
Logging:线程池指标数据会以 Json 格式输出到指定的日志文件里
Internal_logging:线程池指标数据会以 Json 格式输出到项目日志文件里
Micrometer:采用监控门面,通过引入相关 Micrometer 依赖采集到相应的存储平台里(如 Prometheus,InfluxDb...)
Endpoint:暴露 Endpoint 端点,可以通过 http 方式实时获取指标数据
项目地址
gitee地址:https://gitee.com/dromara/dynamic-tp github地址:https://github.com/dromara/dynamic-tp
END
往期精彩如何在 Spring 中控制 Bean 初始化先后顺序?
大型 SaaS 系统的数据范围权限该如何设计?
告别卡顿困扰:IDEA 性能优化设置
Spring Boot + Redis 解决重复提交问题
高质量交流群,关注:SpringForAll,回复关键词:加群