其他
你应该使用Java8 非阻塞异步API来优化你的系统了
点击上方☝SpringForAll社区 轻松关注!
非同步和非阻塞
什么是非同步?
异步执行 不是同步的方式运行,或者不是按照你描述的顺序发生。
什么是非阻塞
不是阻塞的 不会造成线程的阻塞
为什么需要异步呢?
业务方法太耗时间 网络开销 加解密操作 文件上传下载 ......
同步方式有什么坏处?
Web 服务,因为执行某些过长的线程长时间占用线程,则你的服务吞吐量严重降低。 桌面或者手机的应用,执行可能会卡顿,等待服务的请求耗时。
传统的阻塞业务处理示例
// 10 seconds
Image img1 = download();
render(img1);
// 12 seconds
Image img2 = download();
render(img2);
这些业务方代码很耗费时间,并且传统的写法,每个方法操作控制起来非常不方便。
Java 8 之前的做法
java.lang.Thread JDK1.0
对于上述的示例代码基于JDK8 Consumer 的实现
void downloadAsync(String url,Consumer<Image> c) {
new Thread(() -> {
Image result = download(url);
c.accept(result);
} ).start();
}
这样实现好么?使用Thread 的这种方式存在什么缺点?
使用Thread 的方式经常需要配合 synchronized,wait,notify 和 join 不同Thread 之间如何存取同一份数据? 如何管控? 如何进行业务方法之间的组合和依赖?
如何对方法之间进行依赖处理示例:
fetchDataAsync (data -> {
downloadAsync(data , image -> render(image));
});
上述代码可以实现我们想要的结果,但是不推荐,Thread 并没有进行相关的方法组合、依赖API,这种实现方式,到后边基本就成了回调地狱。
避免回调,但是线程之间的结果还是要前后依赖,我们也可以这样实现:
new Thread(() -> {
final Data result = fetchData();
Image img = download(result.imageURL);
Bitmap bitmap = decode(img);
}).start();
上述方式,其实就是把三个线程的返回结果包裹在一个大的Thread 中,这种方式的确可以做,但是还是不够优雅。这样子导致外层的这个Thread 非常大。综上,两种实现方式总结如下:
组合各种非同步方法,写起来还是变成了回调地狱 包一个外层的Thread 执行,如果忘记外层包裹怎么办?如何控制线程资源?
各个线程更复杂的组合怎么办?
如果想要两个线程的任务结果都执行完毕 可以使用Thread#join 来实现 如果只要任意一个结果有返回就可以继续往下运行怎么做?可以使用Thread#join(long mills) 和检查结果值,或者浪费一个Thread 一直去做值的检查工作。代码实现如下:
while(true) {
t1.join(1000);
if (value != null) {
retrn t1Value;
}
t2.join(1000);
...
}
所以综合分析,直接使用 Thread 根本不靠谱。
新的魔法 - Java1.5+ Future
java.util.concurrent.Future java se 5.0 可以将 Future 看做一个一个等待结果的容器,让我们可以尝试去获得结果 示例如下:
ExecutorService service = Executors.newCacheThreadPool();
Future<Image> f = service.submit(() -> downloadImage(xxx));
// 做些其他事情
// f.get() 得到结果
Future 异常处理
try {
renderImage(future.get());
} catch (Exception e) {
e.printCause(); // 打印执行时的错误
}
Future 其他方便的方法
// 取消某个工作
future.cancel(boolean);
// 判断是否取消
future.isCancelled();
// 工作是否完成
future.isDone();
但是 Future 还是有问题,特点如下:
传统 callback 的方式,变成外部可以自行再做处理 简单易懂 只有5个方法 阻塞式 API 来取得回传 不易组合再利用
1.8 终极大法 j.u.c.CompletableFuture
java.util.concurrent Java SE 8 implements Future, CompletionStage 示例:
CF<Stirng> cf = CompletableFuture.completableFuture("Value");
String result = cf.get();
// 阻塞等待结果
String result = cf.join();
// 非阻塞等待结果输出
cf.thenAccept(s -> System.out.println(s));
String load() {...}
// 非阻塞等待结果
CF<Stirng> cf = CompletableFuture.supplyAsync(() -> load());
// 非阻塞等待结果,并且指定使用某个线程池执行
CF<Stirng> cf = CompletableFuture.supplyAsync(() -> load() , executorService);
CF<Stirng> cf = ...;
CF<Integer> length = cf.thenApply(data -> data.length());
cf1 = cf.thenApplyAsync(...);
cf2 = cf.thenApplyAsync(...);
CF<Stirng> cf = new CompletableFuture();
cf.thenAccept(s -> System.out.println(s););
CF<Stirng> cf = new CompletableFuture();
executor.submit(() -> {
String result = load();
cf.complete(result);
});
// 异常处理
executor.submit(() -> {
try {
String result = load();
cf.complete(result);
} catch (Exception e) {
cf.completeExceptionally(e);
}
});
cf.whenComplete(
(String s, Throable t) -> {
if (s != null) { System.out.println(s); }
else System.err.println(t);
}
);
比如目前存在这样的业务:先查找用户,查找到用户之后,再下载用户的头像图片,此时代码可以写成如下的方式:
CF<?> cf = findUser(1L).thenApply(user -> download(user));
CF<File> cf = findUser(1L).thenCompose(user -> download(user));
更多的操作串下去呢?
CF<File> cf = findUser(1L).thenCompose(user -> download(user))
.thenCompose(img -> save(img));
如果串起来的异步方法出现异常如何处理?
findUser(1L).thenApply(...)
.thenApply(...) // exception 处理
.thenCompose(...)
.whenComplete(...);
CompletableFuture#allOf
CF<String> api1 = ...;
CF<String> api2 = ...;
CF<String> api3 = ...;
CF<Void> all = CompletableFuture.allOf(api1,api2,api3);
// 等待3个操作所有返回值
CF<List<Strnig>> result = all.thenApply(
v -> Arrays.asList(api1.get(), api2.get(), api3.get());
);
CompletableFuture#anyOf
// 等待其中任意一个结果返回
CF<Object> all = CompletableFuture.anyOf(api1,api2,api3);
API 中常见的行为
CF<User> findUser(String id );
CF<User> saveUser(String id );
CF<User> downloadAvatar(String id);
findUser(...)
.thenCompoe(user -> saveUser(user.id))
.thenCompose(user -> downloadAvatar(user.id))
.thenAccept(img -> render(img));
CompletableFuture 多 key 查询
CF<Value> executeQuery(String id);
List<CF<Value>> queries = ids.stream()
.map(id -> executeQuery(id))
.collect(toList());
// using allOf to let
// List<CF<Value>> -> CF<List<Value>>
CF<Void> all = CF.allOf(queies.toArray());
CF<List<Value>> result = all.thenApply(v -> queies.stream().map(q -> q.join())
.collect(toList)
);
CompletableFuture 像极了 Data Flow
getOrderFromNetwork ---> listProducts --> sendMail
CompletableFuture 优点
事件驱动 容易组合 控制权可以交给呼叫者 减少Thread 的浪费
CompletableFuture 缺点
Java8 中 Future/Promise 的混合,不少语言是分开的 爆多的方法数量 60+ 方法
注意
CompletableFuture#cancel 方法不能取消正在执行的工作 尽量使用 Async 结尾的API
支持非同步的 WEB 框架
Servlet 3.x+ AsyncContext SpringFramework Controller 的回传值直接用 CompletableFuture Play Framework Asynchronous web framework play.libs.F.Promise
思考一下 Web application
该不该用处理 http 的 thread 做事? Tomcat 有 max-threads 设定 Play 本来就是 http 跟 worker 分离 每个要求的工作时间不一定相同 花多少时间?占多少比例? 花时间的工作有没有资源存取上限?
同步/异步请求简单测试
Job:1500ms ~ 30%, 100 ms ~ 70% Tomcat max-threads 200 ab -n 1000 -c 400 Async ~ 375 requests/second Sync ~ 300 requests/second 如果方法处理速度很快,则传统写法会比异步方式更好。因为异步操作需要更多的操作和等待。
Reactive 编程
Data Flow Java9 Flow API 支持
墙裂推荐
【深度】互联网技术人的社群,点击了解!
关注公众号,回复“spring”有惊喜!!!
如果资源对你有帮助的话