Flink滑动窗口原理与细粒度滑动窗口的性能问题

大数据技术与架构点击右侧关注，大数据开发领域最强公众号！

暴走大数据点击右侧关注，暴走大数据！

By 大数据技术与架构场景描述：Flink的窗口机制是其底层核心之一，也是高效流处理的关键。Flink窗口分配的基类是WindowAssigner抽象类，下面的类图示出了Flink能够提供的所有窗口类型。

Flink窗口分为滚动（tumbling）、滑动（sliding）和会话（session）窗口三大类，本文要说的是滑动窗口。

下图示出一个典型的统计用户访问的滑动窗口。

假设每两条虚线之间代表1分钟时间差，那么窗口大小（size）就是2分钟，滑动步长（slide）是1分钟。若时间特征为事件时间，代码如下。

dataStream
  .keyBy("userId")
  .window(SlidingEventTimeWindows.of(Time.minutes(2), Time.minutes(1)));

由图可知，当前滑动窗口与上一个滑动窗口会有重叠。在窗口大小size是步长slide的2倍的情况下，（几乎）每个DataStream元素都会处于2个窗口内。

我们简单参考一下相关的Flink源码，以加深理解。以下是窗口算子WindowOperator的processElement()方法的部分源码。

    @Override
    public void processElement(StreamRecord<IN> element) throws Exception {
        final Collection<W> elementWindows = windowAssigner.assignWindows(
            element.getValue(), element.getTimestamp(), windowAssignerContext);
        boolean isSkippedElement = true;
        final K key = this.<K>getKeyedStateBackend().getCurrentKey();

        if (windowAssigner instanceof MergingWindowAssigner) {
            // 会话窗口的处理逻辑，略去
        } else {
            for (W window : elementWindows) {
                if (isWindowLate(window)) {
                    continue;
                }
                isSkippedElement = false;
                windowState.setCurrentNamespace(window);
                windowState.add(element.getValue());

                triggerContext.key = key;
                triggerContext.window = window;
                TriggerResult triggerResult = triggerContext.onElement(element);

                if (triggerResult.isFire()) {
                    ACC contents = windowState.get();
                    if (contents == null) {
                        continue;
                    }
                    emitWindowContents(window, contents);
                }
                if (triggerResult.isPurge()) {
                    windowState.clear();
                }
                registerCleanupTimer(window);
            }
        }
        // 最后是侧输出迟到数据的逻辑，略去
    }

该方法先调用WindowAssigner.assignWindows()方法，根据输入元素的时间戳判断它应该属于哪些窗口。接着遍历所有窗口，将该元素加入对应的窗口状态（即缓存）中，并根据触发器返回的TriggerResult决定是输出（fire）还是清除（purge）窗口的内容，emitWindowContents()方法会调用用户函数。最后，还要调用registerCleanupTimer()方法注册计时器用来在窗口彻底过期时清除窗口状态。以下是SlidingEventTimeWindows.assignWindows()方法的源码。

    @Override
    public Collection<TimeWindow> assignWindows(Object element, long timestamp, WindowAssignerContext context) {
        if (timestamp > Long.MIN_VALUE) {
            List<TimeWindow> windows = new ArrayList<>((int) (size / slide));
            long lastStart = TimeWindow.getWindowStartWithOffset(timestamp, offset, slide);
            for (long start = lastStart;
                 start > timestamp - size;
                 start -= slide) {
                windows.add(new TimeWindow(start, start + size));
            }
            return windows;
        } else {
            throw new RuntimeException("Record has Long.MIN_VALUE timestamp (= no timestamp marker). " +
                "Is the time characteristic set to 'ProcessingTime', or did you forget to call " +
                "'DataStream.assignTimestampsAndWatermarks(...)'?");
        }
    }

    public static long getWindowStartWithOffset(long timestamp, long offset, long windowSize) {
        return timestamp - (timestamp - offset + windowSize) % windowSize;
    }

这段代码就不难理解了，先调用getWindowStartWithOffset()方法根据元素的时间戳计算出其窗口的起点时间戳，再逐次循环向后滑动，产生size / slide个窗口。我们可以将size / slide叫做“粒度”，亦即上述代码中返回的Collection<TimeWindow>集合的大小。粒度越大（“细”），滑动窗口之间的重合也越大。代码读完了，有一个貌似稀松平常的需求：

以3分钟的频率实时计算App内各个子模块近24小时的PV和UV。

直觉上我们需要用粒度为1440 / 3 = 480的滑动窗口来实现它，但是细粒度的滑动窗口会带来性能问题，有两点：

• 状态
  由代码可知，WindowOperator内维护了窗口本身的内部状态windowState（类型为InternalAppendingState）。对于一个元素，会将其写入对应的(key, window)二元组所圈定的状态中。可见，如果粒度为480，那么每个元素到来，更新windowState时都要遍历480个窗口并写入，开销是非常大的。在采用HDFS/RocksDB作为状态后端时，checkpoint的瓶颈也尤其明显。

• 定时器
  在Flink中，定时器的实际实现是TimerHeapInternalTimer类，并且是用Flink自己实现的优先队列维护在堆内存中的。而在WindowOperator中，每一个(key, window)二元组都需要注册两个定时器：一是触发器注册的定时器，用于决定窗口数据何时输出；二是registerCleanupTimer()方法注册的清理定时器，用于在窗口彻底过期（如allowedLateness过期）之后及时清理掉窗口的内部状态。细粒度滑动窗口会造成维护的定时器增多，内存负担加重。

在官方文档Windows最后一节的最后，也有如下的提醒：

Flink creates one copy of each element per window to which it belongs. Given this, tumbling windows keep one copy of each element (an element belongs to exactly one window unless it is dropped late). In contrast, sliding windows create several of each element, as explained in the Window Assigners section. Hence, a sliding window of size 1 day and slide 1 second might not be a good idea.

可能有看官会问：预聚合不能解决细粒度窗口的问题吗？答案是不能。预聚合只是让AggregateFunction/ReduceFunction之后的数据量降低，但是进入WindowOperator的窗口状态的数据还是没变的。换句话说，就算触发器实现为FIRE_AND_PURGE，遍历大量窗口并写入状态的开销也是无法消除的。

扯了这么多，有解决方案吗？

当然是有的，办法总比困难多。我们一般使用滚动窗口+在线存储+读时聚合的思路作为workaround。简单来讲就是：

• 弃用滑动窗口，用长度等于原滑动窗口步长的滚动窗口代替；

• 每个滚动窗口将其周期内的数据做聚合，打入外部在线存储（内存数据库如Redis，LSM-based NoSQL存储如HBase）；

• 扫描在线存储中对应时间区间（可以灵活指定）的所有行，并将计算结果返回给前端展示。

针对上面的PV/UV问题，如果采用Redis作为在线存储，我们可以将时间戳放在key内，并设定24小时过期时间。用数字字符串存储3分钟周期内的PV量，用HyperLogLog存储3分钟周期内的UV量。近24小时的PV和UV就分别可以通过简单加减和HyperLogLog的pfmerge/pfcount命令得出了。当然，实际操作起来还是要根据需求和服务器资源而定。

作者：LittleMagic
链接：https://www.jianshu.com/p/45b03390b258
欢迎点赞+收藏+转发朋友圈素质三连

文章不错？点个【在看】吧！ 👇