流连接器

预定义的源和接收器

Flink内置了一些基本数据源和接收器,并且始终可用。预定义的数据源包括文件,目录和插座读书,并从摄取集合和迭代器的数据。预定义的数据接收器支持写入文件,以输出和错误,并插槽。

捆绑连接器

连接器提供用于与各种第三方系统连接的代码。目前支持这些系统:

Apache Bahir中的连接器

Flink的其他流处理连接器正在通过Apache Bahir发布,包括:

通过异步I / O进行数据丰富

使用连接器不是将数据输入和输出Flink的唯一方法。一种常见的模式是在一个Map或多个FlatMap查询外部数据库或Web服务以丰富主数据流。Flink提供了一个用于异步I / O的API,以便更有效,更稳健地进行这种丰富。

可查询状态

当Flink应用程序将大量数据推送到外部数据存储时,这可能会成为I / O瓶颈。如果所涉及的数据具有比写入更少的读取,则更好的方法可以是外部应用程序从Flink获取所需的数据。可查询的状态界面,允许通过Flink被管理的状态,按需要查询支持这个。