使用与约束
最近更新时间: 2021-09-15 15:59:08
支持的流计算引擎:流计算服务支持Flink、Spark Streaming两种计算引擎,其中Flink为全功能支持, Spark Streaming只支持上传JAR包方式使用,推荐用户优先使用Flink引擎,两种引擎的对比如下:
流计算引擎对比 | Flink | Spark Streaming |
---|---|---|
引擎版本 | Flink 1.11.3 | Spark 2.3.0 |
产品生态 | Apache顶级项目,Flink 产品发展速度快,在流处理方面处于业界最前沿水平 | 归属于Spark的子项目,Spark社区规模大,产品相对更加成熟 |
运行模式 | 事件驱动 | 时间驱动(微批处理,运行的时候需要指定批处理的时间,每次运行 任务时处理一个批次的数据) |
时间机制 | 支持三种时间机制:事件时间,注入时间,处理时间 | 只支持处理时间 |
支持程度 | 在大数据云服务中,支持可视化拖拽、上传JAR包两种开发方式 | 在大数据云服务中,只支持JAR包的开发方式 |
开源组件 | 组件版本 | |
---|---|---|
支持的source源 | Kafka | 0.10及以上版本 |
支持的sink源 | Kafka | 0.10及以上版本 |
Oracle | 11.2.0.1.0 | |
MySQL | 5.6及以上版本 | |
HBase | 2.0 | |
Redis | 4.0 | |
Elasticsearch | 6.4.2 | |
InfluxDB | 2.1.5 | |
Phoenix | 5.0.0 | |
Hive | 3.1.0 |