Apache Flink 发布了该项目的0.8.0版本。除了常规的性能、兼容性和稳定性方面的改进之外,这一版本增加了一个 流式数据的 Scala API ,填补目前为止仍然缺乏的流式数据处理的能力。在大概9个月之前加入孵化器后,Apache Flink最近被 升级 为顶级的Apache项目。
Apache Flink是一个与 Apache Spark 有着相似目标的开源项目。它运行在Hadoop stack之上,通过提供比原有Hadoop系统的map和reduce操作更加强大的数据操作能力,让开发者可以更容易地编写可扩展的数据处理系统。
Kostas Tzoumas 最近发布了 一个关于Flink介绍和Flink2015年计划概览的演示文稿 ,他是Flink的代码提交者和一个位于柏林的Apache Flink相关的初创企业 data Artisans 的合伙人。
Flink的关键点之一,是它使用了一种类似于SQL数据库查询优化的方法,这也是它与当前版本的Apache Spark的主要区别。它可以将全局优化方案应用于某个查询之上以获得更佳的性能。例如,Flink可以重新排序操作以提升性能,或者根据相关数据集的属性,选择不同的实现方式来执行给定的操作符。
正如演示文稿中所提到的,这让Flink可以以流水线的方式执行一个操作序列,而Spark则需要一个接一个地执行不同的步骤。
Flink还提供类似迭代器的操作符以获得更多全局优化方面的潜能。利用这种操作符,Flink允许用户将迭代公式化,作为查询语句的一部分,而不需要在for循环中执行查询语句。
2015年规划的特性包括更好的内存管理和容错机制,交互使用的支持,统一的批处理和流处理,机器学习库 Mahout 的集成以及其他若干改进。
Flink最初源自于正在进行中的研究性项目 Stratosphere 的一部分。Flink还是 柏林大数据中心 的主平台,该数据中心是由德国政府资助的研究性项目,其目的是将机器学习研究者和可扩展的数据处理研究者汇集一处。
查看英文原文: Apache Flink 0.8.0 Released, Roadmap for 2015 Published