转载

Yelp的数据管道开源了

在过去的几个月里，Yelp一直在不断地向大家分享着他们的数据管道的情况（文章列表见页尾）。这是一套基于Python的工具，可以实时地将数据流向需要它们的服务，并随之加以必要的数据处理。这一系列的文章讲述了如何从MySQL中将消息复制出来、如何跟踪模式的变化及演进、并最终分享了如何把数据接入到Redshift和Salesforce等不同类型的目标存储。

幸好Yelp非常慷慨，他们不只是分享了自己的设计思路和经验，更是赶在圣诞节之前向大家献上了一份大礼，把主要模块开源出来了！

在读过了所有这些关于我们的数据管道的文章之后，可能你会觉得我们这些Yelp的人不过是像一个孩子在向大家炫耀他的新玩具一样，肯定会自己捂得严严的，不会和大家分享。但是和大多数有了新玩具又不会分享的孩子一样，我们愿意分享——所以我们最终决定要把我们的数据管道的主体部分开源出来，然后大家就可以开心地迎来新年假期了。

闲话少说，下面这些就是Yelp为大家的假期准备的圣诞礼物：

MySQL Streamer 会不断地查看MySQL的binlog，得到最新的表变更操作。Streamer负责捕获MySQL数据库上的单条数据更改操作，并把它封装成Kafka消息，发布到Kafka的某个Topic中。如果有必要，也会做模式转换。
Schematizer服务会跟踪每一条消息所使用的模式信息。在有新模式出现时，Schematizer会处理注册消息，并为下游的表生成更改计划。
Data Pipeline clientlib 为生产和消费Kafka消息提供了非常易用的接口。有了clientlib，就再也不必关心Kafka的Topic名字、加密或消费者程序的分区情况了。你可以站在表和数据库的角度去考虑问题，不必关心其它细节。
Data Pipeline Avro utility包提供了读写Avro模式的Python接口。它也可以为表的主键等模式信息提供枚举类，这一点Yelp在实践中发现非常有用。
Yelp Kafka库扩展了Kafka-python包，并提供了多重处理消费者组等新功能。这个库可以帮助大家非常高效地与Kafka进行交互。这个库也让用户可以判断出Yelp内部的Kafka跨区域部署情况。

Yelp的数据管道开源了