转载

全新的Logstash插件–使用Elasticsearch搜索DynamoDB内容

当我观察最近的业务发布,将观察结果与 GitHub 上与 AWS 相关的知识库相比较时,一个很有趣的趋势变得显而易见。在我看来,将 AWS 业务互相结合和与第三方工具相结合变得越来越常见。例如,在最近的一篇帖子中,我向大家展示了如何将 CloudWatch Logs,Elasticsearch和Kibana 相结合来实现事件数据的可视化。在另一篇帖子中,我向大家展示了 AWS OpsWorks 是如何实现提供和管理 ECS 容器实例的。正如我在那篇帖子中写到的,我将这看作“花生黄油和巧克力” —将两种好的口味融合到另一种更好的口味中。

DynamoDB + Elasticsearch

今天我想告诉大家将若干种有趣的技术联系在一起的另一种方法:通过 DynamoDB Streams 连接器(插件)为 Logstash 将DynamoDB和Elasticsearch结合在一起。

你可以在亚马逊 EC2 (弹性计算云)实例上或现场运行Logatash。配置Logatash从你指定的DynamoDB表和数据流获取输入后,它将会追踪对表的更改(插入,更新和删除)并相应地更新你的Elasticsearch集群。你也可以配置插件(在整个过程中使用检查点)对表进行扫描,使集群与表保持同步。

一旦集群启动,运行并追踪表的变化,你就可以使用Elasticsearch进行有效的查询(结构化,纯文本,多字段查询)。可以利用近似匹配和部分匹配方法进行查询,也可以利用Elasticsearch的评分基础设施控制相关性(可以参阅 Elasticsearch: The Definitive Guide 了解这些话题和更多信息)。

对DynamoDB表所做的更改会很快(通常在一秒内或更少)反映在数据流中。插件将会访问这些更改,尽可能快地更新集群。

下载,安装和运行

你今天就可以从全新的 DynamoDB Community (DynamoDB社区)页面下载Logstash插件,将它安装在EC2实例上或安装在本地,将它指向你的Elasticsearch集群,然后开始查询DynamoDB数据库的内容。开始前请阅读 相关文档 并遵守 README 中的指示

原文链接: https://aws.amazon.com/cn/blogs/aws/new-logstash-plugin-search-dynamodb-content-using-elasticsearch/

活动推荐:08月27日 AWS 云计算环境中的Microservices 架构

活动推荐: AWS架构师全面解读运维与架构 - 微服务&无缝迁移

( 翻译/吕冬梅  责编/王鑫贺 )

订阅“AWS中文技术社区”微信公众号,实时掌握AWS技术及产品消息!

AWS中文技术社区为广大开发者提供了一个Amazon Web Service技术交流平台 ,推送AWS最新资讯、技术视频、技术文档、精彩技术博文等相关精彩内容,更有AWS社区专家与您直接沟通交流!快加入AWS中文技术社区,更快更好的了解AWS云计算技术。

正文到此结束
Loading...