설문조사
PostgreSQL/PPAS 관련 듣고 싶은 교육은


Powered by EnterpriseDB
총 게시물 5건, 최근 0 건
 

실시간 데이터 연계 PostgreSQL + Kafka + Hadoop

글쓴이 : 로빈 날짜 : 2016-12-14 (수) 11:06 조회 : 452
실시간으로 하둡에 연동하는 흥미로운 오픈소스 소개합니다.

PostgreSQL의 Logical Replication을 응용하여 변경된 데이터를 Apache Kafka로 전송하고
Kafka를 통해 Hadoop에 sink하는 구조입니다.

PostgreSQL 9.4부터 적용된 Logical decoding 기능을 이용해서 xlog를 JSON String Type으로 변환한 후
스트리밍 데이터로 활용하고 있습니다.

extension을 이용한 SQL 함수로 전송데이터 테이블을 선택할 수도 있네요

https://github.com/experdb/bwcontrol
https://github.com/experdb/bottledwater-pg

PostgresDBA 2016-12-15 (목) 15:45
흥미로운 오픈소스 소개 감사합니다!
댓글주소
 

postgresdba.com