78

GitHub - moiot/gravity: A Data Replication Center

 5 years ago
source link: https://github.com/moiot/gravity
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

README.md

2.0 Product

Gravity

Gravity 是一款数据复制组件,提供全量、增量数据同步,以及向消息队列发布数据更新。

DRC 的设计目标是:

  • 支持多种数据源和目标的,可灵活定制的数据复制组件
  • 支持基于 Kubernetes 的 PaaS 平台,简化运维任务

使用场景

  • 大数据总线:发送 MySQL Binlog,Mongo Oplog 的数据变更到 kafka 供下游消费
  • 单向数据同步:MySQL --> MySQL 的全量、增量同步
  • 双向数据同步:MySQL <--> MySQL 的双向增量同步,同步过程中可以防止循环复制
  • 分库分表到合库的同步:MySQL 分库分表 --> 合库的同步,可以指定源表和目标表的对应关系
  • 在线数据变换:同步过程中,可支持对进行数据变换

功能列表

  • 数据源
是否支持 MySQL Binlog ✅ MySQL 全量 ✅ Mongo Oplog ✅ TiDB Binlog 开发中 PostgreSQL WAL 开发中
  • 数据输出
是否支持 Kafka ✅ MySQL/TiDB ✅ Mongo DB 开发中
  • 数据变换
是否支持 数据过滤 ✅ 重命令列 ✅ 删除列 ✅

文档

架构简介

快速上手

配置手册

集群部署


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK