mybus
实现MySQL数据库到Redis,以及HBASE的全量,以及增量同步
支持通过正则表达式指定需要导出的db以及表
bus程序无状态,每一行有自己的位置点,位置点信息存储在下游db中
增量同步通过解析MySQL的行复制日志,完成增量数据的同步
通过编写so,实现转换的业务逻辑
上下游ip,端口,需要导出的schema信息都存储在configservice中,configservice是一个用redis作为存储的基于django的pythonweb程序
程序作为基础组件,在新浪以及微博的数据运维中,其可靠性得到了充分验证
使用方式如下:
一. 编译程序
代码中包含了链接mysql以及hbase的库,目前支持centos5/centos6,centos7暂不支持
进入mybus目录,执行make命令,如果make失败,请将结果贴出来
二. 启动configservice
2. red