Home

Bifrost ---- 将MySQL数据实时同步 到 Redis , MongoDB等的高性能异构中间件

Bifrost 是一个可以通过界面配置,将 MySQL 数据库中的数据异构的方式同步到Redis,Mongodb,RabbitMQ等甚至自定义RPC服务里的 简单 高效 的 异构中间件 .

提供 Linux , mac , windows , freebsd  平台二进制可执行文件下载.

Bifrsot 支持同步到多种目标库, for example:

• Redis
• Memcache
• RabbitMQ
• ActiveMQ
• Kafka
• Mongodb
• ClickHouse
• MySQL
• Http 自定义服务
• Hprose RPC 自定义服务

Bifrsot Diagram

Bifrost 特点

• 界面化灵活配置不同的数据表

• 多数据源,多种目标库支持

• 同时支持 增量 及 全量 数据同步

• 宕机后重启自动恢复配置

• 支持自定义插件开发，动态加载

• 支持 Email 及 微信企业号等报警功能

• 提供第三方监控平台访问接口(Http Basic验证)

Bifrost 还不足的地方

• 全量 数据同步的时候，不支持带 - 符号的数据库名和表名，例如： my-db

• 全量数据同步数据同步的时候，null 值全按""处理了，和 binlog 解析这个地方不一致，使用的时候，请避免 null

• 支持批量刷数据的插件，在数据同步异常的情况下，不支持错过当前数据同步功能，例如： ClickHouse,Kafka

WIKI

Bifrost WIKI

MySQL 版本（经过测试）

• 5.1.73

• 5.5.42

• 5.6.36

• 5.7.18

• 8.0.11 (用户密码验证需要采用 mysql_native_password 方式)

安装

编译

go get github.com/brokercap/Bifrost

# windows
./build.sh windows v1.1.x

# linux
./build.sh linux v1.1.x

#mac
./build.sh darwin v1.1.x

#freebsd
./build.sh freebsd v1.1.x

二进制文件下载

wget https://github.com/brokercap/Bifrost/releases/download/v1.1.x-release/linux.zip

unzip linux.zip

cd linux

配置

vim Bifrost.ini

[user]
#登入用户名和密码
#用户名在前，= 号后面是密码
Bifrost=Bifrost123
BifrostMonitor=Bifrost123

[groups]
#administrator 管理人员可以添加删除等操作
#monitor 只能查看数据
Bifrost=administrator
BifrostMonitor=monitor

[Bifrostd]
#log写到入的文件夹，默认为启动文件所在文件夹下的logs目录
#log_dir=/data/log/

#监听端口,默认 0.0.0.0:21036
listen=0.0.0.0:21036

#通过界面配置的信息保存文件夹,默认为启动文件所在文件夹下的data目录
data_dir=./

#设置同步给第三方服务的队列大小，默认10000
toserver_queue_size=10000

#通道队列的大小，默认1000
channel_queue_size=1000

#是否支持动态加plugin so 插件，默认为false
#这个参数只在 linux 下有效，其他平台全部为false
dynamic_plugin=false

#是否支持https
tls=true

#server.key 及 server.crt 相对于 Bifrost 的路径，也可以填绝对路径
tls_key_file=./etc/server.key
tls_crt_file=./etc/server.crt

生成https证书

参考证书生成

启动

./Bifrost-server start

停止

./Bifrost-server stop

Docker

Dockerfile

 FROM centos:centos6.8
 MAINTAINER jc3wish "[email protected]"
 RUN yum install -y wget unzip
 RUN wget https://github.com/brokercap/Bifrost/releases/download/v1.1.x-release/linux.zip
 RUN unzip linux && cd linux && chmod a+x ./Bifrost-server
 ENTRYPOINT ["linux/Bifrost-server","start"]
 EXPOSE 21036

 docker build -t bifrost:1.1.x .

Docker启动

docker pull jc3wish/bifrost:1.1.x

docker run -d -p21036:21036 jc3wish/bifrost:1.1.x

管理

https://127.0.0.1:21036

界面操作文档

Bifrost官网

感谢相关依懒包提供者

• github.com/gmallard/stompngo
• github.com/hprose/hprose-golang
• github.com/Shopify/sarama
• github.com/bradfitz/gomemcache/memcache
• gopkg.in/mgo.v2
• github.com/streadway/amqp
• github.com/garyburd/redigo/redis
• github.com/syndtr/goleveldb/leveldb
• github.com/kshvakov/clickhouse

QQ群号： 70331601