为了账号安全,请及时绑定邮箱和手机立即绑定
首页 手记 5分钟搞定 MySQL 到 ElasticSearch...

5分钟搞定 MySQL 到 ElasticSearch 数据同步和宽表构建-CloudCanal实战

2021.12.10 15:46 733浏览

简述

CloudCanal 2.0.X 版本近期支持了宽表构建能力在数据预处理领域向前走了一步。

方案特点

  • 相对灵活对业务数据和结构贴合性好
  • 能很好的支持事实表与维表打宽表需求

本文以 MySQL 到 ElasticSearch6 单事实表双维表为案例介绍 CloudCanal 宽表构建和同步的操作步骤。

技术点

打宽表的必要性

关系型数据库为了应对在线业务对于并发、毫秒级响应同时操作相对趋向 kv 化,一般基于关系范式进行设计通过外键或约定外键非物理约束进行关联。

当业务需求涉及到多张关联表(业务运营、报表、BI 需求)查询表的先后顺序成为操作响应时间的关键要素但排列组合式种类随关联表数量(n)增加会膨胀非常快(n!)导致查询效率低下。

关联表数量 排列种类
2 2
3 6
4 24
5 120
6 720
7 5040
8 40320
10 403200
11 4435300

数据库或者数仓做 join 查询特别是5张表以上最难的事情变成了如何从这么多可能性中搜索空间找到最好的那一个。

数据迁移和同步 以相对比较小的代价将多张关联表进查询库或者数据仓库之前通过反查或者窗口等待变更数据做关联打成一张宽表写入对端显著减轻后续查询对于 SQL 优化器的要求。

宽表的种类和方式

这里的宽表种类指其数据来源表种类(常见但不全面)常见的我们分 事实表维度表,比如订单表被定义成事实表用户表被定义成维度表商品表被定义成维度表。

一般事实表和维度表数据具备类似 n:1 的关系也就是 1 个用户会有 n 个订单 (1个订单属于1个用户)1 个商品也会存在 n 个订单 (1个订单会关联 1 个或有限个数商品)。

打宽表的方式有多种根据场景最常见的包含以下两种

  • 多事实表 打宽表
    • 一般场景是在有限的时间内关联的变更在这些表上发生多流join打宽表工具只要在一定的时间范围内等到这些数据window即可打成宽表数据。
  • 单事实表和多维度表打宽表
    • 一般场景是事实表变更但是维度表没有任何变化这时打宽表工具需要通过事实表变更数据反查维度表数据打成宽表。

CloudCanal 目前打宽表的方式主要通过反查实现对于多流 join , 实际上也可以通过反查实现只是可能缺乏数据一致性。

举个 ‘栗’ 子

前置条件:

  • CloudCanal 社区版部署,参见 社区版安装文档
  • 准备好 MySQL 数据库本例使用 5.7 版本和 ElasticSearch 数据库本例使用 6.x 版本
  • MySQL 上创建 1 张事实表(order)和 2 张维表 (user 、product)
  • ElasticSearch 上创建 1 个索引 order , 并额外包含两张维表相关数据
    • user_id (关联user.id), user_name(对应user.name)
    • product_id(关联product.id) ,product_name(对应product.name),product_price (对应product.price)

开发宽表代码

打包

  • 进入工程目录使用命令进行打包

    % pwd
    /Users/zylicfc/source/product/cloudcanal/cloudcanal-data-process
    % mvn -Dtest -DfailIfNoTests=false -Dmaven.javadoc.skip=true -Dmaven.compile.fork=true clean package
    

自定义代码包

  • 打包命令后代码包位于工程目录下的 wide-table/target 目录
    截屏2021-12-10 下午12.30.39.png

添加数据源

  • 登录 CloudCanal 平台
  • 数据源管理->新增数据源
  • MySQLElasticSearch 分别添加
    数据源.png

任务创建

  • 任务管理->任务创建
  • 选择 目标 数据源
  • 选择 数据同步并勾选 全量数据初始化, 其他选项默认
  • 选择需要迁移同步的表, 此处只要选择事实表即可维表会通过自定义代码反查补充
    截屏2021-12-10 下午12.35.53.png
  • 选择列,默认全选%(#ea1f1f)[选择上传代码包(路径如上所示)]
    截屏2021-12-10 下午12.37.18.png
  • 确认创建,并自动运行
    截屏2021-12-10 下午12.38.33.png

校验数据

  • 变更事实表数据
    截屏2021-12-10 下午12.40.05.png
    截屏2021-12-10 下午12.40.30.png
  • 变更维表数据
    截屏2021-12-10 下午12.41.19.png
    截屏2021-12-10 下午12.41.41.png

数据变化规律

  • 事实表插入更新都会反查维表最新数据并写入对端
  • 维表更新基础模式中需要触发事实表更新才能带上最新的维表变更数据写入对端
  • 维表数据删除基础模式中如果触发事实表更新默认将会把对应的维表数据已删除置为null, 但是根据对端数据源不同效果可能会有所差别比如不会置空

FAQ

维表变化后怎么办

目前我们提供的基础模式维表变化不会直接触发事实表更新因为这个基本上意味着大规模对端数据变更可能影响对端数据服务稳定性。所以源端触发事实表更新比如变更一个时间字段带上最新的维表数据进行对端数据刷新。

另外对于维表数据的删除如果触发事实表更新从而刷新对端数据则默认置为null。

不会开发 java 代码怎么办

如果能打包不会 java 开发在 cloudcanal-data-process 寻找相应模版修改配置即可。

如果不能打包也不会开发找 CloudCanal 同学协助。

如果遇到出错或者问题怎么办

如果会 java 开发建议打开任务的 printCustomCodeDebugLog 观察输出的数据是否符合预期如果不符合预期可以打开任务的 debugMode 参数对数据转换逻辑进行调试。

如果不会 java 开发, 找 CloudCanal 同学协助。

还支持其他数据源么

这个是 CloudCanal 通用能力只要源和目标之间实现了全量迁移和增量同步即支持。

总结

本文简单介绍了如何使用 CloudCanal 进行 MySQL -> ElasticSearch 的宽表构建以最常见的单事实表多维表方式举例。各位小伙伴如果觉得还不错请点赞、评论加转发吧。

点击查看更多内容
0人点赞

若觉得本文不错,就分享一下吧!

评论

作者其他优质文章

正在加载中
手记
粉丝
6
获赞与收藏
31

关注TA,一起探索更多经验知识

同主题相似文章浏览排行榜

风间影月说签约讲师

50篇手记,涉及Java、MySQL、Redis、Spring等方向

进入讨论

Tony Bai 说签约讲师

142篇手记,涉及Go、C、Java、Python等方向

进入讨论
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦
意见反馈 帮助中心 APP下载
官方微信

举报

0/150
提交
取消