当前位置:网站首页>maxwell 概念
maxwell 概念
2022-08-11 05:35:00 【吃再多糖也不长胖】
maxwell 概念
maxwell 定义
maxwell 是用java编写的实时抓取MYSQL软件,实时读取MYSQL 二进制日志Binlog并生成JSON格式,用作生产者发送给Kafka、Redis等应用。
Maxwell原理
将自己伪装成MYSQL的一个salve,然后以salve的身份从master 复制数据。
Mysql 主从复制过程
master主库改变记录,写到二进制日志binary log 文件。
salve 从库I/O线程向mysql master 发送dump协议,将master主库的binary log events 拷贝到从库的中继日志relay log
salve 有个sql thread 会读取中继日志,顺序执行该日志中的sql事件,从而与主库保持一致。
binary log分类
binary log 有三种格式:statement,row,mixed
statement
语句级别,binlog每次记录执写操作的语句,比较节约空间,但是可能产生的结果不一样,例如update test set create_date=now().如果用binlog回复日志的话, 这也执行时间不同,产生的数据就不同。
row
行级别,binlog记录每次操作后的每行记录的变化,优点:保持数据的一致性,因为不管执行了什么操作,都只是记录执行后的效果。缺点:占用较大空间
mixed
混合级别,statement 升级版,默认还是statement,但是当函数包含UUID()时;包含AUTO_INCREMENT字段的表被更新时;执行INSERT DELAYED语句时;用UDF时;会按照ROW 的方式进行处理。优点:节约空间的同时还兼顾了一定的一致性。缺点:还存在个别情况会造成不一致。
maxwell 选择的binlog格式
maxwell要做监控分析,选择row格式比较适合,强一致性。
maxwell和canal对比
语言: 都是java编写
数据格式:canal格式自由,maxwell只能发送json消息
数据采集模式:canal只支持增量采集,maxwell支持全量和增量
数据落地:canal要定制才行,maxwell支持kafka等多种平台
ha:都支持
边栏推荐
- HCIP MGRE\OSPF Comprehensive Experiment
- Memory debugging tools Electric Fence
- HCIP-Spanning Tree (802.1D, Standard Spanning Tree/802.1W: RSTP Rapid Spanning Tree/802.1S: MST Multiple Spanning Tree)
- HCIP--交换基础
- arcgis填坑_2
- windows10安全中心显示“修正未完成”
- HCIP BGP built adjacent experiment
- HCIP OSPF/MGRE综合实验
- HCIP-生成树(802.1D ,标准生成树/802.1W : RSTP 快速生成树/802.1S : MST 多生成树)
- Solve win10 installed portal v13 / v15 asked repeatedly to restart problem.
猜你喜欢
随机推荐
How Xshell connects to a virtual machine
Top20括号匹配
OA项目之待开会议&历史会议&所有会议
vi display line number in buildroot embedded file system
矩阵分析——Jordan标准形
pytorch调整模型学习率
什么是Inductive learning和Transductive learning
China Mobile Communications Group Co., Ltd.: Business Power of Attorney
抖音关键词搜索商品-API工具
HCIP 重发布/路由策略实验
Xshell如何连接虚拟机
MySQL导入导出&视图&索引&执行计划
OA项目之会议通知(查询&是否参会&反馈详情)
ovnif摄像头修改ip
HCIP MGRE\OSPF Comprehensive Experiment
iptables的状态
HCIP WPN实验
抖音分享口令url API工具
LabelEncoder和LabelBinarizer的区别
HCIA knowledge review