京东金融数据库团队负责人 高新刚:京东金融数据库多场景架构实践

flagunlock

2017/11/14 发布于 技术 分类

京东金融数据库团队已组建4年,经过大家的共同努力,我们已经建立完善的数据库运维体系,从适用不同业务类型和访问级别的DB架构解决方案,到规范的数据库运维操作流程,再到自动化智能化的DB运维平台,都讲述着我们京东金融数据库团队的发展历程。本次分享将围绕着数据库以及它上下游不同层面的数据架构来为大家介绍多场景架构应用实践。

文字内容
1. 京东金融数据S库AC多C2场01景7 架构实践 高新刚
2. • 高新刚 招聘 • 京东金融数据库团队负责人 •SwAyCgCao2x0in1g7ang@jd.com • 自动化运维平台、云平台 • 高级MySQL DBA
3. MAIN CONTENTS 1 发展历程回顾 2 3 S数A据多CC库场2资景01源架7 管构控 4 多场景架构的HA
4. 高可用、脚本化 分布式架构 自动化、大数据 20172014 SACC618 11.11 2014 2015 618 11.11 2015 2016 618 11.11 2016 2017 618 未来 部署、灾备、监控 平台化 迁移、升级、演练 智能化、产品化
5. MySQL运维 多场景 架构 SAC资C源2017 管控 自动化 运维
6. 多场景 架构 数据库架构 • MHA • CDS SACC2017 • HDB 数据治理架构 • R2M • DBRep • HCenter
7. MHA MHA Manager APP VIP DNS VSIPACC2017 VIP MASTER Semi Sync SLAVE
8. CDS 业务应用进程 CDS Driver(JDBC) 1-M 2-M 3-M 1-S 2-S 3-S DB集群 CDS Server SACC20M扩yD1容B 7 数据迁移 CDS Console CDS规则库
9. HDB LVS_1 LVS_2 SACC23300617 3307 3306 3307 3308 3308
10. R2M Web App1 App2 App3 主机A Agent redis1 redis1 redis1 Manager SACC2017主机B Agent redis2 主机C Agent redis3 redis2 redis3 redis2 redis3 Zookeeper client app1 读写redis 节点
11. DBRep MySQL Binlog DBRep-node DBRep-Console MySQL Hbase SDBAReCp-Cnod2e017 映射 转换 合并 业务应用 DBRep-consumer DBRep-Kafka
12. HCenter 业务应用 RDBMS JMQ Dbrep Hcenter-sqlparser SACC2017Hcenter-writer Hcenter-reader Hcenter-router Rowkey 二级索引 Hbase Hmaster Rs1 Rs2 … RsN Elasticsearch …
13. 多场景 架构 业务应用 JMQ R2M 直连 MHA CDS HDB SACC2017M M M 3306 M 12 3 3307 3308 DBRep ETL 数仓 HCenter 应用层 DB层 大数据层
14. 资源 管控 DB分级 SADCB孵C化2017 有效回收
15. DB分级 20% 22% 可用性 P0 P1 P2 P3 全局支付 部分支付 SACC201730% P0 一致性 P1 P0 P2 业务资损 P1 业务风险 28% P3 业务等级 P0 P1 用户体验 P2 数据订正 P2 无影响 P3 无影响 P3 核心支付 关键业务 一般业务 次要业务
16. DB分级 京东钱包 证券 风控 支付SACC金融2ap0p17 白条 保险 基金 渠道 清结算 小金库
17. DB孵化 服务器类型 评估项 大表每天的数据量-大字段类型请特殊标 记 注:如有多个大表请分别给出 大表的平均行长 评估单位 条 K 数据库: 读写比率 □MySQL □MongoDB 从库是否提供服务 业务类型 预估每月数据增长量 □SQLserve 上线1月左右数据量 几:几 SACC2017是/否 OLTP/OLAP % M r 上线1月左右预计每秒并发数 (程序连接 数) 个 □Oracle 上线1月左右预计QPS 数) (每秒SQL执行 个 上线300天后预计数据量 M 上线300天后预计每秒并发数(程序连接 数) 个 上线300天后预计QPS (每秒SQL执行数) 个 评估内容 说明
18. DB孵化 数据 容量 CDS 单机 容量 上限 M HA HDB 单机IO 压力 SACC2017 59 实例评分 IO压力 扩容迁移
19. 有效回收 业务下线 使用周期 SACC2017 回收入池
20. 数据库 Region1 HA Region2 机房 A 机房 B SLAVE1 MASTER Semi Sync Semi SACC2017Sync Delay Repl 机房 C SLAVE2 SLAVE3
21. 数据库 HA 同机房 切换 SACC单跨2实机0例房17 机房整体 切换
22. HA切换流程 检测主库宕机 从库变主库 秒级监控 哨兵机探测 触发切换 SACC2017选举candidate 差异补偿 建立主从拓扑 vip漂移 (解绑vip) 绑定vip
23. MHA VS WYHA WYHA MHA VS SACC2017Python 主从切换逻辑相同 DB运维平台集中管理vip绑定 数据库运维平台管理元数据 Perl 主从切换逻辑相同 MHA Manager单机房集中管理 Manager配置文件指定 管理系统的server与client交互 SSH互信认证 元数据变更API+并发切换+auto auto
25. LVS + WYHA + OSPF MySQL 汇聚交换机 Quagga:开源路由软件 SACC2017接入交换机 O SPF LVS VIP1:3306 RIP1:3306 VIP2:3306 RIP1:3307 VIP3:3306 RIP1:3308 LVS
26. LVS + WYHA + OSPF + BGP BGP AS机房ACC2017 O SPF MySQL LVS MySQL B机房 O SPF LVS
27. 数据库 HA 同机房切换 单实例跨机房切换 机房整体切换 1 WYHA: 解决主从数据一致 解决主从角色互换 WYHA + LVS + OSPF: SACC2017 解决HDB单机多实例端口转发 2 解决跨机房地址转发 LVS双节点负载均衡 解决脑裂、主从读写分离和负载均衡 LVS + WYHA + OSPF + BGP: 机房整体容灾切换 机房双活 3 LVS容灾 云平台RDS
28. THANK YOU SACC2017