查看原文
其他

民生银行拥抱 openGauss,MogDB 配套工具MTK支撑多源异构数据库平滑迁移

成就客户的 云和恩墨
2024-11-11

伴随着国内数字化建设与转型的高速发展,数据规模与体量逐年激增,加之开源、云部署成为重要趋势,越来越多的组织开始考虑对现有传统数据库进行替换,以应对新的、更复杂的业务需求。

数据库的替换必然带来海量数据搬迁以及大量的数据处理程序迁移改造工作。如何进行平滑无缝的迁移并确保业务的连续和数据的一致,成为企业在数据库替换选型时不得不考量的重要因素


民生银行拥抱 openGauss

作为中国大陆第一家由民间资本设立的全国性商业银行,民生银行一直坚守“为民而生,与民共生”的初心和使命,致力于为客户提供专业特色的现代金融服务,为中国银行业探索现代商业银行建设之路。

众所周知,用户的财务状况、交易记录等多种数据信息是银行的“生命线”,保证其安全是重中之重。同时,随着业务向多样化、复杂化、互联网化不断发展,民生银行原来部署的集中式传统商业数据库难以承载突然爆发的峰值压力,无法应对混合负载等挑战,且成本高、扩容难,依赖资源堆砌来保证业务连续稳定的方法已不可持续。为保障数据安全,并实现降本增效、应对业务新挑战的目标,民生银行对候选产品进行了严苛的测试与评估,最终选择性能优秀的 openGauss 进行关键业务场景数据库替换改造工作

数据库迁移关键词:兼容、稳定、连续

在确定 openGauss 作为替换原有数据库的产品后,摆在民生银行面前的一个难题是如何高效实现异构数据库之间的数据库对象和全量数据的完整迁移。民生银行2021年年报显示,公司仅零售客户数(指客户状态正常的个人客户〔含I、II、III类账户〕、纯信用卡客户、小微企业法人客户)就达到了11,013.78万户,比上年末增长5.41%,再加上其他类型客户,银行的业务数据总量可想而知。如果纯靠手工进行迁移,工程量巨大,势必对公司正常业务的开展产生影响。因此,客户需要成熟的迁移工具来提升异构数据库迁移效率。

民生银行主要是将数据从 Oracle、MySQL、DB2 等数据库向 openGauss 迁移。客户要求迁移工具能够很好地适配不同类型数据库,并且融入 openGauss 生态。据了解,各系统需要迁移的数据量从几十GB到几十TB不等,迁移完成后,所有数据必须完整准确,保证可用性。另外,为更好地向银行客户提供服务,迁移过程需要保障系统的稳定性和业务的连续性。

当然,民生银行也遇到了一些数据库迁移的普遍难题,比如SQL语法转换。在迁移的过程中,SQL相关的数据库对象,比如表、存储、函数等都可能出现不兼容的情况,迁移工具必须做到准确识别不兼容SQL。

MTK为 openGauss 平滑替换保驾护航

事实上,为了让数据库替换走得又稳又远,民生银行采用稳妥的三方合作模式进行系统建设。银行负责数据库产品测试、应用改造和上线运维;openGauss 社区主要承担数据库核心功能开发和生态建设等任务;云和恩墨作为第三方厂商,负责产品缺陷修复、技术支持和周边工具开发,MTK便是其中之一MTK是云和恩墨数据库 MogDB 配套的数据库迁移工具(Database Migration Toolkit)。由于 MogDB 是基于 openGauss 内核打造的企业级关系型数据库商业发行版,所以在以 openGauss 为目标库的迁移任务上,MTK在适配兼容等方面具有天然优势。另外,MTK支持源库为 Oracle、DB2、MySQL 的数据库迁移,可以说完美地匹配了民生银行的迁移需求,成为推动客户数据库替换的有力工具。MTK 在民生银行系统部署完成后,仅执行六条命令就可以完成迁移任务,具体是:

1. 配置文件检查:./mtk -c config.json config-check,查看文件是否有语法错误。

2. 迁移前测试:./mtk -c config.json --preRun,提前查看迁移过程中可能出现的问题,预估完成整个迁移任务的时间,以便协调好暂停业务的时间窗口。

接下来,民生银行根据自身业务需求进行分步迁移,实现在迁移过程中准确定位问题,降低迁移任务对系统的影响。

3. 表结构:./mtk -c config.json mig-tab-pre

4. 数据迁移:./mtk -c config.json mig-tab-data

5. 索引/约束对象迁移:./mtk -c config.json mig-tab-post

6. 存储过程/函数迁移:./mtk -c config.json mig-tab-other

针对数据库迁移中的SQL语法转换难题,MTK内嵌了多个SQL规则,已经实现大部分的语法转换。另外,为方便用户直观地了解迁移状态以及迁移遇到的问题,MTK参数配置reportFile后会生成HTML报告,内容详实,展示迁移过程中每一步的SQL语句,用户可以直接查看问题SQL并进行修改。

MTK将数据从 Oracle、DB2 等数据库向 openGauss 迁移的工作得到了民生银行的认可。在整个迁移过程中,MTK表现稳定,保持了每小时1TB的迁移速度,保证了数据一致性和业务平稳运行截至2022年底,云和恩墨已经为民生银行完成100套异构数据库向 openGauss 迁移的任务

于细微处见功夫,于极致处求精益。数据是业务系统的重中之重,保证数据零丢失、数据即时读取及数据安全是数据库迁移过程中的关键点。事实上,除了MTK以外,云和恩墨的 Migrate to openGauss / MogDB 解决方案还包括异构数据库迁移前的SQL兼容性评估工具SCA、数据一致性校验工具MVD,以及异构数据同步工具MDB。通过 MogDB 数据库及其配套迁移解决方案的持续创新,云和恩墨将继续推进民生银行数据库替换工作的顺利进行。

活动推荐

由中国DBA联盟(ACDU)和墨天轮社区联合主办的第十二届『数据技术嘉年华』(DTC 2023) 将于4月7-8日在北京新云南皇冠假日酒店盛大召开。大会汇聚众多优秀厂商、先进技术、卓越产品和优秀案例,来自数据领域的领军人物、学术精英、技术专家、行业实践者、生态布道者将带来超过60场主题演讲。民生银行数据库专家也将在本届大会上做精彩分享,在大会官网(点击文末左下角“阅读原文”即可跳转)购票时使用讲师亲友团专属优惠码抵扣即可0元购票(数量有限,请尽快报名)。我们期待与您在大会现场相会!


侯禹

中国民生银行数据库专家

会场丨信创应用:数据库迁移实践题目丨民生银行信创工具体系建设专属优惠码丨HOUYU


孔再华

中国民生银行资深数据库专家

会场丨金融科技:金融行业实践题目丨openGauss在民生银行的应用实践专属优惠码丨KONGZH

数据驱动,成就未来,云和恩墨,不负所托!


云和恩墨创立于2011年,以“数据驱动,成就未来”为使命,是智能的数据技术提供商。我们致力于将数据技术带给每个行业、每个组织、每个人,构建数据驱动的智能未来。

云和恩墨在数据承载(分布式存储、数据持续保护)、管理(数据库软件、数据库云管平台、数据技术服务)、加工(应用开发质量管控、数据模型管控、数字化转型咨询)和应用(数据服务化管理平台、数据智能、隐私计算数据联邦平台)等领域为各个组织提供可信赖的产品、服务和解决方案,围绕用户需求,持续为客户创造价值,激发数据潜能,为成就未来敏捷高效的数字世界而不懈努力。
继续滑动看下一个
云和恩墨
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存