查看原文
其他

易仓科技资深DBA程涵:阿里云数据库助力易仓跨境SaaS降本增效

阿里云用户组 云布道师 2023-06-18

云布道师

2023 年 2 月 24 日,阿里云用户组(AUG)第 17 期活动在深圳举办。活动现场,客户代表易仓科技的资深 DBA 程涵分享了新场景下的基础安全能力升级。本文根据其演讲内容整理而成。
非常高兴有这样一个机会跟大家分享交流易仓跨境 SaaS 降本增效的实践。
易仓科技是一个跨境行业全生态链路的软件服务供应商。成立于 2013 年,主要精研跨境电商 ERP、国际物流 TMS、海外仓 WMS 和跨境分销 M2B 等管理系统,业务覆盖跨境电商产业上下游,已经囊括了 300+ 工厂、100000+ 卖家、1500 家仓储物流企业资源,最终实现了行业关键节点数据和资源的互联协同,助力行业产业互联的降本增效。
我此次分享主要从现状与挑战、选型和演进、实践落地 3 大 Part 来讲解易仓的降本增效之路。

ECCANG 租户分等级模式

讲之前,先简单介绍一下易仓数据库租户分级模式和数据架构。
租户分级有二大模式,一种是独享资源模式,主要服务我们腰部及以上客户;一种是共享资源模式,主要应用于尾部客户。共享模式又分为应用共享、数据共享和全共享3种模式。

ECCANG 数据库架构

 数据架构包括数据库架构和数仓架构

数据库架构采用的是 PolarDB 多主、RDS 高可用和自建 MYSQL 主备架构为主,   ClickHouse 以及 MongoDB 分片集群等为辅的基础架构。
数仓架构采用的是阿里云 DTS+Kafka+Flink+Hologress+DataWorks+MaxCompute 方案。

现状与挑战

目前遇到的主要现状与挑战有如下 4 点:
  • 单租户成本高:独享资源模式下各租户计算资源与存储资源叠加浪费,导致资源碎片率较高;
  • 查询性能慢:共享资源模式下出现资源抢占痛点,数据量越来越大后 AP 需求出现瓶颈;
  • 运维复杂:海量库表,常规运维复杂。租户版本升级、打散、合并迁移与重组等工作繁琐;
  • 数据集成困难:租户分布全球各大区域,维护困难。为了更大的业务价值,租户数据集成延迟性要求极高。

选型和演进

 数据库方面:

阶段一:自建MYSQL --> RDS MYSQL --> TIDB
阶段二:TIDB --> PolarDB+ClickHouse
阶段三:PolarDB+ClickHouse--> PolarDB+IMCI
阶段四:PolarDB+IMCI --> PolarDB 多主+IMCI+ServerLess

 数仓方面:

阶段一:PolarDB --> Sqoop+Canal -->Kafka
阶段二:PolarDB --> DTS -->Kafka
自建 MySQL、RDS MySQL 或 PolarDB MySQL

实践落地

 HTAP 一体化

原方案采用的是通过 MaterializeMySQL 引擎将 MYSQL(自建 MySQL、RDS MySQL 或 PolarDB MySQL)数据同步到数据库 ClickHouse,用来解决多租户维度、复杂店铺商品统计分析。遇到的痛点主要有如下几点:
  • 稳定性差:DDL 支持不完善,数据同步中断频发
  • 实时性差:不支持行更新,冷热表定期合并去重
  • 性能瓶颈:店铺商品复杂多维统计分析性能不足
  • 管理复杂:需要维护两系统,学习和运维成本高
通过引入 PolarDB 一站式 HTAP 方案,大大提升了数据同步稳定性与实时性,相比原方案的改善有如下几点:
  • 简单易用:100% 兼容 MySQL,应用无侵入
  • 实时性好:数据延迟毫秒级,同步稳定可靠
  • 性能提升:相比 InnoDB 行存,性能百倍提升
  • 提效降本:相比 CK,成本降低 15%

 全球租户数据实时集成

原方案采用的是通过 Sqoop+Canal 将全球各大区域离线全量与实时增量数据同步到消息队列 Kafka,实现数据统一入仓。由于维护性、稳定性与实时性等各种问题需要重构数据集成平台,经调研评估后引入 DTS 同步任务实现秒级入仓。新方案优势如下:
  1. DTS 提供了完善的 API,可集成实现数据一键实时接入  
  2. DTS 全球开服,满足海内外各地域数据库实例接入
  3. 单个 DTS 实例支持 10 万级表同步,降低配置和资源成本
  4. DTS 支持规格弹性升降,满足不同负载,成本更低
  5. 统一维护与管理,降本增效 2 倍

 PolarDB 多主多租户架构

当租户越来越多时,不管是独享资源模式还是共享资源模式都会出现实例数量越来越多的情况,从而形成大量数据库实例孤岛,造成下游集成平台链路越来越多。通过引入 PolarDB 多主架构结合 ServerLess,将原本资源独立的孤岛实例合并,打造成一个资源相互独立、多主多租户、资源弹性横纵扩缩的大集群架构。新架构亮点如下:
  1. 减少资源碎片,资源成本降低 40%
  2. 秒级迁移租户,租户资源分配更加高效
  3. 多个主实例共享一份 binlog,下游数据集成同步链路成本下降 50%
  4. CPU 支持秒级扩核,资源利用率更高

总结

易仓跨境 SaaS 场景结合阿里云数据库新功能技术特点,真正助力易仓实现了降本增效,预估运维人效降低 70%,资源成本减低 60%。
/ 相关推荐 /

↓↓↓



你可能还想看

1. 阿里云资深技术专家闫卫斌:打造具备极致容灾能力的对象存储

2. 工作一年,我重新理解了《重构》

3. 阿里云弹性计算张献涛:计算巢,助力软件公司向软件服务公司转型

4. 在线教育≠在线观看:风变科技应用无影打造自动化实训教学模式

5. 洛神云网络集中式网关ACMG最佳实践

关注我们欢迎关注加星标✨ 精彩推送不错过

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存