查看原文
其他

率先迈入“10微秒”时代,腾讯云存储跑出加速度

科技云报道 科技云报到 2023-08-09

海量数据时代,大容量、低成本、易扩容的云存储无疑是大势所趋。

在全球市场,以AWS、Azure等为代表的云计算厂商,正在超越传统企业级存储厂商,成为全球企业存储市场数一数二的企业存储供应商。

这一事实让人们惊讶地发现,原来云存储成为企业级市场事实标准的时代真的来临了。
 
云存储作为一项新兴技术,在过去很长一段时间内,难免被拿来与传统存储进行对比。经过十几年的技术演进和市场发展,云存储不仅在成本上吊打传统存储,如今在传统存储引以为豪的性能方面也实现了超越,而这种技术性的突破率先来自腾讯云。

近日,在腾讯云存储产品战略发布会上,腾讯云一口气抛出了三个业界“第一”的云存储新品:首个10微秒级极速型云硬盘、首款突破百GB吞吐的文件存储、首个能够10倍提升数据湖存储分析性能的对象存储三级加速器,直接将云存储的性能标杆拉到了行业新高度。

腾讯云是如何做到的?


率先迈入“10微秒”时代
腾讯云存储有多快
 
先来看看此次腾讯云发布的存储新品,在企业级存储市场是什么水平?
 
在块存储产品上,腾讯云极速型云硬盘新品,时延仅有40微秒,是行业首款实现10微秒级时延的云硬盘产品。

在此之前,一般企业级云硬盘延迟在120微秒左右,而本地SSD延迟平均约为80微秒。
 
同时,在对时延很敏感的数据库场景下,相对当前生产环境中时延最优的本地NVMe SSD硬盘性能,腾讯云极速型云硬盘能提升1.3倍。
 
除了超越本地SSD,腾讯云还推出了解决传统环境存储上云适配问题的吞吐型云硬盘,吞吐性能达到250MB/s,用户无需更改配置即可无缝复制数据上云,其性能和成本足以替代HDD。
 

在文件存储产品上,腾讯云最新一代文件存储Turbo系列,在行业首次实现了百GB级吞吐,而之前行业最高水平约为几十GB吞吐。

Turbo可支撑数万台主机同时并发,将高性能业务读写效率提升10倍,千万级IOPS和微秒级的时延也达到了业内最高水平。
 
这种单进程场景下的高吞吐和低延时能力,能够很好地支撑海量数据的高速运算、高频交互,因此腾讯云文件存储Turbo特别适用于高性能计算、大数据分析、AI训练与推理等场景。

同时,Turbo还具备扩容的能力,可以满足未来云上几乎所有使用文件存储的业务对带宽的需求。


 
在对象存储产品上,腾讯云创新推出了业界首个对象存储三级加速器,包括:数据湖加速器 GooseFS、元数据加速器、AZ 加速器等产品能力等在内的一站式数据加速解决方案,加速湖存储数据流转。
 
其中,数据湖加速器GooseFS可以提升10倍的数据IO性能,元数据加速器能够为大数据业务提供高达10W QPS的元数据操作能力,AZ加速器可以为大数据业务提供Tb级别的带宽和毫秒级的延迟。
 
腾讯云对象存储加速器的推出,能够很好地应对数据湖在大规模使用场景中对时延、吞吐性能、带宽等方面的挑战,优化后的存储速度远超主流的HDFS方案。
 

可以看到,在块、文件和对象三大核心存储产品上,腾讯云做到了存储性能的一骑绝尘。

这意味着企业用户不再需要被迫妥协将存储留在自己的数据中心内,而是可以放心地将高性能的云存储产品作为其IO密集型、时延敏感型应用的首选。

这对于如今互联网业务快速扩张、数据量呈爆发式增长的企业而言,无疑是划时代的福音。

十年蓄力
 腾讯云释放存储势能
 
俗话说“罗马不是一天建成的”,腾讯云之所以能够领跑云存储市场,与深厚的内功密不可分。
 
十年来,腾讯的存储技术默默支撑了一个个“国民级”应用,如:QQ、QQ相册、QQ空间、邮件、微云、微信等内部业务走向繁荣。
 
2005年,腾讯QQ用户正式突破1000万,开启了腾讯业务的海量时代,腾讯云存储规模首次突破一个EB。
 
2006年,腾讯迎来了第一个巨大体量业务QQ空间,所有QQ用户的相册图片都存放在腾讯云存储里。以此为契机,腾讯支撑起了QQ相册、QQ空间、邮件、微云等一系列产品的海量存储需求。
 
2011年,微信上线。2014年的除夕夜,微信红包摇一摇总次数达到110亿次,峰值1400万次/秒,朋友圈图片分享量暴增。

腾讯存储技术团队对大型缓存系统、延时通知等技术进行改进,攻克了海量数据存储调用等突发问题。
 
2019年,腾讯云自研的对象存储专用引擎yotta上线,实现了超过百EB级别的存储集群控制。

作为底层存储引擎,yotta让腾讯云存储的整体能力得到了很大的提升,更成为腾讯云很多招牌产品的底座。
 
如今,微信用户量已高达10亿级,微信“看一看”、“微信广告”、“微信支付”、“小程序”等业务,日常对数据库读写的需求早已超过10亿级,其背后正是腾讯云强悍的存储系统在支撑。
 
经过十年蓄力,腾讯云整体存储规模已经超过了十个EB,文件数目超过了20万亿,服务的客户数超过了180万。

对于腾讯来说,无论是在十年前的消费互联网时代,还是十年后的产业互联网时代,存储已经成为几乎所有业务开展的基础。
 
尽管腾讯云存储已历经了数十亿用户访问高并发、规模海量、业务多样化的考验,但不同的时代对云存储的诉求仍会有所不同。

随着企业用户对存储性能和成本的要求越来越高,腾讯云开始构思面向下一代的存储系统,成为其不断推陈出新的源动力,例如此次发布的“对象存储三级加速器”就是腾讯云挑战自我的创新之举。
 
在数据爆炸的时代,如何低成本存储数据,如何以高性能存储获取业务价值,是所有企业面临的主要挑战。

由于对象存储价格便宜、扩容方便、计费灵活,已经成为各种业务作为异构存储默认的选项,数据湖的概念也越来越多地被一些企业和开发者所接受。
 
不同于传统数据湖只强调数据湖的存储以及解耦数据的高效处理方式,腾讯云推出的“对象存储三级加速器”是一套“存储+数据湖生态”方案,除了作为基础存储服务外,还提供数据湖加速,以便让数据更快的流入计算引擎。

腾讯云副总裁 刘颖
 
但值得注意的是,要实现数据湖加速并不容易,据腾讯云副总裁刘颖介绍,技术上主要面临三大挑战:
 
一是,计算和存储分离以后,带来了延迟的增高,特别是在大数据计算的场景下;
 
二是,由于对象存储的扁平化结果,对于文件的支持类型不够丰富,在模拟HDFS文件目录以及目录操作上会产生性能损耗;
 
三是,计算和存储分离是为了更快地处理更多数据,但往往需要特别大的带宽,而对象存储多AZ的部署方式,导致AZ之间的带宽穿梭对网络造成了很大的挑战。
 
为了解决上述问题,腾讯云“对象存储三级加速器”有针对性地推出了三款加速器:
 
  • 数据湖加速器GooseFS分别在计算端,AZ端、存储端提供加速能力;


  • AZ元加速器主要针对元数据操作的加速,以解决对象存储模拟文件系统的损耗;


  • AZ加速器在各个AZ部署高速缓存集群,为数据应用访问COS对象存储提供Tb级别带宽资源和毫秒级的时延性能。

 
三级加速器,如同在数据应用和存储系统之间建立了高速公路,将数据从COS对象存储移动到距离数据应用更近的位置,使得数据的访问速度有了数量级的提升。
 
在实际使用中,由于三级加速器打通了腾讯云产品,串联起了云上的各类服务,因此企业用户能通过这种一体化的方案,快速简单地实现数据入湖、出湖及湖上处理。

不止于快
 腾讯云的存储野心
 
此次腾讯云存储新品“三箭齐发”,给业界最大的感受莫过于“快”。但腾讯云的野心并不止于此。
 
正如腾讯云副总裁刘颖所说:“追求一个‘快’字,是为了让用户感知到极致的性能,但这只是数据存储的一方面,怎么能够把数据用好,给用户带来价值和效率的提升,是我们始终追求的目标”。
 
刘颖表示,腾讯云存储未来将聚焦无缝上云、智能化、场景化三个方向持续进化。
 
第一,从公有云场景拓展至私有云、混合云、云原生等场景,以更丰富的存储产品形态和工具帮助用户无缝迁移上云;
 
第二,提供更智能化的存储服务方式,降低用户的使用成本和运维成本,如通过智能分层帮助用户实现冷热数据的动态切换从而降低成本,以及根据数据访问场景智能匹配负载让用户无需关注性能指标等;
 
第三,从数据价值维度提供更场景化的方案,例如:在自动驾驶、音视频、基因测序、大数据日志等多样化的场景下,让用户在存好数据的基础上更好地用好数据。
 
不难发现,“快”只是腾讯云存储的外在标签,其内核仍着眼于为用户带来实际的业务价值提升。这也是为什么此次腾讯云同步发布“三维生态战略”的原因。

 
所谓“三维生态”,指的是围绕技术、开源、商业三大维度,持续深耕云存储生态发展,携手合作伙伴打造更高可靠、更高性能的云存储服务,其目标在于“通过生态协同的思路,帮助用户激活数据成就商业价值,为生态伙伴合作分享商业共赢,为各行各业数字化转型加速”,具体而言:
 
  • 在技术生态方面,腾讯云将充分协同存储技术合作伙伴,构筑技术底座。比如腾讯云联合Intel打造极速型云盘方案,在时延、IOPS等关键指标上实现行业第一。


  • 在开源生态层面,腾讯云将积极连接开源应用,促进开放协同,为用户提供基于开源理念的开放型数据存储方案。


  • 在商业生态层面,腾讯云将联合国内外最优秀的合作伙伴,打造面向业务系统优化设计的一体化联合方案。

 
目前,腾讯云与IBM共同打造了面向数据湖、自动驾驶、机器学习、基因计算等高性能计算业务系统,提供一体化高性能并行存储方案;

面向在线协同办公业务系统,腾讯云联合金山办公打造在线实时文档预览方案;面向数据备份恢复业务系统,腾讯云联合鼎甲打造一体化混合云备份方案。
 
这种广交“朋友圈”的开放态度,不仅让腾讯云和合作伙伴实现了商业价值的“双赢”,更实现了企业客户买单的“三赢”。
 
在腾讯云存储产品战略发布会上,上海电气系统与网络副主任黄海表示,在上海电气风电集团(以下简称“电气风电”)数字化转型的过程中,对于风力发电仿真计算产生的极大量数据,存储始终是绕不过的一个瓶颈点,而传统的基于IDC机房自建设备,已无法满足电气风电在成本和运算效率上的双重要求。
 
基于腾讯云新一代文件存储产品Turbo系列,电气风电的风力发电仿真计算系统实现热数据全共享,避免多次拷贝,计算速度相比以往提升2倍的同时,TCO(总拥有成本)也降低了40%,很好地应对了电气风电高效应对风力发电场景的业务挑战。
 
“我们使用腾讯云主要的出发点还是以提高经济效益为主,在接入腾讯云之后,可以说我们的计算有了一个质的提升,这是我们数字化转型中最大的一个亮点”,黄海表示。

上海电气系统与网络副主任 黄海
 
与之类似的客户案例不胜枚举。秦渲云业务总监杜鹏表示,渲染业务云化发展是大势所趋,而其中能够满足海量并发、超大吞吐及极低延时的高性能存储不可或缺。

基于腾讯云新一代文件存储Turbo系列,秦渲云在渲染场景下渲染效率提升30%,运维管理效率提升50%,TCO降低80%,实现了以更低的成本和更高的效率为用户提供优质的云渲染服务。
 
虎牙基础保障部总经理毛茂德认为,基于腾讯云存储,虎牙构建了更加先进的直播、大数据以及AI训练业务,多项业务取得突破性的转变,能力跻身行业前列,为虎牙全球在线直播业务提供了坚实支撑。

结语
 
在过去的几年里,5G、在线教育、自动驾驶、视频直播等场景带来的数据爆发增长,凸显着更高的数据价值,如何利用好不断增长的数据是企业始终要面临的挑战。

云存储作为数据存储和高效利用的核心基础平台,稳定可靠、高性能、低成本将成为其必须具备的基础能力。
 
正如腾讯云副总裁刘颖所说:“安全可靠、性能、成本仍然会是存储产品的基石,这也将是腾讯云存储始终精进的技术方向。

”腾讯云存储十年蓄力,不断发展创新,才在今天交出了这份振奋人心的答卷。
 
在未来,腾讯云存储也必将“不止于快”,而是基于自身对于应用场景的深入理解,构建更丰富的存储生态,持续为企业客户赋能。
 
冲击下一个里程碑,腾讯云存储已在路上。



 相关阅读


传统架构发生深刻变化,分布式云存储将成为新一代基础设施

QingStor分布式存储,或成为青云科技上市后的新增长引擎

云服务时代,专业存储厂商该何去何从?

破解AI时代的大数据处理困境 ReRAM将引领下一代存储技术?

七年韬光养晦,深信服存储终被英特尔“加精选”


【科技云报道原创】

转载请注明“科技云报道”并附本文链接


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存