大模型企业为啥都要上火山？这场发布会给出答案
大模型企业为什么会选择火山引擎？
来源：转载火山引擎
改编：随卞
4月18日，火山引擎在其举办的“原动力大会”上发布自研DPU等系列云产品，并推出新版机器学习平台：支持万卡级大模型训练、微秒级延迟网络，弹性计算可节省70%算力成本。基于自研DPU的GPU实例，相比上一代集群性能最高提升三倍以上。
火山引擎总裁谭待透露，“国内大模型领域的数十家企业，超过七成已经在火山引擎云上”。
大模型企业为什么会选择火山引擎？让我们看看这场发布会都释放了哪些信息。
在数字化世界里，快速开发、快速迭代是不变的关键。企业要做到这一点，坚定上云、用好分布式云、做好云上创新是三个关键步骤。
火山引擎总裁谭待表示，要坚定企业上云的决心，就要做好云的弹性与性价比。在这方面，火山引擎具备三大优势：
1.资源复用，复用字节跳动过亿核CPU资源池、数十EB的企业存储，实现更极致的弹性和性价比；
2.全面云原生化，基于云原生实现了超大规模存储池化，帮助客户进一步用好云的弹性，提升资源利用率；
3.坚持全栈自研，为上层应用带来更高资源利用率。
为助力企业坚定上云，火山引擎打造了全栈自研核心组件之一的火山引擎DPU，采取了从硬件到软件的全栈自主研发理念，并基于DPU实现了新一代RDMA网络，以及软硬一体的Hypervisor层，网络性能高达5000万pps转发能力、延迟低至20μs。
基于火山引擎DPU的各类计算实例性能也有显著提升，适用于大模型分布式并行训练场景的GPU实例，相较上一代实例集群性能最高提升3倍以上；新一代CPU实例，小规格实例性能最高提升6倍以上；同时，火山引擎全新发布的SPOT实例，相比按量付费实例价格最高节省80%，能有效降低企业云服务器使用成本。
如何帮助企业用好分布式云？当前，云计算发展百花齐放，但在中心侧多公共云、混合云、本地服务器共存的异构基础设施体系将长期存在，在边缘侧连接与计算将无处不在。
为应对多云、混合云、边缘云场景的分布式云原生管理的挑战，火山引擎发布了分布式云原生平台，提供多云集群统一管理与运维、应用跨集群分发、统一流量管控等能力，为用户打造无处不在的云原生一致体验；发布多云CDN管理平台，帮助客户用好CDN，提升CDN管理效率并降低支出成本；发布轻量级的全栈多云安全平台，提供SaaS化多云安全管理服务，解决客户多云环境下护网、合规、数据泄露等痛点场景；发布混合云veStack，具备高性能和敏捷性，并采用与火山引擎公有云完全同源的架构，可以实现资源灵活调度。
近期，多模态大模型的兴起、AI对不同垂直行业的推动、垂直领域的模型创新，都在推动企业进行云上智能创新。谭待表示，火山引擎全力支持大模型发展，不让任何创新因为算力不足而夭折。在多云多模型的时代服务好模型企业和应用企业，是火山引擎的关键使命。
因此，火山引擎发布智能推荐-高速训练引擎，将模型的训练推理效率进行极致优化，帮助企业实现降本增效，提高模型实时性，保障服务稳定性；升级机器学习平台，正式发布实验管理-模型效果对比和弹性实例，全力支持大模型，超大规模并行，让机器学习更稳更快。
在大会现场，三位嘉宾各自分享了多云多模型时代，大模型训练和应用的心得。
MiniMax是目前国内少数已经推出自研大模型产品的AI技术公司，拥有文本、视觉、声音三种通用大模型引擎能力。据MiniMax联合创始人杨斌介绍，MiniMax与火山引擎合作建立了超大规模实验平台，实现千卡级常态化训练；超大规模推理平台有万卡级算力池，支撑单日过亿次调用。在火山引擎的云上，MiniMax大模型业务实现快速突破。
“数字化时代，机器学习可以智能、高效地围绕目标解决问题。数字化的下一步是智能化，我们在机器学习方面的技术积累和经验，都会通过火山引擎提供给外部客户，帮助更多企业做好智能化”。
字节跳动副总裁杨震原表示，业务创新需要试错，试错要大胆、敏捷，但试错也一定要控制成本。通过潮汐、混部等方式，火山引擎实现资源的高利用率和极低成本。
毫末智行与火山引擎联合打造了中国自动驾驶行业最大智算中心MANA OASIS雪湖·绿洲，毫末智行4月发布的行业首个自动驾驶生成式大模型DriveGPT雪湖·海若，是由MANA OASIS雪湖·绿洲提供算力支持。毫末智行CEO顾维灏介绍，DriveGPT雪湖·绿洲基于量产车4000万公里的驾驶数据进行训练，参数规模达1200亿，可持续对自动驾驶认知决策模型进行持续优化，最终实现端到端自动驾驶。火山引擎携手毫末智行，共同冲刺自动驾驶3.0时代。
权威报告显示，到2025年全球数据总量将会达175ZB。但在海量的数据中，只有活的数据、用起来的数据才是有价值的数据。因此，火山引擎正式提出了数据飞轮体系。
谭待表示，数据飞轮的建设，一定要以数据消费为核心，通过数据消费驱动业务应用，建立数据应用的闭环；通过数据消费驱动数据建设，有的放矢的建立数据平台。围绕数据飞轮，火山引擎提供了一系列产品解决方案，在大会上也发布了三款产品。
数据平台层，火山引擎升级云原生湖仓产品LAS，提供Serverless全托管大数据分析服务，性能深度优化，提供行列权限以及动态数据脱敏、透明数据加密等安全能力；实时计算层面，发布Serverless版Flink计算服务，实现在离线业务混部，满足流批一体等多种计算模态；数据应用层面，发布管理驾驶舱Plus，0代码搭建管理驾驶舱系统，管理者可以实时观测战略目标达成情况并向下传递决策动作，多端覆盖，随时随地洞察数据，辅助决策。
金融行业一直重视对数据价值的深入挖掘。去年以来，平安银行提出了打造“智能化银行3.0”，持续推动转型进阶。平安银行行长特别助理蔡新发表示，平安银行与火山引擎围绕数据、算法、运营等多个领域已经进行了深入的合作，以实现智能化3.0的系统落地。通过火山引擎增长咨询服务，构建了基于北极星指标的数据指标体系；在数据治理方面沟通合作，明确了数据基建的工作方向；通过火山引擎个性化推荐平台和A/B测试平台，实现“人、货、场”的精准匹配，实现数据驱动决策，促进策略的持续迭代。
随着5G技术的不断推广，视频化体验的渗透率进一步加深，并成为企业优化用户体验中必不可少的组成部分。视频体验的优化有三个关键的方向：更高清、更互动、更沉浸。去年最大的视频盛宴莫过于世界杯，在抖音世界杯直播中，火山引擎支持了累计106亿人次的直播观看，决赛直播观看人数更是高达2.3亿。
更高清方面，火山引擎通过自研BVC编码器与智能编码方式，大幅提升直播画质；
更互动方面，火山引擎通过RTC开拓了边看边聊互动模式，通过SFU+MCU融合方案，同时兼顾好了用户规模和互动体验；
更沉浸方面，火山引擎支持了PICO的VR直播，基于全真超清显示技术，让观影清晰度提升50%。
在大会中，火山引擎带来6款音视频方向的新产品和相关升级。火山引擎云游戏产品，提供面向云游戏渲染、试玩和互动的一站式服务；创意互动Vlog，提供全新高精度拍摄和自动成片技术，同时支持一键分发到抖音；升级AR互动营销方案，优化AR try-on和AR互动能力，打通抖音广告和电商，帮助企业更好开展整合营销；WTN（WebRTC传输网络），帮助客户实现高清、实时的线上互动体验；升级数字人产品，增加支持十多种“外语”，十多种方言，5-10分钟视频即可生成趋近于真人的数字分身；音视频云端一体解决方案veVOS，在功能和体验层面进行全面升级，周级别即可完成应用上线。
视频场景外，工作场景下的员工体验也非常重要。当下，混合办公成为了企业办公新常态，而字节跳动拥有大规模混合办公的实践经验。面对混合办公场景，火山引擎推出全面升级后的飞连产品，为企业提供一站式IT管理与办公安全平台，包含身份、网络、终端的一站式管理，让员工随时随地安全接入办公网络。云、网、端融合，帮助企业构建安全无缝的统一办公网整合全套办公安全能力，解决混合办公中的安全隐患。
增长三要素源于字节跳动的技术沉淀，通过火山引擎开放给外部企业，帮助更多企业获得增长，共同构建增长新生态。
此前，火山引擎面向SaaS伙伴推出万有计划，通过“SaaS+云”的方式助力客户业务增长和提效。火山引擎生态副总裁赵文婕表示，电商产业链条上的商家、服务商、上下游等对数字化工具有巨大的诉求。因此，火山引擎发布生意增长一站式数字化解决方案——生意云，从客户场景需求出发，由火山引擎自有产品与生态精选SaaS产品进行方案深度共创，火山引擎提供统一的基础云服务。生意云将聚焦“增长”和“提效”这两点，通过数字化解决方案来帮助商家和品牌企业解决生意经营中的问题。
近年来，抖音电商发展较快，在其背后有着火山引擎的支持。抖音电商副总裁木青表示，抖音电商是“货找人”和“人找货”双链路的电商场景，“货找人”能力主要基于火山引擎的大数据和算法能力打造，在抖音电商业务成长后，火山引擎也为抖音电商提供了大规模并发业务支持；在“人找货”的场景，抖音电商成为生意云落地的最佳载体之一，基于火山引擎自有产品，双方合作通过短视频完成深度兴趣种草，用直播实现规模化爆发，完成覆盖用户营销全链路。
技术不止能够让商业更加高效，也能创造更多的社会价值。北京字节跳动公益基金会副理事长兼秘书长李涛表示，火山引擎自成立起，就将“连接善意，共创美好”这一公益理念根植并延展于对外合作和服务中。火山引擎万有计划与字节公益对接，与电子发票领域的公司联合共创，正式推出公益版的电子票据服务与公有云服务，为符合条件的公益组织提供为期3年的免费服务，帮助公益机构以更低成本实现自动化开票，提升开票效率，实现公益组织捐款的数字化管理以及用途追溯管理，帮助公益组织提升数字化水平，同时让捐赠人有更好的捐赠体验。
当城市重回车水马龙，当新技术带来的效率革新近在眼前，如何增长就成为企业关注的重点。敏捷迭代、数据驱动、体验创新，火山引擎愿意用这些能力，助力越来越多的企业释放自身的数字化原力，重新回到增长的主航道。