星环大数据平台助山东航空建设飞行品质日常监测管理系统
项目背景
山东航空自主创新研发了F-ROMS飞行品质日常监测管理系统,该项目是山航获批的第一个民航安全能力建设项目。
项目结合飞行品质管理工作特点、基层管理工作需求以及飞行员个人对飞行数据利用和飞行品质管理期盼方向,创新性的提炼了ROM技术理论,提出了技术趋同、标准值设置、偏差研究、偏差量设置、因/果参数五大核心概念,明确了译码核心功能、被测量确认方法、可分析维度设计、功能设计等大量基础技术路线,利用管理层数据支撑、个人飞行品质分析、快速分析和预先管控三大核心功能,提出了“从机队到个人,从事后到事前,从管控到辅助”、“三维度八方向评价法”等先进飞行品质管理理念,并联合信管部自主研发完成了F-ROMS飞行品质日常监测管理系统。
问题与需求
F-ROMS(Routine Operational Measure)飞行品质日常监测管理系统是通过完全采集日常运行航段QAR数据,对所有航段数据进行无筛选的统计并利用现代数学、统计学算法进行数据挖掘分析,发现日常运行中隐藏的不理想因素并将结论用于向航空公司飞行品质管理、飞行员个人飞行品质管理提供改进建议,引导飞行品质持续向好的飞行数据分析方法。
该项目需要对QAR数据进行统计分析,根据测试,山航每天产生QAR数据约100G左右,随着机队规模不断增长,数据量也在不断增加。使用原有MongoDB数据库扩展不方便,且占用存储空间较大。MongoDB存储数据较多时会卡顿,每存储40GB数据需要进行一次配置,操作复杂,技术要求较高。故而考虑使用星环大数据平台TDH解决方案。
解决方案
星环科技根据客户需求,采用通过Hbase API 将译码平台产生数据导入到TDH大数据平台的Hyperbase进行存储实现客户每个个航班数据2s内入库的需求。并通过建立全局索引达到客户简单查询秒级返回,复杂查询5s内返回的需求。整个项目实现流程如下:
实施效果
数据平台项目目前已在生产环境运行,为 F-ROMS飞行品质日常监测管理系统和准备网系统提供译码数据方面的支持。
01
具备了海量数据存储能力
星环科技分布式NoSql数据库Hyperbase极大简化了非结构化数据处理。分布式架构具备了在线可扩展性能力,且性能随节点数呈线性增长。扩大了数据规模、提升了收集运用数据的能力、增强了数据管控力度,为F-ROMS飞行品质日常监测管理系统及其他数据分析系统提供了全面的数据支撑。
02
数据快速入库和秒级查询
Hyperbase支持超高并发CRUD,可以实现高速的数据入库。目前客户每个航班的数据均可在2s内导入到数据平台中。
此外,Hyperbase支持全局索引和次级索引,可以实现高速的非主键查询。当前该系统中简单查询实现秒级返回,复杂查询5s内返回,满足客户日常数据秒级查询与分析的需求,改善了原MongoDB在大体量数据查询时卡死的问题。
03
节约了硬件成本
相较于MongoDB,使用星环大数据平台后,数据占用存储比预估节约2/3。面对海量数据存储,在获得更高性能的同时大幅度节约了硬件成本,增加了企业效能。
TDH大数据平台后续将为客户提供数据实时查询提供强大的计算能力保障。为客户飞行品质管理、飞行员个人飞行品质管理提供快速有效的数据分析能力。助力客户的飞行品质日常监测管理系统的稳定运行。
点击或回复关键词,查看相关内容
公司
产品
产品 | 星环的划时代版本-Transwarp Data Hub 5.0
认证考试 | 数据中心联盟—星环联合认证体系首次认证考试报名中
技术
白话大数据 | 白话大数据合集
深入机器学习 | 深入机器学习系列合集
案例
银行 | 中国银行:大数据在银行领域的应用与实践
智能金融 | 星环科技发布证券业大数据战略规划纲要(白皮书)
运营商 | 运营商的新方向-运用Hadoop技术将大数据资产变现
视频监控 | Hadoop在实时视频监控的应用场景