DBAplus社群

其他

银行数据库迁移至MySQL的常见Q&A都在这了!

Gate)或者类似工具进行全量+增量保持Oracle到MySQL实时同步。等到业务停止准备切换时,停掉Oracle到MySQL同步。验证数据无误后,业务代码对接到MySQL数据库完成数据迁移过程。
2020年10月21日
其他

读过本文才算真正了解Cassandra数据库

常规交易,做完这三步就返回成功了,不需要等待Memtable的内容落盘。换句话说,直接影响交易性能的步骤,结束了。这和传统数据库也没有太大的差别。那么接下来的步骤,就不直接影响数据库的写入能力。
2020年2月5日
其他

金融数字化转型与技术选型指南

近年来,为应对互联网金融浪潮与新兴技术变革的挑战和机遇,银行纷纷加快数字化转型,对外合作补齐科技短板,对内孵化重塑核心竞争力,布局金融科技战略。其中普遍存在的转型困惑和落地困难,这里有很好的借鉴。
2020年1月20日
其他

大型商业银行核心系统“云+微服务”的应用转型实践

近年来,用户在“花”、“贷”、“存”方面都在发生巨大转变,79%的用户资金主要往互联网迁移,而简单、便捷已成为用户选择金融产品和服务的首要考虑因素,同时也希望金融平台能够一站式满足多方面的金融需求。
2020年1月17日
其他

余额宝架构变迁倒逼出来的大规模服务化及中台建设

举个例子,我们有一个叫“目标赢”的定投产品,在很多终端渠道上进行销售,每个渠道对这个产品的销售或多或少都有一些个性化诉求,有的在客户校验上要增加特殊要求,有的要求在产品销售上叠加一些额外的运营规则。
2020年1月10日
其他

智能运维在金融核心领域的研究与应用

A:智能运维是利用自动化运维工具做具体操作,然后在利用智能运维闭环做一些反馈。这里需要强调的是,在智能运维闭环是智能运维起步阶段的时候有一些运维操作建议,并不是智能运维自己所产生,仍然需要人为导入。
2020年1月9日
其他

大型国有金融企业研发中心DevOps规划与实践

输出成果方面,建立农业银行的DevOps成熟度评价体系。可以评估某个研发系统的DevOps成熟度,这个大家可以对比一下原来的CMMI,我们做这个东西更多是让内部有一个评价、评估和考核方面的需要。
2020年1月6日
其他

工行分布式数据库选型与大规模容器化实践

行内大多数一些核心的交易7×24小时,业务特点是短平快,对传统的架构提出了巨大的挑战。在成本控制方面,由于核心业务涉及商业化的软件上面需要投入较多License,所以我们整体的成本是无法降低的。
2019年12月23日
其他

陆金所一键切换平台建设:4分钟搞定机房主备切换

除此以外,我们还要求每个组件在正常的切换数据展示之外,还要在生成切换计划的时候,要提供组件切换异常时回滚的参数。我们在切换以前,会反复确认各个资源的属组、切换原数据的正确性,以保障切换动作的可靠性。
2019年12月19日
其他

大型商业银行数据库连接池选型策略

测试环境与性能测试保持一致,分别开启2、4、8、16线程对应用程序多线程对连接池中一个连接进行压力测试。每种并发下重复测试3-5次,观察程序异常报错。如有报错则关闭测试,即视为多线程访问不安全。
2019年12月18日
其他

MySQL 8.0与MariaDB 10.4,谁更易于填坑补锅?

10.1引入了MariaDB独有的功能,例如InnoDB页面压缩和静态数据加密。这些独家功能在MariaDB用户中非常受欢迎。但是,来自MySQL生态系统的现有备份解决方案(如Percona
2019年12月17日
其他

远超双11!eBay百万TPS支付账务系统的设计与实现

follower)成功写入日志即可认为交易完成,而同数据中心内主从之间数据复制的时延仅为跨数据中心的1/12到1/8,所以每秒交易数相应增加。该效果与异地三中心部署时主从在同一数据中心的效果一致。
2019年12月10日
其他

基于数据中台,携程金融大数据风控算法的演进

B卡行为评分是指,用户拿到信用额度后,模型根据用户的贷中行为数据,进行风险水平的预测。本质上讲,这个模型是一个事件驱动的模型,在互联网金融领域,一般会比A卡的预测时间窗口要短,对用户的行为更为敏感。
2019年12月5日
其他

建行对银行系金融科技转型的战略与思考

从G端突围,是因为阿里巴巴在浙江、腾讯在广东,都在做,名头很好,但都没有想清楚政府做事情怎么变现?但是银行做很容易变现。从同业合作角度看,我们会跟很多政策性银行进行合作,因为政策性银行没有To
2019年12月2日
其他

中小型金融企业该如何进行灾备建设?

那换成OKR呢,会怎么写?KR的内容跟KPI相同,但不一样的地方是每周你会复盘一下KR完成情况,并判断对O产生影响,比如你发现每天陪半小时没什么效果,一复盘发现原来你虽然陪伴了,但是一直拿着手机。
2019年11月27日
其他

中国银联大数据发展史

年,大数据技术逐渐进入到国内,并开始在技术圈内流行起来。同样的问题又被摆在了舞台之上,到底什么叫大数据?大数据跟报表的关系是什么?跟数据仓库的关系又是什么?是不是数据大了才叫大数据?Hadoop
2019年11月13日
其他

备战双11!蚂蚁金服万级规模K8S集群管理系统如何设计?

一个完备的集群管理系统除了保证集群稳定性和运维效率外,还应该提升集群整体资源利用率。接下来,我们会从提升节点在线率、降低节点闲置率等方面出发,来提升蚂蚁金服生产集群的资源利用率。
2019年11月5日
其他

HikariCP常用监控指标与故障排查实战

hikaricp_active_connections表示当前正在使用的连接数,Gauge类型。如果此指标长期在设置的最大连接数上下波动时,或者长期保持在最大线程数时,可以考虑增大最大连接数。
2019年11月3日
其他

数据中台案例讲多了,哪些真正适用于银行?

今天,中台已经成为架构转型的里程碑,从互联网到传统企业谈架构必有中台。虽然各种中台概念层出不穷,但“数据中台”和“业务中台”作为中台概念的起始源头,被视为最纯正的中台,也是企业架构转型的重要目标。
2019年11月1日
其他

迁移到MySQL的业务架构演进实战

(2)对于大家的常规理解来说,希望达到的效果是一种透明平移的状态,即原来的存储过程我们都无缝的平移过来,在MySQL分布式的架构下,这种方案显然是不可行的,而且如果硬着头皮做完,效果也肯定不好。
2019年10月21日
其他

甜橙金融:区块链赋能的隐私技术解析与金融应用实践

贺伟,中国电信甜橙金融信息技术部资深总监,具有丰富的区块链底层技术、密码隐私、芯片安全等领域的学术研究和工业研发经验。现任甜橙金融区块链项目组负责人,主持开发了甜橙Ofin区块链应用服务平台。
2019年10月20日
其他

银行大数据风控平台的建设要点与应用

使用数学模型算法,根据客户或客户群线上连续行为,自动校正客户画像或产品画像之间的关联情况分析,从而形成线上产品的推荐服务,产品推荐可按照客户可能关心的内容放在醒目位置自动排序,从而有效提升客户体验。
2019年10月11日
其他

微众银行对新一代银行IT架构的设计与实现

纵向扩容,解决单元性能问题,扩展处理能力。当业务出现变化,对单元处理能力要更要要求是,显然通过重新分片(resharding),代价太大。因此在单元内,必须保留一定余力,可纵向扩容。后面会详细说明。
2019年9月12日
其他

农业银行:银行业中台系统的建设思路

2)小微企业资金需求具有“短、小、频、急”的特点,而银行传统贷款审批流程长、环节多,“远水解不了近渴”,需求和供给之间难以有效匹配,造成小微企业贷款可得性低,也降低了小微企业从银行贷款的意愿;
2019年8月30日
其他

民生银行数据中台体系的构建与实践

进而,Service服务体系完成引擎抽象能力与实际业务数据的结合应用,通过灵活搭配,打造具备业务属性的数据服务产品,目前已构建智能客户信息中心、数字化决策中心、标签洞察等多项智能数据产品。
2019年8月9日
其他

蚂蚁金服大规模分布式事务实践和开源历程

在事务执行过程中,客户端和服务端进行通信的目的是为了存储事务日志。如果客户端在存储事务日志时,绕过服务端直接将事务日志写入数据库(如上图“同库模式”所示),那么一笔事务日志的存储链路就由原来的
2019年8月1日
其他

中国银联在“去IOE”与多活建设下的异构数据同步实践

下面看一个比较复杂的场景,这里会有一个新朋友叫proxy。实际业务场景里银联的数据体量是非常大的。拿银联无卡系统来举例,每天生成的交易量均过千万,单一的MySQL是无法支撑这样规模的数据量的。
2019年7月29日
其他

广发证券:智能金融数据质量监控系统建设之路

同时,该模块还支持人工对自生成的监控规则进行修改、调整或添加新的规则。由于机器学习产生的数据监控规则在历史正常数据较少的情况下,容易出现监控规则不够完善的情况,故此设计提高了系统的灵活性及适应性。
2019年6月28日
其他

选型必读:三种开源数据库在平安科技的构建与应用

数据库本身的开发语言,能否匹配到现在团队成员所具备的技能。运维需要快速定位问题发生在哪一步,研发人员需要对开源数据库的代码进行改造,让他更适配应用场景,所以开发语言也是考虑因素。
2019年6月24日
其他

银行适用:此文能够突破你的运维流程管理问题

在我的团队里,每个人负责指定的一个或多个国家或地区;在业务方,也要求每个国家或地区指定一个或两个和我们的对接人,从而形成一对一的对接模式。那些业务方对接人就负责对他们所在国家或地区的请求进行排序。
2019年6月15日
其他

荷兰ING银行DevOps转型之旅

这样的转型是完全可能实现的,因为我们的基础设施团队主要提供软件,而非硬件,而敏捷方法就恰好适用于软件开发。当我还在应用程序部门的时候,我就学会了如何应用敏捷方法,这已经成为了在基础设施之外
2019年6月11日
其他

数据管理的未来发展趋势

Integration)。人工智能可以通过升级多个相同模式并根据语义分析,向企业机构告知数据源的相关性,推荐企业机构将相同的数据源进行连接,最终使得数据集成的流程更加简化。
2019年5月17日
其他

工行基于MySQL构建分布式架构的转型之路

在选型阶段,我们基于业务场景进行了大量的方案调研。坦率的说,工行软件开发中心在2014—2016年持续关注着行业内数据库的发展和生态的发展,在这个过程中我们对很多的产品进行了一些研究和摸底的测试。
2019年5月16日
其他

如何判断自己有没有管理的潜力?

抓重点是指能快速地将纷繁复杂的各种表面现象归纳总结为结构清晰的事物特征,抓住事物的根本、问题的关键,并确定工作重心的能力。管理工作涉及到的环境和对象很复杂,范围越广规模越大,复杂度就成几何级数上升。
2019年5月12日
其他

从平台到中台 | Elasticsearch在蚂蚁金服的实践经验

要避免一个页面打开一堆配置项,这样用户就会无从下手,更不要谈学习成本了。通过引导式配置来减少用户的选择,降低用户的记忆成本。限制不一定就意味着约束用户,合适的限制更可以降低用户的理解成本。
2019年5月10日
其他

Kafka凭什么速度那么快?

因为硬盘是机械结构,每次读写都会寻址->写入,其中寻址是一个“机械动作”,它是最耗时的。所以硬盘最讨厌随机I/O,最喜欢顺序I/O。为了提高读写硬盘的速度,Kafka就是使用顺序I/O。
2019年5月8日
其他

我家的供应商系统又多又旧,能实现持续交付吗?

有了自动验收,如何实现自动回滚,从而使整个过程完全自动化,是我们其中一个考虑点。但是由于补丁执行过程有若干步,很难预知每一种的失败情形,最终我们决定还是采用手动回滚比较稳妥。
2019年4月24日
其他

DAMS 2019:全新升级50+干货议题及重磅讲师阵容

围绕Database、Bigdata、AiOps的企业级专业社群。顶级大咖、技术干货,每天精品原创文章推送,每周线上技术分享,每月线下技术沙龙,受众20W+。
2019年4月9日
其他

不中断业务,腾讯10P+金融数据跨机房迁移实战(有彩蛋)

还有一点需要注意的地方,就是HBase本身也会对HFile文件做修改,因为涉及到文件的合并。这里HBase会在HFile文件合并之前将对应的表复制到archive目录下,确保HFile文件的完整性。
2019年3月13日
其他

银行祖传老系统很恐怖?也许你可以这么构建CMDB

数据分类:将配置数据划分为技术属性和管理属性两个分类,并制定不同的管理标准和维护方式。技术属性数据属于客观数据,必须由系统自动采集;管理属性数据属于主观数据,由人工维护,但需要配属相应流程进行管控。
2019年3月12日
其他

Gdevops北京站:邀你开启运维与数据库的一年之“技”

讲师介绍:2014年加入去哪儿网,现带领运维开发团队,负责去哪儿网运维自动化平台、监控平台、管理平台的建设,长期关注并亲历AIOps发展。曾就职于方正、淘宝、Tripadvisor等。
2019年2月28日
其他

滴滴实时计算发展之路及平台架构实践

单任务多规则及规则动态更新。由于实时运营规则由一线运营同学来配置,所以规则数量,规则内容及规则生命周期会经常发生变化。这种情况每个规则一个应用是不太现实的。为此我们开发了多规则模式且支持了动态更新。
2019年1月10日
其他

不改一行代码定位线上性能问题,可能吗?

只需要在启动参数中加入-javaagent:/xx/tprofiler.jar即可监控你想要监控的方法耗时,并且可以给你输出报告,非常方便,对代码没有任何侵入性,同时性能影响也较小。
2019年1月9日
其他

大牛是怎么思考设计MySQL优化方案的?

在进行MySQL的优化之前,必须要了解的就是MySQL的查询过程,很多查询优化工作实际上就是遵循一些原则,让MySQL的优化器能够按照预想的合理方式运行而已。
2019年1月8日
其他

Redis存储总是心里没底?你大概漏了这些数据结构原理

quicklist提供了灵活性同时也兼顾了ziplist的压缩能力,quicklist->encoding指定了两种压缩算法。quickList->compress表示我们可以进行quicklist
2019年1月7日
其他

NoSQL没落了?NewSQL有机会挑大梁吗?

2015年5月24日,HP开源Trafodion,一款基于HBase,支持ACID事务、SI隔离级别的SQL数据库;2018年1月10日,Apache宣布Trafodion成为顶级项目。
2019年1月6日
其他

职场晋升,别人为什么总比你走得快?

写博客对自己的提升是很大的,而我写博客是希望能提升自己的综合能力,并把自己的知识与经验分享给大家,如果有幸我的分享帮助了一些人,那将使我更加欣慰。毕竟,写博客是一种思考,对技术的思考,对人生的思考。
2019年1月5日
其他

分库代价高的情况下,如何优化ES解决亿级数据量检索

使用前一个分页记录的最后一条来检索下一个分页记录,在我们的案例中,首先使用from+size,检索出结果后再使用search_after,在页面上我们限制了用户只能跳5页,不能跳到最后一页。
2019年1月4日
其他

快被系统性能逼疯了?你需要这份性能优化策略

生产者任务一次取100个(可配置)指令,依次分配给20个消费者任务中空闲的任务,消费者任务获取指令详细信息,并组装报文后发送后台核心系统;生产者任务如果发现无空闲消费者任务,则等待15s后重新判断。
2019年1月3日
其他

巧用这19条MySQL优化,效率至少提高3倍

SELECT*增加很多不必要的消耗(CPU、IO、内存、网络带宽);增加了使用覆盖索引的可能性;当表结构发生改变时,前断也需要更新。所以要求直接在select后面接上字段名。
2019年1月2日