查看原文
其他

金融大模型的最优技术决策

DataFunSummit
2024-09-10

许多金融行业过去一年主要集中在将多种资产进行统一风控和交易,在一个平台上实现,随着投资方向越来越多样化,包括场内交易、场外交易等,这样的需求越来越强烈。

通常总行会提供大数据平台服务,分行基于自身应用目的以自助的、自取的方式在平台上建立自己的数据服务,从而让技术更好地服务于一线用户需求,特别是时效性很强的、需要快速迭代的需求。

同时,它们也很关注精细化管理方向,做了更加深入的工作,涉及数字化管理、成本优化、管理考核等方面。

最后,国产化建设也是去年很重要的课题,是近两年也是往后几年的重点,国产化要从管理系统慢慢深入到核心系统,核心系统涉及交易、份额登记等方面。

用户营销仍然是金融行业避不开的主题,许多企业正在构建统一的用户标签系统,以满足万级QPS的在线营销应用。标签系统原来更多是用在离线的客户分析上,现在用到更日常的营销活动中。标签的建设在命中效率、索引建设方面都会遇到不小的困难。

BI平台、指标平台、推荐系统等关注度也不低,只是复杂度更高,目前仅在小规模建设与应用,在未来会进行推广,尤其是智能能力方面。

大模型在金融行业的应用主要还是集中在文本处理,基于知识库构建和检索增强,做基于大模型的智能检索与问答,offline部分的工作包括配合文本解析、pdf解析、图表OCR、语音解析等任务,把多模态的信息进行统一梳理和标签化、片段拆分、上下文匹配,从而构建大型文本知识库,可以应用到研报、路演、法规、咨询、舆情等场景中。另外就是一些还不太成熟的方向,比如代码生成、SQL生成等应用,仍然在尝试阶段,需要结合专用的数据接口,并让大模型读懂这个接口。最后就是基于智能体的应用,虽然主流的大模型已经有了一些接口调用的能力,但总的来讲还是离生产有一些距离,目前正在一些文本回答以及更复杂的任务中应用。

一些金融企业也会尝试自主进行模型预训练或微调,但通常基于垂域数据训练出来的效果,其实比不上主流的大模型。而出于数据安全的诉求,当然还是不希望SaaS的方式来对外调用模型。目前它们正在观望一些中等体量的大模型,毕竟这样更加经济实惠。AI大模型国产化的趋势是更长远关注的方向,毕竟国外的大模型使用起来不是很方便。

秉持“数聚垂域,智领未来”信念,DataFunCon2024·上海站将继续顺应趋势,组织数智·新金融等论坛,邀请数据智能技术专家、行业专家,与你共同探讨数据智能落地的现在与未来。

大会议程详情

04/19-04/20

时间

点击『阅读原文』参与报名~

继续滑动看下一个
DataFunSummit
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存