售前，航空母舰，交付，皮划艇：银行的AI模型上线有多难？

江湖里有了人工智能是喜事一桩。

人工智能模型上了线，大家都说，银行可以变“聪明”，而银行的普遍状态是，变“迷糊”。（下文的人工智能简称AI）

AI模型“上班”，带着“想干翻银行”的勇气出门。

AI模型“下班”，被银行干得服服的。

AI模型也有情绪，它只是不会发朋友圈罢了。

本文的AI模型上线是指，在IT开发环境用历史数据做模型（训练），然后把模型拿到生产进行上线（推理）。其他情况，暂不讨论。

更正式的说法是，通常的AI模型生产过程是，在训练端做模型开发，也就是模型训练或者叫线下开发。

然后把训练好的模型推送到推理端进行部署，然后进行模型服务也就是模型上线部署、发布与服务。

当走到AI模型上线这一步，金主爸爸对AI有一定认知，但是对“AI模型上线”这件事的复杂性认识不足，思想守旧。

故事的大部分素材，来源于采（吐）访（槽）。

采访人说，如果实名，就拉黑本文作者，名字是化名，资深售前张喵。

 故事一开始，是这样的。

1

 扯淡的AI技术？

一般来说，客（金）户（主）的财力和吼声的音量成正比，财力特别雄厚，那么吼声，也会特别大，比如，银行。

其实，银行也会根据资产规模分个大中小。

第一梯队，工农中交建。

第二梯队，股份商业银行。

第三梯队，城市商业银行。

····· 

银行在落地人工智能项目的时候，往往有这么个镜头，客户爸爸拍桌一声怒吼：“就AI项目幺蛾子多，还能不能干？什么时候干好，什么时候给钱！再干不好就卷铺盖走人，钱也不给！”

客户一声怒吼，道出了AI科技公司的几种惨状。

作为炙手可热的“新技术”，为啥会这样？

不仅如此，很多知名的AI明星公司（技术提供厂商）扎紧裤腰带，精打细算，开始考核销售团队利润率。

张喵售前坦言：

“金额100万的项目，预付款只有10万，软件验收条款一大堆。干着干着项目就超期了，干着干着，利润就见底了。”

银行考核乙方技术团队，那是相当有一套的。

AI公司，干着干着就亏本了。

不少IPO中止的AI明星公司，虽然不是只服务银行，但对此也应该深有体会。

AI模型落地早期，小白银行（没有任何懂AI的技术团队）能接受“不确定性”这个新鲜事物，但是，这个“不确定”是有条件的。

一般说来，客户会根据业务实际情况建立一个“基线”，然后拟定一个提升所要达到的标准，比如准确率达到多少，覆盖率达到多少，“达到”即满意，也就是可以“验收”。

这里的“基线”可能是百分比，也可能是数字，根据业务情况不同而不同。

但毕竟，新技术是有空子可钻的。

比如有些公司把AI模型做得很漂亮，但是，智能化大生产的时候达不到事先承诺的“成绩”，再和客户扯皮。

这里，我揭秘一下AI厂商骚操作，也就是扯皮的重（下）要（作）手段：

拉低客户预期。

2021年，不是 AI厂商出门做生意的第一年。

很多情况下，“AI厂商”是知道结果的，但并不会和客户说清楚。

举个最最浅显的例子，某AI厂商做AI模型在历史数据下做得很好，但AI模型本身泛化性不好，导致上线后效果急剧下降。

一场悲剧，即将发生。

责任心强的AI厂商会积极投入，调整模型，为达到要求而努力。

反之，无责任心的AI厂商就开始扯皮，逼迫客户降低预期。

最后，客户妥协。

这种流氓AI厂商会活得好吗？一时不会都死光。

但是，这种骚操作可以拿到订单，客户受损，凄凄凉凉。

老实厂商，越来越难生存，吹牛厂商，糊弄，收钱，割韭菜，跑路。

长此以往，AI技术信用破产。

相信有的银行已经经历过那种“说的效果和实际效果完全不是一回事儿”的悲剧，一边看本文，一边默默地擦眼泪。

的确，漏屋偏逢连夜雨，数据中台、数智平台、智慧大脑等营销术语，徒然增加了沟通成本。

数据科学、统计学、机器学习、非结构化数据等富有知识感的词汇，也来捣乱。

更有迁移学、强化学习、联邦学习、神经网络等包涵“学术背景”“专家风范”的用语，让人产生权威畏惧。

一时四下混沌，对技术路线的选择，不是“真假难辨“，而是是无从下手、无从选择。

客户误以为他们能做到航空母舰，最后，交付了一只皮划艇。

这种是真假难辨。 

总是有好有坏。

可悲的是，客户不懂AI产品，不学AI，更别提深入研究了。

可叹的是，金主对新技术没有敬畏心，还以为自己老一套玩得转。

无知者无畏的结果是，听信一些“虚假宣传”，走极端，要么认为人工智能无所不能，要么误认为人工智能是智障。呵呵。

张喵售前工作经验十来年，作为企业级软件产品解决方案的售前人员，练就了一身本事，对此也压力山大。

毕竟，这是人的问题，技术解决不了。

有一次，在某沿海城市，合作伙伴帮张喵售前约见到一位城商行领导。可惜，听完大概介绍，张喵售前心里凉了半截，需求不匹配。

在电梯里，实心儿的张喵售前嘴巴跑得比脑子还快，脱口而出：“这项目估计干不了。”

合作伙伴一听，瞬间翻脸，立刻口（M）吐（L）芬（G）芳（B），场面失控。

要不是电梯里空间狭小，腿脚伸展不开，搏击赛即将上演。

张喵售前反省：

“合作伙伴对银行爸爸也是跪式服务，可能受了不知多少的委屈，才有了见面的机会。一听机会没了，心态当场崩了。”

客户无法辨“忠奸”，一不小心把 “说实话”的公司排除在外，其结果就是成单之后，这些“虚假宣传”的公司无法实现承诺，甚至有的AI大品牌“店大欺客“，晾着客户，项目迟迟无法交付，最后烂尾。

很多银行对起诉是谨慎，因为执法的过程会曝光银行的“商业秘密”。

以前，甲方验收一个项目，达到“验收标准”，就交差。

银行交易系统，转账成功了，收工。

银行流程自动化，实现了，收工。

甚至，到了大数据那一波，把银行的数据集中起来，存好，算好，收工。

但是，到了AI就扯淡了。

2

 丑陋的银行客户？

落后的观念、守旧的思想，傲慢的团队……对此，AI都无能为力。

这句话该写在教科书里。

整体看银行这类客户，要齐刷刷理解AI技术，可能还需要2到3年左右。

有些银行客户走在前列，有的则起步较晚，表现的问题也各不相同，但即便是那些AI探索多年的银行，也面临着诸多问题。

以前用算盘，现在用键盘。银行数字化转型和智能化演进有自己的节奏，智能最终是“标配“，谁也躲不了。

在没有AI之前，IT系统好多年了，有不少“奇葩”的历史遗留问题。

甚至，有人说IT系统就是：“能跑起来不出问题就行，别动，别改”。

银行是个传统生意，银行IT系统都是阶段性建设的，新的，旧的，各时期的技术剪裁拼接凑也是常见的。

银行的基础的技术支撑类系统复杂到让人一言难尽，更别说AI上线所需要的线上服务器环境、离线训练环境、数据库、存储系统，它们之间都有非常紧密的关系。

牵一发，而动全身。

比如，现如今，机器学习平台产品在银行有较好的落地场景，距离Gartner 首次定义数据科学和机器学习平台（2017年2月），已经过去了好几年。

 “……一个具有凝聚力的软件应用程序，提供基本的融合各构件模块的能力，既可以创建各种数据科学的解决方案，又可以将这个解决方案集成到业务流程，及所涉及的周边基础设施和产品中去。”

 这个说法，有点像《辞海》的风格，听上去挺万能的。但是，没有说 “什么万万不能”。

有时候知道“不能干什么”，比知道 “能干什么”，更重要。

 “集成”牵出来了平台型AI软件大大有别于“传统IT软件”的一点：

它是个大组件，需要和银行现有系统有效融合，也就是上下游都得搞得定。

上游全面对接上游各式各样的数据和系统，下游为各种业务系统以及周边基础设施以及产品提供良好的AI服务。

左右逢源，你懂吧。

所以，AI模型上线“玩（策）法（略）”就五花八门了，一刀切的想法“很天真”。

AI模型：“我着急上线。”

IT系统：“回去等通知。”

通常，我们把和AI模型上线有关的环境，称之为AI的生产环境。

不同的生产环境，想大规模复现模型，并有相同的效果，是非常漫长的任务，甚至会耗费数月，半年时间。

模型上线，一方面得符合所有IT运维的要求，高可用，灾备、稳定性，性能等等。

另一方面，AI自己不要面子的吗？

要符合AI流程的一些东西。

银行，这种在数智化里跑得快的行业。

对于AI模型上线，一直存在无数问题。

你别不信，有些银行真的就是这样。

客气一点的说，就是每家银行所处的“时代”业不一样。

有的在秦朝吃土味烧烤，有的在宋朝吃东坡肘子。

那些被银行虐多了的AI厂商会说，AI模型部署有三种可能：

可能是集中部署统一提供服务，

可能是远端部署，

可能是边缘部署。

集中部署统一提供模型服务，那可能会出现一个模型真正触达要服务的业务端，流转好几个系统和网关，中间就会产生特别多的“麻烦”。

仅靠远端，仅靠边缘部署，灵活性又不够，比如模型调整和优化就没办法有效实施。

银行高管吐槽：我一看到AI的项目，就往后排期。

执行团队瑟瑟发抖，雷公雷母随机抽取一个幸运观众，最好别是自己。

但是，有的节奏慢，场景罕见、长尾场景、、费用有限、试错成本不能高、领导忍耐力有限。

能不能避免踩雷，坐等AI产品彻底成熟？

醒一醒吧。

AI模型“轻松”上线仅仅是一个技术问题吗？

显然不是。

AI模型从实验室走出来，迈着六亲不认的步伐。

但是，到了企业里，生产中，尊严被按在地上摩擦。

AI模型上线，这是一个成熟的AI平台公司面临的问题.

有些机器学习平台产品，没有人用，就快挂掉了，“死前”还没有遇到这个痛点。

第一，AI模型上线和数据、工具、流程等关键点，同时迭代创新难不难？

第二，AI模型承载业务，银行业务是一个饱含创造力的事情。业务创新难不难？

所以，别妄想AI模型上线的产品100%成熟了，一切就省力了，创造力“永不休眠”。

3

 正道的光

初期，家家银行都会面临模型落地生产困难的问题，谁也逃不掉。

AI模型手工上线过程十分复杂，你别不信，我给你再列几个，每个都让人浑身难受。

开发过程单一，算法、环境、模型、版本等管理混乱，无法协作开发，上线模型无法有效监控，软硬件资源管控缺失，上线模型模型效果衰减后的优化升级工作困难等等。

因此，“老三样”建模手段已经无法有效支撑建模和模型上线和运维。

哪三样？

第一，传统的作坊式的手工建模。

第二，早期BI系统提供的简单建模。

第三，不考虑系统，孤立建模。

劳资钱多，花钱砸团队AI科学家团队的规模能“铲除”问题吗？

恭喜你，答案是，不能。

一是成本奇高，让人力资源负责人给你拿一份人工智能科学家薪酬报告，看看年薪中位数，清醒一下。

二是原有的人才得不到良好的发展，滋生团队内部消极学习的风气。

某些银行，完全不懂数字化转型是啥，还蜜汁自信：“我不懂你说的机器人在学习是什么，也不想懂”。

不要讥讽别人的无能，因为这不能取代我们对自身的反思。

当然，这类型的客户的数量也在日益变少，尤其是进入银行科技规划的预算项目，招标的时候指名道姓“机器学习”“人工智能”“深度学习”。

银行软件开发部门的领导，表面上，工作经验二十几年，手握重金，底气十足。

私下里，焦虑得要死，每年投入以亿计，数智化结果在哪？

银行是和数（金）字（钱）打交道的生意，刚需就是要对数据多分析，才能赚更多钱，分析数据也意味着消耗更多人力资源。

爱情不是独角戏，用好新技术，需要双方的努力。

真正努力的银行应该怎么做？

想通了，就会将新老人才组织在一起工作（开发作业），把数据工程师和银行业务人员迅速转化为专家。

真正努力的AI技术提供商应该怎么做？

狠狠心，玩命打磨产品，市面上所有要求的格式全套提供，所有的硬件和技术架构上做开放性支持。

为什么这么做才是正途？

因为产品化降低工程施工成本。

否则，就是永无宁日的量身剪裁，跪式服务。

在To B服务里，偏场景的定制化开发是避免不了的。但是，没有产品化，AI公司就是个装修施工队，哪里施工哪里去。AI公司商业模式就是吹牛皮，哪里韭菜多，哪里去。本质更像人力外包公司，高端人才的人力外包。

只有西红柿首富会说：“这个项目，我王多鱼，投了。”

一位AI大神曾当面告诉我：“早期，我们对于AI的激动，激动于AI算法改变了世界。这肯定有对的成分，但AI落地也不那么容易。很多人都把AI的落地看成一件算法改变世界的事情，而今，我把它看成一个架构升级的事情。”

（完）

更多阅读：

最后，再介绍一下主编自己吧。我是谭婧，科技和科普题材作者。围追科技大神，堵截科技公司。生命短暂，不走捷径。个人微信：18611208992。还想看我的文章，就关注“亲爱的数据”。