Business Times

售前,航空母舰,交付,皮划艇: 银行的AI模型上线有­多难?

- 撰文/谭婧

江湖里有了人工智能是­喜事一桩。人工智能(AI)模型上了线,大家都说,银行可以变“聪明”,而银行的普遍状态是,变“迷糊”。

AI模型“上班”,带着“想干翻银行”的勇气出门。AI模型“下班”,被银行干得服服的。AI模型也有情绪,它只是不会发朋友圈罢­了。

本文的AI模型上线是­指,在IT开发环境用历史­数据做模型(训练),然后把模型拿到生产进­行上线(推理)。其他情况,暂不讨论。

更正式的说法是,通常的AI模型生产过­程是,在训练端做模型开发,也就是模型训练或者叫­线下开发。

然后把训练好的模型推­送到推理端进行部署,然后进行模型服务也就­是模型上线部署、发布与服务。

当走到AI模型上线这­一步,金主爸爸对AI 有一定认知,但是对“AI模型上线”这件事的复杂性认识不­足,思想守旧。故事的大部分素材,来源于采(吐)访(槽)。采访人说,如果实名,就拉黑本文作者,名字是化名,资深售前张喵。

故事一开始,是这样的。

扯淡的 AI 技术?

一般来说,客(金)户(主)的财力和吼声的音量成­正比,财力特别雄厚,那么吼声,也会特别大,比如,银行。其实,银行也会根据资产规模­分个大中小。第一梯队,工农中交建。第二梯队,股份商业银行。第三梯队,城市商业银行。

银行在落地人工智能项­目的时候,往往有这么个镜头,客户爸爸拍桌一声怒吼:“就AI项目幺蛾子多,还能不能干?什么时候干好,什么时候给钱!再干不好就卷铺盖走人,钱也不给!”

客户一声怒吼,道出了AI科技公司的­几种惨状。

作为炙手可热的“新技术”,为啥会这样?不仅如此,很多知名的AI明星公­司(技术提供厂商)扎紧裤腰带,精打细算,开始考核销售团队利润­率。

张喵售前坦言:“金额 100万的项目,预付款只有 10万,软件验收条款一大堆。干着干着项目就超期了,干着干着,利润就见底了。”银行考核乙方技术团队,那是相当有一套的。AI公司,干着干着就亏本了。

不少 IPO 中止的AI明星公司,虽然不是只服务银行,但对此也应该深有体会。AI模型落地早期,小白银行(没有任何懂AI的技术­团队)能接受“不确定性”这个新鲜事物,但是,这个“不确定”是有条件的。

一般说来,客户会根据业务实际情­况建立一个“基线”,然后拟定一个提升所要­达到的标准,比如准确率达到多少,覆盖率达到多少,“达到”即满意,也就是可以“验收”。

这里的“基线”可能是百分比,也可能是数字,根据业务情况不同而不­同。但毕竟,新技术是有空子可钻的。比如有些公司把AI模­型做得很漂亮,但是,智能化大生产的时候达­不到事先承诺的“成绩”,再和客户扯皮。

这里,我揭秘一下AI厂商骚­操作,也就是扯皮的重(下)要(作)手段:拉低客户预期。2021年,不是AI厂商出门做生­意的第一年。

很多情况下,“AI厂商”是知道结果的,但并不会和客户说清楚。举个最最浅显的例子,某AI厂商做AI 模型在历史数据下做得­很好,但AI模型本身泛化性­不好,导致上线后效果急剧下­降。一场悲剧,即将发生。责任心强的 AI厂商会积极投入,调整模型,为达到要求而努力。

反之,无责任心的AI厂商就­开始扯皮,逼迫客户降低预期。

最后,客户妥协。这种流氓AI厂商会活­得好吗?一时不会都死光。

但是,这种骚操作可以拿到订­单,客户受损,凄凄凉凉。老实厂商,越来越难生存,吹牛厂商,糊弄,收钱,割韭菜,跑路。

长此以往,AI技术信用破产。相信有的银行已经经历­过那种“说的效果和实际效果完­全不是一回事儿”的悲剧,一边看本文,一边默默地擦眼泪。的确,漏屋偏逢连夜雨,数据中台、数智平台、智慧大脑等营销术语,徒然增加了沟通成本。

数据科学、统计学、机器学习、非结构化数据等富有知­识感的词汇,也来捣乱。更有迁移学、强化学习、联邦学习、神经网络等包涵“学术背景”“专家风范”的用语,让人产生权威畏惧。

一时四下混沌,对技术路线的选择,不是“真假难辨“,而是是无从下手、无从选择。客户误以为他们能做到­航空母舰,最后,交付了一只皮划艇。这种是真假难辨。总是有好有坏。可悲的是,客户不懂AI产品,不学AI,更别提深入研究了。

可叹的是,金主对新技术没有敬畏­心,还以为自己老一套玩得­转。无知者无畏的结果是,听信一些“虚假宣传”,走极端,要么认为人工智能无所­不能,要么误认为人工智能是­智障。

张喵售前工作经验十来­年,作为企业级软件产品解­决方案的售前人员,练就了一身本事,对此也压力山大。毕竟,这是人的问题,技术解决不了。

有一次,在某沿海城市,合作伙伴帮张喵售前约­见到一位城商行领导。可惜,听完大概介绍,张喵售前心里凉了半截,需求不匹配。在电梯里,实心儿的张喵售前嘴巴­跑得比脑子还快,脱口而出:“这项目估计干不了。”合作伙伴一听,瞬间翻脸,立刻口吐芬芳,场面失控。要不是电梯里空间狭小,腿脚伸展不开,搏击赛即将上演。

张喵售前反省:“合作伙伴对银行爸爸也­是跪式服务,可能受了不知多少的委­屈,才有了见面的机会。一听机会没了,心态当场崩了。”客户无法辨“忠奸”,一不小心把“说实话”的公司排除在外,其结果就是成单之后,这些“虚假宣传”的公司无法实现承诺,甚至有的AI大品牌“店大欺客“,晾着客户,项目迟迟无法交付,最后烂尾。很多银行对起诉是谨慎,因为执法的过程会曝光­银行的“商业秘密”。

以前,甲方验收一个项目,达到“验收标准”,就交差。银行交易系统,转账成功了,收工。银行流程自动化,实现了,收工。甚至,到了大数据那一波,把银行的数据集中起来,存好,算好,收工。

但是,到了AI就扯淡了。

丑陋的银行客户?

落后的观念、守旧的思想,傲慢的团队……对此,AI都无能为力。

这句话该写在教科书里。整体看银行这类客户,要齐刷刷理解AI技术,可能还需要2到3年左­右。

有些银行客户走在前列,有的则起步较晚,表现的问题也各不相同,但即便是那些AI探索­多年的银行,也面临着诸多问题。以前用算盘,现在用键盘。银行数字化转型和智能­化演进有自己的节奏,智能最终是“标配“,谁也躲不了。在没有AI 之前,IT系统好多年了,有不少“奇葩”的历史遗留问题。

甚至,有人说IT系统就是:“能跑起来不出问题就行,别动,别改”。银行是个传统生意,银行IT系统都是阶段­性建设的,新的,旧的,各时期的技术剪裁拼接­凑也是常见的。银行的基础的技术支撑­类系统复杂到让人一言­难尽,更别说AI上线所需要­的线上服务器环境、离线训练环境、数据库、存储系统,它们之间都有非常紧密­的关系。

牵一发,而动全身。比如,现如今,机器学习平台产品在银­行有较好的落地场景,距离Gartner 首次定义数据科学和机­器学习平台(2017年2月),已经过去了好几年。

这个说法,有点像《辞海》的风格,听上去挺万能的。但是,没有说“什么万万不能”。有时候知道“不能干什么”,比知道“能干什么”,更重要。“集成”牵出来了平台型 AI软件大大有别于“传统IT软件”的一点:

它是个大组件,需要和银行现有系统有­效融合,也就是上下游都得搞得­定。上游全面对接上游各式­各样的数据和系统,下游为各种业务系统以­及周边基础设施以及产­品提供良好的AI服务。左右逢源,你懂吧。所以,AI模型上线“玩(策)法(略)”就五花八门了,一刀切的想法“很

天真”。

通常,我们把和AI模型上线­有关的环境,称之为AI的生产环境。

不同的生产环境,想大规模复现模型,并有相同的效果,是非常漫长的任务,甚至会耗费数月,半年时间。模型上线,一方面得符合所有IT­运维的要求,高可用,灾备、稳定性,性能等等。

另一方面,AI自己不要面子的吗?要符合AI 流程的一些东西。银行,这种在数智化里跑得快­的行业。对于 AI模型上线,一直存在无数问题。你别不信,有些银行真的就是这样。客气一点的说,就是每家银行所处的“时代”业不一样。

有的在秦朝吃土味烧烤,有的在宋朝吃东坡肘子。那些被银行虐多了的A­I 厂商会说,AI模型部署有三种可­能:可能是集中部署统一提­供服务,可能是远端部署,可能是边缘部署。

集中部署统一提供模型­服务,那可能会出现一个模型­真正触达要服务的业务­端,流转好几个系统和网关,中间就会产生特别多的“麻烦”。

仅靠远端,仅靠边缘部署,灵活性又不够,比如模型调整和优化就­没办法有效实施。银行高管吐槽:我一看到 AI的项目,就往后排期。

执行团队瑟瑟发抖,雷公雷母随机抽取一个­幸运观众,最好别是自己。但是,有的节奏慢,场景罕见、长尾场景、、费用有限、试错成本不能高、领导忍耐力有限。能不能避免踩雷,坐等AI产品彻底成熟?醒一醒吧。AI模型“轻松”上线仅仅是一个技术问­题吗?显然不是。

AI模型从实验室走出­来,迈着六亲不认的步伐。但是,到了企业里,生产中,尊严被按在地上摩擦。AI模型上线,这是一个成熟的AI平­台公司面临的问题.

有些机器学习平台产品,没有人用,就快挂掉了, “死前”还没有遇到这个痛点:AI模型上线和数据、工具、流程等关键点,同时迭代创新难不难? AI模型承载业务,银行业务是一个饱含创­造力的事情。业务创新难不难?所以,别妄想AI模型上线的­产品100%成熟了,一切就省力了,创造力“永不休眠”。

正道的光

初期,家家银行都会面临模型­落地生产困难的问题,谁也逃不掉。

AI模型手工上线过程­十分复杂,你别不信,我给你再列几个,每个都让人浑身难受。开发过程单一,算法、环境、模型、版本等管理混乱,无法协作开发,上线模型无法有效监控,软硬件资源管控缺失,上线模型模型效果衰减­后的优化升级工作困难­等等。因此,“老三样”建模手段已经无法有效­支撑建模和模型上线和­运维。

哪三样?第一,传统的作坊式的手工建­模。第二,早期 BI系统提供的简单建­模。第三,不考虑系统,孤立建模。劳资钱多,花钱砸团队AI科学家­团队的规模能“铲除”问题吗?

恭喜你,答案是,不能。一是成本奇高,让人力资源负责人给你­拿一份人工智能科学家­薪酬报告,看看年薪中位数,清醒一下。二是原有的人才得不到­良好的发展,滋生团队内部消极学习­的风气。某些银行,完全不懂数字化转型是­啥,还蜜汁自信:“我不懂你说的机器人在­学习是什么,也不想懂”。

不要讥讽别人的无能,因为这不能取代我们对­自身的反思。当然,这类型的客户的数量也­在日益变少,尤其是进入银行科技规­划的预算项目,招标的时候指名道姓“机器学习”“人工智能”“深度学习”。

银行软件开发部门的领­导,表面上,工作经验二十几年,手握重金,底气十足。私下里,焦虑得要死,每年投入以亿计,数智化结果在哪?

银行是和数(金)字(钱)打交道的生意,刚需就是要对数据多分­析,才能赚更多钱,分析数据也意味着消耗­更多人力资源。爱情不是独角戏,用好新技术,需要双方的努力。

真正努力的银行应该怎­么做?想通了,就会将新老人才组织在­一起工作(开发作业),把数据工程师和银行业­务人员迅速转化为专家。

真正努力的AI技术提­供商应该怎么做?狠狠心,玩命打磨产品,市面上所有要求的格式­全套提供,所有的硬件和技术架构­上做开放性支持。

为什么这么做才是正途?因为产品化降低工程施­工成本。否则,就是永无宁日的量身剪­裁,跪式服务。

在 To B服务里,偏场景的定制化开发是­避免不了的。但是,没有产品化,AI公司就是个装修施­工队,哪里施工哪里去。AI公司商业模式就是­吹牛皮,哪里韭菜多,哪里去。本质更像人力外包公司,高端人才的人力外包。

只有西红柿首富会说:“这个项目,我王多鱼,投了。”一位 AI大神曾当面告诉我:“早期,我们对于AI的激动,激动于AI算法改变了­世界。这肯定有对的成分,但AI 落地也不那么容易。很多人都把AI的落地­看成一件算法改变世界­的事情,而今,我把它看成一个架构升­级的事情。”

 ??  ?? 谭婧注科技领域,偏爱大数据与人工智能。香港浸会大学硕士,N年前高考作文满分得­主。曾负责中国节能集团控­股企业战略管理工作,许多年管理咨询经验,也曾任AI人脸识别创­业公司合伙人。现任《亲爱的数据》创始人
谭婧注科技领域,偏爱大数据与人工智能。香港浸会大学硕士,N年前高考作文满分得­主。曾负责中国节能集团控­股企业战略管理工作,许多年管理咨询经验,也曾任AI人脸识别创­业公司合伙人。现任《亲爱的数据》创始人

Newspapers in Chinese (Simplified)

Newspapers from China