借助人工智能侦察犯罪的益处和风险 | OLIVER WYMAN报告编译
美国知名咨询公司奥纬咨询(Oliver Wyman)近期发表了"The Risks And Benefits Of Using AI To Detect Crime"一文,("借助人工智能侦察犯罪的益处和风险"),中国人民大学金融科技所对此文章内容进行了编译。如今,人工智能(AI)正被各公司用于监测和预防从员工盗窃到内幕交易的各项事物。许多银行和大型企业借助AI进行欺诈和洗钱的监测预防;社交媒体利用机器学习过滤掉儿童色情等非法内容;商业企业则不断地尝试创新AI的使用方法来更好地进行风险管理、实现更为灵敏的欺诈监测,甚至进行犯罪预防,本报告将从运用AI的益处和风险两个层面进行深入剖析。本报告首刊于《哈佛商业评论》(2018年8月9日)。
来源 | 奥纬咨询
作者 | Lisa Quest, Anthony Charrie, Subas Roy
翻译 | 袁阳、张谦
虽然今天的基础技术不一定是革命性的,但其使用的算法和对应的输出结果却相反。例如,几十年来,银行一直在使用基于预定义二进制规则的交易监控系统,这些规则要求手动检查输出,正确率通常很低:平均而言,系统标记的交易中只有2%最终反映了真实的犯罪情况或犯罪意图。相比之下,今天的机器学习给出的解决方案则使用预测性规则来自动识别数据集中的异常。这些高阶算法可以过滤掉被错误标记的案例,同时发现在传统规则之下被遗漏的其他案例,从而显著减少错误警告的次数。
鉴于当今可获得的大量数据,以及客户和公共机构在保护和管理数据方面不断提高的期望,许多公司都认为AI是确保其能够追踪日益狡猾的犯罪分子的仅有的几个方法之一。例如,如今社交媒体公司几乎可以立即发现和删除犯罪分子的招募视频和信息。随着时间的推移,AI驱动的打击犯罪的工具或将成为大型企业的一项需求,其中一个原因是除此之外,没有其他的方法能够快速检测和解释数十亿条数据的模式。
但是,基于AI的犯罪打击方案是否是一个适合公司的好战略,则取决于其带来的益处是否能够超过伴随的风险。其中一个风险是,基于种族、性别、年龄等因素,AI可能会给出带有偏见的结论。公司也可能会受到来自客户的强烈反对,他们担心他们的数据会因为记录、交易、和通信的数据密集型监控而被误用或利用——特别是这些信息要与政府共享时。例如,在公众对其“老大哥”策略的强烈抗议后,一家欧洲银行被迫改变其计划:要求客户允许其监控他们的社交媒体账户以作为其抵押申请流程的一部分。
那么,前沿公司如何评估快速发展的基于AI的犯罪打击和风险管理的益处和风险呢?下面,我们将对他们正在采取的一些措施做出进一步解释。
评估战略的契合度
在执行AI风险管理计划之前,管理者首先必须了解机器学习在哪些方面已经可以发挥重大作用。例如,银行通过使用AI实现流程自动化和进行多层次“深度学习”分析,能比以往更快,更低成本地制止金融犯罪,尽管提交的疑似与洗钱相关的活动报告数量是2012年的20倍,但AI让银行能够减少为调查可疑报告而雇用的人员数量,这是因为银行收到的虚假警告数量因AI减少了一半,而且现在许多银行都能在文件审核中自动化执行以往需要人力完成的工作。贝宝就是一个鲜明的例子,借助AI,其收到的错误警告数量已经减为原来的一半,而苏格兰皇家银行则通过和Vocalink Analytics(一家开展支付业务的企业)进行的为期一年的试点,利用AI扫描小型商业交易的伪造发票,从而避免了客户遭受超过900万美元的损失。
AI工具还使公司能够发现连专家也发现不了的可疑模式或关系。例如,人工神经网络使员工能够预测犯罪分子的下一步行动,即便这些犯罪分子可能身份不明并且已经找到了避免触发基于二进制规则的安全系统中警报器的方法。这些人工神经网络将数百万个数据点与看似无关的数据库联系起来,而这些数据包含从社交媒体帖子到机场Wi-Fi网络上使用的互联网协议地址,房地产的持有或纳税申报的所有内容以及识别模式。
对企业来说,评估执行基于AI的风险管理方案的益处的下一步是评估客户和政府部门在多大程度上希望他们能够紧跟技术潮流。即使这并不成为一项监管内容或法律义务,企业也会觉得在使用前沿的分析技术方面占据领导地位对他们来说是有利的,因为他们能参与制定行业标准,并在确保行业参与者,监管机构,技术创新者和客户的安全性,隐私和人权不会受到践踏方面发挥作用。
最后,管理者需要确定是构建还是直接购买需要的AI解决方案。为了做出抉择,他们应该寻找那些已经借助AI完成相同目标的实例,然后,他们应该根据自身对机器学习的掌握能力来决定和哪个供应商合作,而机器学习既要解决管理者所在公司面临的具体类型的问题,其质量又要符合监管机构的要求。但是,如果企业面临的是更加复杂和迅猛发展的犯罪活动,则需要更加复杂和定制化的模型。在这种情况下,内部开发构建基于机器学习的解决方案更加有利,尤其是当外部提供的解决方案成本高昂,且对应的结果不确定性高,或是无法根据日新月异的市场环境做出迅速调整的时候。
AI犯罪预防中公私合作的兴起
公司与执法者分别一直在实验AI,以便增强他们检测与预防犯罪的能力。现在,他们将紧密合作,共同开发数据平台,汇报与反馈问题。
这种合作伙伴关系将会越来越普遍。金融机构,金融智库,以及执法机构正开始建一个公私合作的机制,以便分享数据,并使用AI检测某些领域的犯罪。比如 ,在英国,国家犯罪局正在与英国金融局进行合作,使用AI更好的识别金融与经济犯罪,还改善他们使用金融信息侦测其他犯罪如人口走私与贩卖的能力。当局也正积极开发多种渠道在公私实体之间增强信息共享。
当前,犯罪与罪犯正更有组织性,也更复杂,私人企业的数据也变得更加开放,因此,公司与执法者将更加紧密的进行合作,更有效率的侦测可能的犯罪行为。
AI在未来可在哪些领域识别犯罪?
当前,AI大多用在探测犯罪行为,比如诈骗与洗钱。但是在未来,AI也可以被应用于不同的领域。以下是AI在未来可能会预防的问题:
1. 非法商品运输。拥有AI之后,商品运输公司能够评估哪些商品可能有非法内容,并且及时汇报给上级部门。
2. 恐怖主义活动。零售商和药店可以使用复杂的AI程序去识别那些购买过量化学品的客户,从而预防可能的恐怖主义行为。
3. 人口贩卖与走私。船只公司能够使用他们的大数据与AI对那些可能藏有走私人口的船只进行检查,从而拯救生命。
评估与降低内在风险
在职业经理审视AI如何识别犯罪行为时,他们同样应该考虑如何将其纳入更系统的AI战略中。AI的风控与犯罪识别不应该单独被设定,针对简单模型的反向测试可以帮助银行限制AI可能产生的无理结论,特别是那些未经训练的模型和未知事件。 例如,银行使用AI来监控交易并减少他们在潜在流氓交易中收到的虚假警报的数量,比如为犯罪目的洗钱。 这些是针对更简单的基于规则的模型进行反向测试,以识别潜在的异常值。比方说,AI模型可能会错误地忽略大型洗钱交易,如果基于非随机的数据从而决定其中的客户所做的大额交易,则通常会在基于规则的系统中触发警报。使用这种方法能够使公司能够设计更透明的机器学习模型,即使它们有更严格的限制。
公司还应该准备调整他们的风险管理流程,以便系统地对抗在自我学习与AI驱动的模型中出现的偏差。 例如,银行应经常测试和验证其洗钱和欺诈分析的算法,以确保AI驱动的系统不会对任何特定群体造成不公平的惩罚。 最重要的是,管理者应该评估他们公司的数据分析是否足以处理复杂的AI程序。 如果没有,他们需要在内部开发数据分析功能,以达到大量的自动化流程和结构化分析。
了解和防范外部风险
AI工具用来预防犯罪也可能导致外部风险。公司可能会以无数种方式失去公众,监管机构和其他利益相关者的信誉。例如,如果将种族偏见内置于系统中而错误地将人识别为“可疑”或“犯罪”,则会出现错误警报。或者在另一方面,如果他们错过了犯罪活动,例如客户进行贩毒或从伊朗等受制裁国家提供的资金。犯罪分子可能采取更加极端,甚至是暴力的措施来战胜AI。客户可能会选择受监管行业以外监管较少的实体。如果员工过于依赖AI打击犯罪工具来捕获犯罪分子,那么可能会产生道德风险。员工可能会产生虚假的舒适感,然后停止定期检查输出并错过明显的内容。
为了防止这种情况发生,公司需要创建和测试各种场景,用于跟踪犯罪活动的AI。例如,为了找到洗钱者,银行应该与检察官和调查人员进行“模拟攻击”,以发现他们如何击败系统。通过情景分析产生的结果,管理人员可以帮助高层管理人员和董事会成员决定使用AI打击犯罪的程度。他们还可以开发包含内部和外部沟通策略的危机管理手册,以便在事情(不可避免地)出错时能够迅速做出反应。通过使用AI,公司可以识别潜在犯罪的领域,如欺诈,洗钱和恐怖主义融资 (当然,更为普通的犯罪如员工盗窃,网络欺诈和虚假发票是不能识别的) 以帮助公共机构更多更高效地起诉这些违法行为。
但是,在此之前应该公开、诚实和透明地评估风险,以确定以这种方式使用AI是否符合战略标准。这种评估并不简单。但是,与监管机构和客户的明确沟通将使公司能够在出现问题时很好地迎接挑战。只要处理得当,AI最终会对减少世界犯罪产生巨大的积极影响。
……
获取报告,请后台回复“人工智能犯罪监测”
获取下载链接
END
编辑/袁 阳
审校/周润丰
责编/张 谦
关于我们
中国人民大学金融科技研究所(以下简称 “研究所”),英文名“FinTech Institute of Renmin University of China”,简称“RUC FinTech Institute” ,是专注于金融科技理论、应用与政策的新型智库和研究机构,也是人民大学金融科技学科“双一流”建设的延伸科研平台。研究所充分利用中国人民大学在金融、经济、管理、统计、法律以及计算机科学等方面的跨学科优势,打破学科壁垒,加强交叉融合,不断推进金融科技的前沿研究。研究所坚持理论联系实际,注重应用成果转化,不断加强学界、业界和政策部门的良性互动,重点打造一个“产学研政”四位一体的多元化平台,为推动金融科技行业健康可持续发展提供决策参考。
加入群聊
为了增进与粉丝们的互动,研究所建立了金融科技微信交流群,欢迎大家进群参与。
入群方法:后台回复“加群”,加小助手为微信好友,添加时备注个人姓名(实名认证)、单位、职务等信息,经群主审核后,即可被拉进群。
中国人民大学金融科技研究所
扫码关注我们
Research portal for all FinTech trends and policies.