视点丨宋科：识别应对数据应用中的歧视和偏见
导读
数字经济的蓬勃兴起为金融创新发展构筑广阔舞台，数字技术的快速演进为金融数字化转型注入充沛活力，金融科技逐步迈入高质量发展的新阶段。近日，IMI副所长、中国人民大学金融科技研究所执行所长宋科接受南方都市报专访，就如何在深化数据综合应用的同时保障数据安全？当科技公司凭借大数据及算法优势介入金融业务，会出现哪些问题？立法和监管呈现什么理念？随着技术发展，在可预见的未来还会出现哪些监管要点？等问题发表见解。以下为采访纪要：
01
在金融机构数字化转型过程中，金融业数据要素市场发展如何？如何深化数据综合应用？
《“十四五”数字经济发展规划》明确提出，以数据为关键要素，以数字技术与实体经济深度融合为主线，加强数字基础设施建设，完善数字经济治理体系。中国人民银行发布的《金融科技发展规划（2022-2025年）》也指出，要充分释放数据要素潜能，通过强化数据能力建设、推动数据有序共享、深化数据综合应用、做好数据安全保护进行数据要素改革。在此背景下，数据要素正在成为金融行业高质量发展的重要驱动力。目前，我国已出台了《数据安全法》《个人信息保护法》等相关法律保障数据应用与数据安全，中国人民银行也已经发布了《个人金融信息保护技术规范》《金融数据安全》《数据安全分级指南》等多项标准，多方安全计算、联邦学习等关键技术也已经在金融场景中有所应用，“基于隐私计算技术的银行卡营销服务”等多个数据融合技术应用项目成功入选中国人民银行金融科技创新监管工具。
基于此，要继续完善金融行业规范，健全数据要素的相关制度，巩固数据要素改革成果。加大对侵犯隐私、违规采数、非法数据买卖等违法违规行为的惩处以及宣传力度。提高数据安全保护水平，加强对数据集中金融机构的网络安全审查，保障金融系统数据安全。提升数据质量，增强数据安全保障能力，坚持需求和问题导向，加强多方安全计算、联邦学习等技术的应用探索，从而稳固的提高数据要素融合应用能力。
02
在综合经营的情况下，金融机构之间进行数据共享的情况越来越多，存在哪些风险？如何提高数据安全治理水平？
随着大数据、云计算、人工智能等新技术的兴起，金融机构的数据共享不断加强。随之而来的是，数据安全风险、数据滥用风险、法律合规风险等不断涌现，围绕数据的泄露滥用、违规交易等风险事件时有发生，严重侵犯消费者隐私与财产安全，并对市场产生负面冲击。对此，政策部门要及时跟进新技术、新产品的发展，及时发现对数据安全的新挑战并采取应对措施，同时要分级分层对数据安全标准落实情况进行检查，维持行业整体安全水平。金融机构要加强对自身安全体系的排查，积极进行新技术的研发，促进隐私计算等技术的研究，在确保数据安全性的基础上提高数据可用性。
03
《关于加强科技伦理治理的意见》明确科技伦理治理的原则，并提出要健全科技伦理治理体制、加强科技伦理治理制度保障、强化科技伦理审查和监管。在金融科技领域，当下和未来有哪些伦理挑战最值得关注？
金融科技催生了丰富的新金融产品与服务，以及数字社会、智能社会、算法社会等概念，同时也带来更多复杂的伦理问题。
一是数据的规范使用问题，目前部分产品标榜“精准定制”“个性推荐”，但实际是过分采集用户数据，进行过度营销、诱导消费，侵害金融消费者合法权益。
二是数据处置问题，金融机构如果在运营过程中积累了大量的用户数据，却在不进行脱敏处理的情况下将所掌握的数据用于利益交换，或在业务周转不畅时低价售卖数据资源，将侵害用户对数据的处置权。
三是算法黑箱问题，由于人工智能目前的可解释性仍不完善，机构如果利用这一特点隐藏定价规则，或利用“竞价排名”方式进行信息推荐，以算法优势排除和限制市场竞争、阻碍消费者自主选择，会导致“劣币驱逐良币”。
四是应用垄断问题，由于数字化打破了地区的限制，且具有一定的技术门槛，金融机构如果利用网络效应进行不公平竞争，利用自身技术优势和数据优势打压竞争者，会让用户形成依赖，甚至引发“大而不能倒”风险。
04
金融科技公司凭借大数据及算法优势介入金融业务，目前针对其中涌现的算法歧视问题，立法存在什么空白？监管呈现什么样的理念和趋势？
2021年9月，我国发布的《关于加强互联网信息服务算法综合治理的指导意见》中明确指出，要“以算法安全可信、高质量、创新性发展为导向，建立健全算法安全治理机制，构建完善算法安全监管体系，推进算法自主创新，促进算法健康、有序、繁荣发展，为建设网络强国提供有力支撑”。从实际立法来看，要识别和应对数据应用中的歧视和偏见，首先要明确数据的适用范围，工信部在2021年印发了《常见类型移动互联网应用程序必要个人信息范围规定》，明确了常见类型APP的必要个人信息范围，运营者不得因用户不同意收集非必要个人信息，而拒绝用户使用APP基本功能服务。此外，要保证算法的公开透明，欧盟的《一般数据保护条例》就对数据源与算法进行了规制，要求确保算法的公开、透明与可解释，我国也在《关于加强互联网信息服务算法综合治理的指导意见》中提出要“引导算法应用公平公正、透明可释，充分保障网民合法权益”。但是，目前对于算法公开和数据规范使用的立法还不完善，仍需要更明确的法律规范。
对于监管而言，要促进算法健康、有序、繁荣发展，监管算法使用并不是阻碍新算法，而是让监管层对算法放心、让用户对算法有信心。一方面，要打压恶意算法，减少不正当竞争的获利空间，从而推动优秀算法的发展，保护算法知识产权，强化自研算法的部署和推广，提升我国算法的核心竞争力。另一方面，要坚持权益保障，引导算法应用公平公正、透明可释，充分保障网民合法权益，保障金融科技背景下的数据安全与合理使用。
05
在金融业数据治理过程中，金融数据监管目前主要面临着哪些问题？
首先，由于金融科技的发展，金融机构及科技公司获取数据的维度更丰富，而很多数据在原有的统计体系中并未有明确规定，监管部门在开展监管时也不能及时、全面地获取业务相关数据，导致金融数据监管仍然没有达到预期效果。例如，比特币等加密货币为代表的去中心化金融业务使得许多金融活动绕开了传统清算体系，导致数据采集较为困难。
其次，金融数据中涉及多种隐私数据，各监管部门也面临是否对相关数据具有管辖权和提取权的法律问题，数据的过度提取可能侵害消费者隐私。目前，在监管中往往采用“最小可用原则”，每个部门仅掌握业务范围内必要的数据，但金融科技创新的金融活动可能跨越多个行业，且存在不同性质金融活动的交融、嵌套，而监管部门的数据并没有有效打通，导致监管滞后。
最后，随着贸易金融等跨境业务不断丰富，金融数据监管还面临协调不同司法管辖区法规的问题，进而对协调双边或多边金融科技监管规则，减少跨国监管套利、监管空白提出更高要求。
06
《金融科技发展规划（2022-2025年）》提出要强化数字化监管能力建设，对金融科技创新实施穿透式监管，国内金融科技监管工具和应用当前处于什么样的水平？存在哪些薄弱环节？监管科技是否滞后于金融机构对金融科技的运用水平？
监管科技发源于英国，国际上应用广泛。近年来，国内金融科技监管工具已经取得了较快发展，目前主要应用在监管端的科技创新监管试点、地方金融监管、市场监管科技以及企业合规端的金融合规管理、金融风险控制、版权保护场景等。金融科技监管工具落地和推广是一项系统工程，需要循序渐进。目前，前瞻性的有效风险预防、识别和预警还存在很多薄弱之处，监管滞后性问题依然存在。此外还面临数据采集、数据使用方面的一系列法律问题。未来仍需要继续试点多场景的监管科技合作与示范项目，进而推进我国监管科技健康可持续发展。
07
在推动数字金融发展的过程中，如何平衡创新驱动和合规发展？在可预见的未来还会出现哪些监管要点？
数字金融发展过程中，监管沙盒发展为平衡创新驱动和合规发展做出了有益探索。2019年，中国人民银行在《金融科技（FinTech）发展规划（2019-2021年）》中就提出将通过建立金融科技监管基本规则体系、加强监管协调性、提升穿透式监管能力、建立健全创新管理机制等途径加大金融审慎监管力度，确定了金融监管模式将“由事后监管向事前、事中监管转变，有效解决信息不对称问题，消除信息壁垒，缓解监管时滞，提升金融监管效率”。随后，我国逐渐呈现出通过“金融科技应用试点”和“金融科技创新监管试点”两类试点驱动金融科技及其监管的态势，尤其是2019年12月在北京率先启动的监管试点，被称为中国版“监管沙盒”，旨在运用信息公开、产品公示、共同监督等柔性管理方式，引导持牌金融机构在依法合规、保护消费者权益的前提下，激励科技创新、优化金融服务、营造金融科技发展的有益环境。2020年10月，中国人民银行发布《中国金融科技创新监管工具》白皮书，正式推出基于本土特色、参照国际经验的中国金融科技创新监管工具。北京、上海、成都、广州、深圳、重庆、雄安、杭州、苏州9个城市已有90个项目进入监管试点。随着试点城市和应用项目的陆续落地，中国版“监管沙盒”正持续扩容。作为金融数字化和金融科技创新的重要协同机制，中国版“监管沙盒”在提升监管质效、促进金融创新、改善金融服务等方面取得良好成效。
从监管试点的实际运行情况来看，不固定试点时间、选取部分城市开展试点、采用“刚性底线加柔性边界”并引入社会监督和行业自律的立体监管方式、测试规则偏重业务普惠性等方面的独特做法，符合我国地区差异显著的国情和注重风险防范、普惠金融的金融科技发展战略。但相较于“监管沙盒”应用较为成熟的国家，我国“金融科技创新监管试点”仍存在可优化之处，包括试点的行业范围有待扩大、试点产品类型有待丰富、试点管理机构效能有待提升。未来在进一步推动监管试点工作当中，要重点处理好主体包容、行业引导、顶层设计等问题，进一步统筹协调不同行业沙盒，防止监管重叠或空白。
来源｜南方都市报
版面编辑｜曹涵琦
责任编辑｜李锦璇、蒋旭
总监制｜魏唯
近期热文