专家观点｜度小满许冬亮：提升科技伦理治理能力需要“五大举措”并举

摘要

7月27日，“2022中关村金融科技系列活动—第六届金融科技与金融安全峰会暨2022‘光大杯’中关村‘番钛客’金融科技国际创新大赛金融安全专场的云上峰会成功举办。本次峰会由中关村金融科技产业发展联盟、中关村互联网金融研究院和中国互联网金融三十人论坛（CIF30）联合主办。峰会上度小满CTO许冬亮发表题为《度小满科技伦理治理的思考与实践》的演讲。

度小满CTO许冬亮

许冬亮认为， “大数据+AI技术”是金融数智化升级的强劲驱动力，但数智化升级过程中也伴随着伦理风险：例如在数据伦理方面，会涉及数据的非法/过度采集、隐私数据的传播与滥用等问题；在技术伦理方面，存在算法歧视、模型黑盒（不可解释性）等隐患。

“科技伦理建设是科技企业和科技人员应有的义务”，许冬亮表示。围绕防控科技伦理风险，提升科技伦理治理能力，他分享了度小满采取的“五大措施”。

首先是组织层面，科技伦理的落地要有对应的组织保障，度小满IT治理委员会的基础下新设立了科技伦理工作小组，该工作小组是站在科技伦理的角度制定公司的科技伦理原则，同时要去监督科技伦理原则的落地。

其次是健全规章制度。度小满目前已经建立了科技伦理审查制度，监督伦理原则的落地，具体审查内容落实在技术风险管理制度、数据风险管理等制度中。

第三，在数据治理方面，度小满围绕三大法《网络安全法》、《数据安全法》和《个人信息保护法》，把整个数据安全与管理、隐私保护贯穿于数据的采集、存储、流通、应用以及销毁全环节，制定数据的全生命周期的管理，并且设置了严格的数据红线。

第四，技术治理方面，从三个维度开展工作：打破算法模型黑箱，深度学习算法可解释性是比较差的，通过技术革新，比如因果推断的方式能够使得模型的因果关系可解释性变得更强，以及制定算法规范，防范算法歧视，避免用户遭受不应该有的伤害；通过构建模型全生命周期管理机制，将模型立项到下线全流程纳入规范管理，确保模型安全可靠、持续、透明可解释、尊重隐私、可审计可监督，有效控制模型风险；通过专家经验防范系统性的风险，例如用成熟的框架限定新技术应用边界，在顶层我们使用的是专家经验的整体框架，新技术的应用会在专家经验的大框架下进行应用，即使可能出现风险影响范围也是约束在相对小的范围，不会引发系统性风险。

最后是人才培养，科技伦理的意识需要贯穿人才培养全过程，包括人员招聘、任用、培训、内部交流。

许冬亮强调，科技企业在践行科技创新时要秉承『意识先行，伦理前置，以制度约束，让科技自我完善』的理念，共同建设美好科技生态。

*本文系作者在中关村金融科技产业发展联盟、中关村互联网金融研究院和中国互联网金融三十人论坛（CIF30）7月27日“2022中关村金融科技系列活动—第六届金融科技与金融安全峰会暨2022‘光大杯’中关村‘番钛客’金融科技国际创新大赛金融安全专场的云上峰会“规范金融科技创新·筑牢金融安全防线”上的主题发言

END