探讨！算法该如何透明？
近年来，对算法和人工智能进行规制在全球范围内已成为“大势所趋”。其中，各国监管部门对算法风险的主要关注点之一在于“算法黑箱”问题。为了解决这一问题，算法透明度的要求“应运而生”。
一、什么是算法透明度义务
“算法黑箱”问题的产生，源于两个方面原因：一方面，从内部来看，由于机器学习的本身技术特点，算法通过自我学习创制的规则在技术层面往往难以被人所理解；另一方面，从外部来看，算法决策的规则对于被决策的主体缺乏透明性，被决策的主体难以知道决策的过程和逻辑。
为了解决“算法黑箱”等问题，要求企业披露算法的要求，即算法透明度义务，越来越多被提及。
什么是算法透明度义务？即要求算法服务的提供者披露、解释其算法的原理、逻辑及决策过程的义务；相对应的，被决策者有要求对算法进行解释的权利。
通过透明度义务可以“刺穿算法黑箱”，有效削减算法服务提供者与被决策者在算法决策中不平等的地位，建立算法服务提供者与被决策者之间的信任关系，并加强社会对算法决策过程和结果的监督和追责。
但从目前各国的立法实践来看，对于算法透明度要求的条款都比较原则性，缺乏更具体的指引，算法服务提供者如何落实算法透明度的义务仍有待进一步明晰。
二、履行算法透明度义务应区分场景
纯商业领域的算法服务场景相比公共领域的算法服务场景（如对社会福利的自动化分配）有很大的不同，其对个人权益和社会公共利益的影响相对有限，当然，部分纯商业领域的算法随着平台企业的发展可能具有一定的公共属性，相应影响也就有所增强，但要求企业进行算法披露时，仍要兼顾企业正常经营的权益以及正当竞争的秩序。
这就意味着，企业披露商业领域算法的义务并非是“一刀切”式的要求，而是需要综合考虑解释算法的成本、商业秘密的保护以及披露后对算法模型安全、平台秩序造成的影响等，在披露的内容、程度、时间和方式上有不同的限制。
三、算法应该如何披露？
一般来说，企业进行算法披露和解释的对象主要分为两类：一般社会公众（如用户）和监管部门。
1、面向公众的算法披露
企业在面向公众进行算法披露时，场景相对复杂，对企业的影响较大，因此需要综合考虑各类因素以确定披露的程度、时间和方式。
在披露程度上，一般有系统解释和个案解释，系统解释即针对所有的用户以统一、固定的方式就算法的逻辑进行整体解释和披露，个案解释是指就每单个用户的单次决策结果进行针对性的解释；在披露时间上，一般分为事前解释和事后解释，事前解释是指在算法进行决策前就算法的决策过程进行预先的解释告知，事后解释是指在算法决策做出后就具体的决策结果进行解释以提供救济，系统解释一般是事前的，而个案解释一般是事后的。
显然，事后的个案解释与事前的系统解释对于企业的负担不同，前者要重的多，企业在面向公众进行算法解释时，解释对象众多，难以要求企业对每次算法的决策都提供事后的个案解释。因此，企业面向公众的算法披露应当以事前的系统解释为原则，具体落地上可以在事前通过协议、隐私政策、规则等路径统一向所有用户整体性对算法进行披露；而事后的个案解释可以作为补充和救济，在算法决策的结果对个人有重大影响，包括法律上的以及近似法律上的重大影响（如影响个人征信、医疗服务、教育或就业资格等）时，则需要接受用户的反馈、响应用户提出的事后的个案解释需求，并为用户提供更正算法输入的数据、拒绝自动化决策结果的权利，这也符合当前《个人信息保护法》与《互联网信息服务算法推荐管理规定》的相关规定。
在披露的方式上，算法的解释一般分为内部解释和外部解释，内部解释是指程序员或科学家做出的技术性解释，具体指观察模型的输入和输出之间的关系，检查某部分的作用，而排查系统故障、增强系统可靠性并验证系统功能；外部解释是指以精确的方式和人类可理解的方式做出的自动化决策理由解释，用以建立公众对自动化决策的信任，验证其遵守了法规与政策的要求。
算法透明度的义务并非简单地以公开的细节程度为标准，而是应当以社会公众的感知为标准。社会公众普遍缺少算法和机器学习相关的专业知识，一般难以理解也不关心算法的技术细节，这与专业人士对算法进行检验显然不同。例如，披露算法的源代码是对公开细节最彻底的执行，但这样披露的内容由于专业性太强，对于普通用户来讲反而没有太大意义，同时对算法技术细节的披露还会泄露企业的商业秘密，并可能被攻击者利用，对算法进行攻击。
因此，企业在面向公众进行披露时应当以更加通俗、浅显的用语进行外部解释，解释的内容应当更聚焦于用户权益相关的、用户普遍关心的内容，这些内容一般包括：1.算法的输入，即决定算法决策结果的因素或参数以及参数的权重；2.算法的输出，即算法经过计算后提供的结果的性质和类型；3.干预的机制，企业如何对算法的决策结果进行人工干预，如何影响决策过程；4.用户的权利，用户可以通过何种方式对算法的结果进行反馈，通过何种方式可以控制、影响决策结果，获得算法的个人解释，对算法的错误结果进行纠正等。
2、面向监管部门的算法披露
企业在面向监管部门进行算法披露时，往往意味着企业已经面临主管部门启动的调查、检查的程序，企业有法定配合的义务，相比于面向公众的披露，此时企业需要对算法进行更深入、彻底的披露；同时，主管部门一般也都配备有专业的技术人员，有能力对其监管的算法的技术进行专业的检验和评估。
因此，企业在对监管部门进行算法披露时，应当在法定程序下根据监管部门的要求，更全面地提供算法的内外部解释情况，解释的范围覆盖算法的不同阶段，解释的程度既包括对算法整体逻辑的系统解释，也包括就具体决策结果的个案解释，并需要对上述的解释内容提供证明材料。
而对于监管部门来说，其对于审计和检查中获取的算法相关的技术细节和信息内容负有保密义务，以保证企业的商业秘密和其他正当权益。
综上，算法透明度义务是对算法进行监督和合作治理的有效途径，但当前算法透明度义务的具体落地还需要结合更细分的场景设计不同的义务标准，平衡用户权益的保障和产业的发展，让算法透明度真正发挥其应有的作用！
如果您有不同观点，欢迎分享给我们！ “互联网治理”面向各界征稿，有关互联网治理的作品（主要是原创作品）均可！
投稿邮箱：hlwzl2022@163.com
作者 | 北京字节跳动法务 吴少卿
审核 | 于成龙 张丽娟
文字编辑 | 汪云凤
新媒体编辑 | 黄圆圆
中国工商出版社新媒体和数字出版部制作出品