【回顾10】何渊：美国计算机协会（USACM）发布算法透明和可责性七项原则，致力于解决算法歧视

Source article：

 

🌹🌹免费分享：需要美国计算机协会（USACM）发布算法透明和可责性七项原则 英文全文的朋友，请在文末直接点击”阅读原文“！

【导读】腾讯研究院：随着人工智能的发展，算法歧视与算法黑箱的问题逐步进步公众视野。出于包括技术、经济和社会等在内的很多因素，算法所作出的决策可能是不透明的。该项原则的发布是解决算法歧视问题的初步尝试，相信后续会有更多的致力于解决算法歧视的公共政策出台，以尽量减少潜在的危害。

算法正在以非常关键的方式取代或加强人的决策能力。人们已经习惯了从产品到购买，到听歌，到社交网络连接等各种推荐的算法。然而，算法不仅仅是推荐，它们也被用来做出关于人们生活的重大决定，比如谁获得贷款，谁的简历能被筛选并获得面试机会，以及待在监狱的时间长短。虽然算法决策可以提供速度，效率甚至公平等好处，但也存在一个常见的误解，即算法会自动导致无偏见的决策。实际上，不可思议的算法也会不公平地限制机会，限制服务，甚至不适当地限制公民的自由。

信息和通信技术总是引发这些重要的公共政策问题。自动驾驶汽车应该如何监管？信息存储在手机上的私密程度如何？电子投票机可以信任吗？自动化在工作场所越来越多的使用如何影响工人的结业和心理状态？自成立以来，ACM的成员在计算专业和政策制定者的讨论中发挥了主导作用。

ACM美国公共政策委员会（USACM）成立于20世纪90年代初，作为ACM与美国政府的合作机构，计算机界和公众就所有与美国信息技术相关的公共政策事务交流的焦点。 USACM在密码学和密钥托管技术的争论中占据了重要位置。今天，USACM继续提出基于科学证据的公共政策建议，遵循公认的计算最佳实践，并以ACM道德准则为基础。它已经赢得了一个不收党派影响，原则性，独立的科学和技术专业知识的社会声誉，也没有收到产品供应商或其他既得利益的利益输送。

ACM欧洲委员会政策委员会（EUACM）在欧洲也是一样的机构。最近， USACM和EUACM联合向政策制定者和公众提供有关涉及IT的重要社会问题的信息和分析，其中包括算法透明度和问责制。

1月12日，美国计算机协会下属美国公共政策委员会发布文件，在其中阐述了关于算法透明和可责性的七条原则。七大原则分别为：（1）意识：相关主体应意识到算法中可能存在的偏见及潜在危害。（2）获取和救济：对算法决策提出质疑并获得救济。（3）责任制：即使无法详细解释算法如何产生结果，机构也应对其所使用算法的决策负责。（4）解释：鼓励使用算法决策的组织和机构对算法所遵循的程序和所做出的具体决策进行解释。（5）数据来源：算法的构建者应该对训练数据的收集加以描述。（6）可审查性：模型、算法、数据和决策应被记录，以便在怀疑有损害的情况下对其进行审查。（7）验证和测试：机构应使用严格的方法来验证其模型，并记录方法和结果。

意识说明了教育公众对自动化决策的正确看法。获取和补救意味着有一种方法来调查和纠正错误的决定。问责制通过确保部署算法的人员不能逃避对其行为的责任，而拒绝将责任推向自动化系统本身。解释意味着算法的逻辑无论多么复杂，都必须以人的方式进行传播。

由于许多现代技术都是基于对大量收集到的数据进行统计分析，决策将受到训练数据集的选择的影响，因此了解数据来源及其可靠性是至关重要的。对于决策系统的可追责性要求数据的可验证性和长期保存，目的是为了争议的解决或合规性考察。最后，持续的验证和测试意味着应该采用诸如线性回归测试，特例审查或计算机安全中使用的红队策略等技术来提高人们对自动化系统的信心。

当组织部署复杂的算法进行自动决策时，系统设计人员应该将这些原则嵌入到系统中。当然我们还需要做更多的研究，例如，如何设计和部署大规模的神经网络，同时确保遵守禁止歧视弱势群体和特殊群体的法律？考虑到能够推断性别，种族或残疾状况等特征，即使计算机系统没有直接提供这些数据，禁止歧视尤为重要。如何记录自动化决策信息以确保可追责性？这些网络的操作如何能够向技术人员和非技术决策者解释？

一种可操作的模式可能是行业自律。但是，我们的经验是，只有在一套相关的标准达成共识的情况下，自律才是可能的。我们希望我们的原则能够作为这种努力的尝试。如果政策制定者确定监管是必要的，那么我们的原则是可行的，潜在的公平信息实践准则为世界各地数十年的隐私监管提供了基础。

相关部分（点击阅读）

Source article：

 

🌹🌹免费分享：需要美国计算机协会（USACM）发布算法透明和可责性七项原则 英文全文的朋友，请在文末直接点击”阅读原文“！

诚意推荐 欢迎关注