【重磅8】美国纽约市出台立法，监管政府机关的算法决策系统
The New York City Council：A Local Law in relation to automated decision systems used by agencies
🌹🌹免费分享：需要英文全文的朋友，请在本公众号回复“8”！
本文转载自“45Society”微信公众平台，译者：曹建峰 。仅供方便学习之用！
【摘要】2017年12月11日，美国纽约市议会通过一部“关于政府机构使用自动化决策系统的当地法”。监管的矛头直指法院、警方等政府机构使用的自动化决策系统。基于大数据、人工智能等技术的算法决策开始在政府机构流行，从犯罪预测到量刑辅助，算法被使用在越来越多的政府机构决策活动中。但一些实证研究表明，算法在这些活动中的使用存在着严重的歧视问题，尤其是对黑色人种的歧视。于是，在美国，对政府机构使用的算法进行监管和规制的呼声日渐增多。纽约市议会此次出台立法，是一次有益的尝试。
该立法要求成立一个自动化决策工作组，达成如下目的：其一，明确界定需要受到规制的政府机构自动化决策系统；其二，受政府机构自动化决策系统影响的个人可以要求提供解释和证据；其三，制定判断是否存在算法歧视的程序；其四，向受政府机构自动化决策系统影响的个人救济途径；其五，应当将政府机构自动化决策系统（包括代码、算法等技术性信息）向公众公开。算法透明、解释权以及救济权是算法规制的核心。
以下为该当地法全文：
1.在该法中，自动化决策系统指，计算机化的算法执行，包括源自机器学习、其他数据处理技术或人工智能技术的算法执行，被用来作出决策或辅助决策。
2.政府机构自动化决策系统指，政府机构在涉及判决、治安或采取其他措施的，给公众带来影响的决策工作中，使用自动化决策系统来作出决策或辅助决策。
3.该法生效后120天内，市长或市长授权之人应召集一个自动化决策工作组。
4.该工作组及其主席，应由市长或市长授权之人任命。应当包括但不必局限于，具有与自动化决策系统相关的公平、责任承担、透明度等方面专业知识的人员，以及代表为政府机构自动化决策系统所影响的人群之利益的非营利机构的附属人员。然而，这些规定不应禁止市长、市长授权之人或该工作组主席对参与或出席该工作组的会议作出限制，前提是会议涉及的信息一旦被披露出去，就会违反当地的、州的或联邦的法律，与执法调查或活动相冲突，危及公共健康或安全，导致专有信息被披露。
5.该工作组成立后18个月内，其应当向市长和市议会发言人提交一份电子报告，至少涵盖如下建议：
（1）用以确定政府机构自动化决策系统是否需要受到该工作组提议的程序之约束的标准。
（2）制定并落实相应的程序，以便在市政府作出的，涉及判决、政策或其他措施的决定中，如果该决定是由政府机构自动化决策系统作出的或在其辅助下作出的，受影响的个人可以要求就此提供解释和依据。
（3）制定并落实相应的程序，以便市政府可以据此决定某个政府机构自动化决策系统是否基于年龄、种族、信条、肤色、宗教、来源国、性别、残疾、军事地位、合作关系地位、看护者地位、性取向、外国人、公民地位等因素过分地影响某个人群。
（4）制定并落实相应的程序，以便政府机构自动化决策系统的受害人可以获得救济，如果该系统被证明基于上述第3项中的某个范畴过分地影响了某个人群。
（5）制定并落实相应的程序，以便向公众提供政府机构自动化决策系统的相关信息，包括在适当的情况下向公众提供该系统的技术性信息，从而使公众可以有效获悉，该系统如何运行，以及市政府如何使用该系统。
（6）制定并落实下述程序的可行性，该程序被用来记录政府机构自动化决策系统，被该系统用来决定数据间预测性关系的数据，以及该系统的输入数据。但该规定不必包括在该当地法生效之前就已经停止使用的政府机构自动化决策系统。
6.该工作组在上述报告提交后60日内解散。
7.市长应当于收到上述报告后10日内通过市政府网站向公众提供该报告。
8.如果信息披露会违反当地的、州的或联邦的法律，与执法调查或活动相冲突，危及公共健康或安全，导致专有信息被披露，就不应遵守该工作组的建议或信息披露。
9.该当地法立即生效。
本期话题：政府机构使用的算法需要规制吗？
关于45 Society：聚焦人工智能等前沿技术对法律、伦理、经济等社会制度和系统的影响，探索面向2045年的法律文明和智能社会。
The New York City Council：A Local Law in relation to automated decision systems used by agencies
🌹🌹免费分享：需要英文全文的朋友，请在本公众号回复“8”！
诚意推荐 欢迎关注