【角度】人工智能的”算法问责制“

From CFDI 学术plus 2019-03-28

小编手记

昨天早上起来，很多同行都凌乱了，为什么？GDPR正式施行了！其实学术plus早就在关于 GDPR分析的文章 中探讨过这一问题了。GDPR只是开始，由于现在对人工智能的担忧无所不在，从政治学家到技术人员，纷纷从各自专业角度出发，探讨如何解决人工智能带来的各种问题，并提出各种各样的解决方案。

如果说GDPR是根据社会领域的观念和法条，来对新兴技术造成的社会问题进行规制。那么我们今天向大家推荐的CFDI的“算法问责制框架”报告，就是从技术的角度，试图通过优化算法来应对人工智能的种种社会问题，这是目前西方国家、特别是美国正在兴起的一种论调，现将有关内容摘译如下仅供参考。

版权归原作者所有，观点不代表本机构立场。

下载报告PDF版请点击“阅读原文”

如遇困难请在留言区留邮箱

公共部门和私营企业通过算法提高自动化程度，特别是通过使用人工智能（AI），具备完成越来越复杂的任务的能力，其生产力和效率远远超出人类，从而产生了巨大的社会和经济效益。

许多人认为，算法的使用越来越多会导致一系列危害，如加剧现有的偏见和不平等，因此需要制定新的公共政策，例如建立一个独立的委员会来规范算法，或要求公司公开解释算法是如何做出决定。所有这些提案都会导致减少人工智能的使用，从而阻碍社会和经济进步。政策制定者应拒绝这些提案。

政府应通过推动确保其强劲发展和广泛采用的政策来支持算法决策，与任何新技术一样，开发人员和采用者都有强烈的动机来改进算法，并确保其应用程序没有缺陷。因此，政策制定者不应该为所有算法建立一个主要的监管框架，而应该做他们一直在技术监管方面做的事情：只在需要的地方实施监管，通过已有的监管机构针对特定应用领域的特定危害进行监督。

监管部门需要做到的是“算法问责制”：算法系统应采用各种控制措施以确保运营商（即部署算法的一方）可根据其意图验证其行为的原则，以及识别和纠正有害结果。

采用这个框架既可以促进算法决策的巨大收益，又可以最大限度地减少有害结果，同时确保适用于人类决策的法律可以有效应用于算法。

（详细内容请下载原报告）

下载报告PDF版请点击“阅读原文”

如遇密码等情况请在留言区留邮箱

拓展阅读 GPDR阻碍AI创新？

当机器人开始杀人