AI关注度持续增长，加州正在加强监管力度！

今日份知识你摄入了么？

2021年6月18日，人工智能的前沿应用在中国上海展出。

图片来源：Andrea Verdelli/Getty Images

• AI就业、隐私问题的法规制定持续中

• 立法者开始关注AI使用的指导方针

鉴于AI使用在日常生活中日益频繁——从青少年使用聊天机器人帮写作业，到老板加以筛选求职者，加州政策制定者今年正在尝试规范AI的使用。

加州支持加强AI安全措施的人士表示，目前公众对ChatGPT和其他新技术的关注日益增加，他们相信加强监管会是一项正确举措，而这种做法也响应了拜登总统对该行业进行更多审查的呼吁。

“加州虽然通常走在联邦政府前头，但除了《加州隐私权法案》（California Privacy Rights Act）之外，他们在AI方面进展相当缓慢，”绿线研究所（Greenlining Institute）专注于技术公平的律师Vinhcent Le说，“不过，今年他们在这方面确实投入了部分精力。对于其政策制定者来说，今年似是不同寻常的一年。”

在关于AI的现有法律很少的情况下，联邦机构开始出台指导意见，而加州也正准备加快步伐。有关AI在隐私和就业中的使用的国家法规已经开始形成，而立法者正在提出法案，为未来的AI法律奠定基础。

招聘和AI

虽然像ChatGPT这样的技术相对新颖，但根据人力资源管理协会（Society for Human Resource Management）去年的一项研究，近四分之一的公司已经在招聘过程中使用AI。然而，这些工具可能会不公平地过滤掉某些申请人，并产生就业歧视。

加州民权部（California Civil Rights Department）一直在努力解决自动化招聘中存在的歧视问题，并在最近正式将这些拟议法规推至公众意见征询期，开始了规则制定过程。

根据部门委员会成员的说法，拟议并没有涉及新的领域，只是对现有的有关自动化招聘技术歧视的法规进行了调整。该法规将禁止AI系统使用有歧视倾向的特征——如年龄、种族、性取向——或可能与其相关的数据。关于AI的记录和数据必须保存四年，并且禁止在工作前使用由AI驱动的性格测试题等。

更值得注意的是，公司将对自己的自动化决策系统以及第三方供应商使用的系统负责。

威嘉律师事务所（Weil，Gotshal&Manges LLP）的高级合伙人Gary Friedman说：“重点是问责制。加州正试图找到一条与公司合并问责制的途径，并专注于评估你使用的实际算法。”

Liebert Cassidy Whitmore的加州就业律师Nathan Jackson在一篇博客文章中写道：“鉴于供应商可能不想移交专有或机密软件，因此可能会存在合规问题，”他补充说，“如果想要进行审计，就需要有更多关于‘是什么构成了算法歧视’的指示。”

执行也可能是一个问题。被自动化系统歧视的人可能一开始就不知道这种技术正在被使用——这也是联邦层面上提出的一个问题。

其他代理工作

加州隐私保护机构（California Privacy Protection Agency）即将开展的工作可以解决这种监督问题，该机构正在将注意力转向关于AI的隐私问题。

该州最近更新的综合隐私法赋予了消费者和员工一定的权利，当企业使用自动决策技术收集个人数据时，他们需要提供有关如何使用该技术的信息，或者，不提供也不使用。

该机构正在收集公众对这一领域应发布哪些法规的意见。作为隐私保护机构董事会成员之一的Le说：“如风险评估和网络安全等的其他法规也可以确保AI系统是安全和有效的。”

观察人士指出，隐私保护机构和民权部门的努力仍处于非常早期的阶段，确切的政策可能需要几个月或更长的时间才能最终确定。

立法状况

专注于AI的加州法案直到2018年左右才出现。后来他们虽然有一些立法尝试，但这些措施很少或基本上都是不成功的。

今年至少有三项立法已经提交，旨在为AI提供更多的保障措施，填补监管程序未涵盖的空白。

“当然，”州参议员Bill Dodd（民主党）谈到与过去几年相比，围绕AI的所有讨论更需要慎重对待，“它（AI）拥有强大的能力，可以根据它所拥有的数据做出决定，但没有人知道那个‘黑匣子’里有什么。我们需要睁大眼睛看到它的力量，并确保它的存在是为了帮助人们，而不是无意中伤害消费者。”

Dodd的法案SB 313将设立一个AI办公室，负责监督国家机构对AI的使用。议员Rebecca Bauer-Kahan（民主党）的另一项法案，AB 331，也可能涉及州政府使用AI的方法。

“这两项措施都有初步文本，”Dodd说，他预计4月份左右会有一个更完整的版本。Bauer-Kahan的办公室没有对此发表评论。

第三个法案，AB 302，只是要求州政府对高风险的自动决策系统进行清点。

加州的三项立法都将至少解决州政府使用AI的问题，为私营部门树立榜样。过去的法案要求各机构制定有关自动化的指导方针和原则。但白宫最近的AI权利法案已经包含了这些参数的框架，为立法提供了路线图。

Dodd表示，他的修订法案将包含一项披露要求，当用户与AI驱动的政府应用程序交互时，他们需要知情。这一标准，如果应用于企业，当人们知道他们在使用AI时，可以加强法规的执行。

虽然Dodd的法案只适用于州政府，但他表示，该法案有可能扩大到私营部门，虽然，这种“纳入”将面临一场艰苦的战斗。美国商会（US Chamber of Commerce）对拜登政府的AI框架表示担忧，加州商业团体可能也有类似的看法。

他补充说：“在这项法案中，我们也将注意不做任何固步自封的事情，打击创新性是我们最不想看到的。”

原文作者：Titus Wu

翻译作者：高佑兮

美工编辑：过儿

校对审稿：Chuang

原文链接：https://news.bloomberglaw.com/tech-and-telecom-law/as-attention-on-ai-increases-california-ramps-up-oversight

本周公开课预告

往期精彩回顾

点「在看」的人都变好看了哦

点击“阅读原文”查看数据应用学院核心课程