【人工智能】是谁教会人工智能性别歧视？谁来阻止？

《是谁教会人工智能性别歧视？谁来阻止？》

导读

含有性别偏见的数据集和算法带来了人工智能领域的性别偏见问题，忽视人工智能自动化领域内的性别偏见可能会加剧现有的性别偏见。机器学习中的性别平衡对于防止算法延续不利于女性的性别意识形态至关重要。

正文

深度学习在人工智能中的成功依赖于现实社会生产的数据集。一方面，这些数据通常由人类生成，因而也可能承载着人类所持有的所有偏见，包括对女性的偏见。另一方面，随着人工智能在各领域的广泛应用，需要确保必要的产品和设备能够同时满足男性与女性的要求。鉴于机器的深度学习以及不断的自我学习的能力，忽视人工智能领域内的性别偏见可能会加剧现有的性别偏见，产生严重的后果。

以汽车中的安全带、头枕和安全气囊为例，这些设计主要是基于男人的体格来进行车祸模拟测试所收集的数据，而女性的身体特征并不会被纳入“标准”测量。因此，女性在意外中死亡的几率比男性高出47%。尽管数据中的性别偏见并不总是威胁生命，但不同行业中人工智能模型的设计和使用可能严重损害女性的生活。为了使人工智能更好地为企业和社会服务，应对此类偏差必须成为优先事项。 

一般来说，人工智能领域的性别偏见主要有三个来源。

性别偏见源自AI专业领域不对称的男女比例。根据世界经济论坛发布的《全球性别差距报告》（2018），全球人工智能专业人员中只有22％是女性，而男性为78％。在78％的AI专业人员是男性的情况下，男性经验可以指导并主导算法的创建。这种性别偏见可能会对妇女产生重大不利影响。但根据过去的研究经验，简单增加科学，技术，工程和数学（STEM）中的女性人数从而克服AI技术中出现的一些性别偏见被证明是有缺陷的。研究指出，女性更多的进入这些领域，并不会带来系统的改革或是技术领域内文化的改变。在这种环境下诞生的算法和AI技术仍然无法识别各类性别观点，最终仍呈现出性别偏见和不平等的结果。

性别偏见源自算法背后的偏见。与之前的所有技术一样，人工智能将反映其创造者的价值。决策者往往被视作决策过程的一部分被纳入考量，在开发这些数据集时，研究人员会做出有意识的决策，以决定将哪些数据包括在内，哪些数据排除在外。系统开发过程中的“人为”经验往往很难避免。

性别偏见源自含有缺陷的标准和规范。科技公司的技术往往受到知识产权的保护，公众无法得知这些算法是如何工作的，也不知道它们是如何部署的，甚至无法判断最终的结果是否公正。虽然越来越多的机构和企业关注技术领域的偏见问题，并建立相关标准和规范，但这些AI标准无法充分融合性别议题。例如，谷歌和微软的建立了各自的AI原则，分别强调“避免造成或加剧不公平偏见”和“公平对待所有人”，但在性别偏见问题上仍然缺乏相应的性别反应方式以克服固有的性别偏见。

由此可见，是人类生产的含有性别偏见的数据集和人类开发的算法带来了人工智能领域的性别偏见问题。那么，如何解决人工智能领域的性别偏见问题？

学者Bushra Ebadi呼吁跨学科的解决方案。首先，跨学科的研究和教育可以更好地理解和解决现实世界中的不平等现象，从而将经验应用于机器学习过程。其次，人工智能和自动化公司还应从一开始就让性别问题专家和妇女组织参与人权尽职调查。再者，消除性别不平等的尝试不仅要解决STEM领域中女性的进入“渠道”问题，还应赋予更多女性以塑造和影响AI运作的系统和行业的能力。这需要在技术领域中发生，而且还需要在政治，经济学，安全和法律中发生。

此外，政府与科技公司的跨界合作有利于规范人工智能的发展。无论政府处于AI开发或部署的何种阶段，都应当主动创建相关平台和和AI工作框架，以此加强人工智能背后的数据透明度和问责制。科技公司应当配合政府的制度框架，使得偏差可以被及时识别，记录并且用于定义之后的参数，同时及时清理含有偏差的数据集。

另外，《联合国商业与人权指导原则》（UN Guiding Principles on Business and Human Rights）的性别框架可以为国家、公司和其他利益相关者提供实际指导。该框架包括一个三步循环：性别反应评估、性别变革性措施和性别变革性补救措施。评估应能够对对妇女人权的不同的、交叉的和不成比例的不利影响作出反应，相应的措施和补救措施应该具有变革性，改变宗法规范、不平等的权力关系和性别刻板印象。

今年是性别平等和妇女权益领域重要文件《北京宣言和行动纲领》签署25周年。随着机器学习的演进和算法的更迭，人工智能所带来的变革已是有目共睹。对于其发展过程中的性别偏见问题，我们既无法将其简单定性为技术问题，也不能将算法偏差归结为社会不平等的必然结果。建立机器学习中的性别平衡刻不容缓，这对于防止算法延续不利于女性的性别意识形态至关重要。

（责任编辑：田慧）

原文摘自《人工智能资讯周报》总第79期

《人工智能资讯周报》探讨人工智能对公共政策、治理和政策建议的影响，探索人工智能对商业、政治和社会的影响，以确定潜在的研究领域，探讨可能的合作研究和机构伙伴关系。本刊着重提供中国人工智能发展动态和对人工智能的思考，同时关注全球范围内人工智能相关研究动态。本刊旨在通过可靠的研究，来帮助企业、研究机构和公民预测和适应技术引领的变化。

欢迎订阅

· 微信推送——请关注“海国图智研究院”公众号

· 网站推送——请收藏我们的网站www.intellisia.org （推荐√）

· 邮件推送——请扫描下方二维码登记邮箱信息，每日接收新鲜、深度的时政洞察

往期精彩回顾：