人工智能消费场景中的女性性别歧视
人类社会正快速步入人工智能时代，人工智能广泛而深刻地影响着人们的生产与消费方式。貌似客观中立的人工智能技术反而造成女性性别歧视现象丛生。虚拟世界出现问题，病根在人类世界。本文试图探索根治人工智能消费场景中女性性别歧视的善治之道。
虽然现实世界中男女平等“观念”深入人心，但机器人领域“男尊女卑”的做法却大行其道。如智能服务类产品大多设定或默认为女声，如微软的小娜（Cortana）、谷歌的谷歌助手（Google Assistant）。与此形成鲜明对照的是，国际商业机器（IBM）的沃森（Watson）却有着一个男性的名字和声音，日本艾斯瑞特科（Asratec）公司打造的跑车变形机器人吉·戴特尔（J-deite RIDE）也是男性名字。
更令人忧心的，是人工智能产品对女性的“塑造”。通过小小的智能手机，女性们看到一个不一样的自己，眼睛可大可小，脸型可长可尖。社交媒体上流行的“蛇精脸”成为修图标准，使得女性的个性化尽失。更甚，跟随社交媒体上女性流行图像，整容成风且年龄下移，不仅扭曲了女性审美观、危害身体，而且自我丧失，只剩下“机器化磨具”批量制造的同质化女性形象。
在“她经济”时代，女性成为网络消费主力，一些不良互联网公司为了谋取不菲利润，不惜推送暗藏性别歧视性的广告与色情暗示。例如滴滴打车的软件设计存在严重安全隐患，在乘客上车前，顺风车司机就可以看到其他司机对“她”的评价：“胸非常大”，“爱穿丝袜”……，这些露骨评论不经审核，暗藏严重安全隐患。大数据精准营销，利用性别歧视恶意牟利，频频引发恶性案件，已经触及商业伦理底线。
大数据是社会的镜像，如果整个社会存在性别偏见，那么基于大数据的算法也将在结果中展现出这种偏见。越来越多的公司、公共机构依靠算法来决策，由智能算法造成的性别歧视正在隐蔽地扩大性别成见。2014年，亚马逊公司曾经开发了一套“算法筛选系统”来帮助筛选招聘简历，它对男性应聘者有着明显的偏好，当识别出“女性”相关词汇时，便会给简历相对较低的分数。
更严重的是，人工智能会向人类学习，潜藏在人类语言文本中的性别歧视难免被纳入关联逻辑中。波士顿大学与微软的相关研究证实了这一点，当对软件进行提问：“男性是程序员，那么女性是？”它的回答是“家庭主妇”。人工智能算法再现并放大了人类固有的性别偏见。
受商业利益、人工智能技术进步与市场需求的驱动，尤其是男客户的热烈追捧，女性机器人市场大热。2010年美国“真实伴侣”公司推出世界上第一款性爱机器人洛西（Roxxxy），2014年东芝推出超逼真接待员机器人千平爱子（AikoChihira）……功能各异的女性机器人被陆续推出，除了生育功能外，几乎涵盖了女性所有社会角色，部分型号还允许深度定制。
这实质上是一种更严重的性别歧视，是一种由“高科技包装”的对女性性别的软暴力。长此以往，必定会“矮化”女性的社会地位与角色定位。女性机器人近乎是完全为取悦、服务男性而设计，这种把人类世界中见不得光的性别歧视欲望物化投射到女性机器人上的做法，试图规避法律、逃避伦理谴责，只会衍生更多的社会伦理问题。
西方中心主义与白人优越论思维僵而不死，虽然种族歧视早已被法律禁止与道德谴责，但在人工智能技术普遍被西方公司掌握的情况下，虚拟世界中建基于“隐性”种族歧视基础上的女性性别歧视已经成为一种21世纪的新型性别歧视。
巴西研究人员通过搜索“漂亮的”和“丑陋的”女性及其照片调查了谷歌和必应在全球59个国家对女性魅力的算法概念后，发现它们更多地把年轻白人女性的图片视作漂亮女性，而把亚洲人、老年女性与黑人的图片与丑陋女性相关联。
1.他者的建构，女性缺乏人工智能行业的话语权
如拉康（Jacques Lacan）所言：“人的欲望只能是他者的欲望”。人工智能时代，女性化的机器与机器化的女性，成为“被观赏的他者”，就是这种他者思维在作怪。令人忧心的是，在人工智能产品潜移默化的渗透中，人工智能塑造的女性形象也在悄悄地“构建女性认知思维”。生活者（Live Person）首席执行官罗伯特·洛卡西奥（Robert LoCascio）有感而发：“亚马逊的语音助手Alexa给我女儿树立了一个糟糕的榜样——女性应该卑顺、忍受无礼的行为并待在家里”。
女性在IT与AI行业缺乏参与度与代表性是诱发女性性别歧视的重要原因。2015年，一项针对硅谷200名高级别女性的调查发现，66%的受访者称自己因性别而被排除在重要会议之外。科技女性比例低，使得科技行业弥漫的性别偏见难以打破、人工智能产品折射出来的男尊女卑的“女性观”得不到纠偏，而这种物化女性、加固性别刻板印象的趋势则进一步打击了女性进入科技界的意愿。
2.利益驱使导致人工智能产品对女性的物化
现代消费社会，在商业利益的驱动下，只要赚钱，似乎一切都可以被物化。女性也被物化，坠入自我物化的陷阱。一方面，商家为了争抢市场而物化女性。为了牟取不菲的商业利益，迎合部分男士的“性幻想”或“优越感”，女性机器人的功能越来越全，越来越会取悦男人。
另一方面，为了满足不断膨胀的物质欲望和虚荣心，比“物化女性”更可怕的是“女性自我物化”。网红经济时代，女性消费自身、自我物化现象不容漠视。在人工智能技术的帮助下，一些网络女主播一味迎合畸形的男性审美观，千篇一律的同质化“网红脸”即是明证。
3.机器伦理与法规滞后，性别歧视在虚拟世界泛滥
人工智能的飞跃式发展的同时，与其相关的机器伦理与法规制定严重滞后。以致很多商家、消费者纷纷利用这段“空白期”“为所欲为”。约翰·佩里·巴洛（John Perry Barlow）发表的网络无政府主义宣言宣称：“你们既不享有管制我们的道德权力，也没有任何使我们感到害怕的强制手段。”
随着人工智能与人们的生活越来越密切，虚拟世界与现实世界的区隔酿成的人格分裂与角色混乱更加严重，一个是规制严密的“男女平等”的现实世界，一个是道德荒漠的“男尊女卑”的虚拟世界，越来越多不得志的男性沉溺于互联网中需求自我与释放，女性性别歧视在心理慰藉的暗示与补偿中不断膨胀，一旦脱离了道德约束，人性恶必然淋漓尽致地展现。
4.人工智能科幻电影等媒介对性别平等社会
科幻电影，尤其是人工智能科幻电影一直以来都深深地影响着人们关于性别角色的社会认知。在女性主义的影响下，尽管影视界已经做出了巨大改变，逐渐改变了以往男主角女配角、男性扮演英雄与救世主、女性只不过是性感花瓶点缀的局面。2017年上映的《银翼杀手2049》，更是把女性在未来的角色塑造为男性的玩具。好莱坞对于有色人种女演员潜在的性别歧视更严重，不但戏份少，而且薪酬更低。
媒介即隐喻，长此以往，人工智能科幻电影呈现的性别歧视必将刻板化为公众的“集体无意识”。
银翼杀手海报
5.人工智能算法成为助推性别歧视的工具
算法在社会中的影响越来越大，由此引发的性别歧视现象也屡屡被诟病，主要原因在于：一是研究人员有意、无意嵌入算法的设计偏见。如果设计、训练人工智能的基本都是男性，那很可能出来的结果就有性别偏见之嫌。二是算法在就业、招聘等领域大显神威，招聘单位获益匪浅。算法黑箱的存在，更便于一些企业通过嵌入性别、年龄、学历等特殊编码，剔除特定应聘群体，加重了本已存在的性别歧视问题。三是算法的精准性依赖于训练数据集的规模与代表性，如果数据集有偏差，那么算法难免也会出现偏差。四是，图像训练数据集中的性别标签化现象严重，人工智能被带偏。
1.构建机器伦理，增补虚拟世界与机器世界道德短板
机器伦理是根据人工智能发展实际而予以调整与增补的伦理规约。贯穿人工智能的设计、生产与使用的全过程，主要包括设计伦理、使用伦理与机器人行为伦理三方面内容。
构建机器伦理，一是要将性别平等理念嵌入人工智能产品设计环节，并努力开发新技术预防性别歧视。同时也应对恶意侮辱女性形象的女性机器人人设现象进行强烈道德谴责；改变服务业机器人必然女性人设的惯习；二是在人工智能产品使用环节，构建人工智能使用伦理。虚拟空间与机器世界不是道德荒漠，在虚拟公共空间也应有公德，对于性骚扰女性机器人等有损女性尊严的行为要严厉声讨。三是抓紧构建机器人行为伦理。要对男性与女性机器人等伦理关系做出伦理预见与防范性规约。
2. 行业自律与国家他律要形成联动，切实解决
越来越多的大型科技公司设立了伦理委员会，用来监督其人工智能的设计、制造与消费。如，IBM的沃森项目组、谷歌深度思维（DeepMind）项目团队等都成立了人工智能伦理部门。
各国政府也在抓紧行动。2018年，英国审议中的《新数据保护法案》（A New Data Protection Bill）打算对未能执行反欺凌或反骚扰规定的公司处以全球营业额4%的罚款。纽约市也拟立法严惩利用苹果空投（AirDrop）功能进行“网络闪烁（Cyber Flashing）”的性骚扰，违者将面临一年监禁。
随着数字人类等新技术的不断发展以及强人工智能的迫近，各国亟需对可能出现的新形式的女性性别歧视现象进行前瞻性立法研判。
3.增强女性在人工智能行业中的话语权
一是增强女性对人工智能的兴趣，提高她们相关领域受教育程度的比例。二是，人工智能科技公司要切实提高女性工程师的比例。三是增加女性的决策权。适当提升女性高管比例，获得更多的决策权。女性自身也必须努力争取在人工智能发展政策与立法方面获得更多话语权。四是，女性要增强从事AI行业的自信心。人文关怀与丰富的人性化思维正是女性研究者们的专长。
4.积极倡导男女平等观念，以观念战胜观念
世界在很大程度上由观念支配。一是要倡导正确的消费观，坚决抵制任何物化女性等不良行为，男性更要抵制猥琐的欲望，把对女性的尊重延伸到虚拟世界与机器世界。二是面对消费主义的诱惑，女性要自尊自爱自强，自觉抵制各种物化、符号化女性的不良事物。三是鼓励所有有利于男女平等的行动。瑞典的院线和一些电视频道已经将贝克德尔测验纳入评分系统，以后不满足条件的不能进入院线上映，让更多男性导演注重女性的角色塑造。四是对于涉嫌性别歧视的行为，坚决抵制。如谷歌工程师詹姆斯·达茂（James Damore）因为在公司内部平台发表“女性天生不适合科技产业”的言论被开除。
以观念战胜观念，让男女平等观念深入到虚拟世界与机器世界，方是根治人工智能消费场景中女性性别歧视的善治之道。
END
本文选自《自然辩证法通讯》2020年第42卷第5期