AI也会性别歧视？联合国官员：防范人工智能“作恶”需国际合作

防范人工智能“作恶”需国际合作

9月17日下午，2018年网络安全宣传周活动在成都启动。联合国人工智能与机器人中心主任伊莱克利·伯利兹（Irakli Beridze）接受南都专访时表示，人工智能是一种工具，是工具就有两面性。要防范人工智能“作恶”，领域内的所有利益相关方应该携手合作，国际间的合作尤为必要。

联合国人工智能与机器人中心主任伊莱克利·伯利兹（Irakli Beridze）。

人工智能可能重复人类的性别歧视

日前，来自弗吉尼亚大学计算机系的学者发现，人工智能识别图片时常会犯一个低级错误：把站在厨房中的男人识别为女人。这名学者很快意识到，人工智能的学习数据出现了偏差，因此重复了人类社会中的性别歧视，认为厨房里的人就应该是女人。消息一出，引发了国内外网友热议。如何看待这一现象？南都记者向伯利兹提出了问题。

“我自己就很爱做饭，我经常做饭，这种歧视对人工智能和整个社会的发展肯定都是不利的。”对此，伯利兹的观点非常鲜明。他说，人工智能还是一种非常新的技术，政府、企业和投资者都要对这种偏见的转移现象予以高度关注，并想办法移除偏见。

对抗人工智能风险需要国际合作

伯利兹在联合国启动并领导了人工智能与机器人项目，旨在提高各界对人工智能的风险-效益二重性的认识。谈及人工智能的发展现状，他指出，在国家安全、医疗健康领域，人工智能已经有落地应用，给全球带来了很大的福利，包括中国在内的世界各国也在积极投入资源发展人工智能。但是，人工智能是一种工具，是工具就有两面性，联合国人工智能与机器人中心希望能帮助各国妥善应用人工智能，让每一个人享受新技术的福利，同时又规避潜在风险。

“我们首先要理解这种新技术，理解它的运转方式、功能、数据和算法。其次，包括政府、企业、学术机构在内的各个利益相关方应该通力合作，交换信息，规避风险，寻找问题的解决办法。最后，国际间合作是非常有必要的，因为没有任何一个国家能独自对抗大型的风险。在合作的过程中，在人工智能领域世界领先的国家，比如中国，应该帮助其他国家理解其中的风险，帮助他们想出解决方案。” 伯利兹说。