WordBias显示偏见(刻板印象)的交互式可视化工具

词嵌入做为一种词向量模型，可以从文本中计算出隐含的上下文情景信息，态度及偏见。通过词向量距离的测算，就可以间接测得不同群体对某概念(组织、群体、品牌、地域等)的态度偏见。偏见(刻板印象)的介绍有

目前有些Python库可以使用词嵌入模型展示人类认知偏见， 如:

今天又发现了一个Python项目，

WordBias：一种用于发现词嵌入偏见(刻板印象)的交互式可视化工具

https://github.com/bhavyaghai/WordBias

上图为WordBias的可视化界面。图片可以分为3部分：
(A) 控制面板提供选择要投影到平行坐标图上的单词的选项
(B) 主视图显示所选单词（蓝线）沿不同偏见类型（轴）的偏差分数
(C) 搜索面板使用户能够搜索单词并显示搜索/刷新结果。

在上图A位置填入了一连串负面词,如terror， terrorism、attack、dangerous、violence等 。

而在图中B位置，可以看到这些负面词在不同维度上存在不同的偏见。

• 性别: 这类词主要倾向于男性
• 地区：这类词倾向于伊斯兰地区
• 年龄: 这类词倾向于年轻人
• 经济:  这类词倾向于贫穷

这表明 Word2vec 嵌入包含对穆斯林地区的贫困男性存在偏见。 

精选文章