为什么人工智能需要同理心？

点击蓝字 关注我们

SUBSCRIBE to US

消除人工智能系统中的偏差可能需要“人机回圈（human-in-the-loop，具体来说就是设计某种机制让机器（算法）和人互动协作来更好的处理某件事情）”解决方案。

人工智能是商业数字化的主要内容，86%的公司将人工智能视为其组织内的“主流技术”。

但由于数据、算法或负责管理它们的团队的偏差，绝大多数人工智能项目都会产生错误的结果。数据中的这种偏见已被证明源自影响人类决策的相同偏见，无论是隐含的还是其他的。

人工智能系统在识别人类情感方面面临着特殊挑战——部分原因是人类也是如此。

IEEE会员Gloria Washington认为，智能系统中的偏见风险强调了需要人工智能中更多的同理心。

为什么我们需要移情计算

“人工智能的承诺是，它将有助于做出更好的商业决策，改善医疗保健中的患者结果，自动化重复或平凡的任务，让人类腾出时间来处理更具挑战性的问题——等等，”Washington说。

不幸的是，Washington表示，我们已经看到了有偏见的人工智能系统对人类造成伤害的例子。

类似地，部署受偏见影响的算法的人工智能系统可能会基于与身份或情绪识别相关的人类生理、心理或行为特征，进一步边缘化个人或社区。

例如，负责帮助大公司筛选面试候选人的自动化系统理论上可能存在偏见——如果人工智能算法基于公司过去十年的招聘习惯，其中该时间段的招聘由表现出亲和力偏见的男性进行，则女性在筛选过程中将处于劣势，导致招聘过程中出现性别差距。

随着人工智能系统不断扩散，直接解决智能系统中的偏差问题至关重要。

我们面前的机会

Washington认为，解决人工智能偏见的最佳方法之一是采用人机回圈的方法来验证预测，并提供特定预测对社区或个人的潜在影响的背景。

Washington提出：“同理心系统是一种从各种专家那里学习的系统，作为人机回圈方法的一部分，用于改进系统的模型。专家是指通过亲身经历或深入了解现实世界的情况和影响，能够利用多模态数据——图片、文本和指标——来展示好的预测，帮助更好地为人工智能工具提供信息的人。”

研究的一个领域旨在通过检查医疗服务提供者在其笔记和电子健康记录中使用的语言来增加医疗服务中的同理心。然后，系统可以指导提供者使用更具包容性的语言。

Washington表示，对所有情景和潜在结果进行适当规划是一项挑战。然而，她认为，有可能将来自不同领域的专家聚集在一起，以编纂更好地理解情感、同理心、生物特征和人类行为所需的必要信息。

什么是情感生物识别？

移情问题在情感生物特征识别领域中占有重要地位，有时被称为情感计算。

情感通常表现在人体对情感的身体反应中。

Washington说：“我们通常将其与面部表情联系起来，但在生物特征学的背景下，影响还包括肢体语言、身体姿势，甚至人类自主系统，通过关注心率、血压甚至出汗等可测量数据。”

但情感本身也是一种文化。在一种文化中看似愉快的反应，在另一种文化里可能被解释为激动。

Washington说，情感生物特征分析情绪，如沮丧或愤怒，也应与上下情境信息一起使用，以根据对特定情况或场景的学习反应来识别一个人可能的行为。

“背景对于理解情感很重要，” Washington说，“编撰背景可能很困难——编撰人类使用工具的‘时间、地点和方式’可能具有挑战性。然而，通过将不同学科的专家纳入其中，我们可以帮助减轻系统中偏见的有害影响。”

根据Washington的说法，我们还可以改变人工智能工具的利用方式。

Washington说：“人工智能工具当然可以为我们自动化日常任务。然而，我们可以选择将更重要的任务，特别是那些对人类具有强大现实影响的任务留给人类。此外，在利用人工智能的情况下，可以在系统中内置程序步骤，在执行任务之前，数字工具将以某种方式传达行动对相关群体或个人的影响。”

归根结底，人工智能和许多其他技术一样，是人类可以使用的工具。而且，通常情况下，为了解决人类问题，如偏见，最好的解决方案是涉及人类的解决方案。

了解更多关于Washington在霍华德大学情感生物特征实验室的工作，可点击这里：https://sites.google.com/view/affective-biometrics-lab-resea/home。

了解更多信息：

文化标准和情感是合乎道德的人工智能系统的核心。如果您想了解IEEE会员如何解决这些问题的更多信息，请阅读“Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent System：https://ethicsinaction.ieee.org/”，或参与解决这些问题以供未来技术专家使用的工作组：https://sagroups.ieee.org/7014/。

微信号｜IEEE电气电子工程师

新浪微博｜IEEE中国

 · IEEE电气电子工程师学会 · 

往

期

推

荐