比起人工智能替代人类，并肩协作可能是更好的选择

书籍作者：贝丝·坎特（Beth Kanter）、艾莉森·费恩（Allison Fine）

页数：240页

出版社：Wiley

出版年份：2022年

 导读

  Foreword

在人工智能与人类工作关系的演进史上，我们发现，人工智能如果单独完成工作，可能会导致对于人的关注的下降，而“人味”恰是非营利机构工作的核心“。在探讨与实践过程中，作者提出观点：AI+人类的共同协作模式，是对于强调“人味”的非营利组织的最好选择。

“智能技术”（smart tech）是我们创造的一个总括性术语，用来描述代替人类做出决策的先进数字技术。它包括人工智能（AI）及其子集和如机器学习、自然语言处理、智能表格、以及聊天机器人、机器人和无人机等类似技术。

当前，智能技术最擅长的是做一些机械性的工作，如填写登记表，以及反复回答同样的问题（例如“我的捐款是否可以免税？”）。但是，这项技术正在迅速嵌入到非营利组织工作的核心部分，发挥广泛的功能。因此，我们预计，有了智能技术的帮助，工作人员就可以自由地专注于其他活动。我们称这种好处为“时间红利”，它可以帮助减少工作人员的倦怠感，让人们能够以更深入的方式了解服务对象，并专注于解决问题，如除了为无家可归者提供服务外，还要从根源上解决无家可归的问题。

智能技术近期来到了一个技术达到日常使用水平所共同经历的拐点：计算能力的巨大增长伴随着技术成本的急剧下降。因此，以前只有像美国国家航空航天局（NASA）这样的精英机构才能使用的技术，或者嵌入到广泛复杂的系统中的技术，突然就变得可供日常的个人和组织在如筹款、会计、人力资源、服务交付等等方面使用了。

获得现成的“智能”软件可能看起来是一个技术决定，但其核心是一个极其深刻的人类挑战，需要有明智的领导才能做好。在技术能力与组织内外人员的利益和需求之间存在着一个最佳平衡点，组织需要识别出这个最佳点。有些人把这种融合称为“人机协同”（ “co-botting”）。识别这个最佳点的责任不能只落到IT部门身上。组织领导者需要有足够的兴趣，具备渊博的知识，并且充分参与其中，确保通过以人为本的方式来使用智能技术。

以下节选自我们的新书《智能非营利组织》中关于坚持以人为本的章节，在这部分中，我们讨论了如何使以人为本转化为优先考虑人的兴趣、力量和独特才能，而不是技术的速度和魔力。随着我们的工作场所变得越来越自动化，对人的重视从未像现在这样重要。——艾莉森·费恩和贝丝·坎特

凯撒·查韦斯（编者注：Caesar Chavez，美国劳工领导者、民权活动家）说过：“这从来无关葡萄，也无关生菜，只关乎人”。对智能技术来说也是如此。无关代码，也无关魔力；它关乎确保人最重要。以人为本意味着优先考虑人的兴趣、力量和独特才能，而不是技术的速度和魔力。随着我们的工作场所变得越来越自动化，对人的重视从未像现在这样重要。

智能技术是一种全新的工作方式，如果不把由内而外善待人作为重中之重，就有可能弊大于利。本章探讨了人类智慧和机器智能之间的差异，介绍了如何在组织内部让人与机器人通力合作，并概述了设计以人为本的工作步骤，以确保智能技术能够提高而非征服人的需求。

▍人vs.机器

自20世纪50年代以来，专家们一直都在预测，智能技术将在20年内达到人类智能的水平。麻省理工学院教授托马斯·马龙（Thomas Malone）说："换句话说，这60年来，它始终是20年后会发生的事"。

在过去的几年里，斯蒂芬·霍金、埃隆·马斯克、斯蒂夫·沃兹尼亚克、比尔·盖茨以及许多其他科学和技术领域的大人物都在媒体上表达了对人工智能可能比人类更聪明的担忧。已经有许多调查询问这种情况何时会发生，这些调查都得出了相同的结论：我们根本不知道。但我们可以绝对肯定地说，现在人类和机器的智能水平是不相等的。

用最最简单的话来说，智能有两个组成部分：基于事实的知识和情绪智能（emotional intelligence）。智能技术显然在基于事实的知识方面取得了进展，但同时，在纳入情绪智能还处在早期阶段。情绪智能的核心是共情，理解他人的感受。智能技术还做不到像人那样共情，而且可能永远都做不到，但它可以通过情感分析模仿共情。

智能技术在完成特定任务（如填写表格）时更加准确、快速和稳定。智能技术永远不会感到疲倦，也不需要午休或度假。然而，目前，机器人还无法做到共情。它们能做的只是模拟情绪反应。例如，一个客户服务聊天机器人可能受到训练，学会用关心或帮助的语气道歉，甚至称呼你的名字。模仿情绪并不等同于拥有情绪或理解情绪。

人类具有独特的能力，可以想象，解决问题，预测，感受和判断不断变化的情况，这就使我们能够转变观点。我们的记忆、希望、担忧和个性也影响着我们对周围世界做出的反应。智能技术还无法具备共情、爱或其他情感。加州大学伯克利分校计算机科学教授斯图尔特·拉塞尔（Stuart Russell）写道：“虽然人工智能系统可能能够模仿人类的共情，但它们无法真正理解共情是什么样子。这是非营利组织可能没理解的一项区别，但却是以人为本的一个基本原则。”

人类和机器人智能之间的差距反映在不断增长的治“聊”机器人（therapy chatbots）领域。“盒子里的弗洛伊德博士”以及其他一些治“聊”机器人都是富有吸引力的产品，因为它们价格不贵，且随时可用。但研究表明，由于智能技术在理解潜台词方面的局限性，机器人的治疗可能会很糟糕。

治疗机器人还面临着其他重大挑战。私营公司的算法的运行方式通常是不透明的，这就加大了聊天机器人治疗师提供不良建议或带偏见的建议的可能性。

如果这还不够糟糕的话，他们还有可能通过与营销公司分享私人信息而使其变为一种武器。例如，有一个叫做Woebot的机器人。它是一个聊天机器人治疗师，通过脸书聊天工具Facebook Messenger提供认知行为治疗（编者注：Woebot已经不在Facebook messenger上了，可以通过智能手机上的应用商店获得）。这个机器人没有受到监管，也没有获得治疗师的执照，该公司将来可能会选择将用户的数据卖给制药公司或雇主，尽管暂时还没有这样做的计划。

▍人机协同

在人与智能技术之间取得适当的平衡称为人机协同或增强智能（augmented intelligence）。H·詹姆斯·威尔逊（H. James Wilson）和保罗·R·多尔蒂（Paul R. Daugherty）对1500多家公司进行了研究，发现当人类和机器一起工作时，表现就会有显著的提高。“通过增强智能，人类和人工智能得以积极增强彼此的互补优势：前者的领导力、团队合作、创造力和社交能力，以及后者的速度、可扩展性和定量能力”。

智能技术对工作机会的颠覆是“平等”的，它并不关心一个工作是低薪还是高薪。如果其涉及到大量数据的分析，工作就会发生变化。斯坦福的放射科医生柯蒂斯·兰洛茨（Curtis Langlotz）预测说：“人工智能不会取代放射科医生，但使用人工智能的放射科医生将取代不使用人工智能的放射科医生”。

大多数专家对人工智能将会很快取代医生表示怀疑，因为即使算法在诊断某一特定问题方面更胜一筹，将其与医生的经验和对病人个人情况的了解相结合，也会带来更好的治疗和预后。

“特雷弗项目”（The Trevor Project）为年轻的女同性恋者、男同性恋者、双性恋者、跨性别者、非异性恋者和疑性恋者（LGBTQ+）提供危机咨询。他们创造了聊天机器人莱利，通过提供与潜在自杀倾向青少年的真实模拟对话来帮助培训顾问。莱利随时可以与志愿者一起参与培训课程，这有助于工作人员在不增加资源的情况下扩大受训顾问的数量。莱利永远不会在第一线直接面向危机中的青少年开展工作，因为特雷弗项目认为这个角色应该是以人为本的。

人机协同不仅限于聊天机器人。福利数据信托（Benefits Data Trust）是一个位于费城的扶贫组织。该组织创建了一个人机协同系统，将智能技术融入其工作中，帮助呼叫中心的工作人员协助客户浏览和完成公共福利的申请流程。他们试图解决的痛点是客户申请和领取福利所需的大量时间和文件填写。计算机系统通过数千次工作人员和客户之间的互动进行训练，以便在数十种可能的公共福利中给出推荐。该系统还为客户提供预填充表格，为工作人员节省了大量时间。

公共福利信托（Public Benefits Trust）的首席数据和技术官拉文达尔·古吉拉尔（Ravindar Gujarl）告诉我们：“说到底，我们作为一个非营利组织的角色是创造一种人际连接。我们不会（用机器）替代电话客服人员，他们直接与客户对接。我们非营利组织的工作是与我们的服务对象建立关系。服务对象们身处困境，找到我们这里，我们希望他们不必因必须收集文件或费力地完成复杂的申请程序而担心。”

这些例子中包含细致的规划，以确保技术得到增强，而非取代员工的工作。没有什么特别的公式可以确保在人力和技术之间取得恰到好处的平衡。想要达到这个效果，就需要仔细规划、监测和不断调整，以确保你的组织保持以人为本，并且对人力和技术都要充分利用。如果没有这种关怀和体贴，你的非营利组织最终可能会在你的员工中增加一个像Flippy这样的机器人。

2018年3月，Miso机器人公司和南加州的一家快餐店Caliaburger宣布 "Flippy "公开亮相，这是世界上第一个由人工智能驱动的自主机器人厨房助理。Flippy的工作是夹住汉堡肉饼，把它们从烤架上拿下来，让它的人类同事在适当的时候把奶酪放在上面，并添加一些额外的东西，如生菜和酱料，然后为顾客包装三明治。

发布会的新闻稿描述了Flippy将如何通过接管热烘烘、油腻腻、脏兮兮的夹取汉堡的任务来颠覆和改变快餐业。该公司将Flippy标榜为一个经济高效的解决方案，每小时可以翻转150个汉堡，远远超过其所取代的厨师。新闻稿没有提到的是除此之外，Flippy还不会抱怨工资低、福利少、工时长。

工作两天后，Flippy就遭到了解雇。关于机器人厨师Flippy的消息在社交媒体上疯传。这促使人们的兴趣激增，当Flippy离开时，人类厨房工作人员却无法跟上需求。这家餐厅意识到，他们需要在内部系统上花费更多时间，培训人们与机器人并肩工作的能力。

这个故事表明，对于一个组织来说，很容易选择一个机器人来解决问题，却不让员工参与这个过程，这就没有让整个系统保持以人为本。

▍以人为本的设计

新冠疫情凸显了一些组织的坏习惯，这些组织在紧张时期没有保持以人为本。华盛顿州的一个医院系统为那些捐赠了至少1万美元的捐赠者安排了“仅限邀请”（ “invite-only”）的疫苗接种预约。佛罗里达州西棕榈滩的一家高端疗养院与敬老院的首席执行官邀请董事会成员和主要捐助者进行疫苗接种。这并不是医院和护理机构为捐赠者提供第一针的唯二例子。

筹款专业人士协会（Association of Fundraising Professionals）主席迈克·盖格（Mike Geiger）在回应中说：“医院系统或任何慈善机构——无论出于什么原因——无视协议、指导或限制，并为某些捐赠者和董事会成员提供‘加塞’并在预定时间前接受疫苗接种的机会，这种想法与慈善事业和遵循伦理的筹款的价值观背道而驰。”

虽然这个例子不是专门针对智能技术的，但它说明了组织是多么容易偏离将客户和患者置于优先与核心位置的做法。智能技术的使用使得保持以人为本变得更加具有迫切性。我们建议通过下方提到的以人为本的设计技术与终端用户接触。以人为本的设计侧重于对终端用户或受智能技术影响的人产生深刻的共情。这个过程的核心是与人们一起设计流程和服务（而不是将流程和服务扔在他们头上），通过访谈、观察和开发终端用户的角色或模型来测试流程和假设。

许多优秀的工具和资源可以用于以人为本的设计。这些流程的精髓是：

• 1. 从关键利益相关者那里获得意见，了解哪些问题对他们来说是最重要的。

• 2. 勾勒出一个想法、流程或服务，划定责任。

• 3. 测试、反思、改进。

公共福利信托使用这种流程来确定他们的流程中哪些部分应该自动化。拉文德说：“如果不从使用它的人那里得到反馈，你就无法建立一个为公共福利系统服务的算法。”

▍结语

非营利组织在拥抱智能技术时必须做的第一步是把人放在第一位，并深入了解机器和人如何一起工作。正如我们在本章所讨论的那样，以人为本的原则和方法对于非营利组织成功使用智能技术至关重要。

以人为本的设计资源

有许多优秀的以人为本的设计资源，为实施以人为本的设计过程提供每一步指导，本书无法全部囊括它们。许多技术任何非营利组织都可以使用，而无需聘请昂贵的顾问。

如果你想要快速了解最新情况，我们推荐以下这些额外资源，了解关于以人为本的设计。这些组织当中有许多也提供培训。

Ideo设计工具包（Ideo Design Kit）：IDEO一直是以人为本的设计方法的思想领袖。这家设计公司有一个非营利性的分支（ideo.org），专注于非营利组织和社会变革的方法，包括许多免费的实用资源和例子。此外，IDEO还为人工智能开发了特定的以人为本的设计方法，以帮助理解智能技术的意外后果。

Ideo设计工具包：方法

https://www.designkit.org/methods

AI与伦理：设计师的合作活动

https://www.ideo.com/post/ai-ethics-collaborative-activities-for-designers

Luma研究所（Luma Institute）：Luma系统是用于设计思维的最实用、最灵活、最多变的方法之一。它提供了一本指导手册，里面有任何人都可以使用的简单技巧。

Luma系统

https://www.luma-institute.com/about-luma/luma-system/

斯坦福大学设计学院（Stanford Design School）：2018年，D-School（人们通常这么称呼），发起了一项名为 "Radical Access "的倡议，该计划和资源旨在增强新兴技术的流畅性，使其成为所有人的设计媒介。其理由是，为了使人工智能的任何使用案例为我们服务，我们必须参与设计。这两种技术对于设计以人为本的算法或将问题映射到人工智能的解决方案上特别有用。

“我爱算法”（I Love Algorithms）

https://dschool.stanford.edu/resources/i-love-algorithms

“将问题映射到人工智能上：解决方案”（Mapping Problems to Solutions: Artificial Intelligence） 

https://dschool.stanford.edu/resources/map-the-problem-space

参与式机器学习（Participatory Machine Learning）：指用以人为本的设计方法来指导为自动化项目的设计和迭代的实践。谷歌最近发布了一份指南，积极让多元的利益相关者--技术专家、用户体验师、政策制定者、终端用户和民众参与到项目的反馈过程中。该指南概述了人类感知如何驱动机器学习的各个方面，并提供了关于如何获得用户意见的讲义。

人+人工智能指导手册（People + AI Guidebook）

https://pair.withgoogle.com/ 

代理设计（Agentive Design）：在设计聊天机器人和 "自动化的智能代理 "时，必须将以人为本的设计原则作为基础。这个概念是由Chris Noessel提出的，他是Watson IBM的界面设计师。设计原则包括专注于简单的设置和丰富的接触点。另外，当聊天机器人在工作时，你无法看着它。当用户必须接触它的接触点时，需要关注和考虑。总的来说，精心设计的聊天机器人和代理需要大量的持续关注来管理。有效地设计聊天机器人或智能代理需要大量的用户测试和反馈，以正确进行培训。聊天机器人或智能代理与人类的互动越多，它就越能学会应对。这与设计其他类型的技术不同，用户实际上是在做出现实举动，而不是进行代码编程。经常使用的比喻是，它不像设计一把锤子，更像设计一个管家。

艾莉森·费恩是美国利用技术促进社会公益方面的杰出作家和战略家之一。她是获奖作品《动能：点燃互联时代的社会变革》（Momentum：Igniting Social Change in the Connected Age》和《相关：社交世界中的无畏领导力》（Matterness: Fearless Leadership for a Social World）的作者，并与贝丝·坎特合著《网络化非营利组织》（The Networked Nonprofit）。

贝丝·坎特是国际公认的非营利组织工作场所数字化转型和福祉方面的思想领袖、培训师和促进者、作家，也是一位广受欢迎的主题演讲者。她是NTEN终身成就奖的获得者，在为非营利组织和基金会设计和提供培训项目方面拥有超过三十年的经验。

作者：艾莉森·费恩（Allison Fine）和贝丝·坎特（Beth Kanter）

来源：斯坦福社会创新评论英文版网站，2022年2月15日

原标题：Staying Human-Centered in an Automated World

推荐阅读

往期回顾

使用测量来管理影响力｜测量与评估

如何制作一份有效的影响力表现报告｜测量与评估

为所有人的设计｜无障碍社会行动的博弈史