AI助手常「尬聊」? 谷歌推出人机协作计划，想让AI助手更「懂人事」 | 潮科技
在人工智能的“训练”过程中，不全、不准确的数据就有可能造成AI“思想有问题”，而开发者们很多时候并不知道错误出在哪里。谷歌的PAIR人机协作计划想要解决这个问题。“PAIR”表示People + AI Research Initiative（人类+AI研究计划）。
文 | 石筱玉
编辑 | 傅博
我们都知道，iPhone里的Siri能给我们讲笑话，Amazon Echo里的Alexa还能协助你语音购物……不过尝试几次之后，我们也会发现Siri的“冷笑话”也那么几个，而大部分人都对Alexa的购物功能其实不太感兴趣。
Siri的“唱歌”功能你有没有试过？（图片来自网络）
在普华永道人工智能分析师Anand Rao的眼中，AI的问题还严重得多。由于现在的AI还不具有理解整句话意思的能力，它们依旧在抓取关键词和用户“尬聊”。因此，AI有时候会捅出挺大的篓子。Rao对VentureBeat这么表示：
“有些很经典的例子……聊天机器人会说‘这太棒了！快点告诉我你亲人逝世的更多消息吧。’”
在这些案例之下，谷歌下定决心不让自己的人工智能语音助手Google Assistant和用户继续“尬聊”。为了提升人类与AI助手的关系，谷歌在7月10日宣布将要进行一个新的研究计划：PAIR计划。
“PAIR”表示People + AI Research Initiative（人类+AI研究计划），将由Fernanda Viégas与Martin Wattenberg两位数据可视化专家负责。他们最重要的一个任务就是研究如何让AI更有“人性”。
PAIR计划的背后，是谷歌长久以来一直推行的“HCML”（human-centered machine learning，以人为中心的机器学习）理念。在之前对这一理念的阐述中，谷歌的设计师们是这么说的：
“设计者们还需要学习如何让用户觉得他们控制了技术，而不是技术控制他们……运用这一理念，我们能够观察机器学习是如何以人的需求为本，同时以独特的方式解决这些只能由机器学习解决的问题。”
在同一天，Viégas与Wattenberg还将Facets Overview和Facets Dive两项可视化数据工具进行开源。在PAIR计划的主页上，我们能看到通往Facets工具的页面。两位作者是这么形容Facets系列工具的：
“这些工具面向AI工程师开发，并且关注的是机器学习的最初阶段。Facets工具能够让工程师们清楚知道用来训练AI系统的数据分布。”
Facets工具的数据筛选页面。
对于AI系统来说，要想做到对用户的千百种要求“有求必应”，必须要建立在庞大的数据库之上。以无人驾驶为例，AI的数据需求甚至催生了“AI训练师”的新职位。“训练师”们能够在道路图片中标注出行人、树木、其他车辆等的形态，以供无人驾驶AI进行学习。
不过，生活中的语音助手面对着比无人驾驶更复杂的用户诉求，同时也要收集各个年龄、偏好的用户资料。在这一过程中Facets工具能够方便地对于用户进行分类与筛选，让开发者们观察自己的数据选择有没有出现偏颇。
根据《金融时报》的分析，谷歌的Facets工具是“以人为中心”的第一步，同时也反映了人工智能行业一个更大的隐忧。
在人工智能的“训练”过程中，不全、不准确的数据就有可能造成AI“思想有问题”，而开发者们很多时候并不知道错误出在哪里。就算在某些情况下AI系统能正常运作，AI也可能产生一些偏见，从而伤害到用户的感情。
在PAIR计划的官方页面中，我们不仅能看到Facets工具，还发现谷歌在“以人为中心”思想下的多方面布局。其中不仅有自然语言与模型的解析，还有The Playground教育工具，与一个名叫Face2Cartoon、能够通过照片做卡通头像的软件。
谷歌对Face2Cartoon的介绍图。
Viégas与Wattenberg对谷歌的这个长远计划非常自豪。在他们眼中，这项计划不仅能够防止未来的AI助手与用户“尬聊”，还能在学术、开发方面帮助研究者们。
关于他们的这些预期，文章中这样写道：
“工程师与研究者：AI是人类创造的。 我们如何能让工程师们更容易制造与理解机器学习系统？他们需要什么样的学习资料和实践工具？
领域专家：AI如何能够在专业工作中协助专家们？我们该如何帮助逐步开始使用AI的医生、设计师、农民、音乐家们？
普通用户：我们如何能保证机器学习的广度，让每一个使用者都从AI的技术突破中受益？‘设计化思考’（design thinking）能否为我们带来新的AI应用？我们能让AI背后的技术‘民主化’吗？”
谷歌对于AI技术、思想的“民主化”不仅体现在PAIR计划里。早在16年9月，谷歌就联合Facebook、微软、IBM、亚马逊等人工智能开发者，组成了Partnership on Artificial Intelligence to Benefit People and Society（人工智能造福人类与社会合作组织，简称“人工智能合作组织”）。
在16年早些时候，微软刚刚因为推特机器人Tay AI的事情“焦头烂额”。Tay的设定是一个“千禧一代”的少年，其生动活泼的言论曾受到不少人的喜爱。不过在和网民的互动中，由于一些用户对Tay的不良引导，Tay最终在推特上说出了9.11事件的阴谋论与种族歧视言论。
因为不良言论，Tay很快被微软“催眠入睡”。
不论如何，PAIR计划让谷歌在AI领域迈出了改善人与AI关系的重要一步。对于AI来说，“尬聊”的背后必须依靠无穷的数据，而谷歌的PAIR计划希望能够更仔细地分析这些数据，从而更准确地描绘出用户们对于AI的需求与期待。
所以，未来的Google Assistant不仅能帮助研究人员和各领域专家，也能给我们讲出更好的笑话吗？毕竟，“让AI讲笑话”本身就可能是不少用户的需求之一，而Siri的那个李白笑话我都听了五遍了，它也没有很好笑嘛。
PAIR计划的官网在这里，可能需要科学上网。不过，Facets工具是搭载Github实现的，大家可以在这里试一下。
点击关键词，查看过去两周的潮科技：
上天：「和霍金同游太空」
消费：「科学剁手」
教育：「VR体验吸毒」
感情：「VR恋爱设备」
智慧生活：「蜘蛛侠电梯」「万能魔戒」「自动除臭衣架」「汗水充电」
影视：「裸眼3D阿凡达」