Minerva计算学院院长：人类如何克服AI偏见
从阿尔法狗战胜围棋冠军，到写稿机器人PK专业记者，Artificial Intelligence（AI，人工智能）已经逐步渗透在我们的日常生活中。听到机器+算法，很多人可能会默认为就是客观冷静、透明公正的。
但密涅瓦大学计算学院院长Richard Holman博士在首届RAISE亚洲国际学校大会上的发言和采访，带我们反思追问，AI是否也有偏见？这些偏见从何而来？如何战胜AI的偏见？
首届RAISE亚洲国际学校大会主旨论坛盛况
11月17日，RAISE亚洲国际学校大会“科技重塑21世纪学校”的论坛上，密涅瓦大学计算学院院长Richard Holman博士做了精彩的主旨论坛发言。
Holman博士认为AI技术的发展和应用，更让人们意识到“为什么要有辩证思维、为什么要教辩证思维”以及“怎么教辩证思维”。
人工智能、计算科学有一些优势和劣势，需要以辩证思维来看待。现在就要考虑到这些问题，而不是等到将来太晚的时候才意识到。
01
The Promise of AI
人工智能优势，它能够为人类做一些什么？
人们在设计人工智能方面，比如：谷歌这些公司希望这条线可以把人和机器人之间的分工越来越小，最终替代人类不想做的事。机器已经通过自己跟自己玩游戏，越来越提高思维模式。
人们怎么样教机器学习？这是一个战略。可以有无人机在战争中，或者在和平时代都可以通过机器来控制。现在还有很多的手术，可以通过机器人来做，而且它们做的越来越好。
人工智能帮助人们做一些很难、繁琐的事情，而且会帮你把这些东西越做越好。
02
The Problems with AI
人工智能的问题，有一些方面要意识到，要理解怎么样去更好引导人工智能。在开发人工智能的时候，怎么样去引导它们。
人工智能完美的时候，可以让生活变得完美。
有好的东西，肯定有坏的同时过来。任何美好的东西周围都是有一些问题，比如：《终结者》影片，看到有一天人工智能醒过来了。为什么要人类？他们就把人类全杀掉了。对吧？
还有人提到，人工智能有一天醒过来决定我不想这么做了，我就做一些完全不同的事情，那些人类已经无法明白我怎么做，人类就可以消失了。
当然，这些已经不光是科幻影片里的问题。现在很关键的一些人工智能必须要考虑的问题，就是的辩证思维一定要在这儿起作用。
对于人工智能的一些偏见。有两个精彩案例，Holman博士也在发言中跟大家分享：
一个是最近就一直在探讨的，就是亚马逊有一个人工智能的功能，帮助他们来招聘人员。那些机器都已经被培训过，通过培训以后选择它们认为“最合适的候选人”来做某个工作。
我们选择的这个数据本身是有一定偏见的，而人工智能没有被告知有这样的一个偏见，所以它们就假设这个数据是你们要给到它的，所以就按照这个数据来做决定了。如果这个培训本身已经带了“偏见”的因素在里面，就会给结果带来一些不必要的问题。没有人是偏见者，但是人们是通过一段时间里面学习到的知识来做决定的，就跟人工智能学习是一样的，我们也在教人工智能做一模一样的事情，所以应该非常小心。
另外一个案例，无人驾驶汽车。有一些无人驾驶车会导致一些问题，即我们所说的“道德机器”探索。
现在人们已经开始大规模的应用无人驾驶车了，所以说现在必须要非常重视这个问题了。到底它用什么样的道德准绳？要去解决什么样的问题。我们到底把AI和怎样的偏好进行绑定？这是一个非常尖锐的问题。如果有事故，是谁的责任？是AI的责任？如果你要是决定是AI的责任，那么这到底意味着什么？这其实就是一个算法，是编程的编码。你到底把谁放监狱里？你到底向谁罚款？
这些都是非常深刻的问题，而且是AI逼着我们要马上去思考。批判式思考就是这样的工具来解决或者回答这些问题。
03
Critical Thinking and AI
辩证思维怎么样可以更好的和现在的思维模式结合起来，更好地将未来变得更强大。
如何识别AI当中嵌入的偏好，而且大家是要在AI算法的背景下去学习。这就是人们现在面临的这样一个情景，必须要去思考，我们告诉AI的东西到底是对还是错。而且我们要知道到底嵌入了哪些偏好。
到底是要看整体更好，还是看个体更好？在设计AI方法的时候，要用什么样的道德框架？这个现在还不是很急，还不至于是眼下的当务之急，但是也要开始思考了。因为在不久的将来，人们就要开始证实这些问题。
Holman博士所执教的密涅瓦大学把课程分几个模块，我们教学生去衡量或者是评价不同的主张，教学生去分析各种推测，去评估各种各样的决策，去分析各种各样的问题，把问题进行分解。理解如何去分块的解决问题，同时把这个解决方案再整合起来去解决整体的问题。
这是在密涅瓦大体上去做的工作，这样才能够让师生更深刻的了解AI。
04
Conclusion
总结
从AI的角度来讲，AI已经来到人们的生活当中。一些好、一些坏，帮助人类解决了一些突破性的问题。
理解AI也是很复杂，比如：阿尔法狗玩了几次围棋就制定了策略，赢了世界围棋大师。我们应该用这种AI的故事来激励自己，不应该去想“这是单向的”，每个人都可以从AI当中受益。要去想，是否能用AI来解决所有的问题。
辩证思维应该在当今被普及。
顶思记者在Richard Holman博士的精彩发言后，对他进行了独家专访。
Holman博士不吝加入自己亲身经历和来自生活的事例来对大家关注的问题做出进一步的说明和生动的阐释。
以下为专访内容：
Q＝顶思
A＝Richard Holman博士
Q：Holman博士您好，这次RAISE大会也是顶思主办的首届亚洲国际学校大会。您作为我们的嘉宾，会议进行到现在，什么是令您印象最深刻的？
A：我觉得印象最深刻的可能是，迄今我所听到的各位发言嘉宾都共同涉及的一点，就是——“变革”（Change），他们都想要在教育中做出一些改变，尤其是为当今的中国教育、中国国际教育，而且这些改变都是教育行业中亟需做出的，内容涉及各方面，例如：辩证思考、高效学习、合作学习等等……能看到这些关于“变革”的思考和实践，以及在这里作为参与的一份子，对我来说很棒。
再有就是，在这里所见到的学校领导者与管理者们，他们的卓越观点和认知也让我印象深刻。举个例子，荟同学校的Jim Hawkins校长的发言，让我感叹，他们是有一个怎样的宏大计划！但是也会希望宏大计划都能在实施过程中能够顺利。有很多要去做的，当然学校们也有各种优势资源能去利用。
当然，我认为，这些都将很大程度上改变中国的国际教育。
Q：您的发言主题是AI人工智能相关，您或许知道这在中国现在是比较热点的话题。本月也有AI主题的教育论坛在中国举办。我在台下听了您的讲座，尤其想请教的是应用在课堂中的AI技术，您觉得它们将怎样影响人们，老师和学生们？
A：这得分情况来说。在我的发言中我也有谈论到这个，AI这样的技术，关于它的应用，人们会有一种预见：它能用来干什么样的工作，它会把一切变成什么样子。如果AI知道你想干什么，它的应用就会发生而且会延续。
而正如我发言中说的那样，我举了不少例子，关于人们对AI有些认知可能有问题，觉得它没有偏见，它是机器。这是我所担心的。我们通常认为它总能给到我们客观的结论和客观的建议。但那并不是正确的。
人们给AI的预设条件，往往就已经带有偏见了。
人们就会去使用这些已经带有偏见的数据和结论。例如在职业规划测试这种AI应用里，有时候就会发生这种情况。可能孩子做出来的就是“适合成为一个科学家”或者所谓的“不适合成为科学家”，哪怕他自己就是很想成为科学家。
我相信在课堂中，对老师和学生而言，AI是有不少用武之地的，但危险的是不知道它到底告诉了你什么样的信息。我认为在这中间，最重要的就是如何去看待和使用AI给到的数据和某些结论，了解它们到底在诉说什么。
Q：可能这就需要对教师和学生提出更高的要求了，也更关乎“培训”（training）的问题了。
A：是的，正是这样。如果能够对老师和学生进行有效的培训，令他们能够辩证思考和看待AI，他们就能够提出问题，而不是让AI来解释一切。我们往往不需要他人来告诉我们“如何思考”的，师生都能在这个过程中有更好的辩证思考能力。
Q：师生需要在使用AI的过程中，时时去检验自己。
A：是的，他们能做到。问题只是大部分人还是坚信“机器说得都对”。这个情况也存在于美国大选计票中，AI分析告诉大家，希拉里成为总统的话会糟糕一些，川普的话好一些，有些人就依此而投票给川普。应该要对AI应用谨慎看待。
Q：除开正确看待AI正确运用技术的问题，您又怎样看待人们常说的对AI的过度使用和依赖问题呢？毕竟人们越来越多地应用AI来做人类能做的工作，关于人工智能是否会取代人类的讨论也未曾停止，它好像不是单纯的工具了。
A：这是我担心的问题。我想，有些工作是我们想要AI去替代人类去做的，AI来做完全没有问题，譬如一些有危险的工作，像挖矿（mining），我认为AI可以完美替代人类。
关于过度依赖AI，我想两方面就是需要思考的。
一方面是像刚提到的预设偏见问题，我们是否能够信赖AI给的答案呢？这关乎AI的工作原理。
另一方面，让我给你一个故事来更好的阐释：
我在卡内基梅伦大学的时候有一个同事，他是计算科学的方面的学者，他研究的方向就是训练AI来创作音乐。他是把这个当作一个课题来处理的，当然，这从研究角度来说是吸引人的课题。
但是对我来说，我当然认为人类作曲家是非常享受作曲的过程的，这个课题在训练AI去替代人们做这个事情的同时，是不是就是剥夺了人类的乐趣了呢？即使人类作曲家这个职业本身不会消失，AI最终会理解人类的大脑和所有作曲的机制。也许他们能创作出人类都未必能创作出的美妙乐曲。
过度依赖AI的另一方面问题，就是最终AI可能取代人类的工作，并且剥夺人们的乐趣。
Q：是的，我想这是因为很多时候我们不止关心那个“结果”，我们要的是那个“过程”。
A：过程是重要的。拿我自己来说，我很喜欢数学，我享受做数学题。我当然确定AI能够做得比我更好，这毫无疑问。但是我很喜欢那种，“啊，原来是这样解的！”这样的感觉，一种自己找到答案的喜悦。
可能人们很少讨论这方面，但我觉得，在发展和研究AI的技术时，这也是需要关注的一件事。
Q：我自己在美国留学期间是学习STEM专业（编者注：S－Science科学，T－Technology技术，E－Engineering工程，M－Mathematics数学）的学生，STEM专业的概念在美国自然深入人心。而在中国，STEM显然是蓬勃发展的过程中，大家都很关心STEM的课程发展。
A：我对这个问题的关注点在女性对STEM的参与上，我鼓励女性多参与STEM领域的学习和工作，在美国STEM的发展也存在不少问题，女性被认为是不适合从事STEM相关学习和工作的。
然而我在指导很多女生学习物理的过程中感到，她们能做得非常棒！我觉得如果你一直在某一个领域被暗示“你做不了”，可能最后真的会被这种观点所影响。我所知道的，吴秀兰（编者注：美籍华裔女物理学家，在分子物理方面有卓著的研究成绩），还有不少西方的女物理学家，这和种族都没有关系，女性能做得一样好。
Q：关于STEM双语教学，和PBL相关教学方面，一些学校都处于起步期，可能都会遇到一些问题，譬如优质师资的短缺，或者有时候就是单纯的硬件问题，缺乏成熟的设施和环境去发展和支持这些要求较高的教学，您对此有什么看法和建议给大家呢？
A：我想，其实这个问题也许只有一个建议和答案：资金的投入。基于我对中国国际教育圈层的了解和我所了解的一些信息，总体来说，国际教育不差钱。而且政府及相关机构也还是比较关心这些新兴的国际教育趋势。这不能依靠一所或两所带头的学校，这要靠政策、大环境、每个人来支援STEM教育的发展。
有一些人才，他们还缺乏培训和资源，也许在一些偏远的省份，而这些需要当地政府有所意识，去整体提高。学校需要有政府作为后盾，然后去发掘创造性的教育人才，STEM教育中去。
Q：那么我就以一个学子们关心的问题来作为本次采访的最后一个问题吧。
我们都知道您是密涅瓦大学的计算学院院长，您也知道计算科学相关专业（Computer Science, Computational Science, Computer Engineering...)现在也是大热的专业，大家很关心如何能够在进入大学之前做好知识和各方面的准备。对有志于在大学阶段学习这方面学科的学生，您有怎样的建议呢？
A：我认为对他们来说，最重要的事情可能是“掌握基础”。即使学计算科学，也没有人能够马上开一家软件开发公司。
一些基础的计算机语言当然要学，就我自己来说，我们那时的计算机语言，像Fortran，后来的C语言，现在的Python……当然计算机语言是在进化中的，也会有越来越多的新语言要求从业者去掌握。
但是，不管是哪种语言，都有你会使用到的框架性的东西。如果你能够理解好这个框架，那么你在掌握任何语言的时候都会事半功倍，更快的得到你想要的结果。所以我认为学习基础能够让你把计算科学学得更好。对高中生们来说，好好学习数学（编者注：Richard Holman博士在本科阶段就是主修数学的），多训练编程。
很多孩子们是恐惧编程训练的，而他们只是因为害怕犯错误。
Q：也许是排除故障（debug）的过程过于令人苦恼了吧。
A：这也是我想再次说的，过程中你是会发现真正的乐趣的，哪怕是做排除故障这件事。有一部分不起作用，你知道它出了问题。在整个过程中，你充分地使用了你的大脑，这一段可以运行，那它们没问题，到那里，嗯，程序终止了，可能哪里出了问题……那我们如何去修复？
最终经过努力，你探测出问题，并且让你的代码顺利运行。这是让人感到有乐趣的过程，是胜利的体验。
顶思资源库
研究报告
重磅
免费
专业发展
社群活动
● RAISE亚洲国际学校大会&国际教育资源博览会（11.16-11.18）
NEW
人才招聘
上海：021-60496511
北京：010-53382767
相关链接：