“人脸识别”又在搞事情！AI技术进课堂、监视学生，靠谱么？

团中央维护青少年权益部

理性分析 倾听心声

 服务青少年发展

导读

近日，江苏南京中国药科大学试水“教室人脸识别”的一则视频，在网上引起轩然大波：教室里安装的人脸识别系统，可以全程监视学生的课堂听讲情况。

低头抬头、睁眼闭眼、玩手机、打瞌睡，每个学生的一举一动，都逃不过摄像头的法眼，网友们直呼“可怕”。

你有没有想过，当你的一举一动都被人脸识别系统监视，会是什么样子？

人脸识别技术

进入课堂

开心3次、厌恶5次、举手10次、阅读11次、听讲6次、玩儿手机3次、睡觉1次……

如此细微的表情和行为，都会被人脸识别系统捕捉，学生还有什么隐私可言？继AI换脸应用“ZAO”之后，人们再次对人脸识别技术的应用感到恐惧。

网传图片

面对网友的质疑和声讨，企业顶不住舆论压力发布了一则声明，但这则声明并没有消除网友的质疑。

声明截图

以下为声明原文：

近日网络上出现的一幅课堂行为分析图片，为技术场景化概念演示。旷视在教育领域的产品专注于保护孩子在校园的安全。旷视的智慧学校解决方案可以协助学校管理人员提升效率并保障学生安全，主要用于智能校门、教室门及宿舍的出入，方便学生安全出入校园。旷视始终坚持技术向善，让人工智能造福所有人。在人工智能技术的各种场景中，旷视会坚持正当性、数据隐私保护等核心原则，接受社会的广泛建议和监督。旷视科技2019.09.02

高校试水教室人脸识别

人们在争议什么？

学生的个人隐私被侵犯  

在人脸识别技术的监视下，学生的一举一动都会被系统记录。处在监视环境下的学生，在学习知识时会是一种什么心态？如果只是出于对孩子校园安全的保护，识别这些微表情真的有必要吗？

教室人脸识别的初衷，是为了提高学生的学习效率。但监视如果加大了学生的压力，反而容易使其分散注意力。

当我们回想学生时代，谁没有做过这些天真无邪的事？

情窦初开的青葱岁月里，在课堂上偷看过自己暗恋的那个他/她；
学习累了的时候，躲在课桌高高的书堆后打会儿盹；
肚子饿得咕咕叫时，使用各种障眼法偷吃零食……

在监控环境下，所有的小动作都将被记录，学生时代的很多乐趣也将不复存在。比起提高学习成绩，学校需要优先考虑的，是否是给学生充分的尊重与信任？

通过AI监控提高学习效率到底靠不靠谱  

网友们普遍认为，人脸识别系统存在误差，在判断人的微表情和动作上会出现很多错误。

人的面部表情如此丰富，有网友认为，如果我的笑不是真的笑呢？还有网友认为，通过AI监控学生行为是本末倒置，学校应该考虑的是如何通过改进课程设置去吸引学生听讲和提高学生成绩。单靠AI去监控学生，学校和老师岂不是能做“甩手掌柜”？

技术的简单堆砌是粗暴的“逆教育”  

这也是业内人士共同的观点。人脸识别监控课堂更像是一种简单粗暴的技术堆积。不仅没有实现创新，没有实现教学创新，而且还会强化传统教育的弊端，把原来的“人灌”变成了 现在的“电灌”。

世界上已有越来越多的高校，将AI技术运用于教育行业，中国也不例外。不少国内学校已开始推行“AI智慧校园”方案，但技术和教育的结合一直存在争议。

在资本力量的推波助澜下，教育行业开始引入各种技术教育概念，我们需要考虑的，是这些概念到底真的有助于教育行业的发展和进步？还是纯粹为了蹭热度追概念？

AI技术

是把双刃剑

正如一些专家所认为的那样，技术本身没有好与坏，一切由我们人来决定。让我们感到害怕的不是人脸识别技术本身，而是其被过度、不当地应用。

有网友调侃，这次备受争议的“高校试水人脸识别”，问题在于“理科生的进展太快，文科生跟不上做好配套”，一不留神，AI人脸识别已被不少学校投入正式应用，监控学生课堂表现。而我们才刚刚开始讨论这种应用是否妥当。

在高科技面前，一方面，是带给我们的快捷和方便，另一方面，可能是过度使用带来的后果。如何取舍，还要看如何满足大多数人的意愿。

AI进校园，你怎么看？

来源：微信公众号“团中央权益部”（ID:TuanLaw ）综合整理自“凤凰网财经”，微博@新浪科技等，转载请注明来源。

往期推荐

校审 | 古华岩

编辑 | 成雨午（北京科技大学）