AI监控学生表情、举手、打哈欠引热议，这是AI？这是爱？

《碟中谍4》中通过智能设备搜索目标

一直以为人脸识别只是电影中的桥段，没想到这样的剧情会搬到课堂中来，并用于监控孩子的一举一动。

在教室之内，你做什么AI那里都会有记录。

昨天，一张带有“MEGVII旷视”LOGO的视频监控图像在社交网络上疯传。

在这张监控图像中，坐在教室中的两名女生身边，显示出了诸多标签，比如趴桌子、玩手机、睡觉、听讲、阅读、举手等课堂行为数据。

01

摄像头盯着你上课

学生无处遁形

事情跟刚刚进入的开学季有关。

九月新学期开始后，不少学生就发现，自己熟悉的校园中出现了人脸识别系统。

比如位于南京的中国药科大学，在校门、图书馆和宿舍都安装了人脸识别门禁。

对于智能门禁，学生们的接受度倒是很高。有人认为这套系统识别准确，速度也很快；有人表示不再担心忘带校园卡，确实很方便。

学校保卫处负责人也表示，比起从前实行的校园卡刷卡通行，人脸识别系统的引入解决了过去师生忘带校园卡的麻烦，也解决了代刷卡、复制卡等校园安保问题。

但这套来自“刷脸之王”旷视Face++的系统，可能不止是人脸识别刷门禁。

在梨视频的采访中，校方介绍，这套系统不仅能对进入教室的学生进行全程人脸识别，还能监测到学生抬头低头，是否玩手机，是否发呆等行为细节。

关于这个系统，旷视也早有过相关介绍，目标所指是辅助教育：

在课堂教学评价系统中，旷视科技将自主研发的人脸识别、行为识别、表情识别等技术，集成在考勤及行为分析摄像机MegEye-C3V-920和行为分析服务器中。

通过对课堂视频数据进行实时的结构化分析，反馈学生行为、表情、专注度、前排上座率等多维度课堂数据，辅助教学评估评价。

伴随这张图的疯狂，网络上出现了大量网友严厉的指责与质疑，认为这样的技术不应该出现在课堂中。

对此，旷视科技在9月2日晚发布官方声明称：

近日网络上出现的一幅课堂行为分析图片，为技术场景化概念演示。而旷视在教育领域的产品专注于保护孩子在校园的安全，旷视的智慧学校解决方案可以协助学校管理人员提升效率并保障学生安全，主要用于智能校门、教室门及宿舍的出入，方便学生安全出入校园。

声明中表示，旷视始终坚持技术向善，让人工智能造福所有人。在人工智能技术的各种场景中，旷视会坚持正当性、数据隐私保护等核心原则，接受社会的广泛建议和监督。

根据校方说法，相关系统已在两间教室中进行试点，如果效果好，会进行全校推广。

对于学校引进这样的系统，一些教育专家和高校也表达了自己的看法。

中国教育科学研究院研究员储朝晖认为，教室虽然是公共场所，但是监控下的教师和学生都不是真实的状态，大家从专业角度得出共同结论，在教室里是不能装监控的。首先保护学生的隐私。——据央广网
中国农业大学本科生院综合处处长韦笑称，从考勤和抬头率上来讲，学校并不打算采用，因为我们觉得学生的抬头率不能判断他的学习效果，可能更多的还是要抓老师的授课。——据中国之声

02

家家法宝各不同

数据都是基于监控

此事引发的关注还在继续，有网友表示，这样的技术和应用并不算稀奇，类似的新闻去年前年就有了，想不到的是这次居为成为了热搜事件。

最早的AI其实还是停留在校园，没有进入课堂。

比如，之前曝出的，贵州和广西的十多所学校的学生都身穿一套智能校服。

所谓智能，就是在校服的左右肩位置各装有两个芯片，再与学校门口、宿舍旁装有人脸识别摄像头的人工智能系统协同工作。

但它的功能真的可以强大到你瑟瑟发抖。

1、没有经过批准或违规离开学校，就会自动警报。2、可实时抓拍20秒短视频，传给老师和家长观看。3、可“侦测”学生有没有好好听讲。

4、校服可支付消费，家长可通过手机查看子女在校的消费情况。

5、体温不正常或者运动量不够将会自动报警。6、佩戴含有GPS模块的校徽，可实现对学生的实时定位。7、系统会把孩子的学习、生活状况推送至家长和教师的手机中。

如果说这只是初级阶段，为的是通过监控的目的，降低或减少孩子更多的事故和意外。但后面更高级的应用开始出现，似乎和我们想象的越发的不一样了。

我们来看一张学生行为自动分析示例图。

如果没有下方红框中的文字说明，你可能完全看不懂。

这就是在AI的捕捉下，学生们的坐姿，发言，及站立情况，哪怕是你几分几秒打了个哈欠，也逃不出AI的手掌心。

不仅如此，孩子们在课堂上是否走神儿，有没有积极思考，也都被AI记录在案。

老师讲课的时候，抬头看老师的都是绿框，低头的都是红框，一个都逃不掉。

来感受下课堂中实时的反馈效果：

一个学生一节课出现多少个红色标记、蓝色标记、黄色标记全部以数据的形式分析，从而分析出学生到底在干什么。

你的眼神飘忽？没有看老师讲课？马上给你黄色标注出来：

甚至一些幼儿园也开始引入AI分析学生的行为。

高年级的孩子们也同样可以监控分析。

哪怕是不规则教室照样能分析。

而最厉害的是，AI是可以做到实时分析，当时就可通过学生的表情分析出来并判断出他们在想什么。

这是实时分析系统的演示：

上课时间，可随时单独把每个孩子的信息点开，查看孩子们的上课情况：

孩子的锲合度，历史表情，全部储存在AI数据库中。

别以为AI会偶尔偷个懒，它可是全年无休，全方位审视的。只要你没有保持饱满的情绪上课，AI就能随时随地把你抓出来。

没有一个数据能逃过AI的眼睛，最终呈现在班主任面前的是无比详细的数据。

当这些分析数据达到一定时间的积累，系统还会将每一个学生都贴上标签，最后以数据库的形式呈现给老师。

03

“利于成长”的初衷

也许正在毁掉孩子

就此看来，在AI的监控下，孩子们基本没有了隐私和自由。

每天在这样的环境下学习和生活，光是想一想都会毛骨悚然。当老师将这份详细的信息反馈给家长们时，孩子还有什么可呼吸的空间？

有网友表示：“技术再好，用的地方不对有什么意义呢？”

这不是像就像《黑镜》第4季中描述的未来科技，它的初衷为什么到最后就变了味道呢？

由于3岁小女孩莎拉意外走失，她的妈妈被激发起了强烈的保护欲。

于是，她向一个科技公司求助，给女儿大脑植入了一款芯片。

在这款智能芯片的控制下，小女孩的思想，注意力，全都掌握在妈妈的手中。

从某种程度上来说，这可比AI厉害多了。比如妈妈不仅可以通过手中的平板对小女孩进行实时监控，而且还能随时知道小女孩的位置。

以及小女孩当前的身体状况。甚至连她身体里缺少哪种微量元素，都明明白白地显示在大屏幕上。

更让人不可思议的是，这款芯片配套的控制器可以直接展示女儿视网膜上所接收到的信号。

妈妈可以随时看到女儿眼中世界。甚至，可以控制女儿看到的内容。

只要出现让小女孩产生压力的画面时，比如少儿不宜的黄暴场景，她眼前就会自动打上马赛克。

之后，小女孩眼中的世界就变成这样了。邻居家院子里总会吓到小女孩的恶犬。

男生打架时的流血场面。

这些令小女孩害怕的画面而导致生理指标变化，系统检测到之后，她看到的画面就是一团模糊的马赛克。

她看不到血液，听不到粗话……小女孩生活在被过滤的世界中。

看似是一个美好的世界，可是美好的背后，也剥夺了她对整个世界的真实感知。

面对中风摔倒的外公，小女孩看到的只是一片模糊，因为眼前的景象让她紧张。

就连外公去世后，妈妈脸上悲伤的表情都成为了小女孩的压力源，她无法看到任何负性情绪的表达。

渐渐的，小女孩长大了，也觉得自己不太正常了。大约在小学阶段，她用红色彩笔画的血居然也被打上了马赛克。

可能就是越看不到就越好奇，后来她开始试图用铅笔扎自己的手，想看一下流血的样子。

当出现自残行为之后，系统自动监测到血腥信号，警报声立马响起，妈妈很快就赶了过来。

当看完医生以后，的确是发现了孩子有心理问题。

所以听从了医生的话，为了让孩子正常成长，母亲决定关掉系统，答应孩子不再监视孩子生活。

可是女孩慢慢长大之后在面对这个真实的世界时，并没有与之匹配的风险评估能力。

她在毫无安全措施的情况下和男孩发生性行为，甚至尝试毒品。

而这再一次引起了警报的响起，母亲不得已再次打开平板开始了监控女儿生活的模式。

这一举动，彻底激怒了女儿，她甚至拿起平板砸向了妈妈的头，但对此她毫无感觉。

因为母亲血淋淋的头早已被打上了马赛克。

当发生冲突时，女儿质问对母亲说：“你还在监视我？”母亲回答：“我做的一切都是为了你。”

而如今正在被AI监控的孩子们，又和《黑镜》中被监控的小女孩有什么分别呢？

正如纪伯伦《你的孩子其实不是你的孩子》所言：“你可以庇护的是他们的身体，却不是他们的灵魂，因为他们的灵魂属于明天。”

除了隐私、自由，教育场景中令人担心的还有数据安全问题。

“仅需一张照片，出演天下好戏”。近日名声大噪的换脸软件“ZAO”强制用户输入隐私信息，又存在利用协议滥用隐私数据、泄露个人隐私、侵权等问题，引发公众焦虑与质疑。

万一哪天被黑客把数据库给拿走了，鬼知道他会用来做些什么？

而在2018年8月，安徽省繁昌县人民法院，曾判决了一起非法出售学生信息的案例。

当时负责管理维护安徽全省学籍管理系统的张某，利用职务之便，以每条1毛钱的价格，出售了4万名学生的隐私信息。据新浪财经报道，张某任职的公司正是科大讯飞。

AI辅助教学和隐私安全的话题，不会就此结束。

别让这份课堂大数据成为扼杀孩子自尊和情感的毒药，因为他们不是机器人！

对此你又是抱有怎样的态度呢？又是否支持用AI在学校进行辅助教学呢？

来源│市界、魔都囡、电影工厂、量子位、和讯网、成都商报

点击图片即可阅读