AI强扭出的“好学生”，不甜
▲点击上方 雷锋网 关注
还是要给学生在课堂上留出一定的隐私空间。
文 | 德江 张莉
近来，AI屡屡登上头条。
8月31日，AI换脸APP“ZAO”刷屏朋友圈后就被用户质疑，分享链接被微信屏蔽；9月1日晚，一张有关旷视科技的AI课堂行为分析图在微博上引起不少网友的争议。旷视随后发布声明称，该图片为技术场景化概念演示。
这张图为我们展示了这样的信息，利用AI不仅可以统计课堂中学生的举手、阅读、听讲次数，还可监控学生趴桌子、玩手机和睡觉的次数。
不管是ZAO还是AI课堂行为分析，戳到网友心坎的主要因素都是因为隐私保护问题。
无独有偶，近日，瑞典北部城市一高中因为引入人脸识别考勤，违反了欧盟《通用数据保护条例》，导致该市政府被罚款20万瑞典克朗。
隐私问题似乎成了AI前进道路的一颗绊脚石。
近年来，由于政策、资本和技术进步等因素推动，AI+教育成为人们关注的热门话题。因此不少技术或教育公司纷纷探索AI在教育中的应用。
在AI领域积累颇深的旷视也不例外，教育也是其输出AI能力的一个场景之一。这张图中分析统计学生举手、听讲和睡觉的次数主要是借助人脸识别、人体识别等技术。
由于这张图片被广泛传播，9月2日晚，旷视科技在其官方微博紧急发布声明称，该图片为技术场景化概念演示。言外之意，就是这张图片只是一张蓝图，还未真正落地学校实施。
在声明中，旷视表示，始终坚持技术向善，让人工智能造福所有人。在人工智能技术的各种场景中，旷视会坚持正当性、数据隐私保护等核心原则，接受社会的广泛建议和监督。
而网友们的讨论也是主要集中在隐私保护层面，这反映出多数人其实针对的不是技术本身，而在于如何合理正确的使用技术。
雷锋网就该事件采访了北大附中朝阳未来学校语文教师唐伊豆，她表示：
“我个人对这项技术的态度比较保守。实际上，我认为它仍然是在很传统甚至陈旧的思路上进行设计，从目前的实践来看，虽然它在某些方面加强了校园安保，但是整体上简单地将老师和学生置于看与被看、管理者与被管理者的权力关系中，这是很粗暴的，背后实在缺乏对师生关系的想象力。因此这项技术立刻让我想起了福柯笔下的全景敞视监狱，如果学生都规规矩矩、按部就班，反倒非常伤害学生的多样性与校园文化建设。”
此外，唐伊豆老师不赞成将课堂教学评价功能进入课堂。她认为，表情分析更是直接将“人”抽离了出去。她举个例子，在语文课堂上，学生在构思文章时发呆，或者为同学讲述的故事而难过，这都是很正常的，“这些幽微的情绪是不可能也不需要被机器捕捉的。教学互动中有很多模糊地带，这正是其生动的、人性化的魅力所在。”
而某位不愿意透露姓名的老师告诉雷锋网，他认为利用AI技术分析学生课堂行为，可以帮助老师更好地了解学生的课堂行为，从而改进自己的教学。
“比如，讲到某个知识点时，大部分学生都在发呆，老师课后就可以再针对性地补充。但是，如果技术运用不当，也会产生负面效果，比如AI检查到学生发呆，老师因此去惩罚学生，这样是不可行的，会引起学生的逆反情绪。”
按照旷视的说法，那张图片只是一个概念演示，但在现实中有不少学校已将AI应用于课堂中监控学生的行为。
据澎湃新闻报道，近日，中国药科大学已在两间教室试点人脸识别系统。该系统不仅可以人脸考勤，还能全程监控课堂的行为，例如统计学生是否在听讲、玩手机、打瞌睡等等。从描述上看，这套系统的功能基本与旷视的概念演示是相同的。
该校图书与信息中心主任表示这套系统是为了减少学生逃课、早退以及上课走神等行为。关于是否侵犯学生隐私，他表示已向公安和法务咨询，教室属于公开场所，不存在侵犯隐私的说法。
中国药科大学的人脸识别系统（图片截自：梨视频）
唐伊豆老师则认为，教室里是存在隐私的，它不是完全的公共场合，更像是一个特定的师生群体共有的空间。“用摄像头考勤还可以接受，但是采集和监控课堂行为就是一种过度的介入，它暗含着对教师、对学生的不信任，会影响师生共同建设的一个安全互信的、自在舒适的环境。”
一位老师对雷锋网表示，教室里学生也是有隐私的，学生的行为数据不应该共享给所有人，应该设置严格的权限，比如校长、学校安全处等，只给有需要的人针对性地开放部分数据。
另一位老师认为，利用AI摄像头监控学生考勤和行为，一方面出于保证学生安全、优化管理的目的，这一做法无可厚非。但另一方面，更要考虑适度的问题，教室虽是公共场合，但也要切实保障未成年人的隐私安全，特别是持续要关注该举措对学生心理的持久影响。
之所以一张AI课堂分析的概念图能引起如此大的反响，无外乎还是人们在担心新技术所带来的未知挑战，尤其是恐惧于将技术用在了错误的方向，以致于带来无法挽回的后果。
尤其是在教育这个特殊领域，任何新技术的应用和创新都会被密切关注，任何瑕疵都会被无限放大。因为教育中最大的成本是时间，这些还未成熟，未经严格验证的产品一旦应用于课堂中，对学生产生的任何影响都是不可逆的，所以不管是学校、家长，还是社会舆论对此都是高度关注。
与此同时，国家也在鼓励AI、大数据技术与教育的融合应用。2017年7月，国务院印发《新一代人工智能发展规划》，要求推动AI在教育、医疗等领域的应用。规划中还提到要建设在线智能教育平台，利用智能技术在教学、校园管理、学习分析系统及个性化教育方面进行探索应用。
当然AI在教育中的应用，不止考勤和学生行为分析等校园管理层面。在教学和个性化教育方面，AI主要被用于减轻老师工作负担，帮助学生建立个性化学习路径，实现因材施教。
例如，某些公司开发的智能评卷系统，基于OCR识别、自然语言处理等AI技术，能够对语文、英语作文，简答题以及日常作业实现自动评卷和批改，减轻了不少学校的工作压力。
一起教育科技CEO刘畅对雷锋网表示，教育本质是让学生学习到知识，并讲知识应用到实际生活中。现阶段AI+教育想象空间最大的就是自适应学习领域。
“自适应学习真正从学习的本质提升学习效率，为学生匹配最佳学习路径，最终提升每一个学生的效果。我们认为自适应学习对教学辅助，学习效果和学习兴趣的提升明显，是目前最为合理且前景光明的方向。”
刘畅认为学生的个人学习资料、学习数据这种都是学生的隐私数据，不能被随意调取。对于平台的学生数据，他们会全部进行脱敏处理，并且有严格的安全防护措施。
远昊科技CEO邓艾华曾在采访中告诉雷锋网，他们在处理校园隐私上，采取的办法是，通过分布式系统将各个学校的大数据留存在学校的本地服务器上，只通过云平台获取学生简单的画像信息，以此防止泄露学校数据隐私。将校园的各种数据留在学校中，也是一个解决方案，这也考验了学校的数据保护能力。
唐伊豆老师认为， AI这项新技术应该在更加积极的方向发挥它对教育的赋能效果，而不仅仅局限在所谓的“管理”、“采集”层面。在需要数据帮助的环节里，怎样避免单一刻板的、自以为是的数据，需要教育者和科技工作者共同来思考。
关于隐私的讨论告诉我们，技术不是问题，如何正确使用技术才是问题。网友们对于旷视的那张概念图片的讨论，本质上源自人们对于未知的新技术可能被滥用而产生的恐惧心理。
如果能用AI监控就能培养出好学生，那样的教育简直太轻松了，显然现实并不是这样的。
对于科技公司来说，尤其是AI教育公司，如何将AI技术合理应用于教育场景中，显然是首先要考虑的问题。希望下次AI+教育登上头条，不再是因为隐私保护的争议。
推荐阅读
▎微信屏蔽AI换脸App“ZAO”；新iPhone或9月13日开启预定；三大运营商下线不限量套餐
上新！「AI投研邦」现已上线CCF GAIR 2019峰会完整视频与各大主题专场白皮书， 包括机器人前沿专场、智能交通专场、智慧城市专场、AI芯片专场、AI金融专场、AI医疗专场、智慧教育专场等。「AI投研邦」会员们可免费观看全年峰会视频与研报内容，扫码进入会员页面了解更多，或私信助教小慕（微信：moocmm）咨询。