Intel隐私争议:情绪检测Al正在获取并分析网课学生的面部表情
据悉,英特尔与Class Technologies建立了合作伙伴关系,开发基于人工智能技术的软件解决方案,从而检测学生的情绪状态,并运用在Zoom上面。英特尔表示,该系统可以通过评估学生的面部表情,以及如何与教育内容互动,以此检测学生是否会感到无聊、分心或者困惑。
然而,这一技术在拓展到更广阔的市场时,遇到了巨大的阻力,引发了关于AI、科学、伦理和隐私等多方面的辩论。
据Protocol报道,英特尔与Class Technologies合作基于AI技术开发的功能通过名为“Class”的软件产品可以与Zoom集成。Class Technologies联合创始人兼首席执行官Michael Chasen表示,这是根据老师在新冠疫情期间远程授课的互动后的经验总结,随着远程授课时间拉长,希望通过这一功能为老师提供更多信息,以便改善教学的效果,将有助于师生之间的交流。
或许初衷是善意的,但围绕这项基于人工智能技术的解决方案依然存在诸多争论,包括:
技术评估的准确性:
仅靠捕捉一些外部信息是否真的能够完全准确地判断一个人的精神状态;
将学生标签化,简单地强塞信息并将其分门别类;
每个人的生理结构和表达方式是有差异的,而且还存在文化差异等,在同一事件上表达的形式也不尽相同,很容易产生误解;
最后,围绕英特尔情绪检测AI所展开的隐私方面的讨论值得进一步关注。
比如监控和人工智能驱动的辅助技术之间的界限是否越来越窄?而网课只是其中一个场景。
学生是否应该在网课上使用网络摄像头?由于此类应用程序相对获取的信息密集,可能会泄露有关学生家庭的隐私信息。
此外,情绪检测由于涉及个人生物信息,属于敏感个人信息收集和使用范畴,围绕学生情绪状态进行长期分析势必将进一步引发个人隐私问题。比如这类系统分析生成的报告是否可以被一些进行校招的公司使用或购买,这些公司会不会根据这些报告数据为学生贴上“抑郁”或“专注”等标签?受影响的个人如何访问数据以及被允许访问哪些数据等?
相关教育团体已就识别技术可能过度监视学生及侵犯隐私发出警报,表示不希望这样的技术成为监视系统。同时,在疫情背景下,在应用这类涉及监控的技术手段时,需要进一步审视和警惕其中的安全边界和社会伦理问题。
「国内+国际」隐私保护人员权威认证培训
赛博研究院是国内个人信息保护专业人员权威认证品牌(CISP-PIP)的官方指定授权培训机构,BSI中国是国际隐私专业协会(IAPP)独家授权的中国区官方培训合作伙伴,双方就CISP-PIP与IAPP两大培训认证课程体系展开重磅合作,共同推进数据隐私专业人才培养,提升各类企业数据安全合规能力。
扫描下方二维码立即报名,关于CISP-PIP、IAPP认证培训更多信息,请联系专属顾问:
咨询电话:021-61432696
丁老师 15601773140