人工智能与未来教育前沿研究｜王佑镁 罗霞 王海洁等：教育领域人工智能伦理研究进展：基于活动理论的分析框架

引用格式

王佑镁 罗霞 王海洁 柳晨晨.教育领域人工智能伦理研究进展：基于活动理论的分析框架[J].中国教育信息化,2023,29(5):53-64.DOI:10.3969/j.issn.1673-8454.2023.05.006

人工智能与未来教育前沿研究

教育领域人工智能伦理研究进展：

基于活动理论的分析框架

王佑镁   罗   霞   王海洁   柳晨晨

摘　要： 随着人工智能在教育领域应用的不断深化，教育伦理风险问题随之产生，引起了学术界的高度关注。采用活动理论分析框架，对2012—2022年间有关教育领域人工智能应用伦理风险的150篇文献进行系统性回顾，发现教育领域人工智能伦理研究经历了萌芽探索、成长发生、快速发展三个阶段；研究议题以安全隐私为主，但研究主体尚不明晰，对引起教育领域伦理问题的人工智能技术缺乏明确指向性；研究方法以定性为主，引发伦理问题的应用场景相对局限，且较少针对特定教育群体；研究对伦理困境关注较多，但风险管理视角欠缺；研究成果多为单一视角的理论与现状分析，缺少多理论视域的综合研究；伦理风险的跨领域交叉研究和多视域理论分析，对当下教育伦理及风险治理具有重要意义。基于主要结果及局限性，提出未来研究建议：需要重新审视人工智能与教育之间的交互作用，重塑人工智能教育应用中的伦理规约与评价指标；研究方法不局限于理论研究，应在人工智能技术实践教学中客观收集教学案例、资料等数据，科学性和创新性地提出教育领域人工智能伦理治理策略；深入探讨不同教育层级和教育领域的具体问题，进而针对性地制定相关政策和法规，加强监管与管理，并且提高相关人员的伦理意识和责任意识；不仅要关注教育人工智能应用表层所涉及的伦理问题，对于更深层次的风险发生机制问题也要多加关注；加大对教育人工智能应用伦理原则与政策的研究力度，系统性地思考人工智能的治理维度，通过制定伦理准则，加强政府及相关管理部门对教育人工智能的监管。

关键词： 人工智能伦理；教育人工智能；伦理风险；安全隐私；教育治理；活动理论

中图分类号： G434

文献标志码： A

文章编号： 1673-8454（2023）05-0053-12作者简介： 王佑镁，温州大学大数据与智慧教育研究中心教授、博士生导师，博士（浙江温州  325035）；罗霞、王海洁，温州大学大数据与智慧教育研究中心硕士研究生（浙江温州  325035）；柳晨晨，温州大学大数据与智慧教育研究中心副教授，博士（浙江温州  325035）

基金项目： 全国教育科学规划2021年度国家一般课题“教育领域人工智能应用的伦理风险与防范对策研究”（编号：BCA210086）

一、引言

　　21世纪以来，人工智能与教育教学融合带来的机遇与挑战，逐渐成为学术界的研究热点。2017年，国务院发布的《新一代人工智能发展规划》提出，加快推动人工智能技术在教育教学和管理领域的应用，促进人才培养模式以及教学方法改革。人脸识别、教育机器人等智能技术在教育领域的应用，不仅促进了教育教学的进步和发展，人工智能技术与教育教学的深度融合和双向赋能，在一定程度上也提升了教育信息化水平。与此同时，教育的“育人性”与人工智能的“技术效用性”冲突和矛盾也随之产生^[1]，一系列伦理风险问题逐渐引起研究界的广泛关注。教育领域人工智能应用的伦理风险不仅涉及安全隐私，还造成了人工智能与教育主体的权力嬗变、算法推荐与学生个性的发展异化、智能感知与教育数据的价值困境等问题，对教育教学的良性发展带来一定影响。

　　针对人工智能应用于教育领域产生的伦理风险，学界开始重新审视人工智能技术与人的权力边界。国际社会普遍认为，发展教育人工智能的同时，需要提出治理原则与措施规避伦理风险。例如，2019 年，联合国教科文组织发布题为《北京共识——人工智能与教育》（Beijing Consensus on Artificial Intelligence and Education）的报告，提出教育人工智能伦理决策原则^[2]，是对日益融合的教育人工智能伦理问题的回应与警示；同年，欧盟人工智能专家委员会（Artificial Intelligence High-Level Expert Group on Artificial Intelligence，简称AI HLEG）出台《可信赖的人工智能伦理准则》（Ethics Guidelines for Trustworthy AI），阐释了可信赖的人工智能伦理框架及实现路径^[3]。2021年，国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》，强调将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的参与者等提供伦理指引^[4]。虽然国际组织针对人工智能在教育领域应用所产生的伦理风险，发布了一系列政策性文件，但是随着应用的深入推进，伦理议题日趋多样化，目前的研究尚停留在概念推衍、理论倡导层面，却少有研究从实证的角度进行全方位分析和挖掘。另外，针对目前学界对教育领域人工智能伦理所做的文献综述，大部分研究均是针对伦理问题概而不详，缺乏一个具体而又系统性、综合性的文献回顾和行之有效的分析框架。

　　活动理论^[5]是由芬兰学者恩格斯托姆（Engeström）完善，并以活动为基本分析单元的探讨人与客观世界的互动理论。它包括主体、客体、共同体、工具、规则和分工六个要素，恰好可以用来分析教育领域人工智能伦理问题。本研究依据活动理论的六个要素，将教育领域人工智能伦理分为六个方面来进行分析：AI技术、研究主体、研究议题、AI面向群体、AI教育应用、研究方法。之所以选择活动理论为视角，在于它适用于教育领域人工智能伦理的议题分类。教育领域人工智能应用本质上是交互活动，包含着主体、客体、工具、规则等多个要素，产生的伦理问题也涉及其中诸多要素，与活动理论具有相似性和相通性。因此，本研究采用活动理论分析框架，尝试对教育领域人工智能伦理问题的相关研究进行综述，为问题分析提供一个新的理论视角，同时也为后续相关研究提供清晰明确的学术视野和框架导引。

二、分析框架与研究程序

　　（一）数据来源

　　本研究检索时间范围为2012—2022年近十年的中英文文献。对于英文文献的检索，所选取数据库主要为科学网（Web of Science），搜索方式为将关键词“Artificial intelligence in education“or“AI in education”or“Education combined with artificial intelligence”与“Ethics”or “ethical”or“privacy”or“security”or“risks”or“moral” 进行联合搜索。在科学网进行高级检索，核心合集共有844篇文献，通过第一轮筛选，符合条件的有63篇文献（筛选方式及标准见图1）。同时，为防止遗漏文献，本研究还通过滚雪球方式，以Google Scholar数据库中的文献作为扩充，通过阅读题目及摘要选取22篇文献。对于中文文献的检索，将关键词“人工智能教育”分别与“伦理”或“隐私”或“安全”或“风险”或“道德”中的任意一个关键词组合在中国知网上依次进行高级检索，排除相同文献，2012—2022年间的文献共有546篇，通过阅读题目和摘要初步筛选出符合条件的101篇。图1   文献检索及筛选步骤

　　通过阅读第一轮筛选出来的所有文献摘要及全文进行二次筛选，排除有关人工智能医学、工程学、社会学等研究领域与教育伦理无关的文献617篇；排除专著、会议论文、社论材料等142篇文献，最后选出符合标准的英文文献56篇、中文文献94篇，共150篇文献。

　　（二）理论模型、编码过程及分析过程

　　本研究基于活动理论，根据活动理论本身的三个核心要素（主体、客体、共同体）和三个次要要素（工具、规则、分工），对教育领域人工智能伦理议题中的AI技术、研究议题、研究主体、研究方法、AI面向群体、AI教育应用等六个方面进行分类及编码分析。图2展示了基于第三代活动理论的教育领域人工智能伦理分析框架图。可以发现，第三代活动理论突破了单一活动系统的局限，将研究分析单元拓展到基于“潜在共享客体”的活动系统网络，侧重于解决活动系统内或活动系统之间的问题及困境^[6]。图中六大要素相互关联，紧密相扣，阐释了教育领域人工智能伦理涉及的各方面之间的关系，为后续进行发展阶段与特征分析研究奠定基础。图2   基于第三代活动理论的教育领域人工智能伦理框架分析图

　　1.AI技术

　　依据活动理论当中的要素，技术可以充当工具来发挥本研究主题的中介作用，通过对人工智能技术的分类研究，探究其对各研究主体的影响，以及产生的伦理问题。参考桑德拉（Sandra）的研究，将AI技术分为人工智能神经网络、自然语言处理、机器学习、人机交互、深度学习、专家系统、可穿戴技术、生物特征识别和不明确^[7]。其中，“不明确”指的是在文献中没有明确AI技术或者提到多个AI技术。

　　2.研究议题

　　结合活动理论要素，本研究重点针对教育领域人工智能伦理问题，进行归纳、分析与总结，通过对人工智能应用于教育领域产生的伦理风险问题进行分类，得出议题。参考张立新的研究，将议题分为技术风险、安全隐私、价值敏感性（自主性、信任、道德）、责任与问责、智能鸿沟、人机关系和不确定^[8]。其中，“不确定”指在文献中提到多个研究议题。

　　3.研究主体

　　针对教育领域人工智能伦理问题涉及的教育群体，本研究根据活动理论要素，总结归纳各文献中提及的研究对象。参考相关文献将研究主体分为学前儿童、中小学生、大学生、教师、社会人士和不确定^[9]。其中，“不确定”指的是研究主体有两个以上，研究中没有提到研究主体或者研究中的研究主体没有说明身份。

　　4.研究方法

　　参考麦克米兰（McMillan）等的研究，将研究方法分为定量研究、定性研究和混合研究三类^[10]。其中，混合研究方法指同时运用定量和定性两种方法。

　　5.AI面向群体

　　依据活动理论框架，AI面向群体对应的是分工，指AI对教育领域各群体产生的影响。参考孟翀等的研究，将人工智能在教育中的面向群体分为人工智能对教师的影响、人工智能对学生的影响、人工智能对教师和学生共同的影响、人工智能对教育系统的影响以及不明确五类^[11]。其中，“不明确”指在研究中没有明确说明。

　　6.AI教育应用

　　在活动理论框架中，AI教育应用对应着共同体。人工智能对教育领域各大主体的影响，与人工智能在教育中应用的教学平台或教学系统紧密相关。参考崔宇路等的研究，把人工智能在教育领域的应用分为五类^[12]，分别为智能教学系统、智能学习平台、智能教育机器人、智慧校园、不明确。其中，“不明确”指提到多种人工智能在教育领域的应用。

三、教育领域人工智能伦理研究发展阶段

　　本研究基于活动理论，对2012—2022年教育领域人工智能伦理相关研究进行系统回顾与分析。在CiteSpace软件中选择Timeline 视图模块，生成“2012—2022年我国教育领域人工智能伦理研究关键词时间线图谱”（见图3）。关键词时间线图谱（Timeline View) 将聚类包含的关键词按照时间顺序依次展开。图中右侧是有关研究主题的关键词聚类，时间线上的关键词则是某个聚类中包含的热点话题。其中，某关键词的节点越大，代表着该话题在一个时间段内广受关注，从而可以鉴别研究热点的发展趋势。关键词时间线图谱可以直观地反映某一时间范围内，某个研究领域研究主题的演变过程。结合关键词共现时间线图谱可以看出，目前我国教育领域人工智能伦理研究主要分为三个阶段：2012—2014年缺乏关注，处于萌芽探索阶段；2015—2017年初步发生，处于成长发生阶段；2018—2022年快速发展，处于快速发展阶段。由此可见，教育领域人工智能伦理研究具有良好的发展前景，研究人员的关注点更加多元，从多角度探讨伦理问题，并尝试提出人工智能应用在教育领域的伦理规约。图3   2012—2022年我国教育领域人工智能伦理研究时间线图谱

　　（一）萌芽探索阶段（2012—2014年）

　　从图3可以看出，在这一阶段，有关教育领域人工智能伦理的研究并不多。结合活动理论分析框架，AI教育应用和研究议题作为活动理论的主要组成要素，涉及的智能教学系统、智能学习平台，以及产生的技术风险和安全隐私等伦理问题几乎未出现。研究发现，这一阶段人工智能在教育领域的应用，主要围绕数字化教室构建与高校人工智能课程的初步探索。发文量明显较少，表明教育人工智能伦理在这一时间段内的研究深度较为欠缺。另外，研究还发现，这一阶段的相关研究，主要集中在理论研究层面，在实践应用研究上较为匮乏。因此，对应的教育人工智能伦理问题也相对很少，仅在2014年由国外作者发表了一篇相关文献。该文献采取定性研究方法，在国际上提出了教育人工智能伦理研究的必要性。在2008、2010年，阿内特（Arnett）等发现人工智能伦理在心理领域研究的欠缺和失衡^[13]，并引出教育领域的类似问题及风险。至此，相关研究开始从国际角度呼吁教育领域人工智能伦理探讨的必要性，以弥补当前缺乏关注的漏洞。

　　（二）成长发生阶段（2015—2017年）

　　参考教育领域人工智能伦理研究时间线图谱，在这一阶段，随着技术的发展，伦理问题引发研究界的进一步关注。2015年，一些研究者以定性研究方法探讨在线教育中人工智能存在的伦理问题。相关研究讨论了人工智能为学生学习带来的便利，包括辅助教师因材施教、为学习者提供个人帮助^[14]、增强学习者的学习体验等。例如，人工智能助教通过监控学习者学习进度并给予一定的反馈，来激发学习者继续学习的好奇心，从而维持学习兴趣^[15]。不仅如此，人工智能也可以辅助教师及时察觉学生存在的问题，并提供针对性帮助^[16]。另外，在相关文献中，人工智能在教育中的伦理问题开始针对单个领域，如将人工智能纳入MOOC学习者的个人自主权问题^[17]。在这个阶段，研究者尝试运用新兴的道德决策框架^[18]和可解释的人工智能框架^[19]，来解决人工智能在教育应用过程中存在的伦理问题，但该阶段解决方案处于理论探讨的非完整阶段，教育领域人工智能伦理问题仍然需要持续性关注。

　　（三）快速发展阶段（2018—2022年）

　　2018年之后，研究者对人工智能伦理开始高度关注，并且进行了一系列理论探讨。关于教育领域人工智能伦理研究的文献从国外延伸到国内，尤其在2020、2021年，出现了国内外并驾齐驱的趋势。

　　1.混合型研究方法

　　通过分析研究设计和实施过程，教育人工智能伦理研究方法，从仅使用定性研究，到使用定量研究甚至混合研究方向发展。例如，里克特（Richter）运用定量研究方法系统回顾人工智能在教育领域的应用，并进一步探索人工智能在高等教育应用的伦理问题^[20]。胡小勇等为厘清教育人工智能伦理的内涵框架，对当代大学生伦理认知的现状进行了定量研究^[21]。赵磊磊等对中小学管理者进行了相应研究，以分析当前教育数据伦理风险治理的现状与问题 ^[22]。研究者对研究主体的探索，也反映了人工智能时代对不同学段和层次人群的智能素养、技术的要求。

　　2. 多样化研究议题

　　教育领域人工智能伦理问题的研究涉及众多方面，如人机互信、人机共融、算法风险、道德物化、技术理性、技术伦理等。教育人工智能伦理最初关注人机关系问题。例如，有学者在研究中提出，人工智能会侵犯学生的个人自主权^[23]。随着人工智能的发展，对教育人工智能伦理的研究议题开始逐步多样化，开始探索教育人工智能本身的安全性风险。例如，扎内蒂（Zanetti）提出，在智能教学中，人工智能本身存在安全隐私问题，智能辅导系统可以追踪学生的个人信息，但侵犯了学生的隐私^[24]。此外，人工智能算法数据可能存在社会已有的偏见^[25]，如性别、种族。教育人工智能伦理问题的研究议题逐渐多样化，研究者开始针对不同层面的伦理问题突破困境，提高人工智能在教育领域应用的有效性。

　　3.多维度研究方向

　　在人工智能时代，研究者对教育领域人工智能伦理进行了多元化研究。首先，有研究者对相关问题进行了整体探讨，如将教育人工智能伦理问题分为算法歧视、安全隐私、责任与问责等，并尝试提出伦理问题规避建议，以促进人工智能与教育的深度融合。其次，有研究者开始就当前国内外提出的教育人工智能应用规约，进行理论分析与讨论，并在此基础上尝试提出教育人工智能伦理的监管框架。最后，有研究者关注教育人工智能伦理对教师和学生素养的影响，如对人工智能背景下教师角色定位及素养进行探讨^[26]。因此，面对教育领域人工智能的伦理风险，众多利益相关者需要提高技术认知、人机协同、数据应用、伦理安全等方面的素养，使人工智能在教育领域能够正确健康地发展。

四、教育领域人工智能伦理研究特征分析

　　本研究对国内外的150篇文献进行整理，结果表明，国外关于教育领域人工智能伦理的研究约有62%集中在欧洲。当前，受教育领域各类学者以及研究人员普遍关注的伦理问题，可以概括为四个方面：情感伦理、关系伦理、算法伦理和资源伦理。研究者在相关文献中提出，教学管理过程中出现的安全、隐私以及智能化应用，引发学生对产品的情感依赖等伦理困境^[27]；课堂实时环境监测系统、智能教学机器等在辅助教学的同时，也削弱了教师的主体地位，侵犯了学生自由，加大了教育不公平^[28]；人工智能支持的高等教育辅导，产生了众多算法伦理问题（数据的完整性、系统的安全性和保密性、避免偏见、确保信任和算法的透明度）^[29]。但在诸多文献中，对伦理问题的关注仍旧不够，对伦理问题的防范效果依然不彰，更未能深入考察伦理问题的可持续防范体系。基于此，应进一步加强对教育领域人工智能伦理研究的分析，以便在教育领域更恰当安全地引入和使用人工智能技术。综合来看，关于教育领域人工智能伦理的研究仍在探索之中，主要包括六个方面。

　　（一）以安全隐私为主要研究议题

　　基于活动理论分析框架，针对研究议题、研究主体、AI技术、AI教育应用这几个因素，在研究议题方面，主要涉及技术风险、安全隐私、价值敏感性、责任与问责、智能鸿沟、人机关系等六种。总体来看，讨论最多的是安全隐私问题（22.76%），因为教育人工智能不可避免地需要对学生的个人和敏感数据进行分析，却难以担保学生的数据隐私^[30]，而如何在教育领域保证人工智能技术应用的安全性，还需要系统全面的解决方案；其次是关于人工智能的责任与问责问题（12.30%）；然后是技术风险（10.57%）和价值敏感性（9.76%）；关于智能鸿沟（6.50%）和人机关系（4.06%）的研究相对较少。通过对研究议题进行分析，可以帮助研究者明辨多元治理主体权限，构建监督机制及伦理道德等策略，为实现教育治理智能化提供支撑^[31]。

　　（二）伦理问题研究主体模糊分散

　　针对受教育领域人工智能伦理影响较多的群体，本研究基于活动理论将其主要划分为学前儿童、中小学生、大学生、教师以及社会人士。在筛选的150篇文献中，教育人工智能伦理研究中大多没有提到过研究主体（62.38%）。在提到研究主体的诸多文献中，国内大多数文献以大学生为研究主体，其次是中小学生，关于学前儿童和教师的研究较少；与国内相比，国外研究主体主要关注社会人士，文献量最多。可见，国内外大多数文献探讨人工智能技术对于教育系统的影响（48篇），然后是探讨人工智能技术对教师和学生共同的影响（27篇），以及分别对教师（5篇）和学生（6篇）的影响。从个性化教育的虚拟助手，到学生或教师的跟踪系统，人工智能带来的机遇往往伴随着伦理挑战^[32]。教育人工智能中的社交机器人、终身智能教师、智能辅导系统等应用，都彰显了人工智能对教师及学生提供的帮助与服务。因此，评鉴人工智能对教育主体的影响非常重要，包括对教学法、课程设置、自动化教育的可能性，以及教师角色、国际发展、教育选择的所有权和行为操纵的考虑^[33]。

　　（三）人工智能技术缺乏明确指向性

　　基于活动理论分析框架，人工智能技术作为一个工具性的因素，主要对以神经网络、自然语言处理、机器学习、人机交互、深度学习、专家系统、可穿戴技术、生物特征识别等为代表的技术进行探讨。教育人工智能依赖于技术的突破性进展，对其伦理问题进行研究，离不开对人工智能技术的探讨。在国内研究中，对于AI技术没有明确指向性的文献最为常见，大多数文献都对人工智能技术进行综合探讨，针对某一特定技术进行研究的文献较少。而机器学习是人工智能的核心，也是实现人工智能的手段和方法^[34]，因此对机器学习进行探讨的文献较多。其次是生物识别特征和自然语言处理、人工智能神经网络、深度学习和专家系统等。与国内相比，国外关于生物特征识别和自然语言处理的研究也相对较少。为了对教育领域人工智能应用的伦理困境提出合理可持续的原则和对策，针对特定人工智能技术解决更多瓶颈，对引起教育领域伦理问题的人工智能技术进行深入分析值得期待。

　　（四）伦理问题应用场景相对局限

　　随着人工智能技术的发展，智能导学、智能阅卷、智能感知等系统广泛应用于教育教学各领域，产生了重要而深刻的影响。基于活动理论分析框架，本研究将AI教育应用主要归纳为智能教育机器人、智能教学系统、智慧校园和智能学习平台，并且根据所查阅文献进行编码总结。结果发现，在150篇文章中，国外对智能教学系统探讨较多，其次是智能教育机器人、智能学习平台和智慧校园。随着人工智能技术的迅速发展，我国也开始逐步关注并推动其在教育领域的应用。《教育信息化2.0行动计划》和《人工智能基础（高中版）》的发布，标志着教育领域人工智能技术应用进入了一个新阶段。综合来看，“智能技术进校园”已经成为我国教育技术发展的重点^[35]。

　　（五）AI面向群体主要以AI对教育系统的影响为主

　　人工智能作为新一轮科技发展的核心力量，在教育系统的变革方面彰显着巨大的潜力。2021年，联合国教科文组织在国际人工智能与教育会议上发布的《人工智能与教育：政策制定者指南》（AI and Education: Guidance for Policymakers）报告提出，为准确把握人工智能，加速发展态势，科学应对人工智能应用在教育领域的机遇与挑战，亟需建设和健全更科学的相关政策和伦理框架^[36]。因此，如何制定相关政策引导人工智能更全面、更协调、更系统地促进教育系统变革，是研究界面临的挑战和关注的重点。随着大数据、云计算、图像语音识别、深度学习、虚拟现实等人工智能技术逐渐引入学校教育，教育系统在不断拓展与创新智慧校园的新型模式，与此同时也应积极应对产生的伦理问题与挑战，促进人工智能与教育教学更好地融合。

　　（六）研究方法相对局限

　　本研究发现，国内外关于教育领域人工智能伦理的研究文献最常用的是定性研究方法，其次是混合研究方法。定量研究方法仅在国内发现了3篇文献，国外则有15篇文献。由此可见，目前对于教育领域人工智能伦理的研究主要基于定性研究方法，而定量方法具有巨大的研究潜力，未来可以尝试从实证角度更全面细致地对相关问题进行深究。

五、结论与未来研究方向

　　基于活动理论框架的六个要素分析，人工智能及其教育应用的潜在影响与伦理问题日益凸显。对此，全球业界、学界和社会团体的专家逐渐达成一致，需要通过风险管理的方式应对人工智能负面影响，并将其视为伦理风险加以管理与防范。综合来看，当前此领域研究仍处在探索早期，主要有两条研究主线：①教育领域人工智能应用伦理困境关注较多，但风险管理视角欠缺。②教育领域人工智能应用伦理问题对策重在规范，风险防范研究薄弱。学术界对教育领域人工智能应用的伦理困境提出了不少原则和对策，但如何从原则转向实践，还需要探究明确的解决方案。近年来，教育领域人工智能应用日趋繁荣，但伦理问题关注不够、防范效果不彰，伦理风险理论研究严重滞后，基本未见伦理风险识别、分析、评估与应对机制的系统性研究成果，更未能深入考察伦理风险可持续防范体系。且现有研究成果多为单一视角的理论与现状分析，较少结合最新案例对各个风险领域进行系统分析，尤其缺少多理论视域的综合研究，容易造成研究的碎片化和重复性。基于此，教育领域人工智能应用伦理风险的跨领域交叉研究和多视域理论分析值得期待。

　　（一）教育领域人工智能伦理议题受到高度关注

　　本研究提出的研究议题在已发表文献中被多次提到，尤其是安全隐私、数据泄露、责任与问责、技术风险等，说明关于教育人工智能应用方面的伦理问题受到了社会各界研究人员的高度重视。例如，赵磊磊等致力于探索教育人工智能伦理的基本向度与风险消解路径^[37]；祝智庭等从人本教育人工智能视角，归纳了教育数据的隐私和安全监管、智能导师与真实教师间的角色冲突、人机主导性波动、学生学业的诚信度、适用程度的道德伦理问题^[38]。其他伦理困境还包括人工智能与教育主体的权利嬗变、个性发展异化、人机互动的情感危机、教育数据价值困境、数字鸿沟、社会竞争和教育公平等^[39]。近几年，人工智能在教育领域的应用也越来越广泛，研究人员对教育人工智能伦理的探索源源不断，许多学者和研究人员不仅提出了相关问题还进行了原因剖析。在教育人工智能的设计、开发、部署和投入应用之前，需要认真考虑伦理原则的构建，为在教育教学实践过程中安全有效地应用人工智能，奠定合适的伦理道德基础^[40]。

　　（二）教育领域人工智能伦理议题仍处于理论探讨阶段

　　毫无疑问，人工智能的发展对教育产生了深远的影响，算法偏见、数据隐私、网络安全等都是教育人工智能发展带来的负面问题和弊端^[41]。伴随着“人工智能教育热”的不断蔓延，当前关于教育人工智能伦理的研究越来越多，然而这些研究尚处于理论探讨阶段，很少有实证研究去探索教育人工智能伦理问题。另外，针对教育人工智能伦理进行的研究并没有明确的指向性，大多都是针对伦理问题泛泛而谈，缺少对具体伦理问题的分析与整合。在教育人工智能伦理问题的解决上，主要集中在对西方发达国家或国际组织已有原则的介绍和解读，而缺乏在更为深刻层面上，对伦理问题规约理路的慎思^[42]。总之，教育人工智能的伦理研究，明显滞后于人工智能的发展与应用^[43]。因此，在未来的研究中，不仅要注重对伦理问题的理论探讨，也要注重实证研究。

　　（三）未来的可能研究方向

　　可以预见，人工智能技术将更多地被应用于日常教育教学实践中。然而，伴随技术的精进，势必会出现更多的挑战与风险，需要研究者以及教学人员及时发现教学过程中的伦理问题，并尝试运用智能化工具与思维方式提出相应对策。伦理问题作为教育人工智能体系中重要组成部分，理应受到重视。在教育领域开展人工智能伦理教育的相关研究，并有效实施人工智能伦理教育，可有效减少教育主体在使用人工智能时造成的伦理风险，并妥善处理好自身与人工智能之间的伦理关系^[44]。

　　本文回顾了2012—2022年教育人工智能伦理相关文献，按照活动理论分析框架的六个维度进行系统性回顾。需要说明的是，本研究的分类体系以活动理论分析框架为依据设计，分类和编码形式会对研究结果产生影响。根据主要结果及局限性，提出未来本领域的研究建议：

　　第一，面对不断出现的伦理风险挑战，需要重新审视人工智能与教育之间的交互作用，重塑教育人工智能中的伦理规约与评价指标，形成内在与外在相互制约依存的道德环境，实现“人工智能+教育”的健康持续发展^[45]。

　　第二，在教育人工智能伦理的相关研究中，研究方法不再局限于理论研究。建议未来研究深入到高校、中小学、学前教育各层级学校教学中，在人工智能技术实践教学中客观收集教学案例、资料等数据，以理论联系实践的研究方法，结合当下研究状况与国家政策，科学性和创新性地提出教育人工智能伦理治理策略。

　　第三，人工智能在教育领域的应用，涉及教育的不同阶段，当前研究大多针对教育领域笼统地探讨伦理。后续研究可以深入探讨不同教育层级和教育领域的具体问题，如数据隐私保护、透明度和公正性、人机关系的平衡、责任问题等，进而针对性地制定相关政策和法规，加强监管与管理，并且提高相关人员的伦理意识和责任意识。

　　第四，在教育人工智能伦理的探讨上，不仅要关注应用表层所涉及的伦理问题，对于更深层次的风险发生机制问题也要多加关注。例如，教育人工智能的风险治理、技术、道德、法律等问题受到了足够多的关注，但少有研究从道德和制度伦理两方面对其责任进行论述和探究，新视域下的教育人工智能风险治理体系亟待进一步挖掘与建构。

　　第五，未来的研究不仅要关注伦理问题，还要加大对教育人工智能伦理原则与政策的研究力度，系统性地思考人工智能的治理维度。通过制定伦理准则，加强政府及相关管理部门对教育人工智能的监管；加强人工智能师资培养；健全法制环境，防止滥用和不当使用。在保护学生权益和隐私安全的同时，促进人工智能在教育领域的发展与应用，进而建设多元共治的人工智能综合治理体系。

参考文献：

　　[1][37]赵磊磊,张黎,代蕊华.教育人工智能伦理：基本向度与风险消解[J].现代远距离教育,2021(5):73-80.

　　[2]教育部.联合国教科文组织正式发布国际人工智能与教育大会成果文件《北京共识——人工智能与教育》[EB/OL].(2019-08-28)[2022-02-28].http: / /www.moe.gov.cn/jyb _xwfb /gzdt_gzdt /s5987 /201908 /t20190828_396185.html．

　　[3]European Commission. European Commission’s High-Level Expert Group on Artificial Intelligence. Ethics guidelines for trustworthy AI[EB/OL].(2018)[2022-03-01].https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai.

　　[4]科技部. 国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》[EB/OL].(2021-09-26)[2022-02-26].http://www.safea.gov.cn/kjbgz/202109/t20210926_177063.html.

　　[5]ENGESTROM Y. Learning by Expanding:  An Activity-Theoretical Approach to Developmental Research[M]. Helsinki: Orienta-Konsultit,1987.

　　[6]吴刚,赵军,苏静逸,等.“工作—学习”理论的创新与发展——第四代“文化—历史”活动理论及应用价值[J].远程教育杂志,2022,40(2):86-95.

　　[7]GRAY S L. Artificial intelligence in schools: Towards a democratic future[J]. London Review of Education, 2020,18(21):10-21.

　　[8][27]张立新,张雨露,郑秋辉.国际人工智能应用伦理研究及对教育应用的启示[J].浙江师范大学学报(社会科学版),2021,46(5):96-102.

　　[9]LIN H C, HWANG G J. Research trends of flipped classroom studies for medical courses: A review of journal publications from 2008 to 2017 based on the technology-enhanced learning model[J]. Interactive Learning Environments, 2019,27(8):1011-1027.

　　[10]MCMILLAN J H, SCHUMACHER S. Research in Education: Evidence-Based Inquiry, MyEducationLab Series[J]. Pearson, 2010.

　　[11]孟翀,王以宁.教育领域中的人工智能：概念辨析、应用隐忧与解决途径[J].现代远距离教育,2021(2):62-69.

　　[12]崔宇路,张海.教育人工智能应用的困境、成因及对策[J].现代教育技术,2022,32(6):35-42.

　　[13]BLANCHARD E G. Socio-cultural imbalances in AIED research: Investigations, implications and opportunities[J]. International Journal of Artificial Intelligence in Education, 2015,25(2):204-228.

　　[14]WU Q, LIU S, MIAO C, et al. A social curiosity inspired recommendation model to improve precision, coverage and diversity[C]// 2016 IEEE/WIC/ACM International Conference on Web Intelligence (WI). IEEE, 2016:240-247

　　[15]WU Q, HAN X, YU H, et al. The innovative application of learning companions in virtual singapura[C]// Proceedings of the 2013 international conference on Autonomous agents and multi-agent systems, 2013:1171-1172.

　　[16]HE J, BAILEY J, RUBINSTEIN B, et al. Identifying at-risk students in massive open online courses[C]// Proceedings of the AAAI Conference on Artificial Intelligence, 2015:11-23.

　　[17][23]YU H, MIAO C, LEUNG C, et al. Towards AI-powered personalization in MOOC learning[J]. npj Science of Learning, 2017,2(1):1-5.

　　[18]CONITZER V, SINNOTT-ARMSTRONG W, BORG J S, et al. Moral decision making frameworks for artificial intelligence[C]// Thirty-first aaai conference on artificial intelligence, 2017.

　　[19]FAN X, TONI F. On computing explanations in argumentation[C]// Twenty-Ninth AAAI Conference on Artificial Intelligence, 2015.

　　[20]ZAWACKI-RICHTER O, MARIN V I, BOND M, et al. Systematic review of research on artificial intelligence applications in higher education-where are the educators?[J]. International Journal of Educational Technology in Higher Education, 2019,16(1):1-27.

　　[21]胡小勇,黄婕,林梓柔,等.教育人工智能伦理：内涵框架、认知现状与风险规避[J].现代远程教育研究,2022,34(02):21-28,36.

　　[22]赵磊磊,张黎,王靖.智能时代教育数据伦理风险:典型表征与治理路径[J].中国远程教育,2022(3):17-25,77.

　　[24][30]ZANETTI M, RENDINA S, PICECI L, et al. Potential risks of artificial intelligence in education[J]. Form@ re-Open Journal per la formazione in rete, 2020,20(1):368-378.

　　[25]GEBRU T, MORGENSTERN J, VECCHIONE B, et al. Datasheets for datasets[J]. Communications of the ACM, 2021,64(12):86-92.

　　[26]郭炯,郝建江.智能时代的教师角色定位及素养框架[J].中国电化教育,2021(6):121-127.

　　[28]冯锐,孙佳晶,孙发勤.人工智能在教育应用中的伦理风险与理性抉择[J].远程教育杂志,2020,38(3):47-54.

　　[29]KOBIS L, MEHNER C. Ethical questions raised by AI-Supported mentoring in higher education[J]. Frontiers in Artificial Intelligence, 2021(4):21.

　　[31]侯浩翔,钟婉娟.人工智能视阈下教育治理的技术功用与困境突破[J].电化教育研究,2019,40(4):37-43,58.

　　[32]赵磊磊,吴小凡,赵可云.责任伦理：教育人工智能风险治理的时代诉求[J].电化教育研究,2022,43(6):32-38.

　　[33]SCHIFF D. Out of the laboratory and into the classroom: the future of artificial intelligence in education[J]. AI & society, 2021,36(1):331-348.

　　[34]陈维维.多元智能视域中的人工智能技术发展及教育应用[J].电化教育研究,2018,39(7):12-19.

　　[35]肖睿,肖海明,尚俊杰.人工智能与教育变革：前景、困难和策略[J].中国电化教育,2020(4):75-86.

　　[36]曾海军,张钰,苗苗.确保人工智能服务共同利益，促进教育系统变革——《人工智能与教育：政策制定者指南》解读[J].中国电化教育,2022(8):1-8.

　　[38]祝智庭,韩中美,黄昌勤.教育人工智能(eAI)：人本人工智能的新范式[J].电化教育研究,2021,42(1):5-15.

　　[39]顾小清.当现实逼近想象：人工智能时代预见未来教育研究[J].开放教育研究,2021,27(1):4-12.

　　[40]邓国民,李梅.教育人工智能伦理问题与伦理原则探讨[J].电化教育研究,2020,41(6):39-45.

　　[41]王佑镁,宛平,赵文竹,等.科技向善：国际“人工智能+教育”发展新路向——解读《教育中的人工智能:可持续发展的机遇和挑战》[J].开放教育研究,2019,25(5):23-32.

　　[42]张立国,刘晓琳,常家硕.人工智能教育伦理问题及其规约[J].电化教育研究,2021,42(8):5-11.

　　[43]李晓岩,张家年,王丹.人工智能教育应用伦理研究论纲[J].开放教育研究,2021,27(3):29-36.

　　[44]陈浩,郑如月.近十年国内人工智能教育伦理可视化分析[J].教育信息技术,2022(3):64-68.

　　[45]马秀麟,姜雪,贾玉娟.近十年面向人工智能教育研究的文献计量分析与探索[J].中国教育信息化,2022,28(8):35-46.

Research Advances on Ethical Artificial Intelligence in Education：an Analytical Framework based on Activity Theory

Youmei WANG, Xia LUO, Haijie WANG, Chenchen LIU

（Research Center for Big Data and Smart Education, Wenzhou University, Wenzhou 325035, Zhejiang）

Abstract: With the deepening of application of artificial intelligence in the field of education, the issue of ethical risks in education has arisen and attracted much attention from academics. Based on the activity-theoretic analysis framework, a systematic review of 150 papers during 2012-2022 on the ethical risks of AI applications in education was conducted, and the results shows that: the research on the ethics of AI in education has gone through three stages: nascent exploration, growth and occurrence, and rapid development; the research topics are mainly safety and privacy, but the research subjects are not clear, and there is a lack of clear direction on the AI that causes ethical problems in education. From a comprehensive perspective, the current research in this field is still in the early stage, and there are more concerns about the ethical dilemmas of AI applications in education, but there is a lack of risk management perspectives, and the existing research results are mostly theoretical and status quo analysis from a single perspective, lacking comprehensive research from multiple theoretical perspectives. The cross-sectional research and multi-perspective theoretical analysis of the ethical risks of AI applications in education are of great significance to the ethics and risk governance of education nowadays. And future research recommendations are proposed: it is necessary to re-examine the interaction between artificial intelligence and education, reshape the ethical norms and evaluation indicators of artificial intelligence in educational applications; The research method is not limited to theoretical research. In the practical teaching of artificial intelligence technology, objective data such as teaching cases and materials are collected, and targeted educational AI ethical governance strategies are proposed scientifically and innovatively; Deeply explore specific issues at different levels and fields of education, and then formulate relevant policies and regulations in a targeted manner, strengthen supervision and management, and enhance the ethical and responsibility awareness of relevant personnel; Not only should we pay attention to the ethical issues involved in the surface application of artificial intelligence education, but we should also pay more attention to the deeper risk occurrence mechanism issues; Strengthen the adjustment of ethical principles and policies for the application of artificial intelligence in education, systematically consider the governance dimensions of artificial intelligence, and strengthen the supervision of education artificial intelligence by the government and relevant management departments by formulating ethical standards.

Keywords: Artificial intelligence ethics; Educational Artificial Intelligence; Ethical risks; Security and privacy; Education governance; activity theory

编辑：王晓明   校对：李晓萍

往期目录｜超链接版

点击此处 在线投稿

期刊简介

《中国教育信息化》创刊于1995年8月，是由中华人民共和国教育部主管，教育部教育管理信息中心主办，面向国内外公开发行的国家级学术期刊。期刊内容力求全面深入地记录我国教育信息化的建设进展、研究与应用成果和行业发展状况，开展我国教育信息化发展状况调研和教育信息化国际比较研究，服务于国家教育宏观决策；力求全面准确地把握教育信息化相关的方针政策和标准规范，及时追踪ICT前沿技术的发展趋势及其与教育的融合，深度挖掘教育信息化建设与应用的体制、机制创新，服务于我国教育信息化实践。

●RCCSE中国核心学术期刊

●中国人文社会科学（AMI）扩展期刊

●中国期刊全文数据库收录期刊

●中文科技期刊数据库收录期刊

●国家哲学社会科学学术期刊数据库收录期刊

●中国核心期刊（遴选）数据库收录期刊

●龙源期刊网收录期刊

一年12期，每月20日出版

20元 / 期，邮发代号：82-761

编辑部邮箱：[e-mail]

通讯地址：北京市西城区华远北街2号921室