人工智能与未来教育前沿研究｜陈潇 苏雪源 王波 祝一清 孔德彭：ChatGPT类生成式人工智能教育应用伦理审度与调适

引用格式

陈潇 苏雪源 王波 祝一清 孔德彭.ChatGPT类生成式人工智能教育应用伦理审度与调适[J].中国教育信息化,2023,29(12):042-048.DOI:10.3969/j.issn.1673-8454.2023.12.005

人工智能与未来教育前沿研究

ChatGPT类生成式人工智能教育应用伦理审度与调适陈潇 苏雪源 王波 祝一清 孔德彭

摘　要： ChatGPT凭借实时、高效、精准、灵活等特点，在各国、各领域迅速“出圈”，其交互的智能性、流畅性赋予了人们很大的想象空间，进一步激起“机器换人”的激烈讨论。特别是在教育领域，ChatGPT既可以促进教育新业态的发展，同时也引发人们对人工智能滥用的担忧。为更加全面系统了解ChatGPT，通过实证测试其在问题答疑、论文撰写、计算能力等方面的表现，发现ChatGPT与教育深度融合过程中，可能引发伦理风险，存在隐私安全、退化师生能力、信息误导以及公平性缺失等问题。针对这些问题，未来亟需教师队伍、专家学者及政府多方齐心协力，从教育应用、观念引导、标准制定、技术保障、社会监管等方面共同构筑良序的现代化教育生态。

关键词： ChatGPT；生成式人工智能；教育应用；伦理；信息技术

中图分类号： G434

文献标志码： A

文章编号： 1673-8454（2023）12-0042-07

作者简介： 陈潇、苏雪源，浙江工业大学教育科学与技术学院硕士研究生（浙江杭州 310023）；王波，浙江工业大学教育科学与技术学院本科生（浙江杭州 310023）；祝一清，信阳师范大学地理科学学院本科生（河南信阳 464000）；孔德彭，通讯作者，浙江工业大学教育科学与技术学院副教授，博士（浙江杭州 310023）基金项目： 全国教育科学“十三五”规划2019年度“教育机器人开发中的价值审度及伦理调适研究”（编号：BEA190116）　

　　2022年11月30日，美国OpenAI公司研发的聊天机器人ChatGPT（Chat Generative Pre-trained Transformer）发布，1个月内活跃用户累计量达5700万，成为最受欢迎的消费型应用程序^[1]。ChatGPT走红后，其写论文、演讲稿、翻译、编程等“超能力”逐渐显现。仅发布2个月，调查发现已有89%的18岁以上学生尝试使用ChatGPT帮助自己完成作业^[2]。随之而来的学术造假、考试作弊等一系列的问题逐渐浮出水面，引起了教育领域学者的广泛关注和思考。2023年3月，OpenAI公司建立大型多模态模型GPT-4，兼具文本和图片理解能力，使人机交互更加稳定、可靠^[3]。技术的优化升级并不代表伦理危机的消解，反而更需要教育者谨慎对待技术所带来的挑战，引导技术的理性应用和进步，在趋利避害中进一步提升教育质量^[4]。新技术作为万物互联的载体，必将与教育实现深度融合。在未来，教育者不仅需要关注人工智能技术高效、方便、快捷的优势，还要看到实际应用中可能存在的一些伦理问题，以批判性思维探究“以ChatGPT为代表的科技发展将会对教育领域产生什么影响”“教师、学生、行业专家等利益相关者应该如何应对人工智能的伦理风险”“如何构建人工智能下的良序学术生态”等问题，以更好地促进智能教育的发展。

一、ChatGPT应用于教育领域
存在的伦理问题

　　ChatGPT具有辅助教师设计教案及个性化学习计划、协助教学和批改作业等优势，既可以减轻教师负担，也能够提高课堂效率，在一定程度上为教师专业能力提升、专业知识增长、专业情意深化及专业理念革新提供新的机遇^[5]。但在实际应用过程中，教师需要把握一定的“度”，一旦失去平衡，可能会对其未来发展和学生成长产生不利影响。　　（一）隐私安全　　生成式人工智能工具背后需要数以万计的数据支撑，其强大的记忆功能既是高效工作的基础，也可能成为数据泄露的源泉，从而产生意想不到的后果。一是存在敏感信息和原创想法泄露的风险。ChatGPT作为人工智能驱动下的大型聊天机器程序，以深度学习为框架，根据用户输入的问题在海量数据中心搜索相关答案并进行整合，形成类似于人类语言的文本。在应用过程中，如果学生或教师将姓名、身份证号、银行卡号等敏感信息输入其中，可能会产生信息泄露问题，甚至危及自身安全。此外，原创性想法的输入也需格外慎重，ChatGPT本身不会将用户信息及历史数据发送给他人，但其生成的文本可能会作为相似问题搜索的数据基础，从而启发后面的提问者^[6]。二是精准预测、刻画模型易于算法偏好诱导和非法利用。与简单聊天工具Siri不同的是，ChatGPT是一个可以持续对话的文字聊天工具，虽然它能够更好地模拟与人类对话的过程，能够在前面问题的基础上进行连续发问，促进谈话深入，但是可能会使大数据了解对话者的性格、爱好等，逐渐形成对话者的基本画像，从而实现行为的精准预测。如果预测信息被不法分子窃取，不仅侵犯个体隐私权，影响日常生活，甚至助长犯罪行为的发生。三是青少年心智尚未成熟，便捷教育数据服务背后缺乏有效的保护屏障。ChatGPT适用范围广泛，学龄前阶段的儿童都可以通过网页或客户端实现文本信息搜索，因其没有青少年保护设置，导致信息安全问题难以保障。　　（二）师生思维能力衰退　　人工智能时代虽然产生众多先进的技术和工具，但人类的思想能力却逐渐显示出疲惫和衰退的状态^[7]。ChatGPT作为一种先进智能虚拟工具，可以满足教师和学生随时随地学习的需要，能够适应社会科技的发展，促使传统教育逐渐向智能教育转变。但如果过分滥用ChatGPT衍生产品，教师在不考虑学情及教材的情况下，机械地搬运现成教案，教学方法缺乏创新，久而久之，其个性化创新能力、自主开发课程及教法的意识和能力都会受到限制，甚至出现能力倒退的现象，对教师专业发展内驱力及能力提升意识都会造成一定影响。此外，也可能导致学生对所学科目缺乏深入理解，机械性地记忆相关知识点，不利于问题解决能力的提升。如果学生过分依赖技术查询学习信息，通过“快捷径”的方式完成论文写作等学习任务，无疑等同于论文剽窃，将会阻碍其独立思维和批判性思维能力的培养。同时ChatGPT的回答官方全面，逻辑性较强，但它无法适应不同文化及地区背景的差异，如果学生不结合自身问题背景进行补充，可能答案缺乏准确性，也不利于学生发散思维和创新性思维的提升。　　（三）师生社交技能退化　　人是具有社会性的动物，在交流互动中需要带有情感和思想，不能脱离群体而孤立存在。而语言、文字、声音及情绪等是有效沟通的主要因素，在人与人交往中起重要作用。虽然ChatGPT在教育环节中，能凭借仿真技术，对交互场景进行模拟，根据学生自身能力及兴趣制定个性化的学习方案，构建学生与人工智能的交流平台，促进其口语及写作能力的发展，但是这一切都是智能算法和程序代码运行的结果，冷冰冰的机器没有真正的语言理解和逻辑推理能力^[8]，难以提高学生的人际交往能力，不利于学生社交的泛化及团队合作能力形成，无法适应学校课堂中小组合作的学习方式。此外，ChatGPT的价值观明确，没有情感、意识和个性，是一个回答问题的工具，具有客观、灵活的特点，但缺乏更多的人性化。在学习过程中，机器难以洞悉学习者的情绪情感及心理变化，无法达到人与人交流的效果。过于物化机器人，不利于学生同理心培养和情感发展，学生缺乏技术关怀，迁移到社交中可能出现攻击行为，对其健康价值观的培养会产生一定影响；过于“人”化机器人，学生可能会对人机关系的理解产生一定偏差，从而导致情感或心理问题的出现。　　（四）信息误导　　ChatGPT是一个自动从庞大数据库或语料库中学习的人工智能系统，通过对大量数据进行训练，从而智能形成语言文本^[9]。ChatGPT难以自动识别信息的对错，通过数据库中的全部信息，生成自认为客观的文本，所以文本的准确性难以确定。同时，当前ChatGPT所收录的数据截止日期较早，对后期发生的事情缺乏数据记录，所以关于进展及热点相关问题的答复存在一定滞后性，无法保证信息的及时更新。当学生错误地将其当作正确答案进行记忆和学习时，可能会扰乱自己的学术知识体系，对框架的整体把握及后期的学习产生一定的影响。错误信息的流传还会影响未来ChatGPT模型生成文本的质量。令小雄等也给出同样的见解，认为ChatGPT根据问题对文献进行复制、梳理，生成虚假的学术文本，具有不完整性，从而导致错误信息的传播，对学术界及社会发展都具有一定的负面影响^[10]。此外，ChatGPT在教育领域的应用容易诱发诚信危机，使用ChatGPT撰写科研论文、开展研究的例子屡见不鲜。据《自然》（Nature）杂志不完全统计，已经将ChatGPT列为作者的论文最少有4篇^[11]。因此，在教学过程中，教师应引导学生正视ChatGPT的功能，它可以作为灵感的源泉、写作的框架，但决不能成为各科作业的“帮手”。　　（五）公平性缺失　　信息技术的高速发展，打破了时间、空间的壁垒，阻断了信息的不对称化，让人们随时随地都可以查阅热点信息，了解发展动态，使社会更具透明化、公平化。科技进步也引发一系列不公平现象的发生，需要加强认识，提高警惕。一是算法偏见和歧视。人工智能的本质是算法从大数据中提取特征进行训练，而训练并参与预测的“黑箱”无法公开相关信息，具有不透明性。由于“黑箱”中的相关结构难以理解，加之部分数据本身带有歧视性，在算法以代码的形式重新包装后，会进一步放大社会偏见，加剧社会中存在的歧视，如在性别、宗教、职业等方面可能无法做到公平对待。二是城乡差距。新兴智能设备往往价格昂贵，经济相对贫瘠的家庭负担较大，可能导致教育不公平现象出现。三是应用权限。2023年1月，美国纽约和西雅图的公立学校都明确表示，在学校设备和网络上禁止使用ChatGPT；国际机器学习会议（International Conference on Machine Learning，ICML）也宣布，禁止从大型语言模型工具中生成文本论文，除非生成文本作为论文实验分析的一部分呈现^[12]。当前，我国学校的做法还未完全统一，可能会造成信息不对称以及数字鸿沟等问题，从而影响教育公平。总之，ChatGPT在教育中的应用还处于讨论中，其中可能存在的有悖公允和伦理问题还需进一步探究，以寻求更具针对性的应对方法。　　此外，教师角色定位迷失也是ChatGPT应用过程中可能存在的伦理问题^[13]。一方面是教师自我角色的迷失，混淆教师自身与技术的关系与主次，产生对技术的盲目崇拜；另一方面是学生对教师角色认识的偏差，由于知识不仅仅来自于教师传授，教师的“专业权威性”不再凸显，无法明确教师的教育主导者地位。

二、ChatGPT应用于教育领域
伦理建设对策探析

　　（一）重视学校管理，明确ChatGPT角色定位

　　ChatGPT正迫使教师不得不审视当前教育中存在的问题，并思考采取何种措施为学生的有效学习提供帮助。传统教育的成果导向可能无法适应当前的发展趋势，ChatGPT具有写论文、翻译、编程等功能，普通文本类作业也能够轻松完成。如果ChatGPT以不恰当的方式存在于学校中，可能会对学生的知识学习和创新性思维培养产生不良影响。虽然OpenAI公司已经推出区分机器生成和人类书写文本的分类器，但其并不可靠，无法精准区分机器文本和人类文本，仍存在很多限制^[14]。

　　教师在教学过程中，应以动态的眼光看待ChatGPT，主动思考教育与其如何并存。一是要重新思考教学方法和教学初衷，重视学生独立思考能力、批判性思维和创造性能力的培养，而不仅仅是获取知识的能力；二是要逐渐摒弃传统的填鸭式的授课方式，将人工智能引入教学过程中，打造专业教师、远程教师、机器人教师协同教学的“三师课堂”^[15]，提高教学效果；三是要调整教学评价方式，避免考试作弊、学术抄袭等不良行为的发生，可以采用更具创造性的过程性评价方式，也可以部分恢复传统的纸笔测试形式，避免学生对人工智能产生依赖。学校还要定期开展教师数字化素养培训，采用线上线下相结合的方式，提高教师的数字化技能及信息安全意识，保证“人工智能+教育”的顺利开展。此外，受教育者需正视ChatGPT的角色定位。贺樑等通过个案研究证明，目前ChatGPT不具备独立辅导学生的能力^[16]。因此，ChatGPT可以作为教学助手存在于课堂中，协助教师完成授课，而学生需根据教师的指令进行操作和应用，杜绝查询与学习无关内容的行为，禁止照搬照抄生成答案，保证ChatGPT的健康使用。同时，教师和学生也要主动学习数据安全知识，切忌输入个人相关信息，防止敏感数据泄露。总之，ChatGPT的出现是社会发展的需要，它有利于帮助教育者抓住教育的本质，促进更深层次教育的理解。

　　（二）加强政府监管，创建现代教育生态

　　健康的学术教育生态，不仅需要学校内部体系的适度调整，更需要政府及社会的规约，未来可以从学科交叉合作、政策制定、安全意识培养及保障信息公平化四个方面着手建设。

　　一是重视多学科的交叉合作。政府在积极倡导发展人工智能的同时，需认真思考如何创建和谐的智能社会，这不仅仅是社会学需要考虑的问题，更需要计算机、人工智能及教育学等学科的通力合作，共同打造适合社会发展的人工智能伦理发展框架，促进社会的和谐稳定。

　　二是推动人工智能教育伦理政策的制定。2021年，国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》，明确指出“将伦理道德融入人工智能全生命周期”，并就人工智能的伦理要求进行详细阐述^[17]，但缺乏对教育领域伦理规范的制定，比如责任归属、大型语言模型署名问题等，都需要相关政策或法律予以保障。

　　三是积极开展数据安全意识宣传与培训。相关部门需聚焦人工智能数据、算法和模型，定期开展信息安全教育和技能培训，并针对当前人工智能衍生产品进行讲解，加强伦理宣传，做到培训好、贯彻好，切实提高大众的数据安全意识。同时还要加强反诈防骗知识的宣传，注重网络个人隐私保护。

　　四是保障信息传播的公平性。一方面，政府需要对ChatGPT的使用及禁用情况做出明确说明，保证工具应用的公平性；另一方面，政府需要重视相对贫困地区的技术发展状况，不断缩小城乡差距，保证学生接受教育的公平性。

　　（三）突破技术难题，优化大型语言模型

　　一是保证输入数据的全面准确性。数据收集是模型建构的基础，也是ChatGPT完成任务的第一步，只有数据的数量和质量得到保障，才能实现模型的精准搭建。一方面要实时更新数据库和语料库。ChatGPT收录数据截至2021年，就时效性来看，没有将最新数据纳入其中，数据信息缺乏全面性，无法生成最新文本。因此，及时更新训练数据，保证数据库足够大，信息足够新，语音模型才能基于既定相关知识不断提升、优化，最终得到问题的最优解。另一方面要自主筛除错误信息，确保数据的可靠性。虽然ChatGPT能够进行初步的道德判断，并利用数据库中已有知识判断问题的合规性，具备一定的人类道德计算力^[18]，但对于语料库中问题相关信息的对错难以分辨，容易产生错误文本，误导学生学习虚假信息。由此可见，专业人士应重视当前ChatGPT数据库可能存在的相关问题，不断更新迭代，创建更具可信化的知识库。

　　二是提升语言模型算法的稳定性。相对于传统学习，深度学习算法的可解释性、透明度严重缺失，其潜在的歧视和偏见可能导致结果不公现象发生。算法偏见是客观存在的，往往受数据、开发者及算法本身偏见的影响，而算法偏见有时会导致算法歧视的产生^[19]。因此，针对算法偏见和歧视问题，一方面应秉持平等的数据价值观，筛除掉带有歧视性的数据，以保证数据的“无害化”，同时还要建立算法内部监管体系，增强算法的合法合理性和透明性；另一方面需重塑法律及政策功能，发挥法律对人工智能平台和算法设计者的监管职能^[20]。此外，数据泄露也是专业人员需要重视的问题之一。数据是语言模型的基础，不法分子往往通过攻击模型来达到窃取敏感数据的目的，可能危及个人隐私和安全。因此，需要加强模型的稳定性，通过正则化和交叉验证的方法防止模型过拟合，以降低数据泄露的风险；还要加强教师和学生的信息安全意识，防止个人隐私信息泄露。

　　三是强化输出信息的真实独创性。ChatGPT主要以文本形式给予提问者反馈，且文本形成主要基于人类概率性语言进行搬运、整合数据信息，以及高效模仿现有范本等工作。在人机交互方面，ChatGPT缺乏听觉、触觉等多感官刺激，难以达到人际沟通的真实效果；在文本生成方面，ChatGPT撰写文章也是一种创作，可以形成创新性的成果，但一味的搬运和整合应用领域的既有知识，也无法达到人类的创新水平。因此，在外部形态上，要逐步搭建ChatGPT实体人形机器人架构，实现人机多模态交互，提升交际质量，特别是在教育教学领域，实体机器人更能够吸引学生兴趣，提高学习效率；在内部规制上，ChatGPT也需要不断学习，其智能芯片要不断优化、迭代，逐步实现自我意识的突破，达到质的飞跃，最终变得越来越具有创造性。　

三、结语

　　当前，人工智能模仿人类的行为动作、肢体语言和面部表情非常容易，而ChatGPT是人工智能时代又一里程碑标志性的工具，凭借其强大的能力走红，势必大大促进人工智能与教育教学深度融合，使未来学习空间随时可见虚拟数字人、模拟教师和场景专家成为可能，实现教育业态和教学模式的快速更迭。新技术在教育领域的介入，往往会引发学者对伦理问题的审视和价值的重塑。技术本无错，利弊兼有，关键在于善用。ChatGPT嵌入课堂，既要引导教师明确人工智能模式下教师角色的定位，同时还应促进教师的自我反思与技术提升^[21]。人工智能在教育领域的高速发展，将不断激发人们对智能教育伦理的深度思考。未来，相关研究者需要重新思考教育与人工智能的关系，从伦理角度对人工智能教育不断反思和审视至关重要。

参考文献：

　　[1]CERULLO M.ChatGPT user base Is growing faster than TikTok[EB/OL].(2023–02–23)[2023-07-01].https://www.cbsnews.com/news/chatgpt-chatbot-tiktok-ai-artificial-intelligence/.

　　[2]Study Website.Productive teaching tool or innovative cheating?[EB/OL].[2023][2023-07-02].https://study.com/resources/perceptions-of-chatgpt-in-schools.

　　[3]OpenAl.GPT-4[EB/OL].(2023-03-14)[2023-07-02].https://openai.com/research/gpt-4.

　　[4]朱昌俊.ChatGPT火了，教育需要双重应对[N].中国教育报,2023-02-21(2).

　　[5][13]吴军其,吴飞燕,文思娇,等.ChatGPT赋能教师专业发展：机遇、挑战和路径[J].中国电化教育,2023(5):15-23,33．

　　[6]王树义,张庆薇.ChatGPT给科研工作者带来的机遇与挑战[J].图书馆论坛,2023,43(3):109-118．

　　[7]赵汀阳.人工智能提出了什么哲学问题?[J].文化纵横,2020(1):43-57．

　　[8]冯雨奂.ChatGPT在教育领域的应用价值、潜在伦理风险与治理路径[J].思想理论教育,2023(4):26-32．

　　[9]VAN DIS E A M,BOLLEN J,ZUIDEMA W.ChatGPT:five priorities for research[J].Nature,2023(7947):224-226.

　　[10][18]令小雄,王鼎民,袁健.ChatGPT爆火后关于科技伦理及学术伦理的冷思考[J].新疆师范大学学报(哲学社会科学版),2023,44(4):123-136．

　　[11]罗生全,谭爱丽.ChatGPT应用背景下教育发展的逻辑转换及实践路径[J].重庆理工大学学报(社会科学),2023,37(5):7-15．

　　[12]漠影.时间线复盘ChatGPT爆火之路：改变互联网圈的两个月[EB/OL].(2023-02-13)[2023-07-01].https://zhidx.com/p/362781.html.

　　[14]OpenAI.New AI classifier for indicating AI-Written text[EB/OL].(2023-02-022)[2023-07-02].https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/.

　　[15]焦建利.ChatGPT助推学校教育数字化转型——人工智能时代学什么与怎么教[J].中国远程教育,2023,43(4):16-23．

　　[16]贺樑,应振宇,王英英,等.教育中的ChatGPT：教学能力诊断研究[J].华东师范大学学报(教育科学版),2023,41(7):162-176．

　　[17]国家新一代人工智能治理专业委员会.新一代人工智能伦理规范[EB/OL].(2021-09-26)[2023-07-02].https://www.most.gov.cn/kjbgz/202109/t20210926_177063.html.

　　[19]孟令宇.从算法偏见到算法歧视：算法歧视的责任问题探究[J].东北大学学报(社会科学版),2022,24(1):1-9．

　　[20]石颖.算法歧视的缘起、挑战与法律应对[J].甘肃政法大学学报,2022(3):58-68．

　　[21]唐汉卫.在线教学存在的伦理问题与应对策略[J].现代教育技术,2020,30(12):41-47．　Ethic Critique and Adaptation of Education Application under the Tide of ChatGPT Technology

　Xiao CHEN¹, Xueyuan SU¹, Bo WANG¹, Yiqing ZHU², Depeng KONG¹

（1.College of Education, Zhejiang University of Technology, Hangzhou 310023, Zhejiang; 

2.School of Geographical Sciences, Xinyang Normal University, Xinyang 464000, Henan）

Abstract: ChatGPT, with its characteristics of real-time, efficiency, accuracy and flexibility, is rapidly becoming popular in various countries and fields. The intelligence and fluency of its interaction empower people’s imagination, which further rouses the heated discussion of “machine substitution”. Especially in the field of education, while ChatGPT can promote the development of new educational formats, it also causes people’s concerns about the abuse of artificial intelligence. In order to have a more comprehensive and systematic understanding of ChatGPT technology, this paper studies its performance in answering questions, writing papers, and its calculating ability, etc., and discusses the ethical risks that may occur in the process of deep integration of ChatGPT and education from the perspective of educators. And the technology has other problems such as the endangering privacy security, declining thinking ability and social ability of teachers and students, misleading information, lack of fairness, etc. In view of such problems, it is urgent for teachers, experts, scholars and the government to make joint efforts to build a well-ordered modern education ecology from the aspects of educational application, concept guidance, standard setting, technical support and social supervision.

Keywords: ChatGPT; AIGC; Educational application; Ethic; Information technology

编辑：王晓明   校对：李晓萍

往期目录｜超链接版

点击此处 在线投稿

期刊简介

《中国教育信息化》创刊于1995年8月，是由中华人民共和国教育部主管，教育部教育管理信息中心主办，面向国内外公开发行的国家级学术期刊。期刊内容力求全面深入地记录我国教育信息化的建设进展、研究与应用成果和行业发展状况，开展我国教育信息化发展状况调研和教育信息化国际比较研究，服务于国家教育宏观决策；力求全面准确地把握教育信息化相关的方针政策和标准规范，及时追踪ICT前沿技术的发展趋势及其与教育的融合，深度挖掘教育信息化建设与应用的体制、机制创新，服务于我国教育信息化实践。

●RCCSE中国核心学术期刊

●中国人文社会科学（AMI）扩展期刊

●中国期刊全文数据库收录期刊

●中文科技期刊数据库收录期刊

●国家哲学社会科学学术期刊数据库收录期刊

●中国核心期刊（遴选）数据库收录期刊

●龙源期刊网收录期刊

一年12期，每月20日出版

20元 / 期，邮发代号：82-761

编辑部邮箱：[e-mail]

通讯地址：北京市西城区华远北街2号921室