全文来啦!《大学生人工智能素养红皮书(2024版)》中文版全文发布
前言
与任何有机体一样,人类需要与环境保持良好的互动,才能更好地繁衍生息。在一般意义上,素养指的是人类个体与环境互动的能力,它旨在维持和促进个体与种群的生存和发展,具有主体性、实践性和伦理性等内在特征。
先前的技术发明从机械化增强角度提升了人类与环境的互动能力,然而,人工智能的出现挑战了人类的根本,它深刻改变了人类与环境互动的能力和角色,成为引领新一轮科技革命和产业变革的战略性技术,对经济发展、社会进步、全球政治经济格局以及教育变革产生着重大而深远影响。
在教育领域,人工智能正彻底改变着以知识积累和传递为中心的教学模式,新一代人工智能技术可以胜任原本属于人类脑力劳动范畴的部分工作。如何通过多样化的人机协同模式不断提升学习者的主体性、能动性和实践性,最终让大规模的个性化学习普遍发生,成为“智能时代、教育何为”需要直面的重大命题。
生成式人工智能将人类绝大多数知识装进数字化知识容器中,重构了人类知识版图,成为大数据时代中一种新型的“知识提供者”。然而,生成式人工智能的局限性也是显而易见的,它对个体自主思考、判断、学习能力乃至伦理道德观提出了前所未有的挑战。在人类教育史上,每一次伟大的技术创新(如文字、印刷术和互联网技术)都引发了教育领域质和量的飞跃。以ChatGPT为代表的生成式人工智能技术将实现对传统教育体系的再次迭代升级,促使人类教育目标从知识本位和能力本位走向素养本位。
本红皮书旨在提出大学生人工智能素养的构成内涵、培养的目标与愿景以及培养的载体、行动与策略,认为大学生人工智能素养是由体系化知识、构建式能力、创造性价值和人本型伦理构成的有机整体,其中知识为基、能力为重、价值为先、伦理为本。
构成 | 内容 | 愿景 |
体系化知识 | ■ 数据与知识:人工智能之燃料 ■ 算法与模型:人工智能之引擎 ■ 算力与系统:人工智能之载体 ■ 交叉与应用:人工智能之用途 ■ 可信与安全:人工智能双刃剑 | 形成人工智能思辨模式:人工智能的能与不能相对转变、人工智能中的确定性(逻辑)和不确定(概率)辩证统一、机器智能与自然智能的共生协同、“人工智能+”学科交叉与综合、科技属性与社会属性高度融合。 |
构建式能力 | ■ 对求解问题的抽象和建模能力 ■ 对求解过程的分解和模块化能力 ■ 对求解方法的可验证假设能力 ■ 对求解结果的解释反馈能力 ■ 利用生成式人工智能求解问题能力 | 具备人工智能解决问题的能力:培养设计与构造的计算思维,机器智能归纳和人类智能直觉等融通共进,塑造通过人机协同机制进行解决问题的构建能力,实现从“知识本位教育”向“能力本位教育”转变。 |
创造性价值 | ■ 目标引导式对话下的内容重构 ■ 师—机—生交互中的认知主体性增强 ■ 个性化学习体验的自主性融入 ■ 解决问题的实践能动性体验 ■ 克服依赖智能工具的选择性自省 | 创造人类增量知识的价值:在人工智能辅助下提升个性化、主体性和能动性,通过内容重构合成、实践探索、交互认知等手段创造价值,实现从“知识学习、能力塑造”向“价值创造”转变。 |
人本型伦理 | ■ 数据安全与隐私保护的意识 ■ 算法偏差与模型幻觉的警惕 ■ AI向善和以人为本的对齐 ■ 人机共生共融的AI & All理念 ■ 人类累积知识普惠共享的追求 | 坚持以人为本的伦理底线:从数据、算法、模型和应用等方面知晓人工智能脆弱性所带来的潜在危害,理解AI向善和以人为本的对齐模式,树立人机和谐相处和普惠智能的AI & All理念。 |
体系化知识包括人工智能之燃料、引擎、载体和用途有关的数据与知识、算法与模型、算力与系统、交叉与应用等知识,以及人工智能双刃剑所需要的可信与安全知识,掌握体系化知识才能具备应对复杂问题的综合系统思维。
图2展示了教育部计算机领域本科教育教学改革试点工作计划(“101计划”)核心课程“人工智能引论”以“厚基础、强交叉、养品行、促应用”为理念所形成的体系化知识点。课程类别 | 课程内容描述 |
通识课程 | 介绍人工智能的历史、定义、分支、应用和前沿发展;讨论人工智能的伦理问题、隐私保护和安全挑战;探讨人工智能对未来社会的影响,包括就业、教育、医疗等。 |
专业课程 | 讲授感知(如语音识别、自然语言理解、计算机视觉)、问题求解(如搜索和规划)、行动(如机器人)以及支持任务完成的体系架构(如智能体和多智能体)等不同方面的课程。 |
AI+X 交叉课程 | 介绍人工智能基本知识以及利用人工智能解决本学科问题的方法,如人工智能赋能经济、法律、艺术等不同学科;通过解决不同学科场景问题,明了人工智能对不同学科所产生的范式革命。 |
微课程 | 以知识点为核心,围绕具体问题介绍人工智能不同知识点内容,提供个性化学习的课程。 |
结语
教育是把人从自然人转化为社会人的过程。在这一过程中,人类需要与环境保持持续互动,以维持生存和发展,这就突出了素养所涉及的知识、能力、价值和伦理问题。
在《说文解字》中,“教”和“育”分别指“上所施下所效”和“养子使作善”。人工智能时代对教育方法和手段产生了深刻影响。以ChatGPT 为代表的大模型技术对教育进一步产生了巨大影响,使得机器和系统等人造物不再仅仅是知识的载体和表现工具,更是参与到教与学的过程中并成为其中的一方。
教育的首要目标永远应该是独立思考和判断的总体能力的培养,而不是获取特定的知识。为此,我们应该用科学理性的态度来把握技术的本质特征及潜力,对技术进行综合审视和哲学思考,对技术突破保持关注与警觉,更好地理解和发掘技术在教育领域的潜在价值。
人工智能能否实现伦理正当性,并不取决于人工智能本身,而是取决于人以及人工智能是否真正指向正当性目的。面向未来,面对不确定性,我们的态度应该是从知识本位教育迈向能力本位教育,恪守人工智能发展伦理规范,让人工智能为创造人类共同价值服务。
附录
附录1:教育部计算机101计划核心课程“人工智能引论”知识点体系
2021年年末,教育部在北京大学启动实施的计算机领域本科教育教学改革试点工作计划(简称101计划)。101计划启动以来,教育部计算机科学类基础学科拔尖学生培养基地建设高校中15所高校的40位左右老师参与了核心课程“人工智能引论”建设。参与建设教师认为人工智能具有多学科交叉综合、渗透力和支撑性强、高度复杂等特点,呈现技术属性和社会属性高度融合特色。
以“厚基础、强交叉、养品行、促应用”为理念,按照“厚算法基础、养伦理意识、匠工具平台、促赋能应用”的培养目标,“人工智能引论”设置了10个模块和63个知识点(含9个进阶知识点)。具体内容如下:
模块1 可计算理论与图灵机:可计算理论、图灵机模型和图灵测试、人工智能主流算法(符号主义、连接主义和行为主义)、国内外人工智能发展重要事件。
模块2 知识表达与推理:知识表示方法、命题逻辑和谓词逻辑及其推理方法、知识图谱推理、贝叶斯网络与概率推理、因果推理。
模块3 搜索探寻与问题求解:贪婪最佳优先搜索、启发式搜索(A*搜索)、搜索算法的性能分析、Minimax搜索、Alpha-Beta剪枝搜索和蒙特卡洛树搜索。
模块4 机器学习:机器学习模型评估与参数估计、线性回归模型、决策树、聚类、特征降维、演化学习和进阶机器学习等。
模块5 神经网络与深度学习:感知器模型、梯度下降和误差反向传播算法、卷积神经网络、循环神经网络、注意力机制、网络优化与正则化、进阶深度学习算法等。
模块6 强化学习:马尔科夫决策过程、贝尔曼方程、基于表格求解法的策略评估与优化、强化学习中探索与利用的平衡、基于近似求解法的策略评估与优化以及基于策略的强化学习。
模块7 人工智能博弈:博弈论概念与纳什均衡、虚拟遗憾最小化算法、Gale-Shapely算法、多智能体博弈算法。
模块8 人工智能伦理与安全:可信公平人工智能、人工智能可解释性和算法攻击与防守。
模块9 人工智能架构与系统:人工智能算法支撑技术链、人工智能芯片(GPU、XPU和类脑芯片等)和分布式深度学习优化等内容。
模块10 人工智能应用:利用人工智能模型和算法来实现自然语言中的机器翻译、视觉理解中的图像分类、机器人中的行为控制和科学计算以及大模型等具体例子。人工智能十个知识点模块之间相互支撑、互为一体,将算法、模型、系统、应用和伦理规范等有机结合,在算法和模型方面,强调了从逻辑推理到问题求解、从策略搜索到数据建模、从浅层学习到深层学习,从学习结果误差评价到序贯式反馈收益评估,从最优解优化到均衡解博弈。
附录2:ACM和IEEE-CS制定的新版人工智能知识点
ACM(Association for Computing Machinery)和IEEE-CS(IEEE Computer Society)从2021年开始为计算机本科专业制定人工智能领域知识点(详见:https://csed.acm.org/knowledge-areas-intelligent-systems-ai-sigcse-2022-version/),其认为:神经网络和表示学习越来越受到重视,反映了该领域的最新进展。由于搜索在整个人工智能中的关键作用,它仍然被强调,但符号主义人工智能方法略有减少,以增加有关神经网络等内容;应该越来越重视人工智能在诸多方面的实际应用(如医学、可持续性、社交媒体等);关注人工智能技术对社会所产生的广泛影响,包括人工智能伦理、公平、可信和可解释等方面问题;考虑到人工智能与其他知识领域在实践中的广泛联系,每个计算机科学学生都应有明确目标来培养基本的人工智能素养和批判性思维。
表3中给出了ACM和IEEE-CS联合工作组正在制定的人工智能知识点,包括了基本问题、基本搜索策略、基础知识表示和推理、基础机器学习、应用和社会影响、高级搜索、高级表示和推理、不确定下的推理、智能体、自然语言处理、高级机器学习、机器人、感知和计算机视觉等13个模块。
表3 ACM和IEEE-CS正在制定的人工智能领域知识点
知识模块 | 知识点 |
基本问题 Fundamental Issues | 人工智能问题概述,最近成功的AI应用示例;智能行为定义;图灵测试;理性推理与非理性推理;智能体本质;人工智能的哲学问题。 |
基本搜索策略 Basic Search Strategies | 问题的状态空间表示;无信息搜索;启发式搜索(最佳优先搜索和A* 搜索);搜索算法的空间和时间复杂度;最小最大搜索;Alpha-beta剪枝搜索。 |
基础知识表示和推理 Basic Knowledge Representation and Reasoning | 知识表达类型;贝叶斯定理与贝叶斯推理。 |
基础机器学习 Basic Machine Learning | 机器学习任务的定义和示例;基于统计的监督学习(朴素贝叶斯和决策树);机器学习优化(如最小二乘回归);过拟合问题和正则化;机器学习评估;神经网络基础。 |
应用和社会影响 Applications and Societal Impact | 人工智能在广泛问题和不同领域的应用(如医学、可持续发展、社交媒体等);人工智能的社会影响。 |
高级搜索 Advanced Search | 构建搜索树、动态搜索空间、搜索空间的组合爆炸;随机搜索;模拟退火算法;遗传算法;蒙特卡洛树搜索;束搜索(beam search)、最小最大值搜索、Alpha-beta剪枝搜索;期望最大搜索(MDP求解)。 |
高级表示和推理 Advanced Representation and Reasoning | 命题逻辑和谓词逻辑的回顾(交叉引用DS/基本逻辑);知识表示问题;描述逻辑;本体工程;非单调推理(例如,非经典逻辑、默认推理);论证;关于行动和变化的推理(例如,情况和事件演算);时空推理;基于规则的专家系统;语义网络;基于模型和案例的推理;规划。 |
不确定下的推理 Reasoning Under Uncertainty | 随机变量和概率分布;概率公理;概率推理;贝叶斯法则;条件独立;知识表示;精确推理及其复杂度;随机抽样(蒙特卡罗)方法(如吉布斯采样);马尔可夫网络;关系概率模型;隐马尔可夫模型;决策理论。 |
智能体 Agents | 智能体定义;智能体结构(如反应、分层和认知);智能体理论;理性与博弈论;智能体决策理论;马尔可夫决策过程;软件智能体、个人助理;学习智能体;多智能体系统。 |
自然语言处理 Natural Language Processing | 确定性语法和随机语法;解析算法;CFG 和图表解析器(例如 CYK);概率CFG和加权CYK;基于语料库的方法;N元文法和隐马尔可夫链;自然语言应用示例:词性标注和语言形态学;信息检索;TF*IDF;查准率和查全率;信息抽取;语言翻译;文本分类。 |
高级机器学习 Advanced Machine Learning | 参数估计(最大似然);归纳逻辑程序设计(ILP);监督学习;决策树;简单的神经网络/多层感知器;支持向量机;集成学习;最近邻算法;深度学习;无监督学习和聚类;半监督学习;学习图模型;性能评估(例如交叉验证和ROC曲线);学习理论;过拟合的问题,维度灾难问题;强化学习;机器学习算法在数据挖掘中的应用。 |
机器人 Robotics | 机器人系统(包括传感器和传感器处理等);机器人控制架构;世界空间建模和世界空间模型;传感和控制中的固有不确定性;轨迹规划和环境地图;解释传感器数据中的不确定性;定位;导航和控制;运动规划;多机器人协作。 |
感知和计算机视觉 Perception and Computer Vision | 计算机视觉;图像采集、表示和处理;形状表示、对象识别和分割;运动分析;音频和语音识别。 |
附录3:联合国教科文组织发布的《K-12 AI 课程:政府认可的 AI 课程图谱》
联合国教科文组织一直重视K12人工智能教育,认为所有公民都需要具备一定程度的人工智能能力,包括具备“人工智能素养”中的知识、理解、技能和价值观,因为这已成为本世纪的基本语法。
2022年2月,联合国教科文组织发布了《K-12 AI 课程:政府认可的 AI 课程图谱》(K-12 AI Curricula: A mapping of government-endorsed AI curricula),这是关于 K-12 人工智能课程全球状况的第一份报告。在这个报告中,联合国教科文组织对K12的人工智能教育提出了九个知识点领域,分别是算法与编程、数据素养、领域问题求解、人工智能伦理、人工智能社会影响、人工智能在其他领域应用、理解和使用人工智能方法、理解和使用人工智能技术、发展和创新人工智能应用。
表4 联合国教科文组织《K-12 AI 课程:政府认可的 AI 课程图谱》类别 | 知识点 | 课程中有关人工智能素养的描述 |
人工智能基础 | 算法和编程 | 与数据所起作用一样,算法和编程是参与人工智能的技术基础。 |
数据 | 大多数人工智能应用程序运行在“大数据”上。掌握数据全生命周期中收集、清洗、标记、分析和结果报告等内容是使用和或开发人工智能的技术基础之一。了解数据及其功能也可帮助学生理解人工智能所面临若干道德和部署挑战的背后原因及其在社会中的作用。 | |
情境式解决问题 | 人工智能通常被认为是应对商业或社会挑战的潜在解决方案,为此需要形成针对具体任务和场景的情景式解决问题框架,包括设计思维和基于项目的学习。 | |
伦理与社会影响 | 人工智能伦理 | 无论技术专业和职业背景如何,未来社会的学生都将在个人和职业生活中应用人工智能。对于每个人而言,理解人工智能的伦理挑战非常重要,需要了解人工智能伦理,形成可解释、可信和公平等概念;知晓在不道德或非法使用人工智能的情况下(例如包含有害偏见或侵犯人工智能隐私权)如何采取防范措施或补救办法。 |
人工智能社会影响 | 人工智能对社会影响涵盖法律框架和劳动力转型等方面,要理解人工智能时代的职业代替、法律框架变化和人工智能治理等趋势。 | |
人工智能在信息技术以外的应用 | 人工智能在计算机科学之外有着广泛的应用,诸如艺术、音乐、社会研究、科学和健康等。 | |
理解、使用和发展人工智能 | 理解和使用人工智能理论 | 理解人工智能基本理论(如模式定义与识别、机器学习模型)、让学生能够使用现有人工智能算法(如训练分类器),了解人工智能中算法分类(如监督学习、非监督学习、强化学习、深度学习和神经网络等) |
理解和使用人工智能技术 | 人工智能技术通常可以完成人类所需的应用,可以“作为服务”提供(如自然语言处理和计算机视觉等)。知晓应用现有的人工智能技术来完成任务或项目,研究创建这些技术的过程。 | |
发展人工智能技术 | 开发人工智能技术涉及创建新的人工智能应用程序,这些应用程序可能会解决社会挑战或提供新型服务。这是一个专业领域,需要了解编程、数学(尤其是统计学)和数据科学方面的一系列复杂技术和技能。 |
本微信公众号发布的原创内容,版权属科教发展研究官方微信所有;
从公开渠道收集的图文影像资料,版权属原作者所有。
如需转载,敬请联系。
欢迎投稿,期待合作!