2024年全国两会中与“人工智能（治理）”有关的建议和提案
3月4日，十四届全国人大二次会议在人民大会堂新闻发布厅举行新闻发布会，大会发言人娄勤俭在答中外记者问时提到，2023年，全国人大常委会对《科学技术进步法》实施情况进行了执法检查，下一步我们将研究推进科技创新方面的立法，特别是深入研究人工智能、生物技术等前沿科技领域有关伦理、道德、安全等重要问题，不断完善科技法律体系。具体到人工智能领域，专家认为立法工作的重点包括数据保护与隐私权益、算法公正与透明度、人工智能安全与监管和知识产权与成果转化等。李强总理更是明确在2024年政府工作报告中提出，深化大数据、人工智能等研发应用，开展“人工智能+”行动。与此同时，人工智能作为最受关注的话题之一，吸引了多位全国人大代表和全国政协委员的关注，本文将对相关建议和提案进行梳理，并重点关注AI治理的有关内容，以饕读者。
全国人大代表，小米创办人、董事长兼CEO 雷军
2024年全国两会，全国人大代表，小米创办人、董事长兼CEO雷军围绕绿色低碳、人工智能、智能驾驶、智能制造等领域提出了四份建议，具体如下：
建议一：加快建设制造业绿色低碳供应链
加快建立制造业碳足迹背景数据库，推动国际衔接与互认。
支持打造绿色数字化供应链系统，实现供应链内协同联通。
探索建立绿色电力全国交易机制，促进链主企业引领供应链绿色转型。
建议二：加强培养人工智能人才，满足科技变革需求
从义务教育阶段普及人工智能素养教育。
大力推进高校人工智能相关专业的建设。
支持大型科技企业和教培机构培育人工智能应用型人才。
建议三：进一步规范智能驾驶产品安全应用
规范辅助驾驶功能应用，打造更安全的驾驶体验。
规范自主代客泊车功能应用，保障无人化场景体验安全。
规范车端数据使用，提升智能驾驶产品安全水平。
建议四：加大智能制造支持力度，加快融合先进技术发展
促进先进智能技术与制造业融合创新，加速工业大模型部署。
完善标准体系建设，探索智能制造“中国范式”。
支持龙头企业承接智能制造重大专项，攻关关键技术装备。
全国政协委员、360集团创始人兼董事长 周鸿祎
2024年全国两会，全国政协委员、360集团创始人兼董事长周鸿祎围绕人工智能应用和安全提出了两份提案，具体如下：
提案一：关于深化人工智能多场景应用支持大模型向垂直化、产业化方向发展
政府、央国企应率先提供更多应用场景，聚焦“小切口，大纵深”，推动大模型垂直化、产业化落地，助力百行千业数字化转型，实现数转智改。
鼓励企业在定制AI大模型前，做好知识管理，将企业大数据平台升级为企业知识平台。在此基础上，通过垂直训练，深入企业级场景，满足企业需求。
励和引导企业将大模型与数字化业务系统深度结合，同业务流程相结合，充分发挥大模型价值。
提案二：关于鼓励兼具“安全和AI”能力的企业解决通用大模型安全问题
建议国家更加重视通用大模型安全问题，给予兼具“安全和AI”能力的企业专项扶持政策，更好发挥其解决通用大模型安全问题的重要作用。
建议国家研究制定保障通用大模型安全的标准体系， 推动通用大模型开展安全评测、接入安全服务，降低通用大模型安全风险。
鼓励政府、央国企与兼具“安全和 AI”能力的企业在大模型安全领域展开深入合作。
全国人大代表、科大讯飞董事长 刘庆峰
2024年全国两会，全国人大代表、科大讯飞董事长刘庆峰围绕AI领域带来了多份建议。
建议一：制定国家《通用人工智能发展规划》
在2017年《新一代人工智能发展规划》的基础上，瞄准我国通用人工智能发展中需要重点补上的短板进行设计，围绕自主可控算力生态构建、高质量数据开放共享、科学的评测标准制定、源头技术前瞻研发、人才培养、法律制定和伦理人文等维度，系统性制定国家《通用人工智能发展规划》。
建议二：在制定国家《规划》的同时，应加快推进通用大模型的相关工作，不断缩小中美通用人工智能产业在通用底座平台方面的差距
建议发挥举国体制优势，加大并保持对通用大模型底座“主战场”的持续投入。
建议加快形成围绕国产大模型的自主可控产业生态。
建议推动国家级高质量训练数据开放和共享。
建议出台更加客观、公正、可信的评测方法，加快大模型在行业领域的应用落地。
建议坚持源头核心技术系统性创新，在战略性、前瞻性的基础研究领域做好布局。
建议加快推广大模型赋能全学段，以全新机制加快探索我国人工智能拔尖创新人才培养。
建议研究通用人工智能时代人才能力素质模型和培养方案，加快应用型人才培养。
建议加速通用人工智能技术相关的法律法规制定与审议。
建议设立软课题进行通用人工智能相关的伦理人文研究。
全国政协委员，上海市浙江青年人才联合会主席、金杜律师事务所高级合伙人 张毅
2024年全国两会，全国政协委员、上海市浙江青年人才联合会主席、金杜律师事务所高级合伙人张毅围绕人工智能治理，提出了如下建议：
建议一：在立法层面，我国可加快推进《人工智能法》的出台，以构建人工智能算法治理体系，弥补监管体系空白
以人工智能法及配套的监管工具为核心，形成完整的人工智能技术法律体系。
建议二：在监管手段上，建议强化和创新算法监管。通过完善算法治理联席会议制度，实现多部门协同监管，形成“横向协同，纵向联动”的算法治理格局
要在实践层面落实“包容审慎”的治理理念，可能还有赖于对人工智能产业发展现状与痛点、引发的风险程度与范围等进行充分调研，设置“包容审慎边界——划定安全底线”的刚柔并济路径，寻求平衡发展与监管的“破题”之策。
参考其他成熟的监管思路，将人工智能和算法技术按风险等级进行划分，并针对不同等级采取不同的监管措施。例如，可能会通过潜意识操纵用户的人工智能系统应被直接禁止。
考虑到人工智能技术的复杂性和专业性，张毅建议，借助市场力量，外聘或者借调人工智能领域的专家共同参与监管法律体系的建立。
参考金融科技行业的监管经验，引入“监管沙盒”制度等创新监管工具，对于原有监管制度存在空白或不明确的，在一定条件下，允许企业进行试验性的开发、测试和验证。
强化由网信办牵头，国家发展改革委、工业和信息化部、公安部等部门共同参与的算法治理联席会议制度。
建议三：在保障用户权利方面，建议推进算法服务商以个人能够理解方式披露算法风险与可能产生的损害、算法运行步骤与决策结果间关系等运行规则，减少专业术语，便于用户理解和决策。
企业在设计、研发人工智能算法时宜嵌入透明可释的目标，推动算法透明的全流程治理。
在算法侵权的诉讼中采取“过错推定”归责原则，实行“举证责任倒置”，并探索人工智能算法领域的民事公益诉讼制度，增强源头治理。
全国人大代表、河南移动总经理 楼向平
2024年全国两会，全国人大代表，中国移动河南公司党委书记、董事长、总经理楼向平围绕人工智能可信治理提出了两项建议，具体如下：
建议一：构建系统化的人工智能法律法规体系
积极推动人工智能领域立法进程
明确生成式人工智能“事前-事中-事后”全链条监管机制。
建立人工智能责任认定和追责机制。
建立各利益相关方共同参与的系统化治理体系。
建议二：构建统一的可信人工智能技术标准和评估体系，加强内生安全防御技术研究，实现人工智能“生成即安全”
设立人工智能可信性指南，构建可信人工智能标准框架。
依托人工智能可信性指南，建立可信AI评估工作机制。
加强安全技术攻关，构建内生安全底座。
全国政协委员，知乎创始人、董事长兼CEO 周源
2024年全国两会，全国政协委员、知乎创始人兼CEO周源提交多份提案，重点关注了人工智能治理和完善中文语料库等议题，具体如下：
建议一：建立数据合规的监管机制，推动完善AIGC监管立法，保护和规范人工智能领域的数据合规
对大模型的数据采集来源、处理方法、合规性等进行监督和审查。
应加强对大模型的社会影响和风险评估，及时发现和解决可能存在的问题。
建议二：加强数据安全和知识产权的保护措施
一方面是推动大模型研发机构和企业制定严格的保护政策和行为规范，严厉打击侵权行为，确保数据持有方的知识产权和利益得到充分保护。
另一方面是制定相应的鼓励和扶持政策，保障拥有丰富高质量数据储备及持续生产能力的企业和社会主体得到整个行业的重视，促进数据要素市场的形成和生产能力的持续发展。
建议三：加快高质量中文数据集的开发与利用
建设标准化、规范化的数据标注方法，加快数据要素的共享、流通与交易。
加快探索数据要素交易模式。由政府引导或相关行业组织牵头构建有利于数据交易模式创新与合规的新秩序。
要加大政府主导的公共数据资源开放共享，加快构建标准统一、布局合理、管理协同、安全可靠的公共大数据资源体系。
全国政协常委，中国作协副主席、书记处书记、著名作家邱华栋
2024年全国两会，全国政协常委，中国作协副主席、书记处书记、著名作家邱华栋围绕人工智能引发的版权问题提出了建议，具体如下：
建议：加强人工智能领域版权保护
完善相关立法，明确人工智能领域版权保护的原则性问题。
充分发挥行业政策、国标、行标等“软法”的作用，提升人工智能领域版权保护工作的专业化精细化水平。
建立人工智能开发者与权利人组织良性对话机制，推动国家权威机构监管的正版语料数据库建设。
加快落实人工智能领域版权保护多方主体责任，构建行政主管部门、人民团体、著作权集体管理组织、行业协会以及司法机关和检察机关等多主体参与的共建共治共享社会治理体系。
全国人大代表、四川省律师协会会长 李世亮
2024年全国两会，全国人大代表、四川省律师协会会长李世亮针对我国的人工智能立法提出了建议，具体如下：
建议：我们国家目前处于一个AI技术发展的起步阶段，还没有相对成熟的市场经验，因此精准立法的条件还不成熟
相比立法，规范性文件的制定和修订都更加灵活，现阶段《生成式人工智能服务管理暂行办法》能够基本满足监管需求。
我们在立法中可以借鉴欧盟经验，给市场一定的发展空间。
全国政协委员，民革广东省委会副主委、深圳市委会主委，深圳市人大常委会副秘书长 何杰
2024年全国两会，全国政协委员，民革广东省委会副主委、深圳市委会主委，深圳市人大常委会副秘书长何杰准备了多个与人工智能有关的提案，具体如下：
提案一：积极参与人工智能全球治理
通过参与全球治理，提升中国在全球人工智能规则制定中的影响力和话语权，保持与全球的认知同步，建立共同的话语体系。
探索警惕个别大国企图垄断人工智能发展优势从而便利其搞“小院高墙”“脱钩断链”，甚至要把意识形态偏见引入人工智能治理，打造封闭排他的“小圈子”，恶意阻挠他国人工智能发展等行为。
积极支持在联合国框架下酝酿成立国际人工智能治理机构，研究协调规管国际人工智能发展、安全与治理等重大问题。
提案二：加快打造人工智能治理的中国模式和国际样板
逐步建立健全法律和规章制度，保障人工智能研发和应用中的个人隐私与数据安全。
推动建立风险等级测试评估体系，针对文字、图片、视频生成模型分类分级管理，实施敏捷治理，紧跟技术发展情况，快速调整管理措施。
积极行动，倡导建立多语言、多宗教的综合性国际开源数据集，尽量减少数据的偏见。
全国政协常委、浙江省政协副主席 陈小平
2024年全国两会，全国政协常委、浙江省政协副主席陈小平围绕人工智能的创新发展提出了建议，具体如下：
建议：抢抓人工智能战略高地和发展主动权，赋能各领域产业创新，成为发展新质生产力的重要引擎
制定国家层面的人工智能发展战略规划，优先扶持若干具有竞争力的地区、企业，给予“一地一策”“一事一议”重点支持。
推动建立人工智能大数据开放创新平台，鼓励企业和研究机构共享符合法律法规要求的高质量语料库资源。支持开展专门的数据标注、清洗等预处理工作，为训练大模型提供优质数据来源。
研究制定更适应人工智能产业发展特点的数据权益保障和流通规则，降低企业合规成本。
全国人大代表，农工党中央委员、南昌大学元宇宙研究院院长 闵卫东
2024年全国两会，全国人大代表、农工党中央委员、南昌大学元宇宙研究院院长闵卫东围绕人工智能带来的风险剔除了建议，具体如下：
建议：加快研究数字技术防范人工智能风险
在人工智能飞速发展的同时，也要建立起相应的数字之“盾”，拉紧人工智能的“缰绳”。
在数字技术层面加快识别AIGC内容的研究，能够做出智能判断，防范相应的风险。
全国政协委员、奇安信董事长 齐向东
2024年全国两会，全国政协委员、奇安信董事长齐向东围绕“AI+安全”进行了提案，具体内容如下：
提案：创新发展“AI+安全”护航中国式现代化
从供给侧看，建议鼓励各行业头部企业与专业安全厂商结成创新联合体，在关键行业选取典型场景开展联合创新，共同探索大模型安全创新产品在威胁检测、漏洞挖掘、指挥研判等方面应用，在实战中推动“AI+安全”进入越用越强的良性循环。
从需求侧看，建议像支持新能源汽车的发展一样，支持“AI+安全”产业发展，设置专项基金，对研发创新“AI+安全”产品的企业，给予政府基金、贴息贷款或科研项目等支持。
从人才侧看，壮大“AI+安全”领域的实战型、复合型人才队伍。鼓励成立校企共同体，在实践中培养更多大数据、人工智能、网络安全等新兴产业领军人才，为我国抢抓人工智能机遇培育人才。
全国政协委员、常委，中国工程院院士 钱锋
2024年全国两会，全国政协委员、常委，中国工程院院士钱锋围绕人工智能赋能新型工业化提出了建议，具体如下：
建议：人工智能要紧密切合产业升级需求
人工智能赋能新型工业化，说到底是如何以数据、算法、算力来赋能制造业高质量发展中亟待解决的难题。这其中人工智能只是工具和手段，关键在于搞清楚制造业的需求、难点和短板是什么，并把人工智能技术与其紧密结合、寻求破解之路，而不是人工智能和制造业发展“两张皮”。
引导实体企业与人工智能技术深度融合，深度挖掘数据价值、高效配置资源能源、精准管控安全环保质量、基于数据实施高效决策、为产业链条深度赋能，从而打造“智造新实体”。
全国政协委员，天娱数科副总经理、山西数据流量谷董事长 贺晗
2024年全国两会，全国政协委员、天娱数科副总经理、山西数据流量谷董事长贺晗围绕人工智能的应用场景提出了提案，具体如下：
提案：加快拓展人工智能大模型技术应用场景
鼓励搭建多层次应用场景供需对接平台，为市场提供“看得见、摸得着”的应用场景，推动应用场景拓展从“出文件”“给政策”到“建机制”“创机会”转变。
在全国范围实施大模型赋能千行百业示范应用推进计划。
大力推进大模型应用生态建设，构建开放共享协同的产业生态体系。
注重面向通用人工智能时代的人才培养，培养一批既懂行业技术又懂大模型技术的综合型人才。
全国政协常委，中国移动党组书记、董事长 杨杰
2024年全国两会，全国政协常委，中国移动党组书记、董事长杨杰围绕“AI+”行动，提出了提案，具体如下：
提案：全面推进“AI+”行动、加快形成新质生产力
统筹推进计算智能、感知智能、认知智能、运动智能的协同发展，夯实“AI+”发展根基。
加快推动人工智能惠及千家万户、赋能千行百业，打造“AI+”产业高地。
探索打造企业为主体、产学研用深度融合的创新联合体，厚植“AI+”创新沃土。
深化构建可控可信的人工智能安全防护体系，筑牢“AI+”安全屏障。
全国政协委员、中国科学院计算技术研究所研究员 张云泉
2024年全国两会，全国政协委员、中国科学院计算技术研究所研究员张云泉面向生成式人工智能的教育问题提出了建议，具体如下：
建议：普及生成式AI教育，培育新质生产力人才
加快优化资源分配，促进教育平等。特别关注偏远和农村地区，确保上述地区也能获得必要的资源。
及时更新课程内容和教学方法，与快速发展的人工智能领域同步。
促进产教融合，增加实践机会。
加快企业导师引进并设立专项奖励。
全国政协委员、京东集团技术委员会主席 曹鹏
2024年全国两会，全国政协委员、京东集团技术委员会主席曹鹏围绕新质生产力与人工智能的关系提出建议，具体如下：
建议：在以大模型为代表的AI技术创新大潮中，建议通过政策引导、模式推广、典型案例树立等方式，推动实体产业和技术服务企业把国产化的产业价值作为第一目标，形成新质生产力对产业的扎实助力
呼吁自主研发和产业发展相辅相成，实现从静态替代到动态升级，通过国产化数字基础设施推动新质生产力发展，尤其在AI技术创新大潮中，建立国产先进算力和产业发展相辅相成的正循环。
民进中央
2024年全国两会，民进中央对人工智能在教育领域的应用进行了提案，具体如下：
提案：积极推动人工智能赋能教育变革
积极推动生成式人工智能与教育深度融合，走出一条创新驱动、科技向善、持续健康的发展路径。
提升教师队伍利用人工智能创新教学的能力。
规范应用，加强风险监测机制建设。加快完善生成式人工智能相关法律法规体系，制定人工智能教育应用的规范性文件，加快制定教育隐私数据采集等相关技术标准；通过建立准入制度正向引导、建立负面清单制度加强监管，避免人工智能算法、数据分析模型对教育教学产生误导，为积极拥抱智能教育提供明晰的边界与坚实的技术保障；明确人工智能教育应用的研究成果与应用产品的使用要求、责任划分与归属，规范人工智能教育应用产品的使用者与提供者的行为。
致公党中央
2024年全国两会，致公党中央围绕人工智能的发展与应用问题进行了提案，具体如下：
提案：协调推进工业人工智能发展与应用
加强顶层设计，夯实工业智能化发展基础。
强化产业培育力度，助推工业智能发展提质增效。
加强基础研究，持续提升核心技术支撑力。
加强服务型研发设计，推进工业专用模型发展。
整理&编辑 | 王欣辰，清华大学智能法治研究院实习生
选题&指导 | 刘云
注：本公众号原创文章的著作权均归属于清华大学智能法治研究院，需转载者请在本公众号后台留言或者发送申请至computational_law@tsinghua.edu.cn，申请需注明拟转载公众号/网站名称、主理者基本信息、拟转载的文章标题等基本信息。