【AIGC与数据安全】线上专题沙龙圆满结束！（附直播回放）

2023年，AIGC爆发出前所未有的发展潜力，其中不断完善的深度学习模型、开源模式的推动，以及大模型探索商业化的可能，成为了AIGC发展的“加速器”。而随着人工智能技术的飞速发展，人们对于数据安全问题的关注也日益加强。在人工智能时代，数据被视为新时代的石油，对于企业和个人来说具有重要的价值和意义。因此，如何在人工智能时代保障数据安全成为了重要的研究方向。

6月17日下午，OpenMPC社区联合华为昇思MindSpore开源社区举办了【AIGC与数据安全】线上主题沙龙，探讨AIGC技术的创新应用过程中遇到的数据安全问题。其中来自北京航空航天大学、华为MindSpore实验室、原语科技和浙江理工大学的四位专家和学者，分别从AIGC的技术发展、应用实践、数据安全几方面展开讨论，带领大家深入了解AIGC与数据安全。

接下来，就让我们一起回顾本次活动中来自各位特邀嘉宾的精彩分享。

01《生成式大模型的技术现状与挑战》

嘉宾：刘庆杰，北京航空航天大学计算机学院副教授，博士生导师

生成式大模型是当前人工智能领域的研究热点，极大推动了文图生成（如Midjourney）和大语言模型（如ChatGPT)的进步。本报告将介绍生成式大模型的基本原理和发展历程，包括GAN（生成对抗网络）和VAE（变分自编码器）等经典模型和Stable Diffusion（扩散模型），GPT等最新方法。随后，讨论生成式大模型仍然面临一些挑战，如模型的训练和部署成本较高、生成样本的可解释性和控制性问题、以及大模型的鲁棒性和隐私保护等问题。

02《AIGC的数据合规挑战与应对》

嘉宾：郭兵，浙江理工大学数据法治研究院副院长

浙江理工大学数据法治研究院副院长、浙江垦丁律师事务所数据合规部主任郭兵针对AIGC应用所面临的数据合规挑战与应对问题，分别从民事、行政和刑事法律责任角度进行了梳理分析，并结合具体案例提示了相应的合规应对建议。“第一批因ChatGPT坐牢的人已经在路上了”，AIGC应用的刑事风险是相关企业应当特别重视的红线问题。正因如此，郭院长重点从涉案企业合规不诉的角度，分享了AIGC应用中可能面临的刑事合规及其应对问题；当前，涉案企业数据合规不诉已经在一些地方落地，AIGC相关企业也应当及时掌握涉案企业合规的相关政策，在经营活动中积极采取相关的预防性的合规举措。

03《PrimiHub 联邦学习大模型技术实践》

嘉宾：林造镇，原语科技产品总监

原语科技产品总监林造镇从机器学习发展的进程，通过对比的方式，简单地为大家介绍了大模型，以及大模型在硬件限制条件下的解决方案——通过预训练+微调的方法。再从联邦学习在大模型技术实现的必要性，联邦学习实现大模型的价值以及实现过程中面临的难点，并分享了通过提示学习，P-Tuning v2等技术降低参数从而实现大模型的方法。最后为大家介绍了原语科技实现联邦大模型的开源实践过程，并欢迎大家使用交流。

04《昇思MindSpore超大规模AI实践》

嘉宾：王盛南，华为MindSpore分布式并行实验室主任工程师

介绍了当前业界大模型的发展趋势和mindspore的进展。近年来大模型迅猛发展，其规模呈现高速的增长，而计算芯片算力的增长较为缓慢，使得单一计算芯片难以支撑大模型的训练。因此，运用技术充分利用多个计算芯片的分布式训练框架成为解决大模型训练难题的有效途径。华为自研的mindspore框架能自动将单卡的模型脚本拓展到多卡视角，结合多维的混合并行技术，在千卡以上的集群对模型进行高效的训练。同时mindspore提供了简单易用的模型套件，方便用户对大模型进行快速地训练微调推理。本次分享还重点介绍了mindspore在千卡集群上训练稠密和稀疏盘古大模型的经验。

结语

人工智能技术在推动科技向星辰大海探索的同时，也在挑战一系列颠覆现有认知之外的伦理、内容、数据安全问题，AIGC安全风险迫切需要对症解决。通过四位老师的分享，我们对于AIGC技术发展和应用过程中需要面对的问题有了初步的认识，但是离完美解决数据真实性、内容合规性、漏洞病毒攻击，以及伦理等问题，我们还有很长一段路要走。随着人工智能技术的持续进化和AI大模型的进一步落地，社区也会继续跟进AIGC的数据安全问题，不断更新全球最新AIGC相关动态，更多相关沙龙分享也会陆续推出，敬请期待！
END最新活动：

密码技术作为国家安全三大支撑技术之一, 是保障网络强国、数字经济发展的安全基石。本课程从零基础开始讲解现代密码学的重要范式--可证明安全。在可证明安全的框架下,深入浅出讲解安全多方计算、通用可组合(universal composability)安全、不可微分(indifferen- tiability)安全、黑盒技术、非黑盒技术、简洁非交互式零知识证明、格基密码学等。

本系列课程为公益讲座, 免费对所有人开放。 本系列课程特别适合从事密码学和网络空间安全领域研究的高年级本科生、硕士生、博士生和青年学者。如您感兴趣，可以直接点击下方预约直播：​热门文章: