本期要点
学术前沿
朱晓峰｜个人信息侵权责任构成要件研究
张欣｜生成式人工智能的数据风险与治理路径
新规速递
信安标委丨《网络安全标准实践指南——生成式人工智能服务内容标识方法》
美国国家标准与技术研究院｜《构建网络安全与隐私学习计划草案》
法律适用
国家网信办｜“去哪儿”平台通过数据出境安全评估
北京互联网法院｜聚焦数字版权、数字消费、平台治理、数据算法、网络权益保护等领域发布五类十大典型案例
产业发展华为｜发布接入盘古大模型的Mate 60 Pro
百度等｜全面开放大模型
左卫民、潘鑫｜通过技术规训司法：进步与挑战
随着司法信息化建设的逐渐推进，技术已经成为司法权运作的重要支撑部分，新技术开始带来对司法的技术规训。通过技术将法律规范的要求转化为可执行的标准，司法人员的决策与行为都需要按照技术标准展开。技术规训是一把“双刃剑”,一方面，其可以监管司法过程、规制司法裁量以及促进司法透明化；另一方面，通过技术规训司法具有诸多挑战，技术规训的应用不仅存在风险，包括不当限制司法裁量空间、造成司法异化甚至可能被司法人员规避或利用，而且技术规训的发展仍面临“瓶颈”。未来，应当秉持理性态度，不仅要适当通过技术规训司法，而且应规避技术规训司法的负面效应。既不必过度忧虑技术规训的前景，又需要确立技术规训的辅助地位，正确认识技术规训的挑战，制定更加细致的技术使用规范，并掌控技术研发的主动权。（全文刊《法学评论》2023年第4期）
左卫民，四川大学法学院教授；潘鑫，四川大学法学院博士研究生。
朱晓峰｜个人信息侵权责任构成要件研究
个人信息侵权责任成立的认定涉及两组规范关系的处理：一是我国民法典第1165条第1款与个人信息保护法第69条第1款的规范适用关系；二是规定侵权责任成立构成要件的民法典第1165条第1款、个人信息保护法第69条第1款与引入利益权衡方法的民法典第998条的规范关系。其中，对于民法典第1034条第3款规定的私密信息优先适用隐私权保护规则导致第1165条第1款与第69条第1款在适用上的紧张关系，应在现行法秩序内外在体系融贯的视角下通过目的扩张解释第1034条第3款“没有规定的”内涵来解决。对于民法典第1165条第1款、个人信息保护法第69条第1款规定的责任成立构成要件与民法典第998条规定的利益权衡方法之间的规范关系，应在赋权保护模式与行为规制模式的体系协调下确定，将能够清晰界定事实构成的个人信息侵害行为通过预先概括规定标准性事实构成要件＋正当理由的例外检验模式来判断相应的责任是否成立，将那些不能清晰界定事实构成的侵害行为，通过利益权衡方法评价其在侵权责任法上的效果。（全文刊《比较法研究》2023年第4期）钭晓东｜论生成式人工智能的数据安全风险及回应型治理生成式人工智能语料库的大规模流动、聚合和分析带来前所未有的数据安全风险，其范围涵盖了数据输入、运算、存储和输出的全过程。这些风险带来的威胁包括但不限于数据主权、意识形态安全、网络安全等方面，甚至危及国家安全。应当革新生成式人工智能数据安全治理范式，实现从单一安全到总体安全、从网络主权到数据主权、从绝对安全到相对安全的理念转变，并在此基础上进行回应型治理：以风险管控、算法透明原则、多层次的数据管理保障机制以及技术、标准与法律三元架构的生成内容治理机制为应对手段，分别对语料库非法获取、恶意算法操控、重要数据泄露、恶意内容生成风险进行治理。应当加强非传统安全领域法治建设，积极参与塑造非传统安全风险治理的国际规范。（全文刊《东方法学》2023年第5期）韩旭至｜生成式人工智能治理的逻辑更新与路径优化——以人机关系为视角生成式人工智能技术塑造了人机共生的新型关系，不能简单等同于深度合成技术、智能交互技术、高风险人工智能。新型的人机关系中，既存在人的自主性危机，也有被放大的人工智能治理风险。在风险应对的逻辑中，生成式人工智能的定位应从“老师”转向“伙伴”，不应对服务提供者提出过高要求并作简单的结果评价；同时，应将治理维度从算法治理拓展到用户治理之中。在具体的治理路径上，首先应坚持包容审慎原则，设置过程义务及对应的责任豁免规则；其次，在高风险场景中，应持续进行风险影响评估、充分保证人类监督并提升算法透明度；最后，应通过伦理审查、行业自律、数字素养提升的伦理治理方案以捍卫人的自主性。（全文刊《行政法学研究》2023年第6期）刘宪权｜生成式人工智能对数据法益刑法保护体系的影响ChatGPT等生成式人工智能侵犯数据法益的行为包括完全由不法行为人自主实施的侵犯数据法益行为，以及生成式人工智能未经研发者、生产者授意“自发”实施的侵犯数据法益行为。现行刑法对前者尚存在一定的规制不足问题，而对后者甚至呈现无法规制或“失灵”状态。自然人不是因为其是人而是因为其具有责任能力而成为刑事责任主体。生成式人工智能“自发”实施侵犯数据法益行为并非源于其具有责任能力，而是由于该人工智能在自我学习过程中吸收了很多虚假数据、非法数据，且其尚不能做到每次准确理解用户的意图，导致生成的数字文本具有一定的错误率。因此，不能认为现阶段的生成式人工智能已然达到强人工智能程度而可以成为刑事责任主体。面对生成式人工智能对我国数据法益刑法保护体系的冲击，应增设非法分析数据罪、操纵数据罪，在《刑法》第286条之一增设“网络服务提供者明知其提供的信息网络服务违反法律、行政法规规定，仍怠于或拒绝改正”的行为方式，并将该条第一款第二项行为方式修改为“致使涉密信息泄露，造成严重后果的”。鉴于刑法并未对其他行业领域的垄断行为进行禁止，通过《反垄断法》足以对垄断数据行为进行规制。（全文刊《中国刑事法杂志》2023年第4期）生成式人工智能具有泛化性、通用性、迁移性的显著优势和巨大潜力，但其训练过程需要海量的多源数据。ChatGPT作为生成式人工智能的代表，存在多种数据质量和安全风险。数据质量方面，标注数据质量参差不齐，可能导致模型生成毒害内容；训练语料库代表性不足，可能引发价值偏差；数据集时效性不足，可能引发可信度危机。数据安全方面，存在交互数据自动迭代传输引发敏感信息泄露、定制化训练导致用户数据泄露以及数据安全防御能力不足等多重局限。针对生成式人工智能的多维属性和产业链特点，应以数据解释机制为核心，强化人工智能2.0时代个体的信息掌控和自决能力，构建精准多元的数据主体责任矩阵，打造灵活高效的数据治理监管工具体系。（全文刊《法律科学》2023年第5期）
北京市交通委员会｜《虚拟现实智能型汽车驾驶培训模拟训练技术规范》（征求意见稿）
2023年8月21日，北京市交通委员会发布《虚拟现实智能型汽车驾驶培训模拟训练技术规范》（征求意见稿）。文件规定了虚拟现实智能型汽车驾驶培训模拟训练系统的基本构成及系统组成、教育培训课程、培训数据采集与智能评价、系统安全和入场检验。文件适用于动感型汽车驾驶培训模拟器，并使用虚拟现实头戴式显示设备作为驾驶视景系统，开展小型客车智能驾驶培训模拟训练的课程内容开发和设计，以及培训过程数据分析和训练效果评价。（北京市交通委员会）
北京市市场监管局｜《北京市市场监督管理局关于支持平台企业持续健康发展的若干措施》
2023年8月24日，北京市市场监管局发布《北京市市场监督管理局关于支持平台企业持续健康发展的若干措施》（京市监发〔2023〕65号）。若干措施提出，应当持续优化首都营商环境，建立稳定健康市场秩序，支持企业合规生态建设。在营商环境方面，若干措施主要围绕登记准入、广告业发展、网络餐饮服务三个方面，制定了支持个体网店经营者发展、建立完善广告业重点企业服务机制、简化网络食品交易第三方平台提供者备案手续等具体措施。（北京市市场监管局）
国家金融监管总局等五部门｜《关于规范货币经纪公司数据服务有关事项的通知》
2023年8月25日，国家金融监管总局等五部门联合发布《关于规范货币经纪公司数据服务有关事项的通知》（金发〔2023〕6号）。货币经纪公司应当将数据治理纳入公司治理范畴，建立与业务发展目标相适应的数据安全治理体系，健全数据安全管理制度。经交易机构授权同意后，货币经纪公司可向市场提供交易机构的报价数据和成交意向数据，通知明确了向市场提供的数据标准。货币经纪公司应参考《货币经纪公司提供数据服务协议框架》与金融基础设施、金融信息服务商等数据使用方签订协议，对数据安全、数据展示等事项进行明确约定。（国家金融监管总局）
信安标委｜《网络安全标准实践指南——生成式人工智能服务内容标识方法》
2023年8月25日，信安标委发布《网络安全标准实践指南——生成式人工智能服务内容标识方法》。文件围绕文本、图片、音频、视频四类生成内容给出内容标识方法，可用于指导生成式人工智能服务提供者提高安全管理水平。由人工智能生成图片、视频时，应采用在画面中添加提示文字的方式进行标识。由人工智能生成图片、音频、视频时，应在生成内容中添加隐式水印标识，隐式水印标识中至少包含服务提供者名称，也可包含内容ID等其他内容。（信安标委）
市场监管总局｜《互联网广告可识别性执法指南（公开征求意见稿）》
2023年8月28日，市场监管总局发布《互联网广告可识别性执法指南（公开征求意见稿）》。互联网广告发布者通过文字标注、语音提示等方式增强互联网广告可识别性时，应当明确提示为“广告”，不得使用“赞助”“推广”“推荐”“AD”等替代。市场监管部门对不具备可识别性的互联网广告实施行政处罚的，应当依据法律法规，结合违法行为的事实、性质、情节、社会危害程度及当事⼈主观过错等实际情况，合理行使行政处罚裁量权。（市场监管总局）
美国国家标准与技术研究院｜《构建网络安全与隐私学习计划草案》
2023年8月28日，美国国家标准与技术研究院（NIST）发布《构建网络安全与隐私学习计划草案》（Building a Cybersecurity and Privacy Learning Program）。文件引入生命周期模型，以指引联邦机构和组织构建网络安全和隐私学习计划。文件澄清了网络安全与隐私之间的关系，网络安全计划负责保护信息和信息系统以及操作技术免遭未经授权的访问、使用、披露、中断、修改或破坏，而隐私学习计划负责管理与整个信息生命周期数据处理相关的个人风险，以便提供可预测性、可管理性和分离性。（NIST）
深圳市检察院｜《移动互联网应用程序分发业务合规指引》
2023年8月29日，深圳市检察院发布《移动互联网应用程序分发业务合规指引》。指引共七章五十八条，包括应用程序分发业务常见合规风险及法律后果、应用程序分发平台合规管理体系、应用程序分发平台资质与备案合规要求、应用程序分发业务合规要求、合规文化建设等内容。在应用程序分发业务合规要求方面，应用程序分发平台应当核验主体信息、经营资质、特殊品类应用程序安全评估、著作权、基本信息、内容、功能等，构建应用程序审核机制。（深圳市检察院）
北京市网信办｜公布《北京市扫码消费服务违规收集使用消费者个人信息案例解析及合规指引》
2023年8月30日，北京网信办公布《北京市扫码消费服务违规收集使用消费者个人信息案例解析及合规指引》。文件对强制或诱导消费者关注公众号，未通过弹窗等显著方式告知消费者隐私政策，频繁提示注册登录，干扰消费者使用，强制消费者提供与功能无关的个人信息，违规向第三方提供消费者个人信息，未向消费者提供删除个人信息的功能选项等六类常见易发违规问题进行案例解析，并提出六条合规指引。（网信北京）
广东省新闻出版局｜公布关于进一步规范国产游戏小程序备案工作的通知
2023年8月30日，广东省新闻出版局公布关于进一步规范国产游戏小程序备案工作的通知。广东省新闻出版局针对国产游戏小程序备案的适用范围、审查类型、审批依据、申请条件、申请材料、办理流程做了相关规定，要求游戏小程序运营机构须按照通知要求，定期做好游戏小程序新上线备案工作，领取备案编号，原则上每月申报一次；对已上线的游戏小程序应于一年内补办备案手续，数量巨大的可适当延长补办时限，未补办备案手续的游戏小程序不得继续上线。（广东省新闻出版局）
2023年8月21日，去哪儿平台数据出境申报获得国家网信办批准，标志着旅游场景下包括机票、酒店、度假、门票等业务形态在内的用户相关个人数据出境获得认可。去哪儿相关负责人表示：“随着全球化与数字经济的发展，数据在国际间的流动越来越频繁，而且数量逐年增长。去哪儿将依法有序安排数据自由流动，从而保护旅客信息权益，维护数据跨境安全。”（中国新闻网）上海市网信办｜指导多家网络金融理财服务类APP运营企业加强个人信息保护合规工作2023年8月25日，上海市网信办召开个人信息保护合规工作座谈会，蚂蚁财富、陆金所、东方财富、携程金融、360借条、有道财富、维信卡卡贷等网络金融理财类APP运营企业参加。会议结合问题开展《个人信息保护法》相关重要条款普法，指导企业全面遵循个人信息收集的“最小、必要原则”，建立健全个人信息保护合规制度体系，对收集到的消费者敏感个人信息采取严格的保护措施，主动接受社会监督。（网信上海）波兰数据保护机构｜收到针对OpenAI违反GDPR的详细投诉2023年8月30日，波兰隐私研究人员Lukasz Olejnik向波兰数据保护机构提出详细投诉，指控ChatGPT制造商OpenAI在合法基础、透明度、公平性、数据访问权和设计隐私等多个方面违反了欧盟的《通用数据保护条例》(GDPR)。该投诉认为OpenAI还忽视了GDPR中与监管机构进行事先协商的要求，在发现人们权利面临高风险的时候，没有采取相应的缓解措施，也没有与监管机构接触。如果OpenAI的行为最终被确认违反GDPR，可能会受到高达全球年营业额4%的处罚。（Natasha Lomas）北京互联网法院｜聚焦数字版权、数字消费、平台治理、数据算法、网络权益保护等领域发布五类十大典型案例2023年8月31日，北京互联网法院召开新闻发布会，聚焦数字版权、数字消费、平台治理、数据算法、网络权益保护等领域，发布了五类十大典型案例。在数字消费类案例中，高某诉某公司信息网络买卖合同案确立了通过格式条款方式排除消费者所在国法院管辖的协议无效的法院观点，为首例认定跨境电商协议管辖条款无效的案件，确立了涉消费者域外协议管辖格式条款的认定标准。（北京互联网法院）2023年9月2日消息，近日，南方都市报报道江苏淮安一家足浴店因电脑未设置密码、未建立数据安全管理制度，被当地派出所予以“责令整改和警告”的行政处罚。今年5月份以来，江苏公安执法公示平台披露过上百起类似“未履行数据安全义务”的执法案例，处罚对象包括街边商店，多家超市、理发店、水果店、宠物店、蛋糕店、网吧等。多名涉事商家表示已整改，设置了电脑开机密码等，但对于如何进一步合规，他们感到困惑：要采取何种技术措施保障数据安全？针对这类小型个人信息处理者的情况，多位专家呼吁尽快制定、出台专门的个人信息保护规则或标准。（南方都市报）8月23日，据美国加州大学旧金山分校、斯坦福大学的研究人员发布在第620期《自然》（Nature）上的一项研究成果，研究人员开发出一种植入式人工智能设备，该设备首次实现将大脑信号转化为调制的语音和面部表情，成功帮助失语者将思想转化为接近自然语言的文本和语音。加州大学旧金山分校的研究人员还设计了一个虚拟人物来说出解码后的语言。在脑机接口的帮助下，失语者的平均说话速度比之前任何脑机接口所达到的语速至少快三倍，达到每分钟60-80个单词，接近正常人谈话速度的一半。（Nature）特斯拉｜马斯克直播试驾世界首个端到端AI自动驾驶FSD V12当地时间8月26日，马斯克直播试驾FSD Beta V12。FSD Beta V12基于巨量的视频数据和1万块H100训练而成，是有史以来第一个端到端AI自动驾驶系统（Full AI End-to-End）。直播过程中，FSD Beta V12系统在行驶全程非常顺利，能够轻松绕过障碍物，识别道路各种标志。马斯克表示，V12系统完全通过AI实现，将识别道路、行人等驾驶功能全部交给神经网络完成。（The Verge）当地时间8月29日，谷歌在Google Cloud Next 2023大会上发布一款全新的AI芯片Cloud TPU v5e，该芯片专为满足大模型训练和推理所设计。与前代TPU v4相比，新版本每美元训练性能提升高达2倍、每美元推理性能提升高达2.5倍，并且TPU v5e的成本不到TPU v4的一半。此外，TPU v5e还支持八种不同的虚拟机配置，允许客户选择合适的配置来支持不同规模的大模型和生成式AI模型。（Google）8月29日，华为宣布推出“HUAWEI Mate 60 Pro先锋计划”，开始在华为商城销售旗舰手机Mate 60 Pro。华为称，这是“史上最强大的Mate手机”，采用了鸿蒙4.0操作系统，还接入了华为的盘古人工智能大模型。但是，华为没有公布任何有关手机芯片的信息，也没有说明这是否是一台5G手机。（华为）瑞士苏黎世大学｜推出在无人机竞速领域战胜人类的人工智能据8月30日发表在第620期《自然》（Nature）杂志的一项研究成果，瑞士苏黎世大学等机构研究人员开发出一个基于深度强化学习、名为Swift的人工智能系统。这一人工智能系统将深度强化学习策略与从真实世界采集的数据相结合，在与3名获得过第一人称视角无人机竞速赛冠军的人类选手对战中分别击败了对手，并以半秒优势打破人类选手比赛的最短用时纪录。研究团队表示，这是人工智能发展的一个里程碑，将有助于自动驾驶车辆、机器人等相关领域的研发。（Nature）Meta｜发布探测计算机视觉模型偏差的新数据集FACET8月31日，Meta发布新的人工智能基准测试数据集“计算机视觉评估中的公平性”（FACET），旨在检测人工智能驱动的计算机视觉系统中的偏见，例如与种族和性别相关的偏见。FACET包含超过5万人的32000张图像，并由人类注释者标记图像中的性别表征、年龄、肤色、发型甚至职业类别等属性。Meta希望FACET工具将帮助开发人员更好地检测和解决计算机系统的偏见缺陷。（Meta）美国政府｜拟将英伟达AI芯片出口限制扩大到中国以外地区路透社8月31日消息，英伟达在8月28日提交的一份监管文件中表示，美国拟将英伟达AI芯片的出口限制扩大到中国以外的其他地区，包括中东一些国家。英伟达在文件中称，在2024财年第二季度，美国政府通知英伟达，在向中东一些国家出口A100和H100等AI芯片时有额外的许可要求。该公司表示，这些限制措施会影响其旨在加速机器学习任务的A100和H100芯片，但不会对其业绩产生“直接实质性影响”。目前，尚不清楚美国政府为何又开始把矛头指向中东国家。（路透社）9月1日，百度、商汤、MINIMAX、百川智能和智谱AI等5家公司按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案等手续并获政府批准后，宣布向全社会全面开放大模型。科大讯飞、阿里巴巴尚未宣布全面开放，但公开表示已完成备案工作，字节跳动内部人士称大模型也已通过备案。已经官宣开放的大模型均来自北京和上海的公司。（财新）
往期精彩回顾
智慧法治学术动态（2023年第28期总第52期）
智慧法治学术动态（2023年第29期总第53期）
智慧法治学术动态（2023年第30期总第54期）
智慧法治学术动态（2023年第31期总第55期）
智慧法治学术动态（2023年第32期总第56期）
智慧法治学术动态（2023年第33期总第57期）
上海市法学会官网
http://www.sls.org.cn