智慧法治学术动态（2023年第37期总第61期）

本期要点

学术前沿

陈兵｜通用人工智能创新发展带来的风险挑战及其法治应对

宋美娴｜智能商品的循环经济实践与法律议题分析

新规速递

上海市检察院等三部门｜联合发布《上海市互联网证券信息服务企业合规指引》

市场监管总局｜《市场监管部门促进民营经济发展的若干举措》

法律适用

上海市网信办｜发布网络理财小贷场景违法违规收集使用个人信息案例解析

广州互联网法院｜发布网络文明建设典型案例

产业发展

OpenAI｜公开招募“红队测试”网络成员

CSDN｜和华为云推出AI驱动开源平台

学术前沿

陈兵｜通用人工智能创新发展带来的风险挑战及其法治应对

以ChatGPT大规模模型训练为代表的通用人工智能产业在创新发展过程中对社会秩序造成了一定冲击，存在来自科技伦理、侵权归责、知识产权垄断、数据安全、算法操控等多方面风险挑战，人工智能发展面临信任危机。基于此，应重视通用人工智能产业治理，以《生成式人工智能服务管理暂行办法》的施行为契机，建立健全生成式人工智能服务的相关行为规范和伦理指南，用系统观念和法治方法来推动通用人工智能技术和产业在我国规范健康持续发展，促进其在“安全、可控、可解释、可问责”的基本标准下创新发展。以问题为导向，以目标为牵引，在法治框架下尽快建立健全该领域科技伦理监督管理规范，不断完善相应的侵权责任规范体系，统筹公平竞争与鼓励创新双重价值，加强和改进人工智能领域数据安全保障制度，重视和强化算法监管，实现多领域、多主体、多制度、多工具的协同联动治理。（全文刊《知识产权》2023年第8期）

陈兵，南开大学法学院教授。

张琳琳｜人工智能司法应用的责任归结困境与解决路径

人工智能在司法裁判领域中的应用对于提高司法效率、促进司法公正具有显著效果。然而，新技术与传统审判领域的碰撞融合不可避免地冲击着原有的审判责任与产品责任体系。在责任的衔接、认定和承担方面存在着责任衔接链条中断、主观心理判断困难、因果关系证明困难以及责任推诿加剧的困境。责任归结困境的形成源于算法权力对审判权的冲击、主体自身存在卸责倾向、算法的固有缺陷等因素。破解当前人工智能司法应用中的责任归结困境的出路在于理顺不同责任之间的衔接。在此基础上，针对责任认定困难和责任推诿加剧的具体情况，对原有责任框架进行调适。（全文刊《当代法学》2023年第5期）

张琳琳，中国劳动关系学院法学院副教授。

宋美娴｜智能商品的循环经济实践与法律议题分析

在支持绿色发展，发展循环经济，加快智能技术研发和应用推广的多个政策指引下，有必要探索智能商品和循环经济发展的结合点和可行模式，提出关于促进智能商品循环经济实践的法学研究路径。我国智能商品循环经济法的核心法律问题是在完善循环经济促进法的监管机制的基础上进一步形成智能商品财产权体系，以解决智能商品循环过程中的控制权问题。借鉴“权利束”和“相对所有权”等概念，可以在法律上认可并赋予生产者对高价值高科技含量智能产品的财产利益，从而更有效地达到循环经济法律目标。（全文刊《东方法学》2023年第5期）

宋美娴，大连海事大学法学院特聘“兴海”教授。

刘益灯｜数字贸易跨国税基侵蚀中的消费者保护问题及对策探析

消费品买卖双方之间的互动体现了现金流量对于企业行为的重要影响。数字经济不仅强化了税基调节现金流量的功能，也为跨国企业实施税收筹划提供了新的便利，这就使得原本温和的税务-消费关系产生了变数并威胁消费者的知情权、人身权、财产权，破坏消费环境的整体升级，我国现行消费者权益保护规范体系对此反应滞后。考虑到跨国企业实施BEPS的主要领域在于流转税与所得税，故而可以借鉴法治成熟国家的经验在以下三个方面出台举措予以干预：扩大跨境数字贸易价格公开机制，探索跨境数字贸易集体议价机制，强化税务部门在市场国消费环境提升过程中的作用。（全文刊《法学评论》2023年第5期）

刘益灯，中南大学法学院教授。

陈骞｜论个人信息处理的“合同所必需”规则

《个人信息保护法》新增“合同所必需”作为合法处理个人信息的条件之一，但该规则在适用中存在个人信息处理者以增加服务内容、扩大个人信息需求以及降低信息处理透明度的方式侵害用户权益的风险。通过分析欧盟“合同所必需”规则的适用前提、适用标准、适用条件，思考对规则异化的风险进行控制与化解的路径，可为我国建立健全相关适用规则提供借鉴。“合同所必需”规则的适用基础仍是知情同意，其本身不应是一项单独的法定事由，在适用时必须明确“合同依法成立并生效”这一独特前提，在此基础上依托合同自由与公平原则建立相应适用规范，在合法与正当原则下确立“关联性”标准，在目的明确与最小化原则下确立“必需性”标准，在强化告知义务中确立“透明度”标准。同时，基于法律的禁止性规定，在敏感个人信息处理和利用信息进行自动化决策中不能适用该规则。（全文刊《行政法学评论》2023年第6期）

陈骞，长沙理工大学法学院讲师。

吴思远｜数字检察的法理反思

能动检察理论将检察职能与国家治理紧密结合，为检察机关积极主动推进监督场景的数据化提供了正当性基础，使数字检察具备了超越智慧检务的全新内涵。随着数字检察的深入推进，数据成为驱动法律监督体系与监督能力变革的关键变量，并推动法律监督模式转型升级。然而，由于改革认知与保障机制等方面的不足，数字检察面临着中央与地方、开发与应用、主体与技术多重关系下的异化风险，从而制约了改革的长效推进。数字检察不应仅仅追求一种数字化、智能化的办案手段，而应通过法律监督模式的重塑变革，投射并实现塑造数字正义的独立价值。应当进一步整合各级检察机关的力量，跨区域协同，从更高范畴上推进数字检察；同时，警惕数字检察成为毫无节制的数字整治运动，界定能动履职限度，完善数据治理机制，增强数字赋能法律监督的系统性与规范性。（全文刊《华东政法大学学报》2023年第5期）

吴思远，华东政法大学刑事法学院副教授。

新规速递

信安标委｜《信息安全技术 网络安全保险应用指南（征求意见稿）》

2023年9月13日，信安标委发布《信息安全技术 网络安全保险应用指南（征求意见稿）》。指南阐述网络安全保险概念及对风险管理的作用，明确可以通过保险转移的网络安全事件和主要损失类型，建立网络安全风险与保险保障范围的关系。指南明确网络安全保险应用的主要环节、主要参与方以及各参与方的主要作用和职责。指南提出在网络安全保险应用主要环节中的基本方法和内容，对投保前风险评估、保险期间风险控制以及出险后事件评估等给出基本的方法和内容。（信安标委）

上海市检察院等三部门｜联合发布《上海市互联网证券信息服务企业合规指引》

2023年9月15日，上海市检察院、上海市委网信办、上海市证券同业公会联合发布《上海市互联网证券信息服务企业合规指引》。指引共六章二十五条，包括互联网证券信息服务合规管理体系、风险识别、风险评估与处置、合规保障等内容，适用于提供证券信息服务的上海市属地网站平台、“自媒体”以及各类所有制企业。指引规定，上海市网站平台、移动应用程序商店应当将核验证券服务资质作为开展证券领域业务合作、应用程序上架的前置程序，保障持证、亮牌经营。（网信上海）

交通运输部｜《关于推进公路数字化转型加快智慧公路建设发展的意见》

2023年9月20日，交通运输部发布《关于推进公路数字化转型加快智慧公路建设发展的意见》（交公路发〔2023〕131号）。意见提出从设计施工、养护业务、路网管理服务、政务服务、标准化、数字化基础六方面提升公路数字化水平，构建公路设计、施工、养护、运营等“一套模型、一套数据”，基本实现全生命期数字化。（工信部）

福建省数字福建建设领导小组办公室｜《福建省加快推进数据要素市场化改革实施方案》

2023年9月20日，福建省数字福建建设领导小组办公室发布《福建省加快推进数据要素市场化改革实施方案》（闽数字办〔2023〕11号）。方案提出五项重点任务，包括探索构建合规有序的数据要素市场、建设完善规范高效的数据交易场所、深化建设安全高效的公共数据分级开发体系、拓展建设多元创新的数据应用场景、建立健全弹性包容的数据要素治理机制。（福建省数字福建建设领导小组办公室）

英国国务大臣｜决定构建英美个人数据跨境传输“数据桥”

2023年9月21日，英国国务大臣根据《数据保护法》第17A节，决定构建英美个人数据跨境传输“数据桥”，议会据此制定充分性条例。国务大臣认为，英美数据隐私框架不会降低英国数据主体在其数据传输至美国时的数据保护水平。充分性条例将于10月12日生效，届时英国企业和组织可以利用数据桥将个人数据安全传输至美国的已认证机构，无需其他机制，也无需进行传输影响评估和实施额外的传输保障措施。（英国政府）

美国商务部｜发布关于实施《芯片与科学法》的最终规则

2023年9月22日，美国商务部发布关于实施《芯片与科学法》的最终规则。规则包含两项核心规定：第一，禁止获得美国芯片法案资助的实体在资金授予之日起10年内，在特定国家实质性提高当地尖端和先进设施的半导体制造能力；第二，限制其在有关国家扩建和新建生产设施。此外，规则将一些半导体归类为对国家安全至关重要的产品，对其进行更为严格的限制。（美国商务部）

市场监管总局｜《市场监管部门促进民营经济发展的若干举措》

2023年9月22日，市场监管总局发布《市场监管部门促进民营经济发展的若干举措》（国市监信发〔2023〕77号）。若干举措提出，促进平台规则透明和行为规范，推动平台经济健康发展。持续开展网络市场监管与服务示范区创建，不断释放平台经济发展新动能。加强互联网平台常态化监管，建立健全平台企业合规推进机制，降低平台企业合规经营成本。持续推出平台企业“绿灯”投资案例，规范平台收费行为，引导平台和中小商户共赢合作，促进平台经济良性发展。（市场监管总局）

法律适用

美国加利福尼亚州｜与谷歌就跟踪用户活动之行为达成9300万美元的和解协议

2023年9月14日，搜索巨头谷歌（Google）同意就其位置隐私做法与加利福尼亚州达成9300万美元的和解协议。此前，该公司于2022年11月与40个州达成了3.915亿美元的和解协议，以解决对该公司如何追踪用户位置的调查。这些州的调查是由2018年美联社的一篇报道引发的，该报道发现，即使他们通过禁用谷歌公司称为“位置历史记录”的功能来选择放弃这种追踪，谷歌仍在继续跟踪人们的位置数据。作为和解协议的一部分，谷歌不承认有任何不当行为，但该公司也同意了一些限制，包括提供更透明的位置跟踪等。（个人信息与数据保护实务评论）

英国竞争与市场管理局｜发布指导竞争性AI市场和保护消费者的7项拟议原则

2023年9月18日，英国竞争与市场管理局（CMA）发布指导竞争性AI市场和保护消费者的7项拟议原则，包括让开发者和部署者承担责任，确保商业模式的多样性和为企业提供足够选择，制止捆绑销售等反竞争行为，以及向消费者和企业提供有关生成内容风险与限制的信息。声明称，在接下来的几个月中，CMA将与英国和国际范围内的广泛利益相关者开展一项重要的合作计划，旨在进一步发展上述原则。CMA表示，将向谷歌、Meta、OpenAI、微软、英伟达和Anthropic等领先的AI开发商，以及消费者团体、政府、学术界和其他监管机构等征求意见。（财联社）

上海市网信办｜发布网络理财小贷场景违法违规收集使用个人信息案例解析

2023年9月19日消息，近日，上海网信办官微发布《网络理财小贷场景违法违规收集使用个人信息案例解析》（一）、（二），梳理了网络理财小贷场景下六类常见违法违规收集使用个人信息问题共十个案例。《解析》梳理的六类问题包括：：强制消费者同意不相关的第三方产品隐私政策、强制收集消费者非必要个人信息、频繁收集消费者非必要个人信息、未经消费者同意收集使用个人信息、未同步告知消费者收集个人信息目的、为删除消费者个人信息设置不合理条件。（网信上海）

广州互联网法院｜发布网络文明建设典型案例

2023年9月21日，2023广东网络文明大会在广州开幕。本次大会中，广州互联网法院发布了八个“网络文明建设典型案例”，包含网络空间道德建设、网络空间行为规范、网络空间生态治理、网络空间文明创建，涉及网络诚信、网络社交、平台治理、人格权保护、个人信息保护等不同方面。（广州互联网法院）

上海市一中院｜发布涉公民个人信息类刑事案件的审理思路和裁判要点

2023年9月19日，上海市第一中级人民法院发布发布涉公民个人信息类刑事案件的审理思路和裁判要点，共涉及5个典型案例。其中，涉公民个人信息类刑事案件的审理难点包括信息类别判断难、信息数量认定分歧大、获取行为罪名选择难、关联犯罪罪数判断难、适用特殊身份犯有争议等5大难点。法院从公民个人信息归类的总体思路、几类易混淆的公民个人信息之明晰、核实涉案公民个人信息数量、准确认定非法获取公民个人信息行为等角度对审理思路进行了明晰。（上海市一中院）

产业发展

英国公司Wayve｜推出自动驾驶交互大模型

9月14日，英国公司Wayve宣布推出基于视觉语言行动的大模型（VLAMs）的自动驾驶交互大模型LINGO-1，首次将大语言模型和自动驾驶进行深度融合。在经过各种视觉和语言数据的训练之后，LINGO-1不仅可以执行视觉问答（VQA）任务，如感知、反事实、规划、推理和注意力，而且还能对驾驶行为和推理进行描述，向可解释人工智能迈出了关键一步。LINGO-1将实现更智能、更值得信赖的自动驾驶汽车。（Wayve）

美国国家科学基金会｜宣布投资半导体未来计划

9月14日，美国国家科学基金会（NSF）宣布了半导体的未来计划（FuSe）支持下的24项研究和教育项目，总投资4560万美元，旨在推动半导体人才发展、促进半导体技术和制造创新。FuSe计划将向47个机构提供61项奖励来支持上述24项研究和教育项目，主要涉及3个研究主题：一是特定领域计算协作研究；二是旨在实现高级功能与高性能的异构集成研究；三是用于节能、高性能和可持续半导体系统的新材料研究。（美国国家科学基金会）

微软｜AI研究人员意外泄露38TB数据

9月18日，网络安全公司Wiz称，微软的AI研究团队意外暴露了软件开发平台GitHub上的大量私人数据缓存。Wiz公司表示，微软的研究团队在GitHub上发布开源训练数据时，错误地将url配置为授予对整个存储帐户的权限，并且它还授予用户完全控制权限，而不是只读权限。泄露的数据包括微软员工的个人电脑备份，其中包含微软服务的密码、密钥和来自359名微软员工的3万多条微软团队内部消息。微软于当地时间9月18日表示，已调查并修复了数据泄露的问题。（Wiz）

DeepMind｜发布错义突变预测AI模型AlphaMissense

9月19日，谷歌旗下DeepMind推出AI工具AlphaMissense，用于预测错义突变（错义突变是可以影响人类蛋白质功能的基因突变，会导致囊性纤维化、镰状细胞贫血、癌症等疾病）的致病性，加快罕见疾病的研究和诊断。AlphaMissense的诞生展示了AI在医学领域，特别是在遗传学中的巨大潜力。（DeepMind）

英国｜已邀请中国参加全球人工智能峰会

9月19日，英国外交大臣詹姆斯·克莱弗利发布声明，表示已邀请中国参加定于今年11月1-2日举行的全球AI峰会。克莱弗利表示，“如果我们将AI技术领先的国家之一排除在外，我们就无法让英国公众免受AI风险的影响。”中国驻伦敦大使馆尚未立即透露中国是否会参加人工智能峰会。（路透社）

OpenAI｜公开招募“红队测试”网络成员

9月20日，OpenAI发布公告，宣布启动全球招募“红队测试”网络成员，旨在引入外部力量，提前挖掘出AI系统存在的缺陷和风险。“红队测试”的任务是模拟黑客或者其他的潜在危险人物，试图找到大语言模型的漏洞，从而避免AI在现实中助力危害社会安全的不法行为。OpenAI表示，过去几年里一直有不同领域的专家来协助测试未发布的模型，现在则是要组建一支“常规部队”，网罗大量来自不同地域、不同语言、不同专业领域、不同生活经验的人，共同使AI模型更加安全。（OpenAI）

美国国防部｜宣布拨款建设微电子共享区域创新中心

9月20日，美国国防部副部长凯瑟琳·希克斯宣布，根据《芯片与科学法案》拨款2.38亿美元用于建立8个微电子共享区域创新中心。8个中心覆盖重点领域包括：安全边缘/物联网（IoT）计算、5G/6G、AI硬件、量子科技、电磁战、商业跨越式技术。微电子共享中心将确保美国技术不被对手窃取，并确保美国重建能力。希克斯说：“这些中心不仅对美国的科学、制造和经济竞争力至关重要，”“还将直接为国防部的国防使命做出贡献。”（美国国防部）

工信部等｜2023世界智能网联汽车大会在京开幕

9月21日，由工业和信息化部、北京市人民政府等联合主办的2023世界智能网联汽车大会在京开幕。本次大会以“聚智成势 协同向新——迈向商业化应用新征程”为主题，以推动智能网联汽车商业化应用为主线，汇聚政产学研用金多方力量，加强国际汽车产业交流合作，助力智能网联汽车“中国方案”走向世界。会议期间将邀请相关国际协会、企业的嘉宾出席，围绕国际化标准制定与衔接、跨国品牌合作、新能源汽车进出口等内容，组织论坛、圆桌会议，开展深入交流。（新华社）

微软｜推出跨Win11、必应、Edge浏览器的Copilot AI助手

9月22日，微软宣布，自9月26日起，全新升级的Copilot将集成到Windows 11、微软Office 365全系产品和Edge浏览器中。自此，不论是Word、PPT、Excel、Outlook、Teams等办公软件，还是Windows 11操作系统，亦或是Edge浏览器，均会得到GPT-4的加持。Copilot AI将成为微软用户体验AI强大能力的始发站。（微软）

CSDN｜和华为云推出AI驱动开源平台

9月22日，中国专业开发者社区CSDN与华为云CodeArts（软件开发生产线）推出新一代AI驱动的开源开发者平台GitCode。GitCode融合开源社区、代码托管平台、开发者资源库，引进全球核心技术栈，面向开发者提供开源项目运营服务、模型服务和数据服务。GitCode全AI版本预计今年年底发布，CSDN目标是在2025年让GitCode成为中国开发者首选的开源平台。（凤凰网）

往期精彩回顾

上海市法学会官网

http://www.sls.org.cn