查看原文
其他

智慧法治学术动态(2024年第10期总第84期)

上海市法学会 上海市法学会 东方法学 2024-07-16
学术前沿

周翔|算法规制如何场景化

将算法纳入法治化的轨道,需要根据不同的场景设置差异化的规范路径。以高风险场景的算法产品使用效果实验启示,通过算法的解释可以提升用户的理解程度,并且可视化解释的理解效果较公式法更好;算法信任的机制构建,则更多取决于场景的信任基础、人机判断的一致性等因素。实证研究对算法规制如何场景化提供了诸多的启示:一是需要考虑不同场景用户特征的差异,根据用户特点设置权利义务;二是应强调场景中算法以及解释的用途差异,结合考虑相关解释技术的可行性;三是应当考虑不同场景的算法信任基础,算法引入不同场景有不同难度,不同场景应当设置不同的人机分工关系和算法的任务范围。(全文刊《东方法学》2024年第2期)
周翔,浙江大学光华法学院特聘研究员。

刘宪权|生成式人工智能的发展与刑事责任能力的生成
以ChatGPT为代表的新一代生成式人工智能的产生具有革命性和划时代意义。生成式人工智能的存在和发展必然极大程度引发社会生产力的新一轮爆发,进而决定生产关系发生重大改变。时下ChatGPT等生成式人工智能仍然属于弱人工智能范围,但该技术的发展对传统刑法理论已经并将继续造成重大影响。ChatGPT等生成式人工智能可能改变传统犯罪的行为类型、影响刑事责任的分配与转移并且改变现有的刑事责任主体范围。不能因为ChatGPT等生成式人工智能不是人,而就一定不能成为刑事责任主体;不能因为ChatGPT等生成式人工智能没有生命,而就一定不具有刑事责任能力;不能因为ChatGPT等生成式人工智能没有人脑,而就一定不会具有独立意识意志(即辨认、控制能力);不能因为ChatGPT等生成式人工智无法具体适用现行刑法中的刑罚,而就一定不能成为刑事责任主体。ChatGPT等生成式人工智能与人类一样可能是同时受自然法则(他律的、自然律的因果性)和道德法则(自律的、由自由而来的因果性)支配的物种,从而推定其可能拥有自由意志,进而满足承担刑事责任或者成为刑事责任主体的最本质条件。(全文刊《法学论坛》2024年第2期)
刘宪权,华东政法大学刑事法学研究院院长。

郑文阳|论个人生物识别信息保护中个体权利与公共利益的平衡

《个人信息保护法》是个人信息保护领域的基础性法律,个人生物识别信息则是个人信息保护类型中的特殊类型。个人生物识别信息主要包括三个核心要素,一是以自然人的生物或行为特征信息为基础,二是以身份信息为一般对比物,三是以算法匹配为关键过程。据此,个人生物识别信息与一般的个人信息在权利属性、处理规则、商业化利用限制等保护层面上均存在差异。个人生物识别信息保护中,应当注重个体自由价值与公共管理价值的平衡,涉及静态与动态、个人利益与公共利益、私法保护与公法保护等诸多法律价值面向的具体法律制度的构建。为实现个人生物识别信息保护中个体权利和公共利益的平衡,应以合法性原则、安全原则和比例原则作为行政主体在处理个人生物识别信息过程中的执法原则。其中,合法性原则是基础性原则,是公共管理介入私人生活的正当性依据;安全原则是保障性原则,是抵御数据活动社会风险、保障个人信息安全的方向性路径;比例原则是核心性原则,是个人抵御行政机关过度侵入个人权益的防卫性理由。(全文刊《法律科学(西北政法大学学报)》2024年第2期)

郑文阳,西南政法大学行政法学院纪检监察学院博士后。


郭传凯|平台封禁的反不正当竞争法应对——以《反不正当竞争法》的修订为背景

平台封禁是指数字企业利用技术手段关闭面向特定经营者的应用程序接口,致使特定经营者无法使用平台设施的竞争行为,具体表现为屏蔽软件功能、禁止外部链接直连或接入某项业务等方面。该行为很可能破坏竞争秩序,阻碍数字经济健康发展。鉴于反垄断法难以充分回应平台封禁,适用反不正当竞争法规制平台封禁成为维护数字竞争秩序的可行选择。在《反不正当竞争法》修订的背景下,平台封禁应当参照恶意不兼容予以处理。认定平台封禁是否构成恶意不兼容应以“妨碍、破坏其他经营者合法提供的网络产品或者服务正常运行”为主要标准,兼顾“恶意”的主观心态。为应对平台封禁,《反不正当竞争法》的“网络条款”需要修订,执法机制应予以优化,司法裁判需作出相应变革。(全文刊《当代法学》2024年第2期)

郭传凯,山东大学法学院副教授。


许多奇|论监管科技的双层容错机制

数字经济发展进入“深化应用、规范发展和普惠共享”时期,金融科技与监管科技却仍处于错步演进过程中。监管科技创新易于失败有其特殊性和深刻根源,有必要强化监管科技和金融科技双层容错机制。在监管机关、第三方技术提供方和被监管机构的三元目标冲突下,监管科技与合规科技面临衔接失灵的困境,应转变理念走向容错性监管。容错性监管并非不监管抑或运动式监管,而是按照法定程序给予相对容错空间,激励创新并推动实现可持续发展的监管,其以社会整体利益为导向,强调在常态化监管中稳定预期。在双层容错机制中,中央金融委员会和中央金融工作委员会是上层容错主体,容错免责的客体是担当作为、勇于创新的金融监管者,容错内容应从单纯的开发区域试验田,向全面推动监管科技创新发展与风险防范双头并进转化,同时突出程序优先性与问责精准化。(全文刊《政治与法律》2024年第1期)

许多奇,复旦大学数字经济法治研究中心主任。


黄恒林|预防性个人信息保护民事公益诉讼的证立及其制度展开

在现代风险社会,司法如何通过制度架构有效预防个人信息公共安全风险是一个重要的法治命题。通过预防性司法制度应对个人信息公共安全风险,既是履行个人信息国家保护义务的主动选择,也是因应个人信息社会公共利益风险治理体系建设的客观需要。预防性个人信息保护民事公益诉讼制度的确立需要从现行保护模式入手,公共执法模式与传统诉讼补救模式在个人信息公共安全风险的防控上均存在明显的结构性缺陷,不能对个人信息社会公共利益予以周延保护。为完善个人信息社会公共利益风险治理体系,总体层面应当注重从自我控制到公共治理的转变趋势,并促进保护模式从补偿性到预防性的制度延伸;具体层面需要逐步确立“高风险”的法律基准和检察机关处于诉权主体的优先顺位,以及对诉前程序、证明责任和责任承担方式等方面的具体规则进行调整或更新。(全文刊《法制与社会发展》2024年第2期)

黄恒林,海南大学法学院博士研究生。

新规速递

新加坡个人数据保护委员会|《关于在人工智能推荐和决策系统中使用个人数据的咨询指南》

2024年3月1日,新加坡个人数据保护委员会发布了《关于在人工智能推荐和决策系统中使用个人数据的咨询指南》。《指南》适用于决策、预测和/或建议的辨别型人工智能系统,而不适用于生成式人工智能。《指南》从开发、测试、监控、部署与采购过程等多方面为企业使用个人数据来部署人工智能提供了基准指导和最佳实践,阐明了当企业使用个人数据来开发和训练人工智能系统时,《个人数据保护法》将如何适用,从而为消费者提供了保证。(新加坡个人数据保护委员会)


四川省政府|《支持新能源与智能网联汽车产业高质量发展若干政策措施》

2024年3月6日,四川省政府网站公布《支持新能源与智能网联汽车产业高质量发展若干政策措施》。《政策措施》共十三条内容,引导整车企业在川设立研发、销售和结算中心并实体化运营,对符合条件的产业重大项目,省级财政给予项目所在市(州)资金支持;省级财政对相关市(州)给予补助,支持产业“智改数转”,并对新获批的工业互联网平台、数字领航企业、智能制造示范工厂和优秀场景等支撑项目给予支持;鼓励培育壮大战略性新兴产业和前瞻布局未来产业,进一步加强氢燃料电池汽车示范应用,在全省范围内落实新能源汽车出行不受尾号限行限制的规定。(四川省人民政府)


中央网信办|启动《互联网用户账号命名要求》团体标准应用试点

2024年3月7日,中国网络社会组织联合会、中国科学院信息工程研究所在中央网信办综治局指导下联合召开《互联网用户账号命名要求》团体标准应用试点启动会。国家互联网信息办公室此前发布了《互联网用户账号信息管理规定》,为进一步细化落实《规定》要求,中国网络社会组织联合会牵头制定《互联网用户账号命名要求》团体标准,指导相关网站平台压实主体责任,强化用户账号名称信息管理。此次试点工作是互联网平台企业加强行业自律、规范互联网用户账号管理、强化合规建设的重要举措。(中央网络安全和信息化委员会办公室)


美国佛罗里达州议会|通过法案禁止16岁以下用户使用社交媒体软件

当地时间2024年3月8日,美国佛罗里达州议会通过法案,要求社交网络既要防止16岁以下的人注册账户,也要终止平台知道或认为属于上述用户的账户。这将适用于具有某些功能的应用程序和网站,如Facebook、Instagram与TikTok等。该措施是迄今为止美国各州在相关领域的立法中最激进的一个。许多家长、儿科医生和政界人士担心,长时间使用社交媒体会给青少年带来潜在的心理健康和安全风险。这促使州和联邦立法者及监管者加大了对社交媒体公司的审查和监管力度。佛罗里达州州长尚未签署该法案。(纽约时报)


自然资源部|《新一代地理信息公共服务平台(天地图)建设总体实施方案》

2024年3月11日,自然资源部网站公布《新一代地理信息公共服务平台(天地图)建设总体实施方案》。《实施方案》明确,新平台建设包括公共服务数据资源体系建设、高度协同智能化服务体系建设、全流程数据在线更新技术体系建设、全国统一的运行支撑体系建设四项主要内容,其中,公共服务数据资源体系建设从数据资源、数据汇聚、整合处理、公共数据产品四个方面对新平台数据资源体系建设进行部署;在数据资源方面,强调汇聚整合多尺度基础地理信息、实景三维、自然资源专题地理信息等数据成果,加强公共服务地名地址库建设。(自然资源部)


中国民航局|《民航数据管理办法(征求意见稿)》《民航数据共享管理办法(征求意见稿)》

2024年3月11日,中国网信网公布《民航数据管理办法(征求意见稿)》《民航数据共享管理办法(征求意见稿)》。《民航数据管理办法》共九章四十四条,明确民航数据实行统一目录管理,民航局数据统筹管理部门负责制定民航数据资源目录管理制度,明确数据资源登记与披露机制,统筹编制并发布《民航数据资源目录》,建立目录更新机制。《民航数据资源目录》中各项数据的提供方应按照目录中的更新频率要求、格式要求以及该数据相关标准规范组织开展数据采集工作。民航数据共享包括基于共享平台的行业级数据共享和基于双方协议的点对点数据共享等模式。(网信中国)


欧洲议会|通过《人工智能法案》

当地时间2024年3月13日,欧洲议会审议通过了《人工智能法案》。该法旨在保护基本权利、民主、法治和环境可持续性免受高风险人工智能的侵害,同时促进创新并确立欧洲在该领域的领导者地位。该法案从应用程序禁止范围、生物识别系统使用权限、高风险系统分级与规范及透明度等多方面对人工智能进行规范。同时规定将在国家层面建立监管沙箱和真实世界测试,并让中小企业和初创企业能够使用。(欧洲议会)


法律适用

意大利数据保护局|对OpenAI及其新型人工智能模型Sora展开调查

当地时间2024年3月8日,意大利数据保护局(Garante)发布公告称已因个人数据问题对OpenAI及其新型人工智能模型Sora展开了调查。Garante要求该公司在20天内澄清算法训练方式、为训练算法收集和处理的数据、是否收集特定类别的数据及使用的数据来源。如果Sora已经或将要向欧盟用户公开,该机构要求OpenAI说明向用户和非用户告知数据处理程序和法律依据的方法是否符合欧洲法规。(DataGuidance)


重庆警方|依法打击整治网络谣言五起典型案例

2024年3月11日,公安部网安局官微发布重庆警方依法打击整治网络谣言五起典型案例。在案例一中,璧山区网民叶某某在网络平台发布一段“现在璧山出现了比缅甸还恐怖的新型背债人,会通过恋爱交友骗取钱财,让受害人背上巨额贷款”视频,迅速引发网友关注。经公安机关核查,璧山区范围内未发现相关案件或者警情,叶某某作为房产中介从业人员,为博取关注、吸引客户,故意编造发布了上述虚假造谣视频,造成了不良社会影响。叶某某对其违法行为供认不讳,璧山区公安局已依法对叶某某处以行政处罚。(公安部网安局)


美国司法部|捷蓝航空针对Spirit Airline的收购计划在反垄断诉讼中被判败诉

2024年3月11日消息。捷蓝航空公司和Spirit Airlines表示,因在联邦反垄断诉讼中败诉数周,他们将终止合并协议。捷蓝航空于2023年提出了6900万美元收购Spirit Airlines的收购计划,美国司法部随后对两家航空公司的收购案提起了反垄断诉讼,认为这笔交易将提高消费者的机票价格。而一名联邦法官William Young站在司法部一边,其在裁决中认为,捷蓝航空对Spirit的收购将“损害那些依赖Spirit低票价、注重成本的旅客的利益”。(CNBC)


中央军委装备发展部科研订购局|因存在严重失泄密风险隐患取消一央企资格

2024年3月12日,中央军委装备发展部科研订购局发布公告称,中国远东国际招标有限公司在承担战略支援部队某单位招标代理任务时,存在严重失泄密风险隐患。经查,该公司在承担战略支援部队某单位招标代理任务时,存在违规通过微信、互联网邮箱等转发传递大量采购公告资料、在非涉密电脑存储大量涉密文件资料等情形,保密管理处于失管失控状态,存在严重失泄密风险隐患。中央军委装备发展部科研订购局因此取消该公司装备采购招标代理资格。(中央军委装备发展部科研订购局)


欧盟委员会|根据《数字服务法案》对全球速卖通启动正式调查程序

2024年3月15日,欧盟委员会发布信息称,委员会已开启正式调查程序,以评估阿里巴巴集团旗下的全球速卖通平台(AliExpress)是否可能在管理与降低风险、内容审核和内部投诉处理机制、广告和推荐系统的透明度、交易者的可追溯性以及研究人员的数据访问等相关领域违反《数字服务法案》(DSA)。委员会将重点关注全球速卖通是否遵守评估和降低非法内容传播的系统性风险、允许所有用户(包括未注册用户)通知非法内容并收到通知确认、提供有效的内部投诉处理系统等DSA规定的义务。(欧盟委员会)


广州互联网法院|发布消费者权益保护典型案例

2024年3月15日,广州互联网法院发布陈某与A商行、B公司信息网络买卖合同纠纷案、汤某与某再生资源公司、储某信息网络买卖合同纠纷案、王某与某智能科技有限公司信息网络买卖合同纠纷案、原某与某科技公司网络服务合同纠纷案、某宠物公司与唐某、某生活服务平台网络侵权责任纠纷案、陈某与某商行信息网络买卖合同纠纷案等六例消费者权益保护典型案例,对直播带货“货不对板”的直播间运营者责任、买断制网络游戏是否适用“七天无理由退货”规则、“刷单”行为的司法治理等热门问题作出了回应。(广州互联网法院)

产业发展

欧盟委员会|新设欧洲人工智能办公室

3月8日,欧盟委员会宣布开设新的人工智能办公室——欧洲人工智能办公室(AI Office)。该办公室将帮助制定欧盟政策,同时也充当“全球参考点”。欧盟委员会在其网站上发布的一份声明中写道:“欧洲人工智能办公室将支持值得信赖的人工智能的开发和使用,同时防范人工智能风险。欧洲人工智能办公室将成为整个欧盟人工智能专业知识的中心。它将在实施人工智能法案(特别是通用人工智能)方面发挥关键作用,促进可信赖人工智能的开发和使用以及国际合作。”(欧盟委员会)

强化学习机器人平台公司Covariant|推出机器人基础模型RFM-1
3月11日,强化学习专家Pieter Abbeel的强化学习机器人平台公司Covariant,推出一个机器人基础模型(RFM-1)。RFM-1是一个多模态任意序列(multimodal any-to-any sequence)模型,拥有80亿参数,可对文本、图像、视频、机器人动作和一系列数字传感器读数进行训练。据官方博客介绍,RFM-1可以帮助分类机器人与物理世界交互,通过视频或文本输入(用户可以像聊天机器人一样与它们对话),机器人可以“学习”如何在工厂中行动,而无需一长串指令。(Covariant)

美国半导体公司Cerebras Systems|发布第三代晶圆级人工智能加速芯片
3月11日,美国半导体公司Cerebras Systems发布第三代晶圆级人工智能加速芯片WSE-3,其规格参数更为先进,且在保持功耗和价格不变的情况下,性能提升了一倍。该公司第二代WSE-2于2021年升级至台积电7nm工艺,面积维持在46225平方毫米不变,晶体管数量增至2.6万亿个,核心数增至85万个,缓存扩至40GB,内存带宽达到20PB/s,互连带宽为220Pb/s。(Cerebras Systems)

美国初创公司Figure|发布首款融合OpenAI大模型的人形机器人
当地时间3月13日,美国初创公司Figure发布首款融合OpenAI大模型的机器人Figure 01。Figure表示,结合OpenAI的ChatGPT等大语言模型,Figure 01现在可以与人类全面对话。Figure创始人Brett Adcock表示,Figure 01在视频中所展示的端到端神经网络框架下与人类的对话,没有任何远程操作,并且机器人的速度有了显著的提升,开始接近人类的速度。(Figure)

Cognition Labs|推出全球第一个 AI 软件工程师 Devin
3月13日,人工智能初创公司Cognition Labs推出全球第一个AI软件工程师Devin,Cognition表示,Devin可以计划和执行需要数千个决策的复杂工程任务,可以在每一步中回忆相关的上下文,随着时间的推移学习并纠正错误,以及主动与用户协作的能力;而且Cognition还为Devin配备了通用的开发人员工具,包括shell、代码编辑器和沙盒计算环境中的浏览器——人类完成工作所需的一切。(Cognition)

英国政府|启动旨在降低人工智能计算成本的研究计划
金融时报3月13日消息,英国高级研究与发明局启动了一项耗资4200万英镑的研究计划,旨在降低人工智能的计算成本。该研究计划被称为“扩展计算”(Scaling Compute),将致力于寻找更便宜、能耗更低的替代方案,以取代目前人工智能运行所依赖的昂贵的硅基数字基础设施,希望将成本降低1000倍以上。(Financial Times)

谷歌|推出可适用于各种3D虚拟环境的通用人工智能体SIMA
3月13日,谷歌DeepMind推出可适用于各种3D虚拟环境的通用人工智能体(AI Agent)SIMA,这是谷歌在人工智能游戏领域的一个新的里程碑。SIMA可根据自然语言指令在各种视频游戏环境中执行任务。谷歌在最新发布的技术报告中解读了SIMA,报告显示,技术团队联合游戏开发商对SIMA进行了各种视频游戏的训练。该报告首次证明,该人工智能体能够理解多样的游戏世界,并像人类一样遵循自然语言指令执行其中的任务。(Google DeepMind)

Meta|发布用于训练Llama-3的24K H100 GPU集群
3月13日,Meta宣布推出两个全新的24K H100 GPU集群,专门用于训练大型模型Llama-3。这些集群采用了RoCEv2网络和基于Tectonic/Hammerspace的NFS/FUSE网络存储,同时使用了PyTorch机器学习库。预计Llama-3将于4月底或5月中旬上线,并可能是一个多模态模型,将继续开源。Meta计划到2024年底拥有总计600,000个H100的算力。这次更新显示了Meta在AI方面的持续投入,整个集群使用了Meta内部设计的开放性GPU硬件平台Grand Teton,并结合了Tectonic分布式存储解决方案和Hammerspace,以满足存储需求并支持功能迭代。(Medium)

微软|即将上线安全服务Copilot for Security服务
3月14日,微软宣布其基于生成式人工智能的安全服务Copilot for Security将于4月1日全面上市。据介绍,这项服务可帮助安全和IT专业人员增强其技能、进行更多协作、查看更多内容并更快地做出响应。此外,微软宣布另一项与安全相关的服务CoPilot in Intune将于同一天推出公开预览版。CoPilot in Intune将为企业提供一种从单一控制点管理所有PC、移动设备和其他产品的方法,管理员可以使用它来设置新设备,以及处理公司员工的登录请求。(微软)

阿里达摩院|牵头成立RISC-V产业合作新范式“无剑联盟”
3月14日,达摩院发起成立“无剑联盟”,Arteris、芯昇科技、新思科技、Imagination、中国电信研究院等头部企业及机构首批加入“无剑联盟”,成员将基于玄铁处理器紧密推进IP协同、工具链优化、操作系统适配、解决方案拓展、应用推广等工作,持续降低RISC-V开发成本,缩短RISC-V产品及应用上市时间,让终端厂商以更快的速度找到更适配的RISC-V方案,实现更深度的软硬协同全链路应用创新,探索打造RISC-V产业合作新范式。(凤凰网)

腾讯|联合清华、港科大推出图生视频大模型Follow Your Click
3月15日,腾讯和清华大学、香港科技大学联合推出全新图生视频模型“Follow-Your-Click“,基于输入模型的图片,只需点击对应区域,加上少量提示词,就可以让图片中原本静态的区域动起来,一键转换成视频。腾讯称,图像到视频生成的技术在电影内容制作、增强现实、游戏制作以及广告等多个行业有着广泛的应用前景。(财新社)

七国集团|工业部长拟在人工智能、芯片等方面开展合作
路透社3月15日消息,七国集团(G7)轮值主席国意大利3月14日表示,七国集团工业部长拟在人工智能、芯片等方面开展合作,以确保这些关键领域供应链的安全。此次合作由轮值主席国意大利所促成,意大利希望利用今年担任七国集团轮值主席国的机会,重点关注人工智能对就业以及加剧不平等现象的影响,同时为该技术的发展制定保障措施。此外,七国集团工业部长还决定成立一个常设工作组,研究如何制定能够加大各成员国芯片产量的相关政策。(路透社)

往期精彩回顾

智慧法治学术动态(2024年第4期总第78期)

智慧法治学术动态(2024年第5期总第79期)

智慧法治学术动态(2024年第6期总第80期)

智慧法治学术动态(2024年第7期总第81期)

智慧法治学术动态(2024年第8期总第82期)

智慧法治学术动态(2024年第9期总第83期)



上海市法学会官网

http://www.sls.org.cn


继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存