查看原文
其他

智慧法治学术动态(2024年第19期总第93期)

上海市法学会 上海市法学会 东方法学 2024-07-16

学术前沿
柯达|人形机器人服务的消费者保护机制——以“信任控制”风险为视角

人形机器人在智能水平、静态与动态物理特征方面高度拟人化,其在软硬件互信、脑体协同基础上构造的虚拟人际关系,可提供展现亲密感的增强型信任。但人形机器人服务的增强型信任未在总体上改善消费者的弱势地位,反而还强化了消费者的信任匹配失当、隐性信任定向化、信任扭曲等信任控制风险。传统消费者保护法中的经营者告知义务、基于风险分级的人工智能敏捷治理、产品责任的发展风险抗辩均难以充分保护消费者。为应对信任控制风险,应以强调“卖者尽责、买者自负”的消费者适当性为核心,基于伦理安全构建人形机器人服务与消费者的分级准入, 并在分级准入的基础上要求经营者对消费者履行适当性匹配与事中事后的监测调整义务。此外,应通过“终止保障义务”完善人形机器人服务侵权责任的发展风险抗辩事由,其应以消费者与人形机器人在服务过程中的各方自主性程度为主要依据。(全文刊《东方法学》2024年第3期)

柯达,华东政法大学经济法学院特聘副研究员。


张凌寒|中国需要一部怎样的《人工智能法》?——中国人工智能立法的基本逻辑与制度架构

人工智能已经成为当前国际技术竞争与规则竞争的关键领域。人工智能立法是重点领域、新兴领域、涉外领域的综合立法,承载着“统筹推进国内法治和涉外法治”的使命。我国的人工智能立法,需适应人工智能发展的不确定性,明确回应本土的独特性,更好地适应国际合作与竞争,提炼既往网络立法经验,合理借鉴国外法律制度和国际规则中的制度资源,夯实立法的理论基础。中国的《人工智能法》应以促进发展为目标,制度设计应彰显人本主义,采取“总则式”的立法体例,确立适宜本土实践与发展阶段的监管制度,并逐步推进制度完善。(全文刊《法律科学(西北政法大学学报)》2024年第3期)

张凌寒,中国政法大学数据法治研究院教授。


喻文光|论数字平台的合规监管

作为回应平台监管挑战的制度方案,合规监管在政策立法和执法实践中都愈发重要。合规监管是由自我监管(企业的合规管理)和后设监管(监管机构对企业自我监管的监管)构成的二阶治理模式。合规监管契合了数字平台的独特性及其对监管提出的敏捷性、预防性、统合性和合作回应性等新要求,可以作为常态化监管的有效制度安排。在方法论上,借助回应性监管理论,合规监管在数字平台监管领域的运用可以采取监管工具金字塔与监管策略金字塔、第三方外部监督机制、对数字守门员的重点监管等制度方案,以实现规范与发展并重的治理目标。(全文刊《法学家》2024年第1期)

喻文光,中国人民大学法学院副教授。


王静|智慧司法的伦理风险及其应对

智慧司法是中国式现代化、数字中国战略的重要组成部分,主要目的是在以更具技术理性的人工智能与大数据手段助力实现类案类判的同时,保障个案正义,提升司法公信力与社会治理效能,构建法官职业共同体,促进司法现代化。但是,智慧司法的技术局限性与现有制度的强约束力,易导致其在个案裁判中丢失伦理要素,从而引发法官与公众的司法公正观之间隙处于异化状态的伦理风险,折损司法公信力,产生技术应用悖论。因此,必须以法治机制严格控制智慧司法中的伦理风险。应当明确司法人民性的基本立场,确立数字时代中法官的主体地位与司法的社会效能原则,优化数据库运行模式,增加数据库中的非正式法源,明晰适用法外论证的具体情形,保障法官自由裁量权与智慧司法的场域化适用,修正智慧司法机制中法官司法的程序与方法。(全文刊《法学论坛》2024年第2期)

王静,华东政法大学涉外法治研究院副研究员。


付新华|论智能网联汽车数据的治理之道
“数字交通”建设是“数字中国”建设的重要组成部分。智能网联汽车数据治理是“数字交通”建设的重要驱动力。面对智能网联汽车数据资源配置不合理、控制与访问权能失衡的问题,现有法律无法实现有效治理。契约自由持续强化汽车制造商的数据控制,竞争法无力解决系统性的数据访问诉求,个人信息可携权实施受阻,汽车数据的法律规范与技术支撑相互脱节。智能网联汽车数据的法律治理应当着力构建良好的智能网联汽车数据共享生态,合理权衡汽车制造商的数据控制利益与其他主体的数据访问利益、数据控制的私人利益与数据共享的公共利益,以安全价值为底线,以公平利用为目标,以有效治理为导向,对现有法律进行调整与创新,加速制定新的专门法规,推动智能网联汽车数据访控关系的重构,实现“数据访控”的理性平衡、利益共享、机会公平与高效治理。(全文刊《法制与社会发展》2024年第1期)

付新华,北京交通大学法学院副教授。


李巧巧|数据产权的分配正义及其制度实现——基于马克思的产权论与正义观

《数据二十条》为构建数据产权基础制度提供了框架性意见,但如何进行数据产权的立法设计和制度安排,目前学界众说纷纭。按照马克思的观点,产权本质上是特定生产关系的具体化、法律化。所以,数据产权的立法问题本质上是数据权益的分配问题。数据的非竞争性、非消耗性特征,使得数据产权不再适用产权分配领域的科斯定理,而应将“体现效率、促进公平”作为构建利益均衡的数据产权结构的基准。在马克思的产权论与正义观视域下,数据产权的分配正义以占有事实为产权分配的初步根据,价值贡献为产权收益分配的充分理由,共同富裕为数据产权正义的最终目标。数据产权的分配正义最终要依靠国家制度来分类分级实现。在初次分配中,个人数据产权分配要侧重占有事实;企业数据产权分配要突出其价值贡献;公共数据产权分配应重视共同富裕。在再分配中,要发挥财政税收在数据产权收益分配中的引导调节作用,逐步建立数据课税制度和数据公共化制度。在三次分配中,要推动优势数据企业积极承担社会责任,创新税收和慈善制度以缩小数字鸿沟、增进社会公平、促进共同富裕。(全文刊《行政法学研究》2024年第3期)

李巧巧,中国人民大学哲学院博士研究生。

新规速递
财政部等二部门|《关于支持引导公路水路交通基础设施数字化转型升级的通知》
2024年5月10日,工信部官网发布《关于征集对<云计算综合标准化体系建设指南>(征求意见稿)的意见》。《指南》提出建设目标,至2025年,云计算标准体系应更为完善,并计划推进修订参考架构、术语等基础标准,优先制定云计算创新技术产品、新型服务应用和重要缺失领域的关键标准。到2027年,制定云计算国家标准和行业标准达50项以上,基本覆盖基础、技术与产品、服务、应用、管理及安全等各类研制方向,有效满足产业标准化新阶段的需求。(工信部)

美国联邦众议院|提出人工智能出口管制法案
当地时间2024年5月13日,美国联邦众议院外交事务委员会主席Michael McCaul提出了《加强海外关键出口国家框架法案》(ENFORCE Act)。这项两党法案通过赋予美国商务部工业与安全局(BIS)对人工智能和其他与“国家安全”相关的新兴技术使用出口管制的权力,使《2018 年出口管制改革法案》(ECRA)现代化,以防止被特定对象利用。McCaul称,《加强海外关键出口国家框架法案》将通过确保工业与安全局拥有必要的权力来应对人工智能和技术转让带来的安全风险,确保美国技术、美国研究人员和公司不会为特定国家的“监控”提供帮助。(美国外交事务委员会)

文旅部等五部门|《智慧旅游创新发展行动计划》
2024年5月13日,文旅部、中央网信办秘书局等五部门联合发布《智慧旅游创新发展行动计划》。《行动计划》提出,要改造升级信息基础设施。用好新一轮大规模设备更新政策,推动旅游应急指挥中心、智能闸机、景区智慧屏、票务系统、电子讲解等进行改造升级。引导停车场、旅游集散与咨询中心、游客服务中心、景区道路及景区内部引导标识系统等数字化与智能化改造升级,提升基础设施网络化、智能化、协同化水平。(文化和旅游部)

北京朝阳|《人工智能赋能教育高质量发展三年行动计划》
2024年5月13日,北京市朝阳区召开人工智能赋能教育高质量发展三年行动计划发布会,计划未来三年围绕“减负、增效、提质”,以人工智能技术赋能教师、课堂、学生、学校和管理五个方面为重点,实施“十项任务”,推进“十大教育应用场景”,助力教师精准教研和高效课堂教学,促进学生个性化学习和多样化发展。《行动计划》显示,自2024年-2026年,朝阳区将深度实施“赋能教师 数字素养提升工程”等五大工程。同时,启动“启动专项增素养”“依托技术减负担”等十项任务建设。(北京朝阳)

韩国公平交易委 丨修订《企业合并审查标准》
2024年5月13日消息。韩国公平交易委员会近期宣布,为了适应数字经济的发展,将实施全面修订后的《企业合并审查标准》。委员会称,新标准将更有效地保护市场竞争,同时促进数字经济的创新。修订主要内容包括在分析企业合并的竞争限制效应时,将全面考虑网络效应,如企业合并可能导致服务用户数量增加或数据量增加,从而导致市场支配地位的增强等。(韩国公平交易委员会)

中央网信办等六部门|《数字乡村建设指南2.0》
2024年5月16日,中国网信网公布《关于印发<数字乡村建设指南2.0>的通知》。《指南》2.0明确了总体要求、建设内容、建设方法、保障措施等方面内容,明确了乡村数字基础设施、涉农数据资源、智慧农业、乡村数字富民产业、乡村数字文化、乡村数字治理、乡村数字惠民服务、智慧美丽乡村等八方面建设内容。《指南》同时强调,各地区在使用本指南时,应综合考虑本地发展实际和建设需求,因地制宜、分类施策,扎实有序推进数字乡村建设,避免盲目跟风、重复建设。(网信中国)

国家发改委等四部门|《关于深化智慧城市发展 推进城市全域数字化转型的指导意见》
2024年5月20日,国家发展改革委公布《关于深化智慧城市发展 推进城市全域数字化转型的指导意见》。《指导意见》从全领域推进数字化转型、全方位增强城市数字化转型支撑及保障措施等方面对智慧城市发展与城市数字化转型做出了指导。其中,《指导意见》强调要构建数据要素赋能体系,加快数据产权、流通交易、收益分配、安全治理等制度建设,促进数据要素高效流通和使用。(国家数据局)
法律适用

鹰潭市余江区人民法院|公开宣判全国首例“AI外挂”案

2024年5月6日下午,鹰潭市余江区人民法院公开宣判全国首例“AI外挂”案。本案中,被告人王某合为通过制作出售 “AI外挂”的方式牟利,2022年,其先后联系万某至、张某(另案处理)等人编写“AI外挂”程序。程序制作完成后,王某合利用网络平台招聘陈某勇、张某文(另案处理)等人作为代理销售程序,并通过出售“AI外挂”点卡密码等获利。鹰潭市余江区人民法院对被告人王某合以提供侵入、非法控制计算机信息系统程序、工具罪判处有期徒刑三年,缓刑五年,并处罚金;已退缴的违法所得及扣押的作案工具予以没收,上缴国库;剩余未退缴的个人违法所得继续追缴。(央视新闻)


西班牙|9因数据安全故障对4Finance Spain罚款 8万欧元

2024 年5月7日,西班牙数据保护机构 (AEPD) 公布了其决定,因数据泄露而违反《通用数据保护条例》(GDPR)对4Finance Spain Financial Services, S.A.U.(Vivus)处以480,000 欧元的罚款,随后罚款被削减至 360,000 欧元。AEPD 表示,2023年2月17日,Vivus通知AEPD,该公司遭遇数据泄露,导致客户财务数据曝光。经调查,AEPD发现Vivus违反了GDPR第32条,因为其未能实施本可以防止违规的适当技术和组织数据安全措施。AEPD指出,Vivus在数据泄露之前进行的影响评估侧重于公司的财务风险,而不是处理过程中对个人权利和自由造成的具体风险。(DataGuidance)


国家网信办|批准首个外资生物医药行业数据安全评估

2024年5月8日消息。由北京自贸试验区(大兴)数据跨境服务中心支撑完成的拜耳中国数据出境安全评估项目已顺利通过国家互联网信息办公室的出境批准。这是我国首个外资生物医药行业企业获批的数据出境安全评估案例,也是北京市打造跨国药企数据出境“绿色通道”首例成功案例。生物医药领域数据出境存在数据敏感度高、类型识别难、风险判定难度高等特点,其中在药物警戒、临床试验等场景因涉及到大量敏感个人健康生理信息,对企业数据出境合规体系建设提出了更高的要求。(开放大兴)


欧盟委员会|结束针对隆基绿能及上海电气的反补贴调查

2024年5月13日,欧盟委员会发布声明称,由于隆基绿能及上海电气已表示退出竞标欧盟成员国罗马尼亚一太阳能项目,因此其将结束对他们的调查。欧盟此前声称,有充分迹象表明中企子公司都获得了“扭曲”欧盟市场的政府补贴,并根据《外国补贴条例》启动了两项深入调查。欧盟中国商会指出,欧委会在相关调查中不公正、不透明和涉嫌歧视性执法,使受影响的中企不得不遵从这一现实,撤出公共采购投标,这不仅给中企带来巨大的损失,也阻碍了欧方及欧盟成员国自身的绿色转型过程,凸显了欧委会滥用反补贴调查所带来的不良后果。(The Verge)


上海市网信办|公布2023“清朗浦江”网络生态治理专项行动典型案例

2024年5月15日消息。日前,上海市网信办公布2023“清朗浦江”网络生态治理专项行动典型案例。其中包括,“上海4岁儿童走失”事件中,网上出现“儿童非其父亲生”“今年已经是第二次走失”等谣言。经查,这些谣言由一个有组织的水军团伙编造传播,水军借助AI批量制造不实帖文。他们控制了114个网络账号,发布涉小女孩走失帖文268篇,仅6天非法获益4万余元。目前,涉案网络账号已被依法封禁,12名涉嫌犯罪成员已被依法移送起诉。(央视新闻)


北京市委网信办|发布19款已备案生成式人工智能服务名单

2024年5月16日,北京市委网信办发布19款已完成备案生成式人工智能服务名单,包括小米、快手、腾讯、爱奇艺等多家公司开发的生成式人工智能模型。北京市委网信办强调,已上线的生成式人工智能应用或功能,应在显著位置或产品详情页面公示所使用已备案生成式人工智能服务情况,注明模型名称及备案号。(北京市委网信办)

产业发展
美国科技公司GigaIO|和SourceCode联合推出便携式人工智能超级计算机
5月6日,美国科技公司GigaIO和SourceCode联合推出了一款便携式人工智能超级计算机Gryf。不同于以往庞大的超级计算机,Gryf被巧妙地设计成登机箱大小,重量不超过55磅(约24.97千克),完全符合美国运输安全管理局(TSA)的登机箱规定,用户可以轻松地将其携带出行。Gryf内置了四块图形处理器(GPU)、246TB的存储空间以及高达2500瓦的集成电源,能够满足人工智能项目对数据采集和处理的严苛需求。(GigaIO)

OpenAI|发布人工智能模型行为规范拟议框架
5月8日,OpenAI发布一份名为“Model Spec”的模型规范拟议框架文件,并公开征求意见,旨在让用户提供更深入的了解其人工智能模型。这一举措旨在向公众透明展示人工智能技术的运作方式,同时也为用户提供了审阅和提交反馈意见的机会。在这份文件中,OpenAI详细说明了其希望人工智能模型如何表现以及符合哪些行为标准。用户在5月22日前都可以审阅并提出反馈意见,以帮助OpenAI进一步改进其人工智能模型的行为规范。(OpenAI)

苹果公司|与OpenAI达成在iOS 18引入ChatGPT功能
5月10日消息,苹果公司与OpenAI就将其技术引入iPhone达成最终协议。通过这项协议,苹果公司将能够在iOS 18中提供ChatGPT功能。“根据协议,苹果公司将与OpenAI合作,推出一款聊天机器人,作为其计划在下个月宣布的一系列新的人工智能功能的一部分”。目前尚不清楚这些功能和集成可能如何运作的具体细节。(彭博社)

OpenAI|发布全新生成式人工智能模型GPT-4o
5月12日,OpenAI发布全新生成式人工智能模型GPT-4o,跟此前的版本相比,GPT-4o最大的特点是增加了语音交互。OpenAI宣称和一些同类竞品相比,该模型的响应时间更快,更接近和真人对话的节奏。GPT-4o中的“o”代表“omni”,意为“全能”,称该模型向更自然的人机交互迈进了一步,因为其接受文本、音频和图像的任意组合作为输入内容,并能够生成文本、音频和图像的任意组合输出内容。OpenAI表示GPT-4o功能向所有用户开放,不过语音功能的上线还要等待数周。(OpenAI)

微软|发布赋能材料设计深度学习模型MatterSim
5月12日,微软研究院科学智能中心(Microsoft Research AI for Science)发布深度学系模型MatterSim,能够在广泛的元素、温度和压力范围内,准确高效地模拟材料和预测性能,助力材料设计的数字化转型。(微软)

英伟达|量子计算平台CUDA-Q将用于德国、日本、波兰的超级计算中心
5月12日,英伟达宣布将其量子计算平台CUDA-Q用于德国、日本、波兰的超级计算中心,以加快各国量子计算的研究发展。德国、日本和波兰的超级计算中心将使用该平台来赋能其高性能计算系统中的量子处理器。通过将量子计算机与超级计算机紧密集成,CUDA-Q可以使人工智能与量子计算相结合,以解决有噪声的量子比特等问题,并开发高效的算法。(英伟达)

微软|计划投资40亿欧元在法国建设新的云计算和人工智能基础设施
5月13日,微软宣布计划投资40亿欧元在法国建设新的云计算和人工智能基础设施。微软将在法国穆尔豪斯市附近新建一个数据中心,并将扩建法国巴黎和马赛附近的现有设施。这些数据中心拥有超过25000个GPU,将具备开发先进人工智能所需的强大计算能力。此外,微软还将致力于完全使用太阳能和风能等可再生能源为数据中心供电。(微软)

阿联酋阿布扎比技术创新研究所|发布开源人工智能模型“猎鹰”
5月13日消息,阿联酋阿布扎比技术创新研究所(TII)本周一发布了一种新的开源人工智能模型“猎鹰”(Falcon)。Falcon是一个大语言模型,类似于OpenAI的GPT和Google的Gemini。阿布扎比技术创新研究所表示,该模型最新版本比Meta公司最新推出的同类开源模型更强大,并且在某些指标上与Google的Gemini模型不相上下。(路透社)

中美|举行人工智能政府间对话首次会议
5月14日,中美于在瑞士日内瓦举行中美人工智能政府间对话首次会议,就人工智能科技风险、全球治理以及各自关切的其他问题进行交流。中国驻美国大使馆发言人表示,中美之间就人工智能进行的对话不仅对两国的未来、也将对其他国家的未来产生影响,“双方有责任进行坦诚对话”。(外交部)

日本防卫省|计划建立军事人工智能开发研究中心
5月14日消息,日本防卫省(The Japanese Ministry of Defense)计划于秋季与商业组织合作建立一个军事人工智能开发研究中心。新机构将按照美国国防部高级研究计划局(DARPA)的模式建立,并将对私营技术公司进行投资,同时在三年后对这些研究项目的成功与否进行评估。新机构计划开发基于人工智能的图像识别技术,以制造能够在完全黑暗的环境中工作的自动驾驶汽车。此外,新机构还计划开发利用亚原子粒子和电磁波探测潜艇的新方法以及双重用途技术。(Azernews)

腾讯混元|发布开源文生图模型
5月14日,腾讯混元大模型宣布推出15亿参数的开源文生图模型,该模型采用和OpenAI于2月发布的文生视频模型Sora相同的DiT架构。腾讯称,采用了该架构的文生图模型较前一代视觉生成在语义理解、画面质感和真实性等方面较大提升,整体效果提升20%。(财新社)

谷歌|于I/O大会发布22项重量级人工智能技术革新
5月15日,谷歌在2024年I/O开发者大会上发布了22项重量级人工智能技术革新。其中包括多模态模型Gemini 1.5 Pro的200万tokens超长文本理解力升级,以及Gemini与安卓系统的深度融合,还有仅需70秒即可生成视频的Veo模型,和开创性的视觉语言模型PaliGemma。谷歌更预告了Gemma 2的蓝图,同时展示了第六代张量处理器TPU,以及一系列Gemini系列新功能,如Gemini Live和人工智能辅助的红队安全技术。(谷歌)

亚马逊云计算部门|计划投资德国以全面推动欧洲云计算基础设施建设
5月15日消息,亚马逊的云计算部门宣布了一项重大投资计划,其预计到2040年将在德国投资高达78亿欧元(约合84.4亿美元),用以建设欧洲的云计算基础设施。这一举措旨在将数据存储在位于欧盟的服务器上,从而更好地保护政府和企业客户的数据隐私。该部门计划在2025年底前在德国勃兰登堡州启动多个数据中心,以服务于所有客户。该部门在一份声明中透露,这项新投资预计将为德国当地企业每年平均提供2800个全职工作岗位。(路透社)

字节跳动|发布“豆包”大模型
5月15日,字节跳动旗下云服务平台火山引擎在北京发布自研豆包大模型。豆包大模型原名“云雀”,是2023年国内首批通过算法备案的大模型之一,基于豆包大模型,字节跳动已经推出AI对话助手“豆包”等产品。通过此次发布,豆包大模型将通过火山引擎正式对外提供服务。(财新社)

开源人工智能社区Hugging Face|将免费提供共享GPU
5月15日消息,开源人工智能社区Hugging Face宣布将提供1000万美元的免费共享GPU帮助开发者创造新的人工智能技术。Hugging Face此举目的是帮助小型开发者、研究人员和初创公司对抗大型人工智能公司,避免人工智能进步陷入“集中化”。Hugging Face CEO克莱门特·德朗格(Clem Delangue)在接受采访时表示,此次之所以能够进行投资,是因为公司“已经盈利,或正走在盈利的路上”。(The Verge)

SK海力士|将为特斯拉代工生产电源管理芯片
5月16日消息,SK海力士代工部门启方半导体(SK Key Foundry)将于今年下半年开始为特斯拉生产电源管理(PMIC)芯片。业内人士表示,SK启方半导体计划最早于7月开始生产电源管理芯片,并安装在特斯拉电动汽车上。除了特斯拉之外,SK启方半导体还在汽车功率半导体领域与多个全球车企展开合作,近期还通过了博世、大陆集团等全球领先汽车零部件公司的生产质量审查。(韩国每日经济新闻)

OpenAI|增强ChatGPT数据分析功能
5月16日,OpenAI宣布推出ChatGPT一系列改进的数据分析功能,这些新功能将在未来几周内向ChatGPT Plus、Team和Enterprise用户提供。以下是主要的改进点:文件上传,用户现在可以直接从Google Drive和Microsoft OneDrive上传文件,无需先下载到桌面,提高了处理Google Sheets、Docs、Slides以及Microsoft Excel、Word和PowerPoint文件的效率;实时表格交互,ChatGPT能够创建交互式表格,用户可以全屏查看并实时跟踪更新。通过点击表格的特定区域,用户可以深入分析或跟进问题。(OpenAI)
往期精彩回顾
智慧法治学术动态(2024年第13期总第87期)‍
智慧法治学术动态(2024年第14期总第88期)
智慧法治学术动态(2024年第15期总第89期)
智慧法治学术动态(2024年第16期总第90期)
智慧法治学术动态(2024年第17期总第91期)
智慧法治学术动态(2024年第18期总第92期)


上海市法学会官网

http://www.sls.org.cn


继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存