张欣｜论人工智能体的模块化治理
人工智能体由控制端、感知端和行动端组成。在控制端，尽管大模型充当了智能体的“智能引擎”，但仍存在“机器幻觉”，其生成的内容面临时效性和可靠性风险。大模型的算法偏见也可能加剧智能体在决策中的偏见。在感知端，智能体的多模态感知能力加大了个人隐私侵权的风险，对个人信息保护制度构成挑战。多智能体系统间的交互可能导致不可预测的、复杂的和动态的系统性安全风险。在行动端，具身智能体的交互式学习模式可能导致全面的、侵入性的隐私风险。智能体的嵌入式和中介化部署方式将深度影响人类的主体性。其高度定制化的部署特性还将面临人工智能对齐的挑战。面向“代理即服务”的产业链特点，应建立从基础模型到基础代理的模块化治理框架。针对具体的高风险场景，应探索精准化治理机制。鉴于人工智能体的生态特性，应着力推进交互式治理。（全文刊《东方法学》2024年第3期）
陈禹衡｜生成式人工智能中个人信息保护的全流程合规体系构建
在当前生成式人工智能的运行过程中，个人信息面临着收集范围与限度不明、算法违规处理及生成错误结论等问题，因此亟须构建个人信息保护的全流程合规体系。在准备阶段，生成式人工智能应该基于最小必要原则来明确合规收集范围，并将个人信息进行碎片化处理来合规限制收集深度。在运算阶段，生成式人工智能应该在自我学习时通过知识蒸馏构建学生模型来保证算法合规，并进行安全评估与算法备案。对一般类型个人信息、敏感个人信息及生物特征信息采用不同的合规处理模式，并在反馈阶段标注存在风险的个人信息，反向推动算法进行自我改进。在生成阶段，当生成错误结论时，合规监管部门应该分类审查生成式人工智能在个人信息处理上的缺陷，并从合规有效性标准、算法运算逻辑及实质法益损害这三个方面判断平台能否实质出罪。（全文刊《华东政法大学学报》2024年第2期）
齐英程｜个人数据收益共享的法实现
如何在数字经济发展过程中处理好数据价值收益的分配问题，已成为实现数字经济高质量发展和共同富裕目标激励相容的关键。法律作为保障社会公平、助力共同富裕的重要制度力量，应通过明确数据主体的收益权限及其实现方式，促成数据处理者和数据主体对数据要素价值的制度化共享，实现个人数据收益分配正义。个人数据的非排他性和弱竞争性特质为共享型数据财产制度的确立提供了客体基础。此种共享型财产制度赋予个人非排他地支配和使用其数据以获取收益的权利，并依托以数据信托为代表的集体治理模式为个人行权提供支撑机制，以此破解数据要素与特定主体的排他绑定，实现不同主体对个人数据的“共同使用、共享收益”。（全文刊《法律科学（西北政法大学学报）》2024年第3期）
门中敬 李瑾｜数据安全风险的社会自我规制及其合宪性控制
数据安全风险的社会自我规制关涉风险规制责任的分配、国家的干预限度、社会主体的基本权利及责任边界等一系列宪法问题，有必要进行合宪性控制。现行法律中数据安全风险的社会自我规制方式主要包括组织性规制、行为性规制、协助性规制和伦理性规制。四类规制方式均具有合宪性。组织性规制和行为性规制构成对企业营业自由的限制，但限制是合宪的；协助性规制的主要宪法依据是民主权利（力）和“国家实行社会主义市场经济”的目标；伦理性规制的主要宪法依据是宪法的伦理性要求和补充实现国家安全保障任务的需要。为了保障数据的流通和利用，促进数字经济的发展，应当对数据安全风险的社会自我规制进行合宪性控制，做到合理分配规制责任、避免对社会自我规制的滥用，善用后设规制、控制协助性规制对其他主体基本权利的侵害以及以宪法凝聚伦理共识、防止伦理性规制泛化。（全文刊《法学论坛》2024年第2期）门中敬，山东大学法学院（威海）教授；李瑾，山东大学法学院（威海）博士研究生。
赵精武｜个人信息匿名化的理论基础与制度建构
匿名化技术作为兼顾数据利用和数据安全的技术始终难以真正落地，原因在于《个人信息保护法》第73条对“匿名化”概念设置了“无法识别”和“不能复原”两个限定条件，这一苛刻要求使得匿名化制度处于“存而不用”的状态。虽然匿名化处理无法实现完全匿名已成共识，但是对于相对匿名的判断标准以及重新识别风险的限定范围始终存有较大争议。现阶段匿名化制度的理论探讨普遍忽视了对该项制度的理论基础探究，而将解决思路限定在个体权益保护的范畴。在数据关系理论范式下，这种信息要素关联性指向的是横向数据关系层面的群体性特征，而这种群体性特征恰恰也是数据经济价值的关键所在。因此，匿名化制度的功能定位应当从单纯地保障个体信息私密性转变为在保障数据关联经济价值的基础上降低重新识别风险。在制度建构层面，匿名化信息所要求的“不能复原”应当被解释为经由事前的风险评估，复原的技术难度和时间成本远超一般主体所能接受的范围。（全文刊《中外法学》2024年第2期）
宋姝｜房地产登记数据资源开发利用的法律规制
在数据要素市场化背景下，系统研究房地产登记数据开发利用问题具有重要的现实意义。现有关于公共数据资源开放利用的研究尚未触及房地产领域，房地产登记数据资源开发利用存在法权规则障碍。房地产登记数据资源具有鲜明的公共属性，呈现出内容结构的双重性。对敏感数据的开发利用应以比例原则为遵循，平衡数据开发利用价值及其所带来的风险，进行公共利益衡量和损益衡量审查后作出决定。通过隐私风险评估明确敏感数据的隐私风险等级，有助于进一步限定可开发利用数据范围。数据分级分类可从对经济社会发展的作用与影响、权益受侵害的可能性及其程度两个层面进行判断。除应严格限制政务场合的利用外，对一般数据可授权第三方机构开发利用，以政府采购和特许经营为主要方式。被授权运营主体享有对其开发数据产品和数据服务的财产权和收益权，同时应承担保障数据安全与合理利用的运营者责任。（全文刊《政治与法律》2024年第3期）上海临港｜发布数据跨境场景化一般数据清单
2024年5月17日，中国（上海）自由贸易试验区临港新片区数据跨境场景化一般数据清单新闻发布会在临港中心举行。会上，临港新片区管委会发布了全国首批数据跨境场景化一般数据清单及清单配套操作指南。首批一般数据清单包含智能网联汽车、公募基金、生物医药3个领域，涉及智能网联汽车跨国生产制造等11个场景，划分成64个数据类别600余个字段。相关部门表示，将结合跨境场景细化至具体字段，编制形成可操作、可落地的一般数据清单，同步迭代拓展更多场景、更多领域，以此为基准凝练形成场景化、精细化、可操作的字段级负面清单。坚持“放得开、管得住”的管理思路，推进数据跨境流动更大力度的开放，在确保企业操作便捷的基础上，同步做好数据跨境流动安全管理工作。（上海临港）
美国科罗拉多｜《与人工智能系统互动中的消费者保护法》
当地时间2024年5月17日，美国科罗拉多州参议院正式通过《与人工智能系统互动中的消费者保护法》。该法主要聚焦于高风险人工智能的算法歧视风险，要求高风险人工智能系统的开发者采取合理措施防止对消费者的算法歧视风险，措施包括提供详细说明文档、以摘要说明形式披露算法类型及歧视风险、向消费者提供相关个人信息的退出权等。（NPR）
上海市政府｜《上海市推进“人工智能+”行动 打造“智慧好办”政务服务实施方案》
2024年5月20日，上海市政府网站公布《上海市推进“人工智能+”行动 打造“智慧好办”政务服务实施方案》。《实施方案》明确要深化人工智能辅助申报，扩展“免申即享、直达快享”，推进行政给付、困难资助、资金扶持、减税降费等惠企利民政策和服务“免申即享”闭环管理，实现“政策体检”全覆盖，企业“服务包”精准送达；创新人工智能辅助审批，对审批规则明确的事项，根据申请人办事需求，快速定位知识库内容，自动调取与申请事项相关的电子证照、政策法规、审查要点、样张模板、申请书等数据，代替人工对材料进行比对和核验，并快速出具预审结果，夯实帮办服务体系，加强运营管理。（上海市政府）
英国｜《自动驾驶汽车法》正式生效
当地时间2024年5月20日，英国《自动驾驶汽车法》正式生效。《自动驾驶汽车法》要求自动驾驶汽车至少达到与谨慎、称职的人类驾驶员同等的安全水平，并在上路前接受严格的安全检查。政府称，因此未来因酒驾、超速、疲劳和注意力不集中造成的伤亡事故将大幅减少。在《自动驾驶汽车法》出台之前，英国各地已经开展了自动驾驶汽车试验。例如，英国本土的成功案例Wayve和Oxa正在伦敦和牛津试用自动驾驶汽车。本月，Wayve获得了超过 10亿美元的投资，用于在英国进一步开发其人工智能技术。Wayve表示，他们的技术进步得到了英国《自动驾驶汽车试验实践准则》的支持，该准则为支持和促进自动驾驶汽车技术的安全跟踪制定了明确的框架。（英国政府）
深圳南山｜《深圳市南山区公共数据授权运营暂行管理办法（征求意见稿）》
2024年5月20日，深圳南山区政府网站公布《关于公开征求<深圳市南山区公共数据授权运营暂行管理办法（征求意见稿）>意见的通告》。《办法》主要分为总则、职责分工、授权运营单位的选取与退出机制、公共数据授权工作流程、数据流通与收益分配、安全保障与监督管理、法律责任、附则共八章共32条。其中，《办法规定》授权运营机制采用两级授权形式，首先由区人民政府整体授权运营单位承担公共数据授权运营，再由授权运营单位依据不同应用场景及需求，分别授权给不同行业场景的授权合作方，开发满足场景需求的数据产品，形成公共数据“运营+加工”相分离的两级授权模式。（深圳市南山区人民政府）
欧洲理事会｜表决通过《人工智能法》
当地时间2024年5月21日，欧洲理事会批准了《人工智能法》。这一综合性的人工智能立法采用“基于风险”的方法，意味着对社会造成伤害的风险越高，规则就越严格。比利时国务秘书表示，欧盟《人工智能法》是世界上首个此类法案，有可能为全球人工智能监管设定一个标准，将强调在处理新技术时信任、透明度和责任的重要性。下一步，该法案将送呈欧盟议会主席和理事会主席签署，签署后在欧盟的官方公报上公布，并在公布后二十天生效。（The Verge）
美国联邦众议院｜通过《21世纪金融创新与技术法案》
当地时间2024年5月23日，美国众议院通过了《21世纪金融创新与技术法案》。该法为数字资产市场制定了明确而实用的联邦要求，为数字资产生态系统在美国的蓬勃发展提供了强有力的消费者保护和必要的监管清晰度。其为美国商品期货交易委员会提供了对数字商品的新管辖权，并明确了美国证券交易委员会对作为投资合同一部分提供的数字资产的管辖权。此外，如果数字商品最初是作为投资合同的一部分提供的，该法案还建立了允许数字商品二级市场交易的程序。最后，该法对所有需要在美国商品期货交易委员会和／或美国证券交易委员会注册的实体提出了全面的客户披露、资产保护和运营要求。（美国金融服务委员会）
波兰数据保护机构｜因数据泄露对克拉科夫警方提起行政诉讼2024年5月8日，波兰数据保护机构（UODO）宣布，在发现与个人数据保护违规有关后，已对克拉科夫市警察局长提起行政诉讼。UODO特别提到，违规行为包括披露有关自然人的敏感信息，该信息来自克拉科夫市警察局的一份新闻稿。此外，UODO详细说明已调查以下违规行为：依法进行数据处理的原则；确保适当数据安全的原则；以及在没有法律依据的情况下处理和披露数据。UODO指出，人权专员也已就此事启动诉讼程序。（波兰数据保护机构）欧盟委员会｜要求微软明确搜索引擎Bing中的AI风险当地时间2024年5月17日，欧盟委员会发表声明称，若微软不能在5月27日之前就搜索引擎Bing中的人工智能生成功能所产生的风险提供足够的信息，欧盟委员会可能会对微软处以罚款。欧盟委员会担心深度伪造和自动操纵服务的传播会误导选民。委员会表示，由于尚未收到对3月14日发出的信息请求的回复，因此正在加强对此事的执法行动。根据欧盟去年开始实施的具有里程碑意义的《数字服务法》，科技公司必须采取更多措施来处理其平台上的非法和有害内容。（路透社）2024年5月21日消息。南昌市网信办接上级网信部门通报，南昌某集团有限公司所属IP疑似被黑客远程控制，频繁与境外通联，向境外传输大量数据。经过立案调查、现场勘验、远程勘验（采样技术分析）、笔录问询等工作，查明该公司未履行数据安全保护义务，未采取相应的技术措施和其他必要措施保障数据安全，所属的服务器遭境外黑客攻击并植入可获取服务器文件管理权限和命令执行权限的木马程序，大量数据疑似泄露或被窃取，相关行为违反了《数据安全法》第27条规定等。南昌市网信办依据《数据安全法》第45条的规定，对南昌某集团有限公司处以警告、罚款10万元，对直接负责的主管人员处以罚款2万元的行政处罚。（南昌市网信办）女演员通过律师要求OpenAI披露听感相似的人工智能语音声音的制作过程当地时间2024年5月22日消息。女演员斯嘉丽·约翰逊的律师团队已向OpenAI发出两封信，要求该公司详细说明其开发被该科技公司称为Sky的语音的过程。此前，OpenAI在ChatGPT-4o的发布会上演示了该语音，许多人将其与 2013年电影《她》（Her）中约翰逊的声音进行了比较。对约翰逊来说，这是对她个人的侮辱。她称自己感到震惊、愤怒和难以置信，OpenAI竟然会使用与我的声音如此相似的声音，以至于我最亲密的朋友和新闻媒体都无法分辨。同时称，在努力对付深度伪造和保护自己的肖像、作品和身份的时候，她认为这些问题应该得到绝对的澄清。（NPR）美国联邦通信委员会｜要求在政治广告中披露所有人工智能生成的内容2024年5月22日消息。美国联邦通信委员会（FCC）要求在政治广告中披露所有人工智能生成的内容，以保护消费者权益。委员会主席杰西卡・罗森沃塞尔（Jessica Rosenworcel）在本周三正式提出了该提案，呼吁FCC就此进行调查并征求意见。这项提案将适用于“有线运营商、卫星电视和广播服务商”，但不包括流媒体平台或YouTube等，因为FCC没有法定权力对其进行监管。此外，该提案还要求对人工智能生成的内容进行明确定义。（美国联邦通信委员会）2024年5月22日消息。近日，北京市第四中级人民法院（以下简称“北京四中院”）审结一例App强索用户隐私的案件。在本案中，涉案APP未设置措施保证用户能够充分知情其隐私政策内容，且在用户未实际阅读的情况下，返回界面后，“已阅读并同意服务条款和隐私政策”被勾选，并未让用户主动自愿作出同意的选择，不符合“自愿”“明确”的要求。此外，涉案APP收集的信息已经超出了实现处理目的所需要的最小范围，属于过度收集个人信息。北京四中院认定涉案App存在侵犯公民个人信息权益的情形，依法应当承担侵权责任。（中国青年报）谷歌｜推出揭示人工智能系统内部工作机制的开源工具Model Explorer5月17日，谷歌发布开源工具Model Explorer，旨在揭示人工智能系统的内部工作机制。Model Explorer代表了机器学习可视化领域的一大进步。该工具引入了一种分层方法，使用户能够平滑地浏览最复杂的神经网络，如最先进的语言模型和扩散网络。Model Explorer旨在通过利用游戏行业的先进图形渲染技术来克服这些障碍，使其能够平滑地可视化大型模型，同时提供一个直观的界面来探索它们的结构。（Google）谷歌DeepMind｜推出人工智能安全框架Frontier Safety Framework5月17日，谷歌DeepMind推出一款名为“Frontier Safety Framework”的人工智能安全框架，主要用于检测人工智能模型的风险情况。该框架能够主动识别“未来可能酿成重大风险的人工智能能力”，并向研究人员指出相关模型在哪些层面可能会被黑客利用。Frontier Safety Framework 1.0版本主要包含三个关键组件，即识别模型是否具备酿成重大风险的能力；预估模型会在什么阶段具备安全隐患；以及智能优化模型防止其酿成风险。（DeepMind）SpaceX公司｜在印尼启动“星链”卫星互联网服务5月19日，埃隆·马斯克和印尼卫生部部长布迪·古纳迪·萨迪金共同启动了太空探索技术公司（SpaceX）为印尼卫生部门提供的卫星互联网服务，旨在改善印尼偏远地区的互联网接入情况。印尼海洋与投资统筹部部长卢胡特在声明中称，印尼方面还希望星链服务能改善教育和卫生成果。被问及是否计划同时投资印尼电动汽车产业时，马斯克表示，他首先关注的是星链服务。马斯克透露，他的其他公司“未来很可能会在印尼投资”，但未透露细节。（CNN）5月20日，英国人工智能安全研究所（AISI）宣布将在美国旧金山设立新办事处，以加强人工智能监管的国际合作，应对全球性的人工智能挑战。该办事处计划于今年夏天运行，组建技术专家团队，与伦敦总部协同工作，促进知识交流和跨境监管协调。专家们将人工智能技术的潜在威胁视为与核武器和气候变化相似的生存挑战，强调了国际合作在制定人工智能政策和保障措施方面的重要性。（英国政府）微软｜宣布推出集成人工智能硬件的新型Copilot+ Windows PC5月20日，微软宣布推出集成人工智能硬件的新型Windows PC，称为Copilot+PC。据微软称，Copilot+PC具有全天电池续航时间，芯片每秒能够执行40万亿次操作，并且“可以使用最先进的人工智能模型”。“所有Copilot+PC都包含一个“强大的人工智能代理”，只需点击Copilot键即可访问该代理。（微软）5月20日，小鹏汽车发布国内首个量产上车的端到端大模型：神经网络XNet＋规控大模型XPlanner＋大语言模型XBrain。三网合一的深度视觉感知神经网络XNet，通过聚合动态XNet、静态XNet和行业首个量产纯视觉2K占用网络，能够让自动驾驶系统如同裸眼3D。（财新社）5月21日，IBM公司宣布与沙特阿拉伯数据和人工智能管理局（Saudi Data and Artificial Intelligence Authority，SDAIA）的合作。IBM将使用其Watsonx平台来训练SDAIA的阿拉伯语模型“ALLaM”，此举也将为IBM的产品增加新的语言技能，包括理解多种阿拉伯语方言的能力。（IBM公司）5月21日，第二届人工智能安全峰会在韩国首尔召开。本届峰会以“安全、创新、包容”为议题，就进一步保障人工智能安全性、推进人工智能可持续发展等方案进行讨论。据韩国科学技术信息通信部此前发布的消息，本届人工智能安全峰会分为领导人会议和部长会议等环节。其中，领导人会议以视频连线方式举行，由韩国总统尹锡悦和英国首相苏纳克共同主持召开。部长会议将于5月22日下午在首尔以线下方式举行，韩国科技部长官李宗昊及英国科学、创新和技术大臣米歇尔·多尼兰担任共同主持。（路透社）Adobe｜宣布其照片编辑软件Lightroom新增人工智能功能5月21日，美国数字媒体和数字体验解决方案提供商Adobe宣布其照片编辑软件Lightroom新增人工智能功能，包括生成式消除（Generative Remove）和镜头模糊预设（Lens Blur presets）。使用生成式消除功能，用户可以选择照片中不需要的部分，Lightroom将自动将其移除。镜头模糊预设功能可以使照片中的背景虚化，营造出主体突出的效果。目前，以上两项功能已正式上线。（Adobe）5月22日消息，微软、谷歌、OpenAI等16家科技公司在21日-22日举行的“人工智能首尔峰会”上承诺安全开发人工智能模型，在无法控制最极端风险的情况下关闭其尖端系统（cutting-edge systems）。安全承诺包括发布框架，阐明公司将如何衡量其模型的风险。在风险严重且“无法接受”的极端情况下，如果无法减轻风险，人工智能公司将不得不按下紧急停止开关，停止开发或部署其模型和系统。（路透社）美国超威半导体公司｜计划在中国台湾地区设立研发中心5月22日消息，美国超威半导体公司（AMD）计划在中国台湾地区设立研发中心，研发计划涵盖人工智能、新一代半导体（包括高功率和高频集成电路）以及新型5G网络结构。AMD正在考虑投资约1.55亿美元建设该研发中心。此外，AMD必须与当地集成电路（IC）设计公司合作，帮助进一步发展中国台湾地区的IC设计产业；与当地公司合作生产配备人工智能芯片的服务器；以及与当地大学合作培养人才。（Focus Taiwan）微软｜与阿联酋人工智能公司G42计划投资10亿美元在肯尼亚建设数据中心5月22日，微软宣布计划投资10亿美元在肯尼亚建设一个数据中心。该数据中心由阿联酋的人工智能公司G42和其他利益相关者负责在肯尼亚奥尔卡利亚建造，由地热能提供动力，并通过东非新的云计算区域运行微软的Azure操作系统。该云计算区域将为客户提供可扩展、安全、高速的云计算和人工智能服务，以加速肯尼亚和东非的企业、客户和合作伙伴的云计算采用和数字化转型。（微软）5月23日，阿里云宣布将在全球五个国家投资新建数据中心，分别位于韩国、马来西亚、菲律宾、泰国和墨西哥。新一轮海外基础设施将重点布局AI基础设施，冲刺更大规模全球布局。据悉，这是阿里云首次进入墨西哥市场，同步将建设本地生态和服务能力体系。未来三年，其将持续投资建设更多海外基础设施，并加强服务能力建设。（财新社）谷歌｜计划投资建设首次连接非洲和澳大利亚的海底光缆5月23日消息，谷歌宣布计划投资建设名为“Umoja”的海底光缆项目，首次连接非洲和澳大利亚。该线路将连接多个非洲国家，包括肯尼亚、乌干达、卢旺达、刚果民主共和国、赞比亚、津巴布韦和南非，增加连接的弹性和冗余性。除宣布建设基础设施外，谷歌还将与肯尼亚信息通信和数字经济部合作，在网络安全、数据驱动的创新发展、数字技能提升和部署人工智能以造福社会等领域加强合作。（Google Cloud）5月23日下午，特斯拉上海储能超级工厂正式开工。特斯拉上海储能超级工厂主要生产特斯拉超大型电化学商用储能系统Megapack，预计年产能将达1万台，储能规模近40GWh，计划2025年第一季度实现量产。而Megapack储能系统每台机组可存储超过3.9MWh的能源，足以满足3600户家庭1小时的用电需求，或能够驱动65台Model 3后轮驱动版满电行驶。三星公司｜HBM芯片因发热和功耗问题未通过英伟达测试5月24日消息，三星公司最新的高带宽内存（HBM）芯片因发热和功耗问题未通过英伟达测试。这些问题影响到了三星公司的HBM3芯片，该芯片是目前人工智能处理器最常用的第四代HBM标准。三星公司在一份声明中表示，HBM是一款定制内存产品，需要根据客户需求进行优化流程，三星公司正在通过与客户的密切合作来优化其产品。（路透社）
上海市法学会官网
http://www.sls.org.cn