国际 | 严格监管ChatGPT，欧盟欲出台全球首个AI法案

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

欧洲议会正就全球首部人工智能（AI）法案展开大规模协商，光修正案就有一千多项，创下了欧洲议会史上之最。当地时间11日，欧洲议会内部市场委员会和公民自由委员会以84票赞成、7票反对和12票弃权通过关于《AI法案》的谈判授权草案，其中包含了有关面部识别、生物识别监控和其他AI应用使用的新规则，并提出了严格监管ChatGPT等AI工具的新思路。领导上述法案制定的欧洲议会议员土多拉舍（Dragoş Tudorache）表示，欧盟的《AI法案》是全球首个此类立法，“欧盟可以在全球范围内带头使AI以人为本，（变得）值得信赖和安全”。

“避免建立一个基于人工智能的受控社会”

欧盟于2021年首次提出《AI法案》，旨在制定管理使用AI系统的任何产品和服务的规则。

目前的提案采取了分级管理的思路，即基于AI的四个等级（从风险最小到不可接受），进行区别管理，风险较高的应用程序将面临更严格的规则，需要更高的透明度和准确性。欧洲议会认为，对人类安全造成不可接受风险的AI系统将被严格禁止，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统。譬如，用于预先确定犯罪发生地点和犯罪者的警务工具可能将被禁止，除打击和预防特定恐怖威胁外，远程面部识别技术也将被禁止。《AI法案》的联合推动人之一、欧洲议会意大利议员伯尼菲（Brando Benifei）表示，这样做的目的是“避免建立一个基于人工智能的受控社会”。“我们认为这些技术可以用于好的地方，也可以用来做坏事，风险太高了。”他补充道。此外，虽然原始提案并未详细涵盖聊天机器人，但由于在立法期间，ChatGPT横空出世，立法者添加了一项修正案，将 ChatGPT和类似的生成式AI与高风险系统置于同一级别。具体而言，此次欧洲议会的议员大幅修改了清单，以禁止侵入性和歧视性地使用AI系统的行为，例如：在公共场所“实时”使用的远程生物特征识别系统；“事后”远程生物识别系统，不过执法机关为起诉严重罪行且取得司法授权后例外；使用如性别、种族、公民身份、宗教、政治取向等敏感数据的生物识别分类系统；基于分析、位置或过去犯罪行为的预测性警务系统；执法、边境管理、工作场所和教育机构中的情绪识别系统，以及不分青红皂白地从社交媒体或闭路电视录像中抓取生物识别数据来创建面部识别数据库等行为。

针对ChatGPT等生成式AI专门监管

此次，欧洲议会议员扩大了AI高风险领域的分类，将对人们健康、安全、基本权利或环境的危害考虑在内。目前，欧洲议会还有意针对ChatGPT等生成式 AI设立专门监管制度，大致与高风险系统须遵守的义务相同。欧洲议会还提出，像ChatGPT这样的生成基础模型必须遵守额外的透明度要求，比如披露内容是由AI生成的，设计模型以防止其生成非法内容，以及发布用于训练的受版权保护数据的摘要。此外，欧洲议会的议员们还希望提高欧洲公民对AI系统提出投诉的权利，并获得对基于严重影响其权利的高风险AI系统决策的解释权利。本周欧洲议会所达成的协议只是欧盟内部漫长而艰巨的程序的第一步，该程序可能需要数年时间，才能让法案成为欧盟27个成员国的正式法律。根据目前的时间表，该法案将于6月提交欧洲议会全体表决，之后欧洲议会、欧盟理事会和欧盟委员会的代表将在“三方”会谈中商定最终条款。在条款最终确定且该法案成为法律后，将有大约两年的宽限期。知情人士表示，成员国和立法者可能会就在有限情况下，如存在恐怖威胁时，是否可以接受实时面部识别AI应用展开旷日持久的讨论。伯尼菲表示，对实时生物识别技术的限制是一个需要“艰难”谈判的领域，欧盟可能“需要找到解决方案”。他也乐观表示，各个成员国会支持欧洲议会关于对生成AI模型进行立法的提议。

欧美监管思路不同

除了欧洲，全球各地越来越担心快速发展的AI技术可能被滥用。上周，美国联邦贸易委员会发出警告，称“正在密切关注公司如何选择使用AI技术，包括新的生成人工智能工具，以及对消费者产生实际和实质性影响的方式”。

5月4日，拜登政府则宣布对“值得信赖的”人工智能增加新投资。同日，美国副总统哈里斯以及多位白宫高级官员与谷歌、微软、OpenAI和AI初创公司Anthropic的首席执行官会面，集中讨论当前和近期的技术发展所带来的风险。作为潜在监管的第一步，美国商务部在4月11日已就相关措施正式公开征求意见，包括新AI模型在发布前是否应经过认证程序。征求意见期限为60天。不过，尽管华盛顿遭到了AI威胁论的轰炸，但他们担心禁用或停止AI的部署，可能让美国在AI研究上失去竞争优势。投资咨询公司BCA Research美国资产部首席策略师唐克尔（Irene Tunkel）对第一财经记者表示：“为了使美国保持相对于世界其他国家的技术优势，美国政府将需要利用政策和财政支出来促进AI在多年内的增长。我们预计，（美国）更多的政府资源将被分配给AI，包括国防和非国防性质的资源，而监管环境将促进整个经济领域在公共和私营部门越来越多地采用AI。”同时，她称，虽然近年来美国联邦层面和州层面提出了许多AI领域的立法，但更多的立法并不一定意味着更紧的监管。“这些立法有一个基本的相似性。目的是促进美国公共和私营部门的AI的发展和使用，同时也有相关指导方针，保护AI的消费者和用户。”她说。

（来源：第一财经）

《中国安全信息》杂志倾力推荐

“企业成长计划”

点击下图 了解详情