首个全球性AI声明：中国等28国、欧盟签署《布莱切利宣言》
wuhu快报
文|山茶茶
全球28个国家和欧盟一致认为
人工智能对人类构成了潜在的灾难性风险
11月1日，首届全球人工智能安全峰会在英国布莱切利庄园召开，中国科技部副部长吴朝晖在开幕式上发表了演讲。
人工智能真的能毁灭人类吗？
近些年来，AI模型呈爆发式增长，关于它安全与否的辩论也蔓延至大街小巷。
前些日子，图灵奖得主、被称为“人工智能三巨头”的学者们就爆发了一场激烈争论。
他们中的杰弗里·辛顿和约书亚·本吉奥呼吁加强对AI技术监管，否则可能引发危险的“AI末日论”；而杨立昆与斯坦福大学教授吴恩达则认为“迅速采取错误的监管方式可能会导致以损害竞争和创新的方式集中权力”。
10月25日，更有24名中国AI专家签署一份声明警告，呼吁建立一个国际监管机构，先进的人工智能系统须进行强制性注册和接受审核，引入即时“关闭”程序，并要求开发企业将30%的研究预算用于人工智能安全。
对人工智能的全面立法，迫在眉睫。
在这样的背景下，11月1日，由英国首相里希·苏纳克主持的首届人工智能安全峰会于英国布莱切利公园开幕。
本次峰会邀请了约100名各国官员、人工智能企业代表和专家，其中包括中国在内的28个国家政府代表、联合国、经合组织等国际组织代表，以及腾讯、阿里巴巴、微软、谷歌等学术机构、企业和协会组织代表。
在开幕式上，由众与会国共同达成的《布莱切利宣言》正式发表。
这是全球第一份针对人工智能的国际性声明，旨在确保人工智能技术的安全开发和使用。
为了达成此目标，峰会确定了需要解决的三个关键领域：识别人工智能带来的风险，各国制定基于风险的政策，以及支持建立一个研究人工智能安全性的国际研究网络。
活动现场
根据科技部网站消息，中国科技部副部长吴朝晖出席峰会，并于1日举行的开幕式全体会议上发言。
中方指出，人工智能治理攸关全人类命运，是世界各国面临的共同课题。发展人工智能，应当积极倡导以人为本，智能向善，加强技术风险管控，并在相互尊重、平等互利的原则基础上，鼓励各方协同共治，增强发展中国家在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理能力差距。
中方认为，在世界和平与发展面临多元挑战的背景下，各国应秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重的原则，通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，共同促进全球人工智能健康有序安全发展。
中方表示，愿与各方一道就人工智能安全治理加强沟通交流，为推动形成普遍参与的国际机制和具有广泛共识的治理框架积极贡献智慧，切实落实全球发展倡议、全球安全倡议和全球文明倡议，促进人工智能技术更好造福于人类，共同构建人类命运共同体。
埃隆·马斯克
除了各国政府，一些科技头部企业的高管和研究人员也出席了峰会。
目前针对人工智能大模型的发展主要存在两派观点：一派是以马斯克为代表的“风险警示者”，另一派是以谷歌、Meta等科技巨头企业为代表的“风险淡化派”。
马斯克在会上呼吁，引入“第三方裁判”对人工智能的风险提出警告。他说道：“我不知道公平的规则到底是什么，但在进行监督之前，你必须从洞察风险开始。”马斯克还表示，他不认为政府会在不知道该怎么做之前就匆忙制定人工智能的监管规则。
马斯克谈AI影响
牛津大学互联网研究院（OII）互联网研究教授、贝利奥尔学院研究员威廉·H·达顿（William H. Dutton）表示：“关于人工智能潜在风险的炒作非常多，但人们必须搞清楚到底何为风险、何为机会。这意味着我们需要更多的国际交流来了解人们对AI的想法。”
在谈到马斯克提出的在AI治理方面引入“第三方裁判”的措施时，达顿表示：“我认为其中存在的问题是，这个裁判是否能够公平地进行监督。”
人工智能迎来监管“加速度”
就在全球多国政府共同发力监管的同时，呼吁警惕人工智能风险的声音，也在研究界乃至人工智能领域业界多次响起。
当地时间10月24日，包括图灵奖获得者杰弗里·辛顿和约书亚·本吉奥在内的24名人工智能专家，联合发表文章《在快速进步的时代管理人工智能风险》，呼吁各国政府采取行动管理人工智能带来的风险。该文章特别关注最先进系统带来的极端风险，例如助长大规模犯罪或恐怖活动。
这是人工智能专家今年签署的关于该领域风险的第三份重要声明。3月，包括特斯拉创始人埃隆·马斯克、本吉奥和罗素在内的数万人签署了一封公开信，呼吁人工智能实验室“立即暂停训练比GPT-4更强大的人工智能系统至少6个月”。
5月，人工智能安全中心组织的一份声明称，“与流行病和核战争等其他社会规模风险一样，减轻人工智能带来的灭绝风险应该成为全球优先事项。”该声明由500多名著名学者和行业领袖签署，其中同样包括辛顿、本吉奥和罗素，也包括3家全球主要人工智能公司的首席执行官：OpenAI的山姆·奥特曼、DeepMind的德米斯·哈萨比斯和Anthropic的达里奥·阿莫代。
事实上，人工智能领域监管动作的加速，正是该技术及其运用近年来迅猛发展的自然结果。
据媒体报道，2023上半年，全球人工智能领域共计发生融资1387件，筹集融资金额255亿美元，平均融资金额达2605万美元。
从全球范围来看，对人工智能基础设施市场的投资也在增加。有数据显示，到2029年，全球这一市场的支出预计将达到4225.5亿美元，未来六年的复合年增长率将高达44%。
据业界统计，全球人工智能产业规模预计2030年将达到1500亿美元，未来几年复合增速约40%。目前全球人工智能企业的数量迅速增长，2022年，全球人工智能市场规模估计为197.8亿美元，预计到2030年将达到1591.03亿美元，从2022年到2030年，复合年增长率为38.1%。
同时，人工智能产业发展对GDP的拉动作用也有望逐渐显现。全球知名投资银行高盛集团近期发布报告认为，对人工智能领域的投资效应最终可能更大程度地反映到GDP上。报告称，在美国等主要发达市场经济体，生成式人工智能可以让约25%的工作任务实现自动化，在新兴市场则可以让高达20%的工作任务实现自动化。
在今年7月召开的首届联合国安理会人工智能与安全问题高级别公开会上，联合国秘书长古特雷斯说，人工智能同时具有行善与作恶的巨大潜能，如不采取措施防范风险，将是对当代和后代的失职。
以下为《布莱切利宣言》原文（中译）：
人工智能 (AI) 带来了巨大的全球机遇：它有潜力改变和增强人类福祉、和平与繁荣。为了实现这一点，我们申明，为了所有人的利益，人工智能应该以安全的、以人为中心、值得信赖和负责任的方式设计、开发、部署和使用。我们欢迎国际社会迄今为止在人工智能领域合作的努力，以促进包容性经济增长、可持续发展和创新，保护人权和基本自由，并增强公众对人工智能系统的信任和信心，以充分发挥其潜力。
人工智能系统已经部署在日常生活的许多领域，包括住房、就业、交通、教育、健康、无障碍和司法，而且它们的使用可能会增加。因此，我们认识到，这是一个采取行动的独特时刻，申明需要安全发展人工智能，并以包容的方式在我们各国和全球范围内利用人工智能的变革机会造福所有人。这包括卫生和教育、粮食安全、科学、清洁能源、生物多样性和气候等公共服务，以实现人权的享有，并加强努力实现联合国可持续发展目标。
除了这些机遇之外，人工智能还带来了重大风险，包括在日常生活的各个领域。为此，我们欢迎国际社会努力在现有论坛和其他相关举措中审查和解决人工智能系统的潜在影响，并认识到保护人权、透明度和可解释性、公平性、问责制、监管、安全、适当的人类监督、道德、减少偏见、隐私和数据保护等问题。我们还注意到，操纵内容或生成欺骗性内容的能力可能会带来不可预见的风险。所有这些问题都至关重要，我们申明解决这些问题的必要性和紧迫性。
特定的安全风险出现在人工智能的“前沿”，被理解为那些能力强大的通用人工智能模型，包括可以执行各种各样任务的基础模型，以及表现出可能导致安全问题的相关特定狭义人工智能。这些模型的能力可以与当今最先进模型的功能相匹配，甚至超过它们。潜在的故意滥用或与人类意图一致相关的意外控制问题可能会产生重大风险。这些问题的部分原因是这些功能尚未被完全理解，因此难以预测。我们特别担心网络安全和生物技术等领域的此类风险，以及前沿人工智能系统可能放大虚假信息等风险的领域。这些人工智能模型最重要的功能可能会有意或无意地造成严重甚至灾难性的伤害。鉴于人工智能快速且不确定的变化速度，以及技术投资加速的背景下，我们确信加深对这些潜在风险的理解以及应对这些风险的行动尤为紧迫。
人工智能产生的许多风险本质上是国际性的，因此最好通过国际合作来解决。我们决心以包容的方式共同努力，确保以人为本、值得信赖和负责任的人工智能是安全的，并通过现有的国际论坛和其他相关举措支持所有人的利益，促进合作以应对人工智能带来的广泛风险。在此过程中，我们认识到各国应考虑支持创新和相称的治理和监管方法的重要性，以最大限度地提高人工智能的收益并考虑到与人工智能相关的风险。这可能包括根据国情和适用的法律框架酌情对风险进行分类。我们还注意到在适当情况下就共同原则和行为准则等方法进行合作的相关性。对于最有可能发现的与前沿人工智能相关的具体风险，我们决心加强和维持我们的合作，并与更多国家的扩大合作，通过现有的国际论坛和其他相关举措，包括未来的国际人工智能安全峰会，识别、理解并采取适当行动。
所有参与者都可以在确保人工智能安全方面发挥作用：国家、国际论坛和其他倡议、公司、民间社会和学术界需要共同努力。我们注意到包容性人工智能和弥合数字鸿沟的重要性，重申国际合作应努力酌情吸引更广泛的合作伙伴参与，并欢迎以发展为导向的方法和政策，帮助发展中国家加强人工智能能力建设和利用人工智能在支持可持续增长和缩小发展差距方面的推动作用。
我们申明，虽然必须在整个人工智能生命周期中考虑安全性，但开发前沿人工智能能力的参与者，特别是那些异常强大且可能有害的人工智能系统，对确保这些人工智能系统的安全负有特别重大的责任，包括通过系统通过评估和其他适当措施进行安全测试。我们鼓励所有相关行为者就衡量、监测和减轻潜在有害能力以及可能出现的相关影响的计划提供适合具体情况的透明度和问责制，特别是防止滥用和控制问题以及其他风险的放大。
在我们合作的背景下，为了为国家和国际层面的行动提供信息，我们解决前沿人工智能风险的议程将重点关注：
识别共同关注的人工智能安全风险，建立对这些风险的科学和证据的共同理解，并在能力不断增强的情况下，在广泛的全球范围内维持这种理解，以了解人工智能对我们社会的影响。
我们各国各自制定基于风险的政策，以确保此类风险的安全，酌情开展合作，同时认识到我们的做法可能因国情和适用的法律框架而异。这包括私营部门提高透明度，开发前沿人工智能能力、适当的评估指标、安全测试工具，以及发展相关的公共部门能力和科学研究。
为了推进这一议程，我们决心支持建立一个具有国际包容性的前沿人工智能安全科学研究网络，该网络包含并补充现有和新的多边、诸边和双边合作，包括通过现有的国际论坛和其他相关举措，以促进提供可用于政策制定和公共利益的最佳科学。
我们认识到人工智能的变革性积极潜力，并作为确保更广泛的人工智能国际合作的一部分，我们决心维持包容性的全球对话，参与现有的国际论坛和其他相关倡议，并以开放的方式为更广泛的国际讨论做出贡献，继续对前沿人工智能安全进行研究，以确保能够负责任地利用该技术的优势，造福所有人。我们期待 2024 年再次相聚。
出席会议的国家
澳大利亚
巴西
加拿大
智利
中国
欧盟
法国
德国
印度
印度尼西亚
爱尔兰
以色列
意大利
日本
肯尼亚
沙特阿拉伯王国
荷兰
尼日利亚
菲律宾人
大韩民国
卢旺达
新加坡
西班牙
瑞士
土耳其
乌克兰
阿拉伯联合酋长国
大不列颠及北爱尔兰联合王国
美国
*“政府”和“国家”包括根据其立法或执行权限行事的国际组织。
END
添加wuhu小精灵5号微信(wuhudonghua5)发送“动画新势力”即可在不久后被邀请进群。
你一定还感兴趣：
上海万圣节怎么突然就火了？！“中国玩梗节”被年轻人玩出了圈...
霉霉说中文火了！AI应用可以盈利了？幕后中国公司7个月实现收入100万美元？