首个全球性AI声明和深圳的率先探索

AI为人类社会发展和福祉带来了巨大潜力的同时，也带来了一些风险和挑战。在全球竞逐AI新赛道的当下，全球第一份针对人工智能这一快速新兴技术的国际性声明——《布莱切利宣言》的签署，引发业界广泛关注。

11月1日至2日，首届全球人工智能安全峰会在英国布莱切利庄园举行，中国等28个与会国家及欧盟签署《布莱切利宣言》，关注对未来强大人工智能模型构成人类生存威胁的担忧，以及对人工智能当前增强有害或偏见信息的担忧。《宣言》呼吁和倡导以人为本，希望AI科研机构、企业等以负责任的方式，设计、开发和使用AI。《宣言》尤其关注网络安全和生物技术等领域的风险，以及前沿AI可能放大虚假信息等风险。

当地时间2023年11月1日，英国布莱切利园，人工智能安全峰会召开，全球科技公司的高管和政府官员等近百名代表出席。澎湃影像 图

《宣言》的签署，被业内解读为AI迎来全球管控时代。

作为当今最具变革性和影响力的技术之一，人工智能被公认为是一次不可错过的“AI革命”，正引发全球竞逐新风口，深圳作为中国“头部”城市之一，也正在这一新赛道飞驰。

去年，深圳出台实施我国首部人工智能产业专项立法——《深圳经济特区人工智能产业促进条例》，今年5月，深圳紧随上海北京的脚步出台人工智能政策规划，印发《加快推动人工智能高质量发展高水平应用行动方案（2023-2024年）》，并同步发布首批“城市+AI”应用场景清单，统筹设立规模1000亿元的人工智能基金群，由此构筑起“一条例、一方案、一清单、一基金群”的人工智能高质量发展和高水平应用的政策体系，加快推进人工智能全时全域应用。

图为2023第四届深圳国际人工智能展（GAIE）

《布莱切利宣言》签署后，深圳业界作何反响？深圳在人工智能“安全可控”方面已率先作出哪些探索？

深圳业界：规范只是时间问题，关注何时立法

“这次会议既有各国政府的参与，也有科技企业和学者的参与，围绕人工智能的发展、安全和治理在积极探索中国方案。《宣言》签署可以看出，全球对人工智能‘前沿’的特殊安全风险的一致性关注，人工智能发展进入全球性治理的新阶段。”中国（深圳）综合开发研究院数字战略与经济研究所所长曹钟雄对小政表示。

据悉，本次峰会邀请了约100名各国官员、人工智能企业代表和专家。英国科学、创新和技术部11月1日发布的信息显示，有美国、中国、日本、德国、印度等20多个国家的政府代表，以及联合国、经合组织、国际电信联盟等多个国际组织的代表参会。另有超过80个学术机构、企业和协会组织代表参会。

据新华社报道，中国科技部副部长吴朝晖率团参会并在峰会开幕式上发表讲话。中方指出，发展人工智能，应当积极倡导以人为本，智能向善，加强技术风险管控，并在相互尊重、平等互利的原则基础上，鼓励各方协同共治，增强发展中国家在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理能力差距。近期在北京举行的第三届“一带一路”国际合作高峰论坛上，中方提出《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案。

除了政要以外，多家AI公司也参与了本次峰会，出席者包括特斯拉总裁马斯克、微软董事长Brad Smith、谷歌Deep Mind总裁Demis Hassabis、Meta AI首席科学家Yann LeCun、亚马逊云CEO Adam Selipsky、OpenAI首席执行官Sam Altman、英伟达CEO黄仁勋等。

马斯克在峰会期间提出了自己的建议。“我们来这里的真正目标是建立一个洞察框架，这样至少会有一个第三方裁判，一个独立的裁判，可以观察领先的AI公司在做什么，至少在他们有担忧时发出警报。”他认为，在政府采取监管行动之前，需要先了解AI的发展情况，AI领域的很多人都担心政府在知道该怎么做之前会过早地制定规则。

 图源：央视财经

一直以来对AI频频发出警报的马斯克说：“这是人类历史上第一次与远比我们聪明的东西共处，所以我不清楚，我们是否真的能控制这样的东西。但我认为我们可以期待的是，引导它朝着对人类有益的方向发展。我确实认为，这是我们面临的生存风险之一，而且可能是最紧迫的风险。”

AI业界对这一话题始终争论激烈。

就在此次峰会召开前夕，图灵奖得主、“人工智能三巨头”等学者爆发了一场激烈争论。首先是三巨头中的杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua Bengio）呼吁加强对AI技术监管，否则可能引发危险的“AI末日论”，随后三巨头之一、Meta人工智能的负责人杨立昆（Yann LeCun）警告说，“迅速采取错误的监管方式可能会导致以损害竞争和创新的方式集中权力。”斯坦福大学教授吴恩达加入杨立昆行列，称对末日论的过度恐惧正在造成真正的伤害，将粉碎开源，扼杀创新。

10月25日，中国人工智能科学家与西方知名学者一道，呼吁对人工智能技术实施更严格的控制。这24名AI专家签署一份声明警告称，在未来几十年，先进的人工智能将对“人类的生存构成威胁”。清华大学交叉信息研究院院长姚期智、清华大学智能产业研究院院长张亚勤这两位知名中国学者均是签署者。他们呼吁建立一个国际监管机构，先进的人工智能系统须进行强制性注册和接受审核，引入即时“关闭”程序，并要求开发企业将30%的研究预算用于人工智能安全。《金融时报》11月1日称，这些提议初步表明了中国在全球人工智能监管方面可能采取的立场。

此次峰会举行和宣言的发表，也引起深圳业界的广泛关注。

深圳天海宸光科技有限公司首席科学家段立新教授向小政表示，《布莱切利宣言》的提出在规范人工智能的发展中扮演了至关重要的角色。“生成式人工智能模型面临着不可解释性和信息不准确性等深刻问题，因此亟需一个国际性的权威机构，以制定涉及人工智能模型能力的审查机制和框架，从而对其进行明确界定和约束。只有通过这一方式，我们才能实现AI向善，使其在辅助人类实现更美好生活的愿景中得以充分实现。”

奥比中光董事长兼CEO黄源浩也认为，在云端，未来可能出现的云端“AI大脑”只要算力足够大、数据足够多，就有可能给人类社会秩序带来挑战。为此，应该提前制定相关法律法规，监管、限制AI的使用，在技术最底层设置好“AI大脑”的应用边界。在边缘端，让AI聚焦在某个专业方向，比如让AI机器人在车间、产线从事相关工作，专注提高生产效率服务的目标，就能够让AI应用相对更加安全。

长期深耕人工智能翻译领域的新译科技创始人、董事长田亮告诉小政，因为大模型的进展，让很多事情变成了可能，更优的效果只是时间问题，“比如智能客服的逼真化、视频翻译的数字人和口型越来越符合实际，这些都可能衍生道德、诈骗之类的风险”。宣言的作用在于规范和预警，提前出具一些政策，限制人工智能的非法使用。“首先就是预防，用宣言来带动未来合适的立法。”

这次会议通过科技公司齐聚发声、政府参与的模式，让世界有一起就这个问题沟通的可能。至于AI迎来全球管控时代，会否对行业发展速度带来一些限制和影响，田亮认为，应该会有一些影响，“因为前期估计不会那么明确，如果考虑到内容版权之类的，包括AI合成技术等这些领域就会受到一些限制，等版权就会有流程，有流程就会变慢。‘郭德纲说英语’这类尝试有可能就不会那么快出现。”

业界会欢迎这种规范么？田亮说，规范是一定的，是早晚的问题。当前还只是宣言阶段，还起不到法律约束作用，会关注什么时候立法进行规范。

深圳先行一步的实践

“人工智能是一场输不起的竞争。”国际欧亚科学院院士李世鹏此前接受媒体采访时认为，“人工智能是新一代工业革命的驱动力，所以，无论是对深圳还是国家来说，人工智能不是可不可做，而是必须做好，这也将是我们的核心竞争力。”

近年来，中国人工智能综合实力迅速提升。中国科学技术信息研究所发布的《2022全球人工智能创新指数报告》显示，2022年全球人工智能创新指数仍呈现明显的梯次分布，46个参评国家仍维持四大梯队格局。其中第一梯队仍为美国和中国，美国已连续四年蝉联榜首；第二梯队包含英国、德国、新加坡等11个国家，瑞典和荷兰首次进入这一梯队；第三梯队包括丹麦、芬兰等12个国家；第四梯队包括捷克、巴西等21个国家。

但产业蓬勃发展的同时，我国在法律层面对于人工智能及人工智能产业的概念尚未作出规定，学术界对人工智能及人工智能产业的定义也没有统一的认识。

而深圳在AI立法方面，已率先作出了一些探索。

去年11月1日，《深圳经济特区人工智能产业促进条例》正式实施，让深圳再次成为地方此类立法的领头羊。因为拥有特区立法权，深圳近年来在推动数字经济、智能网联汽车、人工智能等新经济发展上先行一步，为这些新兴领域的国家层面立法积极探索经验。

图为深圳（国际）人工智能展暨智能制造创新高峰论坛现场。深圳特区报记者杨少昆 摄

《条例》首次明确了“人工智能”概念，明确了人工智能产业的边界。电子科技大学（深圳）高等研究院副教授、数字经济创新研究中心主任张龙鹏曾在接受媒体采访时如此评价条例出台对产业的推动作用——

“深圳出台的人工智能产业专项立法，在人工智能的技术攻关、场景应用、治理体系等方面都做了明确的创新性、探索性规定，有助于实现人工智能与经济社会生活的深度融合。例如，《条例》提出创新产品准入制度，以期破解人工智能产品落地难的问题。”

“深圳人工智能产业的发展已经形成了集群化发展的态势，在人工智能的基础层、技术层、应用层构建起全链条的企业创新生态。不可忽视的是，人工智能产业链中还存在不少有待突破的技术，如人工智能芯片、核心算法、触觉传感器等。”张龙鹏说。

统计数据显示，截至2022年底，深圳市泛人工智能企业数量达到1588家，排名全国第二，人工智能行业从业人员数量超过15万人。2022年，深圳市人工智能核心产业规模稳步增长，达到342亿元。深圳市人工智能行业协会发布的《2023年人工智能发展白皮书》显示，2022年深圳人工智能产业规模达2488亿元，同比增长32.10%。

图源：优必选

在实现快速发展、广泛应用的同时，人工智能也带来了安全、隐私、公平等诸多新问题、新挑战，引发的科技伦理问题越来越受到关注。人工智能产品提供服务的同时又该如何守住行为底线？

商汤智能产业研究院院长田丰向媒体表示，深圳《条例》的一大亮点就是基础研究与伦理道德并重，“深圳立法中涉及人工智能伦理，提出通过伦理安全规范、伦理审查机制、社会价值观引导为人工智能产业长期健康有序发展保驾护航。”

首先，《条例》确立了多元主体协调共治的治理机制。确立人工智能治理国际公认的和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八大治理原则；其次，《条例》设立了专门的人工智能治理机构。规定市政府应当设立人工智能伦理委员会；第三，《条例》明确了行为底线和法律责任。明确在人工智能研究和应用活动中不得侵害国家安全、公共利益和个人权益，禁止实施歧视用户、侵害消费者权益、滥用技术等行为，并强调相应的法律责任，要求各方主体严守行为底线，有效预防风险。

“人工智能伦理原则多，技术工具少。”田丰说，“中国人工智能伦理既有深刻的人文关怀，又有可持续发展的国际价值观。伦理决定方向（向善），治理决定效果。当前已进入政企机构的人工智能治理应用密集落地期，但还缺少人工智能治理技术平台、技术工具。低效而难以标准化的人工治理需要向自动化技术治理转型，国产人工智能治理工具箱正在孕育中。”

深圳市人工智能行业协会提出，立法是推动人工智能产业发展的关键。未来几年人工智能立法将重点放在知识产权保护、隐私保护、伦理道德等方面，人工智能法律法规监管将逐渐明晰。

本文部分参考澎湃、瞭望东方周刊报道

编辑 | 宁若鸿

▼往期精彩回顾▼

“在看”一下吧！