智能晚报｜英国计划举办全球首场AI安全峰会；DeepMind发现新排序算法AlphaDev；OpenAI否认训练GPT-5

「每天重要的新闻不会超过五条」

整理：张司钰

编辑：吴洋洋

Key Points

英国计划举办全球首场AI安全峰会；

DeepMind发现新排序算法AlphaDev；

Altman：OpenAI尚未训练GPT-5；

全球第一部全程用AI制作的电影时长13分钟；

Google Cloud与Salesforce达成战略合作。

英国计划举办全球首场AI安全峰会

6月8日，英国政府表示，将于今年晚些时候举办关于AI安全的全球峰会，讨论包括AI前沿技术研发与应用开发在内的风险问题，以及如何通过国际行动减轻AI风险。该想法最先于5月底在与OpenAI、Google DeepMind和Anthropic负责人的圆桌会议上提出。6月9日，英国首相苏纳克（Rishi Sunak）与美国总统拜登（Joe Biden）会谈时，也将继续讨论这一议题。

苏纳克关于AI安全的两点提议

AI的「IAEA（国际原子能机构）」：由英国承办一个类似IAEA（国际原子能机构）的全球AI监管机构，这个想法曾由OpenAI CEO Sam Altman（山姆·奥特曼）在5月底提出；

AI的「CERN（国际粒子物理研究所）」：在英国建立一个类似于国际粒子物理研究所的国际研究机构。

「Make Britain Great Again」

苏纳克希望将英国推广为全球AI治理的领导者，并将制定AI安全标准作为其软实力工具，推动英国AI产业发展。曾有一名政府顾问表示，苏纳克在官员提供的一份「英国可能在国际标准制定中发挥领导作用的前沿技术清单」中选择了AI，清单上还有「半导体」和「太空」，这两项最终被否决了。

今年4月，英国政府曾发布AI白皮书，提倡依靠现有监管机构负责AI的监管工作，从而避免重复性工作和资源浪费。但近几个月里，几乎每周都有AI专家发出灾难性警告，AI公司也表示希望有更多的监管。随着担忧的增加，英国政府的态度也变得更为谨慎。不过英国政府仍对媒体坚称AI白皮书不需要做重大更新，唯一的转变是从「亲创新」转向「风险评估」。

（注：「Make Britain Great Again」是一本书的副标，作者是英国前副首相Nick Clegg，该书主标是「How to Stop Brexit」，写于英国脱欧时刻。）

参考链接：

https://www.politico.eu/article/rishi-sunak-ai-technology-wants-to-lead-the-world-on-ai-the-world-aint-listening/

DeepMind发现新排序算法AlphaDev

6月8日，Google旗下的DeepMind在最新研究中表示，其AI系统AlphaDev发现了排序列表的新方法，可以将排序算法提速70％。目前，新算法已经成为两个标准C++编码库的一部分，这是10多年来C++排序算法的首次更改。DeepMind开源了该算法。

AlphaDev是什么？

AlphaDev可被视作一个玩排序游戏的AlphaGo。具体训练方式是，DeepMind先将 “寻找更好的排序程序” 任务制定成一个名为「AssemblyGame」的单人游戏。在这个游戏中，玩家需要选择一系列低级汇编指令，然后将其组合起来产生一种新的高效排序算法。

接着，DeepMind训练了一个新的深度强化学习代理 「AlphaDev」来玩这个游戏，AlphaDev的内核还是擅长下棋游戏的AlphaZero，不过加上了用深度神经网络指导的搜索树技术。结果，AlphaDev从零开始地发现了几项新的小型排序算法，更新了C++ 算法库中已经用了10多年的排序算法。

从AlphaGo到AlphaDev

DeepMind的「Alpha」家族多数都与游戏相关：

AlphaGo：2016年发布，用于下围棋；

AlphaZero：2017年发布，用于掌握复杂的策略性游戏，其采用更通用的方法，最初以围棋为基础训练，随后适用于国际象棋、日本将棋等其他棋类游戏中；

AlphaStar：2019年发布，专注于实时战略游戏《星际争霸II》；

AlphaFold：2020年发布，用于蛋白质结构预测。

与AlphaGo不同，AlphaStar、AlphaZero不依赖于人类的指导或预先编写的启发式算法，而是通过自我对弈学习发现最佳策略。AlphaDev便是在AlphaZero的基础上构建，是AlphaZero的改进、扩展版本。

总之，作为Alpha家族的新成员，AlphaDev让外界再次看到了强化学习的价值——在GPT突出了深度学习的价值之后。

参考链接：

https://www.deepmind.com/blog/alphadev-discovers-faster-sorting-algorithms

开源地址：

https://reviews.llvm.org/D118029

Altman：OpenAI尚未训练GPT-5

6月8日，OpenAI CEO Sam Altman（山姆·奥特曼)在印度《经济时报(EconomicTimes)》主办的一次会议上表示，启动GPT-5训练需要很多新想法与准备工作，目前OpenAI还未训练GPT-5。

前情提要：

最早对OpenAI训练下一代GPT模型的“抗议”来自今年3月生命未来研究所（Future of Life Institute）公布的一封公开信。当时包括马斯克（Elon Musk）、辛顿（Geoffrey Hinton）、马库斯（Gary Fred Marcus）在内的1100多人都签了名，呼吁「所有AI实验室应立即暂停训练比GPT—4更强大的AI系统至少6个月」。

几周后，Altman回应称，这封信遗漏了关于需要暂停的大部分技术细节，可能无法解决AI技术发展带来的安全问题。当时，他已坚称OpenAI还没有开始训练GPT-5，而且一段时间内也不打算这样做。

为什么很多人警惕GPT-5的训练？

微软曾在研究报告中表示，GPT-4的表现已接近人类水平，且远超前一代模型。鉴于GPT-4的能力，微软将其称作通用人工智能（AGI）的早期（但仍不完整）的版本。

支持暂停训练GPT-5的人称，训练或许会对人类社会构成风险；不过，反对暂停训练的人称，让AI研究停下来，就像叫停福特市场畅销款A型车的量产。

目前，全球尚未有监管AI设计与开发的法律推出，AI风险警示成为几个月来AI公司高层频频建言的议题。不久前，Altman还提出限制AI能力发展速度、设置AI监督机构、开发确保超级智能安全的技术等3点建议降低AI风险，但他从未按照公开信要求承诺过暂停AI的进一步研发。

参考链接：

https://techcrunch.com/2023/06/07/openai-gpt5-sam-altman/

全球第一部全程用AI制作的电影来了

6月2日，人工智能初创公司Waymark发布了一部全程使用AI相关技术制作的电影《The Frost（寒霜）》，时长达12分55秒，电影中的每一帧画面均由DALL-E 2生成。

Waymark是一家怎样的公司？

Waymark成立于2013年，通过大语言模型（接入了OpenAI的GPT-3）、图像识别、语音合成、视频生成技术，为企业提供快速且成本低廉的广告片。客户只需提供企业名称和位置，Waymark的工具会从企业的网站和社交媒体账户中收集文本和图像数据，并使用OpenAI的GPT-3撰写广告脚本，再由合成的语音朗读，同时配以突出展示企业的图像。

《The Frost》是怎么制作出来的？

Waymark采用公司的执行制片人Josh Rubin所写的剧本，将其输入OpenAI的图像生成模型DALL-E 2中。随后，团队使用一种能够为静止图像添加动画效果的AI工具——D-ID对画面做了动画处理，以使眼睛眨动和嘴唇活动。

这部13分钟长的AI电影意味着什么？

目前最好的生成视频模型仍然只能生成几秒钟的视频，但这部电影长达近13分钟，且能够在需要时随时生成新镜头。不过，AI生成的动作还不够逼真，当画面切到一个男人在火边啃一块粉红色肉干的特写镜头时，他的嘴唇动作就好像在嚼自己冻僵的舌头。

你可以在这个链接中看到这部影片：

https://www.technologyreview.com/2023/06/01/1073858/surreal-ai-generative-video-changing-film/?utm_medium=tr_social&utm_campaign=site_visitor.unpaid.engagement&utm_source=Twitter

Google Cloud与Salesforce达成战略合作

6月8日，Salesforce宣布与Google Cloud达成战略合作，客户可以在Salesforce上直接访问和使用其储存在Google Cloud上的数据，同时也可以使用Google Cloud提供的人工智能服务Vertex AI构建、部署和管理机器学习模型。

Salesforce是什么机构？

Salesforce是美国最大的SaaS（Software as a service，软件即服务）平台，提供包括销售管理、客户服务、营销和应用开发等在内的SaaS软件。

不过，随着云计算平台比如Google Cloud、阿里云等平台等出现和崛起，越来越多开发者倾向于直接到这些云计算平台上开发和销售SaaS软件。Salesforce因此也于去年8月关闭了其位于香港的办公室，将中国业务转由阿里云代销。而Salesforce自身正在将自我重新定义为一个「数据公司」。

与Google Cloud的合作内容：

数据连接：Salesforce数据云与Google Cloud的数据平台实现数据的共享和交互。这意味着客户可以将存储在Google Cloud平台上的数据直接集成到Salesforce数据云中，避免了重复记录的存储成本；

AI模型整合：客户可以在Google Cloud的Vertex AI平台上构建和训练自定义的AI模型，并将这些模型带入Salesforce，与Salesforce数据一起使用。

Salesforce的AI布局

3月，Salesforce推出Einstein GPT，接入了OpenAI的GPT模型。通过Einstein GPT，客户可以直接在Salesforce CRM中使用自然语言处理、图像识别、语音助手等功能。

参考链接：

https://techcrunch.com/2023/06/07/google-cloud-and-salesforce-team-up-to-bolster-ai-offerings/

-END-

我们是一个诞生于GPT浪潮、由《第一财经》YiMagazine孵化的全新内容IP。

和每一位关心技术、关照人的命运的读者一样，我们希望在这个有史以来不确定性最高的时代，更好地理解快速变化的科技世界，也更好地理解生而为“高级智能”的我们自己。

在这个目标下，我们计划从学术、商业、伦理、监管等多个角度报道和讨论与“智能”相关的议题。请注意，我们说的是智能，不只是AI。

若想了解更多资讯，请点击阅读往期智能晚报：

智能晚报｜苹果收购AR初创公司Mira；Vision Pro被曝使用了「脑机接口」技术；OpenAI短期没有上市计划
智能晚报｜华为已申请GPT商标；与苹果合作开发Vision Pro应用，Unity股价飙升；英特尔出售部分Mobileye股权

若想了解更多头条新闻，请点击：

大公司｜苹果发布首款头显，押注下一代硬件平台
大佬说｜库克：苹果在密切跟踪大模型的相关进展

喜欢就关注我们吧，记得“设为星标”哦~

与记者交流，可添加微信（请备注公司名称和姓名）：

王杰夫 微信号: wjfsty

张司钰 微信号: helianthus351

吴洋洋 微信号: qitianjiuye

再次，喜欢就关注我们吧，记得“设为星标”