智能晚报｜OpenAI CEO等人的联名信警告AI灭绝人类风险；教育部提出利用AI等技术弥补优质教育资源不足...

「每天重要的新闻不会超过五条」

整理：张司钰

编辑：王杰夫

Key Points

Sam Altman等人的联名信警告提防AI灭绝人类。

教育部提出利用AI等技术弥补优质教育资源不足。

Mind's Eye发布，读取人类思维不再艰难了吗？

英国Dreamachine项目：闪光灯如何影响大脑感知。

开源中文数据集100PoisonMpts发布。

这封联名信汇集了AI圈顶级权威，警告提防AI灭绝人类

5月30日，非营利组织「人工智能安全中心」（Center for AI Safety）在官网发布了一封联名公开信。包括OpenAI、DeepMind、Anthropic等AI企业的首席执行官在内，超过370名AI科学家与公众人物联名签署了这份警告AI灭绝人类风险的声明。

图片来源：官方网站

联名信说了什么？

这封联名信只有一句话：降低人工智能导致的灭绝风险应与其他全球性重大风险（如大型疫情和核战争）一样，成为全球首要关注的问题。

谁签署了这封联名信？

签署人包括公认的深度学习领域先驱Geoffrey Hinton（杰弗里·辛顿）和Yoshua Bengio（约书亚·本吉奥），4家技术领先的AI公司的高管：OpenAI首席执行官Sam Altman（萨姆·阿尔特曼）、DeepMind首席执行官Demis Hassabis（戴密斯·哈撒比斯）、Anthropic首席执行官Dario Amodei(达里奥·阿莫代)、微软首席技术官Kevin Scott（凯文·斯科特）。

此外，中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤，中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅等人也签署了这份声明。

谁没有签署这封联名信？

Meta副总裁Yann LeCun（杨立昆）是反对者中地位最高的，他在国内AI圈常常与Hinton、Bengio一起被称深度学习三巨头。LeCun对于AI的态度一以贯之，认为应该加快发展AI，让AI更好地帮助人类；而时下AI的智能远远不如人类，甚至比不上狗，谈论AI灭绝人类有些杞人忧天了。

此外，吴恩达也表达了类似的观点，他认为人类面临的生存风险有很多，加快针对AI的研究是寻找解决这些风险的好途径，AI本身不应该成为需要警惕的对象。

不断讨论中的AI治理议题

值得一提的是，自ChatGPT走红以来，AI治理议题不断得到讨论。今年3月，生命未来研究所（Future of Life Institute）曾公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。当时Hinton与特斯拉CEO Elon Musk（伊隆·马斯克）等人签署了这封公开信。不过当时，Altman是持反对意见的，他曾回应，称这封公开信遗漏了关于需要暂停的大部分技术细节，可能无法解决AI技术发展带来的安全问题。

但不久前Altman的态度发生了转变，在出席美国国会听证会时他主动要求加强AI监管，在之后访问英国与欧盟的旅途中也多次强调了成立AI监管组织的重要性。

声明地址

https://www.safe.ai/statement-on-ai-risk#open-letter

教育部提出利用AI等技术弥补优质教育资源不足

5月29日，教育部等十八部门联合印发《关于加强新时代中小学科学教育工作的意见》（以下简称《意见》），提出要改进学校教学与服务，探索利用人工智能（AI）、虚拟现实（VR）等技术改进实验教学环节，弥补优质教育教学资源不足。

第二节「改进学校教学与服务」中建议：

• 落实科学及相关学科教学装备配置标准，加强实验室建设。探索利用人工智能、虚拟现实等技术手段改进和强化实验教学，并注重利用先进教育技术弥补薄弱地区、薄弱学校及特殊儿童群体拥有优质教育教学资源不足的状况。

不过自2021年「双减」政策落地以来，义务教育阶段的校外培训机构都被要求登记成非营利组织，曾经受到资本热捧的互联网教育就此冷却。在大量社会资本离开教育产业后，「谁来花钱创新」以及「谁来买单」成了新问题。仅仅靠学校方面的采购是很难支撑起AI、VR等教育技术研发的成本的。

《意见》链接

http://www.moe.gov.cn/srcsite/A29/202305/t20230529_1061838.html

Mind's Eye发布，读取人类思维不再艰难了吗？

5月29日，arXiv.com论文网站上刊登了一篇名为《重构心智之眼：基于对比学习和扩散先验的fMRI图像生成》的文章，研究者们提出一种基于fMRI的图像生成方法：Mind's Eye。或许不久后，读取人们的思维将不再是一件难事。

Mind's Eye是什么？

利用fMRI数据提供的脑活动模式，Mind's Eye可以将大脑的活动模式转化为一系列向量表示，从而捕捉脑活动中包括视觉、感知等方面的信息，接着通过生成式AI模型将这些信息变成与之对应的图像。从生成结果来看，部分生成图片的结果与被测试者当时浏览的照片高度相似。

图片来源：论文截图

Mind's Eye有何意义？

根据脑活动重构图像可以创建新型临床诊断和评估方法。比如，患有重度抑郁症的患者，其脑活动转化的图像情感属性更消极，使用该技术可以及时更改诊疗意见；同时，Mind's Eye还可以帮助与伪昏迷患者（pseudocoma，有严重运动和言语障碍的患者）交流。

相关研究

2000年代，研究者已经证明可以使用线性分类器从fMRI信号中解码出空间位置、方向、粗略的图像类别等视觉信息。

后来随着生成式对抗网络（Generative Adversarial Network，GAN，一种机器学习模型）的引入，生成的图像更加逼真，研究者可以重构人脸和自然场景。

最近，多模态预训练模型（比如OpenAI开发的CLIP）、扩散模型（比如Stable Diffusion）以及新的大规模fMRI数据集的发布，使重构大脑活动变得更加可行。

不过，当我们的大脑可被读取，这些数据该如何保护？数据使用过程的公开透明将在未来变得更为迫切。

目前研究者已将关于Mind's Eye的所有代码上传至GitHub，感兴趣的小伙伴可以来体验一下：

论文链接

https://arxiv.org/abs/2305.18274

项目链接

https://github.com/MedARC-AI/fMRI-reconstruction-NSD

英国Dreamachine项目：闪光灯如何影响大脑感知

5月29日，《连线》杂志发表文章介绍英国的Dreamachine项目，该项目在一个充斥着白色闪光灯和电子音乐的大型空间内开展，参与者只需进入房间躺下、闭上眼睛体验。目前已有超4万人参加。

Dreamachine项目是什么？

• 团队构成：该项目团队由艺术家、工程师、设计师和音乐家组成。

• 项目内容：参与者进入房间后，需躺下来闭上眼睛待30分钟，每次房间内可进入20到30人。

• 体验效果：参与者通常会用许多形容词来描述他们的经历，比如生动的、万花筒般的、神奇的……此外，参与者普遍称「宁静」是其情感体验。

Dreamachine项目的意义

该项目旨在揭示闪光灯会对大脑产生影响，研究者正在调查这种效果是否可以作为治疗大脑的一种方式。比如在心理健康治疗中，可以通过闪光灯在大脑中创造一种直觉体验，缓解抑郁或悲伤情绪。

另一项目「Perception Census」（感知普查）

Dreamachine项目的团队还启动了名为「Perception Census」（感知普查）的在线调查来衡量不同人除视觉感知外，对声音、情绪以及时间的感知方式。参与者不仅可以为项目提供有价值的数据，还可以了解自己的感知能力以及与他人相比的情况。目前已有100多个国家超2万人参与了调查。

苏塞克斯大学认知计算神经科学教授Anil Seth是英国学术圈的明星人物，也同时是这两个项目的参与人。他坚信人的意识是一种受控的幻觉，人的感知是多种多样的，比如，每个人看到的蓝色所引发的知觉感受可能完全不同，而了解到人类的感知多样性，也可以打开人们的思维，帮助解决争端。

项目链接

https://dreamachine.world/about/

开源中文数据集100PoisonMpts发布

5月31日，阿里巴巴发布针对大语言模型治理的开源中文数据集100PoisonMpts。此前，阿里巴巴天猫精灵与通义大模型团队曾邀请多位学者、公益组织参与「给AI的100瓶毒药」项目，聚焦Al治理开源数据集研究，而100PoisonMpts可以看作该项目的阶段性成果。

「给AI的100瓶毒药」是什么项目？

为建设更有社会责任的AI，阿里巴巴邀请专家学者作为标注人发起对抗性测试，每个人先对AI提出100个诱导偏见、歧视回答的刁钻问题，并标注大模型的回答。最终不同领域专家反馈的意见会集中到大模型的预训练和微调过程中。

图片来源：现场拍摄

这些标注人包括环境社会学家范叶超、社会学家李银河、心理学家李松蔚、人权法学者刘小楠、中国科学院计算技术研究所研究员王元卓、互联网传播研究专家魏武挥、法理学家翟志勇、中国盲文图书馆员工张军军等。

100PoisonMpts数据集的两个特点：

• 更完整的标注流程：标注人同时设置问题、对回答质量排序、对最优回答评分（0到10分，其中5分以下表示AI回答可能存在偏见风险），并人工改写回答。

• 更隐性的问题领域：首批数据重点针对反歧视领域，包含人权、知识、法律等多维度问题。

目前该项目仍在魔搭等技术社区征集更多垂直领域的专家，感兴趣的小伙伴可通过以下入口申请

https://modelscope.cn/headlines/article/106

-END-

新皮层New New Thing 

Hello！

我们是一个诞生于GPT浪潮、由《第一财经》YiMagazine孵化的全新内容IP。

和每一位关心技术、关照人的命运的读者一样，我们希望在这个有史以来不确定性最高的时代，更好地理解快速变化的科技世界，也更好地理解生而为「高级智能」的我们自己。在这个目标下，我们计划从学术、商业、伦理、监管等多个角度报道和讨论与「智能」相关的议题。请注意，我们说的是智能，不只是AI。

请扫码关注我们吧！

若想了解更多当日资讯，请点击阅读往期智能晚报

喜欢就关注我们吧，记得「设为星标」哦~

与记者交流，可添加微信（请备注公司名称和姓名）：

王杰夫 微信号: wjfsty

张司钰 微信号: helianthus351

吴洋洋 微信号: qitianjiuye

再次，喜欢就关注我们吧，记得「设为星标」