AI治理必修第24刊|2023“全球十大突破性技术”!未来科技浪潮将会向何方涌动?AI统治人类还远吗?

AI治理必修-2月(上)第24刊发布！

AAIG的专家们用多学科的专业视角，每月从全球收集和筛选关于算法治理和可持续发展的全球态势。重点关注算力时代的新技术、新风险、新实践、以及对它们新解释。

2月(上)共19篇文章3896字,分【本月洞察、行业动态、前沿技术、产业实践】四个板块展开。

本月ChatGPT依然是人工智能领域乃至整个科技圈最瞩目的焦点，围绕ChatGPT会替代哪些人工工作、带来怎样的科技革命、如何避免滥用等问题，各领域专家纷纷抛出观点。从ChatGPT的应用落地来看，微软似乎已经给出了答案，其全新版本的搜索引擎必应（Bing）和浏览器 Edge，都将嵌入ChatGPT, 以提供更好的搜索、更完整的答案、全新的聊天体验和生成内容的能力。另一方面，围绕ChatGPT推广应用的安全隐患也一直被广泛关注，在全面拥抱大模型所带来的智能化升级的同时，我们也需要高度重视其安全问题，使得人工智能提升社会生产力的同时，也更加安全、可控、可靠。

点击题目即可查看全文

报告从“AI+系统”的角度，对AI三驾马车之一的算力研究现状和未来发展做了思考。分成五个主要的部分，包括AI算力及其基础设施的重要性、AI算力基础设施的架构设计、AI算力评测方法和优化等，并通过百万亿参数超大规模预训练模型加速给出了实际的例子，同时分享了如何培养系统人才的经验和成果。最后指出，人工智能算力是当前人工智能领域发展的关键，需要加快AI基础设施的构建以及系统方面人才的培养。

一、脱胎自应用于机器翻译的Transformer模型；二、被大数据训练出来的“函数模型”；三、意外出现的“涌现”功能；四、强人工智能模式的超群能力；五、令人咂舌的明显缺陷；六、创新过程一波三折，坚持是成功的秘密。

1.詹姆斯·韦伯太空望远镜；2.用于高胆固醇的CRISPR；3.制作图像的AI；4.按需器官制作；5.远程医疗堕胎药；6.改变一切的芯片设计；7.古代DNA分析；8.电池回收利用；9.必然到来的电动汽车；10.大规模生产的军用无人机。

北京市将引导企业、高校、科研院所、新型研发机构、开源社区等，围绕人工智能关键核心技术创新协同攻关,持续推动建设具有全球影响力的人工智能创新策源地。同时，支持头部企业打造对标ChatGPT的大模型，构建开源框架和通用大模型的应用生态，形成人工智能产业发展新突破。

研究者提出了一种基于多模态知识迁移的框架，通过迁移大规模图文预训练模型中的多模态知识，挖掘文本标签中的视觉一致性信息，实现了多标签的Open Vocabulary分类。

1.无需一般扩散模型复杂的推导，代之以一个简单的“沿直线生成”的思想。2.通过一个“reflow”的方法，可以实现梦想中的“一步生成”。3.我们的方法不仅可以做生成模型，还可以应用于很多更广泛的迁移学习 (比如domain transfer）任务上。

文章对现有大型语言模型生成的文本检测方法进行了全面的技术介绍。现有的方法大致可分为两类：黑盒检测和白盒检测。

1.你知道Real AI？2.《流浪地球2》 中的人工智能MOSS具有了自主意识，引起人们恐慌。人工智能会毁灭人类吗？3.人工智能安全吗？4.什么是对抗样本？5.什么是深度伪造？6.什么是第三代人工智能？7.那你理解这些知识吗？8.你如何看待人工智能未来发展？9.如何做让人工智能更加安全、可靠、可控？10.如何理解“智能想善”？

研究人员对几个语言模型进行经典的错误信念任务，来测试语言模型的心智理论发展，测试不提供任何示例或预训练。研究结果显示，语言模型的ToM在2022有了长足的进步。2022年1月推出的davinci-002解决了70%的ToM任务，表现与7岁儿童相当。而2022年11月推出的ChatGPT表现接近9岁儿童。

Meta最新论文提出的“Toolformer”思路让大型语言模型能够学会使用各种工具来补充其不足之处。通过少量的演示和自我监督学习，Toolformer可以训练出一个包含示例的数据集，最终对预先训练好的语言模型进行微调，使其可以自动使用各种工具。这一思路对于未来大型语言模型成为一切起点提供了新的思路。

深度强化学习应用广泛，但样本效率问题限制其应用。为解决该问题，可在DRL中引入归纳偏置，用于解决函数逼近器在DRL中的架构设计问题。Transformer结构作为学习范式，在RL中得到应用，可用于表征学习和处理部分可观测性问题。

1.《追AI的人》

这是一档由AAIG联合高校和产业界发起的AI治理交互栏目。重点关注分享人工智能新技术、AI治理新观点、可持续发展新风向。

1、人工智能发展对现行法律适用性的挑战；2、可信人工智能算法要素治理能力待提升；3、“用户为中心”的友好型算法治理内核；4、“有效市场”与“有为政府”合力推进；5、“多元共治+分类分级”统筹安全与创新。

报告从技术发展和产业生态、应用趋势、治理挑战等维度，对AIGC的发展趋势进行了深入思考。一、AIGC技术和产业生态，迎来发展快车道；二、AIGC在消费互联网、产业互联网和社会价值领域持续产生变革性影响；三、以可信AIGC，积极应对科技治理问题与挑战，拥抱人工智能的下一个时代；四、以可信AIGC，积极应对科技治理问题与挑战，拥抱人工智能的下一个时代。

百度计划在今年3月份推出类 ChatGPT风格的应用，一开始会将其嵌入到公司的主要搜索服务中。这一工具的名称尚未确定，但它将会让用户获得对话式的搜索结果，就像OpenAI那个流行平台一样。百度的文心（Ernie）系统，是一种经过多年数据训练的大规模机器学习模型。

微软将在未来几周内就把ChatGPT整合进必应搜索。且是最新的GPT-4版本，该版本最大的特点就是速度更快，不会像现在这样经常卡几分钟才出结果。

谷歌研究院等发表在arXiv的一篇论文中，研究者提出了一种新方法Dreamix，它受到了UniTune的启发，将文本条件视频扩散模型应用于视频编辑。核心是通过以下两种主要思路使文本条件VDM保持对输入视频的高保真度。其一不使用纯噪声作为模型初始化，而是使用原始视频的降级版本，通过缩小尺寸和添加噪声仅保留低时空信息；其二通过微调原始视频上的生成模型来进一步提升对原始视频的保真度。

奇安信人工智能研究院负责人表示，公司正在基于ChatGPT相关技术和自身积累的海量安全知识和数据，训练奇安信专有的类ChatGPT安全大模型。未来将广泛应用于安全产品开发、威胁检测、漏洞挖掘、安全运营及自动化、攻防对抗、反病毒、威胁情报分析和运营、涉网犯罪分析等领域。

在 OpenAI 技术加持下，微软更新了全新的人工智能必应搜索引擎和Edge浏览器，以提供更好的搜索、更完整的答案、全新的聊天体验和生成内容的能力。

1.百度：「文心一言」3 月见；2.华为：在大模型领域早有布局；3.腾讯：在相关方向上已有布局；4.字节跳动：当前不做过多回应；5.阿里巴巴：确实在研发中；6.京东云：将推出「产业版」ChatGPT；6.网易有道：将 AIGC 投入教育场景；7.科大讯飞：5 月进行产品级发布；8.360：正在构建 ChatGPT 安全应用。

---

直播预告

往期精彩推荐点击标题查看文章




更多人工智能治理和可持续发展好文
点击下方名片关注和星标【阿里巴巴人工智能治理与可持续发展研究中心】👇AAIG课代表，获取最新动态就找她

 关注公众号发现更多干货❤️

有启发点在看喔👇