AI治理必修第25刊|AI系统未来如何发展?AGI比想象中来得更快!CV引入强化学习，网友:视觉RLHF要来了?

AI治理必修-2月(下)第25刊发布！

AAIG的专家们用多学科的专业视角，每月从全球收集和筛选关于算法治理和可持续发展的全球态势。重点关注算力时代的新技术、新风险、新实践、以及对它们新解释。

2月(下)共17篇文章3299字,分【本月洞察、行业动态、前沿技术、产业实践】四个板块展开。

随着ChatGPT与AIGC持续出圈，数据驱动，特别是高质量、多任务多域的指令微调数据，成为复刻乃至超越ChatGPT的核心壁垒之一。ChatGPT强大的ICL学习能力，使其具备了使用外部API的能力，例如搜索引擎、机器人API等，为LLM在复杂场景中的应用及成为基础设施的核心大脑提供了更多可能性。

学术界和工业界也不断优化大模型预训练、领域应用、可控性、安全性和部署效率，进一步降低大模型的训练和推理壁垒。OpenAI作为AGI的先驱，不仅提出了AGI的新理念：让人类/社会与AI共同进化，而且还构建了Foundry，为第三方公司提供强大的基础模型能力，探索基础模型商业化的可能性。

点击题目即可查看全文

该内容阐述了加强基础研究、构建重大科技基础设施、推进国产化攻坚战、培养高水平人才等方面的重要措施。这些措施旨在加强基础研究、提高科技创新能力和竞争力，为国家发展提供坚实的科技支撑。

大型语言模型对美国国家安全具有深远影响，包括信息格局和军事优势。LLMs的数据和训练基础决定其质量，但也存在“幻觉”风险。未来，需要考虑AI对抗AI和黑匣子问题。解决这些问题需要政策制定者和技术专家密切合作。

数字技术是当前中国高新技术领域的重要组成部分，互联网平台企业的发展对于中国数字经济的快速增长起到了积极作用。人工智能的进步给很多领域带来了机遇，但仍需要与行业经验相结合。ChatGPT的诞生标志着预训练大模型可商用化，但应用仍有限制。

文章梳理了ChatGPT的行为方式是如何被塑造的，以及OpenAI计划如何改进该行为方式、允许更多的系统定制和获取公众对决策的参与。最后，OpenAI提出了三个建设性目标：改进默认行为、定义AI的价值以及公众对默认设置和硬性界限的参与。

FlexGen，这是一种用于运行有限 GPU 内存的 LLM 的高吞吐量生成引擎。通过聚合来自 GPU、CPU 和磁盘的内存和计算，可以在各种硬件资源限制下灵活配置。目前，该技术已经放出代码，获得了几千Star量。

规模小了十几倍的LLaMA-13B，在大多数基准上都超过了OpenAI的GPT-3（175B），以及自家复现的开源模型OPT。而LLaMA-65B则与DeepMind 700亿参数的Chinchilla-70B和谷歌5400亿参数的PaLM-540B旗鼓相当。

他们认为要通过部署功能较弱的技术版本来不断学习和适应，以最大程度地减少风险。他们还提出了采用渐进的方式让社会和AI共同进化，并在风险相对较低的情况下共同弄清楚自身所需。

中毒攻击可以在模型行为中引入针对性错误，而分割视图数据中毒和Frontrunning数据中毒是两种新的攻击方式。这些攻击方法可以通过利用网络规模数据集中的数据不同或流行的数据集中的恶意修改来实现。

李笛指出，大模型的逻辑能力是一个关键问题，它可以是大模型的双刃剑，因为一旦失控，只会让大模型更难落地。李笛提到了小冰链，这是一个大语言模型，使用了思维链能力，但它的模型大小和功能比GPT系列的大模型要小得多，更透明、更灵活。

Yann LeCun提出增强语言模型(ALM)新研究方向，解决传统LM局限性问题。ALM利用启发式方法、外部模块等增强措施，学习推理、使用工具、行动等，扩展上下文处理能力，执行标准自然语言任务，性能超过大多数常规LM。

1.《追AI的人》

这是一档由AAIG联合高校和产业界发起的AI治理交互栏目。重点关注分享人工智能新技术、AI治理新观点、可持续发展新风向。

1.ChatGPT是如何长成并长大的，介绍其基本原理和实现；2. ChatGPT可能存在哪些科技伦理道德风险？3. 我们如何更好应用实践，驾驭其为人类服务？4. ChatGPT作为编程界的Python，未来如何与已有的系统融合，并实现垂直场景的应用？

该模型可以支持多种形式作为输入，如文字描述作为全局信息、深度图和草图作为局部引导、颜色直方图为低级细节等。在保证生成图像可控的基础上，作为一个通用框架，该模型还能不用再训练就可以完成大量经典生成任务。

网易智企和百度合作，成为文心一言生态合作伙伴，接入文心一言的全面能力，以及百度领先的智能对话技术，强化竞争力，打造全场景的人工智能解决方案及服务，帮助企业软件服务的全场景落地，为产业带来真正的AI普惠。

《逆水寒》手游官方就宣布，将在游戏中实装游戏版“ChatGPT”，让玩家和NPC实现自由对话。该功能可以实现通过GPT识别玩家对话，并让NPC做出相应的对话、文字、表情、镜头等内容的自由生存，其中不少内容还会与NPC好感、信息、玩法以及奇遇关联，实现真正的会呼吸的江湖。

介绍了他们正在将ChatGPT应用于机器人上的研究成果。论文提出了一套新的设计原则，通过ChatGPT为机器人提供指令，从而加快机器人的开发速度，并帮助用户更容易地与机器人交互。这场机器人系统的开发革命即将到来，其中的关键难题就是教ChatGPT如何使用物理定律、操作环境的背景以及了解机器人的物理行为如何改变世界状态，并以此来解决指定的任务。

论文中证明了，使用REINFORCE 算法来调整具有奖励函数的预训练模型可以开箱即用地用于各种计算机视觉任务。其实许多关于强化学习任务的研究都会提及 Williams的REINFORCE 算法，可见这个算法的重要性。

OpenAI通过Foundry给客户提供定制的Model instance，每个实例有专属的计算单元，根据用户要求提供特定的模型能力，搭配OpenAI的模型构建仪表板和版本控制，让客户可以更好的使用该模型，但运行成本不菲，一年期的起价高达26万4千美元。

---

往期精彩推荐点击标题查看文章




更多人工智能治理和可持续发展好文
点击下方名片关注和星标【阿里巴巴人工智能治理与可持续发展研究中心】👇AAIG课代表，获取最新动态就找她

 关注公众号发现更多干货❤️

有启发点在看喔👇