16.9K 下一代大型语言模型开源程序

Original 小苏爱编程爱技术 2023-12-13

AutoGen 下一代大型语言模型应用程序，由微软、宾夕法尼亚州立大学和华盛顿大学共同研究开发。

提供增强的LLM推理，如错误处理，多配置推理，上下文编程等。

提供具有不同复杂性的工作系统的集合。支持复杂工作流的多种对话模式。

通过可自定义和可转换的代理，开发人员可以使用AutoGen构建有关会话自治、代理数量和代理会话拓扑的各种会话模式。

🔥 特性：

多Agent会话框架

AutoGen提供了多代理会话框架作为一个高级抽象。有了这个框架，人们可以方便地构建LLM工作流。

轻松构建各种应用程序

AutoGen提供了一系列工作系统，涵盖了各种领域和复杂性的广泛应用。

增强的LLM推理和优化

AutoGen支持增强的LLM推理API，可用于提高推理性能并降低成本。

AutoGen 是一个框架，使用多个 AI 代理来开发 LLM 应用程序，这些代理可以协同解决任务。可定制，可转换，无缝地允许人类参与任何一个环节。可以在各种模式下运行。

Autogen框架图：

AutoGen 内置代理：

这里设计了一个泛型 ConversableAgent 类，这些代理能够通过交换消息来相互交谈以共同完成任务。代理可以与其他代理通信并执行操作。不同的代理在接收消息后执行的操作可能不同。两个具有代表性的子类是 AssistantAgent 和 UserProxyAgent 。

AutoGen 对话流程图：

AssistantAgent 设计为充当 AI 助手，默认使用 LLM，但不需要人工输入或代码执行。

UserProxyAgent 是用户的代理，默认情况下，在每个交互回合中，将人工输入作为代理的回复，并且还具有执行代码和调用函数的能力。

简单来说，在Autogen框架中，有两个默认的代理：用户代理（user) 和助手代理 (assistant)。

用户代理代表用户工作 (我们人类），可以独立做决定或向真正的用户请求输入。
助手代理是一个通用的AI助手，负责执行具体的任务。

这两个代理可以协同工作，构建强大的应用，如Chat GPT Plus代码解释器集成插件的增强版本。

用户代理和助手代理之间的聊天被自动化，同时允许人工干预或反馈，实现高效灵活的任务完成方式。

🍄 安装体验

前提准备

Python 版本>= 3.8，< 3.12。
准备 OpenAI Api key

1、执行命令安装：

pip install pyautogen

2、使用 Git命令clone源码到本地

git clone https://github.com/microsoft/autogen.gitcd autogen

3、修改配置文件

①在项目根目录找到 OAI_CONFIG_LIST_sample 文件

②把文件复制一份并修改文件名为 OAI_CONFIG_LIST

③填写OpenAI API密钥

// Please modify the content, remove these two lines of comment and rename this file to OAI_CONFIG_LIST to run the sample code.

// if using pyautogen v0.1.x with Azure OpenAI, please replace "base_url" with "api_base" (line 11 and line 18 below). Use "pip list" to check version of pyautogen installed.

[ { "model": "gpt-4", "api_key": "<your OpenAI API key here>" }, { "model": "gpt-3.5-turbo", "api_key": "<your OpenAI API key here>" }, { "model": "<your Azure OpenAI deployment name>", "api_key": "<your Azure OpenAI API key here>", "base_url": "<your Azure OpenAI API base here>", "api_type": "azure", "api_version": "2023-07-01-preview" }, { "model": "<your Azure OpenAI deployment name>", "api_key": "<your Azure OpenAI API key here>", "base_url": "<your Azure OpenAI API base here>", "api_type": "azure", "api_version": "2023-07-01-preview" }]

3、运行示例

python test/twoagent.py

进入人机交互模式，AutoGen 会等待用户下发指令

我们下发一个指令，如讲个笑话

如果需要退出，只需要输入 exit 即可！

官方在源码的 test 目录下提供了很多示例，大家感兴趣的可以尝试~

AutoGen 提供增强的LLM推理。多代理对话，简化了复杂LLM工作流程的编排，自动化和优化。最大限度地提高了 LLM 模型的性能，并克服它们的弱点。轻松支持各种对话模式。跨越了来自各种领域和复杂性的广泛应用。

一句话总结就是：单一的 AI 已经无法满足日益增长的需求，AutoGen 让多个 AI 代理协同工作，共同完成复杂的任务。

最后贴上官网的链接：

开源地址：

https://github.com/microsoft/autogen

开发手册：