CrewAI:适用本地大模型AI自动化协作框架
CrewAI近期成为Github热门仓库。它是一个框架,旨在为角色扮演中的AI代理提供自动化设置。通过促进AI代理之间的合作,CrewAI使得这些代理能够共同解决复杂问题。
CrewAI非常吸引我的一点是,它既可以用OpenAI的API,也可以通过Ollama使用本地的大模型来运行程序。
https://github.com/joaomdmoura/crewAI
CrewAI的主要构建模块包括代理、任务、工具和团队。代理是具有自己的角色、背景故事、目标和记忆的专用团队成员;任务是给定代理应完成的小型、专注的任务;工具是代理使用的设备,用于高效完成任务;而团队则是代理、任务和流程相遇的容器层,在这里进行工作。
CrewAI核心特征
1. 角色定制代理:可以根据不同的角色、目标和工具来量身定制代理。
2. 自动任务委派:代理之间能够自主地分配任务和进行交流,有效提升解题效率。
3. 任务管理灵活性:可以根据需要自定义任务和工具,并灵活地指派给不同代理。
4. 流程导向:目前系统仅支持按顺序执行任务,但更加复杂的如基于共识和层级的流程正在研发中。
CrewAI案例的仓库:
https://github.com/joaomdmoura/crewAI-examples
这里以创建 Instagram 帖子来展示CrewAI的功能。
作者演示的视频
https://www.youtube.com/watch?v=lcD0nT8IVTg
这个程序实现的功能如下:
CrewAI作者给的操作步骤很简洁,在实操中,我注意到以下几点:
1. 在运行前,先安装CrewAI库
pip install crewai
2. 这个项目用到了两个很好用的API,Browseless和Serper。
需要先注册Browseless和Serper,这两个API都提供一定的免费额度。
https://www.browserless.io/
https://serper.dev/
https://python-poetry.org/docs/
Poetry是一个Python的依赖管理和打包工具。
Poetry官方建议安装在专用的虚拟环境中,与系统其他部分隔离。
在使用pipx install poetry安装Poetry时,系统提示我要先安装pipx。
安装好Poetry后,运行py程序,系统提示我没有“unstructured”包,于是我按照下面操作。
最终我通过 poetry run python /path/to/your/script.py 成功运行了程序。
通过Poetry运行程序有好处,这里我的电脑base环境默认是3.9的python,这个项目需要3.10以上的python,它自动帮我在虚拟环境里升级使用。
今天非常火的AI硬件就是Rabbit R1,我将Rabbit的官网和部分信息复制到终端,让CrewAI来帮我创建 Instagram 帖子。
CrewAI的示例里用的是OpenHermes 2.5,我用的是
生成结果是英文,我翻译成了中文。
这里只截取了最终结果内容:前3个是AI生成的instgram帖子,后3个Option是AI给出的midjourney 描述。
要是用GPT4,生成的结果肯定会好很多。
程序运行后除了最后结果,它输出的中间内容很长,我请GPT帮我解读了下。
整个过程中,Browseless后台显示调用算1次,Serper调用算5次。
这个项目包括以下关键文件。
如果我们想要把这个程序改成写小红书文章呢,执行其他策略呢?难道每一次都要自己改写吗?
CrewAI的作者是个神仙作者,他创建了一个CrewAI助手GPT。
https://chat.openai.com/g/g-qqTuUWsBY-crewai-assistant
我们可以问这个GPT这些问题:
帮助我为一个用例创建一个团队有哪些先进的CrewAI功能?我怎么能自己组建一个团队呢?给我解释一下CrewAI
部分截图:
了解更多模型内容,请看这里:
实测在Mac上使用Ollama与AI对话的过程 - 模型选择、安装、集成使用记,从Mixtral8x7b到Yi-34B-Chat
LM Studio-简化安装和使用开源大模型 | OpenAI API 文字转语音本地运行程序分享
Ollama 现在支持安装微软发布的Phi-2模型,附安装流程
Ollama上线 Nous Hermes 2 与 Dolphin Phi 2.6 模型及 Ollama Web UI 体验分享