查看原文
其他

CrewAI:适用本地大模型AI自动化协作框架

思辨view kate人不错 2024-05-19

CrewAI近期成为Github热门仓库。它是一个框架,旨在为角色扮演中的AI代理提供自动化设置。通过促进AI代理之间的合作,CrewAI使得这些代理能够共同解决复杂问题。

CrewAI非常吸引我的一点是,它既可以用OpenAI的API,也可以通过Ollama使用本地的大模型来运行程序。

https://github.com/joaomdmoura/crewAI

CrewAI的主要构建模块包括代理、任务、工具和团队。代理是具有自己的角色、背景故事、目标和记忆的专用团队成员;任务是给定代理应完成的小型、专注的任务;工具是代理使用的设备,用于高效完成任务;而团队则是代理、任务和流程相遇的容器层,在这里进行工作。

CrewAI核心特征 

1. 角色定制代理:可以根据不同的角色、目标和工具来量身定制代理。 

2. 自动任务委派:代理之间能够自主地分配任务和进行交流,有效提升解题效率。 

3. 任务管理灵活性:可以根据需要自定义任务和工具,并灵活地指派给不同代理。 

4. 流程导向:目前系统仅支持按顺序执行任务,但更加复杂的如基于共识和层级的流程正在研发中。

CrewAI案例的仓库:

https://github.com/joaomdmoura/crewAI-examples

这里以创建 Instagram 帖子来展示CrewAI的功能。

作者演示的视频

https://www.youtube.com/watch?v=lcD0nT8IVTg

这个程序实现的功能如下:

CrewAI作者给的操作步骤很简洁,在实操中,我注意到以下几点:

1. 在运行前,先安装CrewAI库

pip install crewai

2. 这个项目用到了两个很好用的API,Browseless和Serper。

需要先注册Browseless和Serper,这两个API都提供一定的免费额度。

https://www.browserless.io/
https://serper.dev/
Browseless是一个用于网络搜索的工具。它的主要功能包括作为自问自答搜索链的一部分,获取带元数据的结果,搜索Google图像、新闻和地点等。
Serper则是一个Google搜索引擎结果页面API。它允许用户快速访问实时的Google搜索结果,适用于AI聊天机器人、SEO分析等项目。
3. 需要安装Poetry,文档地址:
https://python-poetry.org/docs/

Poetry是一个Python的依赖管理和打包工具。

Poetry官方建议安装在专用的虚拟环境中,与系统其他部分隔离。

在使用pipx install poetry安装Poetry时,系统提示我要先安装pipx。

安装好Poetry后,运行py程序,系统提示我没有“unstructured”包,于是我按照下面操作。

最终我通过 poetry run python /path/to/your/script.py 成功运行了程序。

通过Poetry运行程序有好处,这里我的电脑base环境默认是3.9的python,这个项目需要3.10以上的python,它自动帮我在虚拟环境里升级使用。

今天非常火的AI硬件就是Rabbit R1,我将Rabbit的官网和部分信息复制到终端,让CrewAI来帮我创建 Instagram 帖子。

CrewAI的示例里用的是OpenHermes 2.5,我用的是dolphin-mistral:7b-v2.6-fp16。运行几分钟后,程序帮我生成了大小45k的内容。

结果是英文,我翻译成了中文。

这里只截取了最终结果内容:前3个是AI生成的instgram帖子,后3个Option是AI给出的midjourney 描述。

要是用GPT4,生成的结果肯定会好很多。

程序运行后除了最后结果,它输出的中间内容很长,我请GPT帮我解读了下。

整个过程中,Browseless后台显示调用算1次,Serper调用算5次。

这个项目包括以下关键文件。

如果我们想要把这个程序改成写小红书文章呢,执行其他策略呢?难道每一次都要自己改写吗?

CrewAI的作者是个神仙作者,他创建了一个CrewAI助手GPT。

https://chat.openai.com/g/g-qqTuUWsBY-crewai-assistant

我们可以问这个GPT这些问题:

帮助我为一个用例创建一个团队有哪些先进的CrewAI功能?我怎么能自己组建一个团队呢?给我解释一下CrewAI

部分截图:

CrewAI的核心优势在于其能够通过一个角色扮演框架实现AI代理的协同自动化,极大地提升了解决复杂问题的效率;同时,它的高度灵活性和定制能力让它能够满足多样化的业务需求。
此外,CrewAI通过自动化执行重复性任务,可以为我们解放出宝贵时间,使我们能够专注于更加创意性和策略性的工作,从而整体提升了工作生产力。
总结一下:
1. CrewAI是一个用于编排自动AI代理的框架,可以让多个代理协同工作,解决复杂问题。
2. 文章介绍了使用CrewAI来自动生成Instagram帖子的过程,包括安装配置CrewAI、Browseless和Serper API,以及运行程序生成帖子的步骤。
3. 在运行过程中,针对一些问题,如pipx、Poetry的安装,以及缺失unstructured包,给出了解决办法。
4. CrewAI的独特之处在于能够灵活定制多样的角色代理。这些代理能够独立地进行任务分配,同时支持用户自定义任务和使用工具。此外,CrewAI 助手GPT能够提供实用的帮助。
5. 本次实践展示了CrewAI在自动化生成内容方面的强大能力,以及它的灵活扩展性。这为各种内容生成项目提供了经验参考。

了解更多模型内容,请看这里:

实测在Mac上使用Ollama与AI对话的过程 - 模型选择、安装、集成使用记,从Mixtral8x7b到Yi-34B-Chat

LM Studio-简化安装和使用开源大模型 | OpenAI API 文字转语音本地运行程序分享

Ollama 现在支持安装微软发布的Phi-2模型,附安装流程

Ollama上线 Nous Hermes 2 与 Dolphin Phi 2.6 模型及 Ollama Web UI 体验分享

掌握微软Phi-2模型:从深入解析到实际安装流程

继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存