CrewAI 多智能体框架
在 Clore.ai 上部署 CrewAI——使用任意 LLM 提供商编排角色扮演式自主 AI 智能体团队,以完成复杂的多步骤任务。
概览
CrewAI 是一个用于编排的前沿框架 扮演角色的自主 AI 智能体,拥有 44K+ GitHub 星标。不同于单智能体系统,CrewAI 让你定义专门化的智能体(研究员、写作者、程序员、分析师……),它们作为一个“团队”协作完成复杂任务——每个智能体都有自己的角色、目标、背景故事和工具包。
在 Clore.ai,CrewAI 只需在 Docker 化环境中部署,成本低至 $0.05–0.20/小时。虽然 CrewAI 本身依赖 CPU(它负责协调 API 调用),但将它与同一 GPU 节点上的本地 Ollama 或 vLLM 服务器结合使用,你就能获得一个完全私有、可离线运行的多智能体系统。
主要能力:
👥 多智能体团队 — 定义具备角色、目标和背景故事的智能体人格
🎯 任务委派 — 管理智能体自动将任务分配给合适的专家
🛠️ 工具生态 — 网络搜索、文件读写、代码执行、数据库访问、自定义工具
🔁 顺序与并行 — 按顺序执行任务,或同时运行彼此独立的任务
🧠 智能体记忆 — 短期、长期、实体和上下文记忆类型
🔌 与 LLM 无关 — 可与 OpenAI、Anthropic、Google、Ollama、Groq、Azure 等一起使用
📊 CrewAI Studio — 无需代码即可构建团队的可视化界面(企业版)
🚀 流水线 — 将多个团队串联起来,构建复杂的多阶段工作流
需求
CrewAI 是一个 Python 库。它运行在 CPU 上,只需要系统中的 Python 3.10+ 环境或 Docker。GPU 是可选的,但可解锁强大的本地模型推理能力。
极小 (云端 API)
无 / CPU
—
2 GB
10 GB
约 $0.03/小时(CPU)
标准
无 / CPU
—
4 GB
20 GB
约 $0.05/小时
+ 本地 LLM(小型)
RTX 3080
10 GB
8 GB
40 GB
$0.05–0.19/小时
+ 本地 LLM(大型)
RTX 3090 / 4090
24 GB
16 GB
60 GB
$0.07–0.21/小时
API 密钥
CrewAI 可与大多数主流 LLM 提供商配合使用。你至少需要其中一个:
OpenAI — GPT-4o(复杂任务中推理表现最佳)
Anthropic — Claude 3.5 Sonnet(非常适合大量写作的团队)
Groq — 免费层,推理速度快(Llama 3 70B)
Ollama — 完全本地,无需 API 密钥(见 GPU 加速)
快速开始
1. 租用一台 Clore.ai 服务器
登录到 clore.ai:
仅 CPU 如果使用云端 LLM API
RTX 3090/4090 用于本地 Ollama 推理
已启用 SSH 访问
CLI 使用不需要特殊端口要求(仅在使用 Web UI 时暴露端口)
2. 连接并准备
3. 选项 A — 直接使用 pip 安装(最快)
4. 选项 B — Docker 容器(推荐用于保证可复现性)
5. 创建你的第一个团队
配置
项目结构(来自 crewai create)
agents.yaml — 定义你的智能体
tasks.yaml — 定义任务
crew.py — 组装团队
使用 Docker Compose 运行(配合 Ollama)
GPU 加速
CrewAI 本身不使用 GPU——但它调用的 LLM 会使用。请在同一台 Clore 服务器上运行 Ollama 或 vLLM,以获得 GPU 加速的本地推理。
Ollama 设置(为便捷性推荐)
按智能体配置 CrewAI 的 LLM
智能体任务的模型推荐
研究 + 网络搜索
Llama 3.1 70B
40 GB
最佳本地推理
代码生成
Codestral 22B
13 GB
代码专用
写作
Llama 3.1 8B
6 GB
速度快、质量高
复杂编排
GPT-4o(API)
—
整体最佳
嵌入/记忆
nomic-embed-text
< 1 GB
记忆所需
参见 Clore.ai 上的 Ollama 以及 Clore.ai 上的 vLLM 以获取完整推理设置指南。
提示与最佳实践
成本优化
将团队作为持久化服务运行
有用的内置 CrewAI 工具
实现 human-in-the-loop
故障排查
"openai.AuthenticationError" 即使密钥有效
Agent 卡在推理循环中
CrewAI 工具失败(SerperDevTool 403)
内存错误(ChromaDB / embeddings)
Docker 构建因 ARM/x86 不匹配而失败
来自 LLM API 的速率限制
延伸阅读
最后更新于
这有帮助吗?