For the complete documentation index, see llms.txt. This page is also available as Markdown.

Asistente de IA LobeChat

Despliega LobeChat en Clore.ai: una interfaz de chat de IA impresionante y rica en funciones con soporte multi proveedor, base de conocimiento y plugins ejecutándose en servidores asequibles respaldados por GPU.

Descripción general

LobeChat LobeChat es un marco moderno y de código abierto para chat con IA, con más de 55 mil estrellas en GitHub, conocido por su interfaz pulida y su amplio conjunto de funciones. Es compatible prácticamente con todos los principales proveedores de LLM: OpenAI, Anthropic Claude, Google Gemini, Mistral y modelos locales mediante Ollama, todo desde una única interfaz autoalojada.

¿Por qué ejecutar LobeChat en Clore.ai?

  • No se requiere GPU — LobeChat en sí es una aplicación web ligera. Las instancias de Clore.ai solo con CPU o con GPU mínima son perfectamente suficientes para la interfaz.

  • Combínalo con LLM locales — Inicia Ollama o vLLM en el mismo servidor de Clore.ai y apunta LobeChat hacia él para una inferencia totalmente local y privada.

  • Alojamiento asequible — Una instancia básica de Clore.ai cuesta una fracción de lo que cobran los proveedores tradicionales de VPS, y puedes apagarla cuando no la uses.

  • Propiedad total de los datos — El modo de base de datos almacena todas las conversaciones, archivos y embeddings en tu propia instancia de PostgreSQL en el servidor.

LobeChat funciona en dos modos distintos:

Modo
Descripción
Ideal para

Independiente

Un solo contenedor Docker, la configuración se guarda en el navegador

Pruebas rápidas, uso personal

Base de datos

Stack completo (PostgreSQL + MinIO + autenticación + aplicación)

Equipos, historial persistente, base de conocimientos


Requisitos

Especificaciones del servidor

Componente
Mínimo
Recomendado
Notas

GPU

No se requiere

RTX 3090 (si ejecutas LLM locales)

Solo necesario para el backend Ollama/vLLM

VRAM

—

24 GB (RTX 3090)

Para la inferencia de modelos locales

CPU

2 vCPU

4+ vCPU

LobeChat en sí es ligero

RAM

2 GB

8 GB

4+ GB si usas el modo de base de datos

Almacenamiento

10 GB

50+ GB

Más si almacenas archivos cargados o modelos

Referencia de precios de Clore.ai

Tipo de servidor
Costo aprox.
Caso de uso

Instancia solo CPU

~$0.05–0.10/h

Solo LobeChat independiente

RTX 3090 (24 GB de VRAM)

$0.07–0.21/h

LobeChat + LLM locales con Ollama

RTX 4090 (24 GB de VRAM)

$0.14–0.42/h

LobeChat + inferencia local más rápida

A100 80 GB

LobeChat + modelos grandes (70B+)

💡 Consejo: Consulta Guía de comparación de GPU para más detalles.

Requisitos previos

  • Cuenta de Clore.ai con un servidor desplegado

  • Acceso SSH a tu servidor

  • Docker y Docker Compose (preinstalados en los servidores de Clore.ai)

  • Controladores NVIDIA (preinstalados; solo relevantes si usas un backend LLM local)

  • Al menos una clave API (OpenAI, Anthropic, etc.) o una instancia local de Ollama


Inicio rápido

Opción A: Modo independiente (recomendado para empezar)

El modo independiente ejecuta LobeChat como un único contenedor. La configuración y el historial de conversaciones se almacenan en el almacenamiento local del navegador; no se requiere base de datos.

Paso 1: Conéctate a tu servidor de Clore.ai

Paso 2: Descarga y ejecuta LobeChat

Paso 3: Verifica que esté en ejecución

Paso 4: Accede a la interfaz

Abre tu navegador y navega a:

⚠️ Nota de seguridad: Los servidores de Clore.ai son accesibles públicamente. Considera configurar ACCESS_CODE para proteger tu instancia con contraseña (consulta la sección de Configuración más abajo).


Opción B: Modo independiente con varios proveedores

Pasa varias claves API para admitir distintos proveedores simultáneamente:


Opción C: Con backend local de Ollama

Si tienes Ollama ejecutándose en el mismo servidor de Clore.ai (consulta Guía de Ollama):

En Linux, reemplaza host-gateway con la IP real del puente de Docker, normalmente 172.17.0.1:


Opción D: Modo de base de datos (Docker Compose)

El modo de base de datos habilita historial persistente de conversaciones, soporte multiusuario, cargas de archivos a almacenamiento compatible con S3 y una base de conocimientos completa.

Paso 1: Crea el directorio del proyecto

Paso 2: Crear docker-compose.yml

Paso 3: Inicia el stack

Paso 4: Crea el bucket de MinIO


Configuración

Referencia de variables de entorno

Variable
Descripción
Valor predeterminado

OPENAI_API_KEY

Clave API de OpenAI

—

OPENAI_PROXY_URL

Punto de conexión personalizado compatible con OpenAI

https://api.openai.com/v1

ANTHROPIC_API_KEY

Clave API de Anthropic Claude

—

GOOGLE_API_KEY

Clave API de Google Gemini

—

MISTRAL_API_KEY

Clave API de Mistral AI

—

OLLAMA_PROXY_URL

URL de la instancia local de Ollama

—

ACCESS_CODE

Contraseña para proteger la interfaz

—

DEFAULT_AGENT_CONFIG

Configuración JSON para el comportamiento predeterminado del asistente

—

FEATURE_FLAGS

Habilitar/deshabilitar funciones específicas

—

Habilitando funciones específicas

Habilitar el complemento de búsqueda web:

Habilitar texto a voz:

Establece un prompt de sistema personalizado para el agente predeterminado:

Actualizando LobeChat

Para Docker Compose:


Aceleración GPU

LobeChat en sí no no requiere GPU. Sin embargo, cuando se combina con un backend acelerado por GPU en Clore.ai, obtienes inferencia LLM local y privada:

Combinación con vLLM (inferencia de alto rendimiento)

Consulta la Guía de vLLM para la configuración completa. Integración rápida:

Uso de recursos

Backend
VRAM de GPU utilizada
Rendimiento aproximado

Ollama (Llama 3.2 3B)

~2 GB

50–80 tokens/s en 3090

Ollama (Llama 3.1 8B)

~6 GB

40–60 tokens/s en 3090

vLLM (Llama 3.1 8B)

~16 GB

80–150 tokens/s en 3090

vLLM (Llama 3.1 70B)

~80 GB

20–40 tokens/s en A100 de 80 GB


Consejos y mejores prácticas

Optimización de costos

  • Detén tu servidor cuando esté inactivo. Clore.ai cobra por hora; usa el panel para pausar las instancias que no estés usando activamente.

  • Modo independiente para uso personal. A menos que necesites soporte multiusuario o historial persistente del lado del servidor, el modo independiente evita la sobrecarga de PostgreSQL y MinIO.

  • Usa proveedores de API para modelos grandes. Enrutar las solicitudes de Claude o GPT-4 a través de APIs externas es más barato que alquilar un H100 para consultas ocasionales.

Seguridad

  • Nunca expongas LobeChat sin un ACCESS_CODE en una IP pública.

  • Considera usar un proxy inverso Nginx con HTTPS si va a ejecutarse a largo plazo.

  • Rota las claves API si sospechas de una exposición.

Rendimiento

  • Para el modo de base de datos con 10+ usuarios concurrentes, asegúrate de tener al menos 8 GB de RAM en el host.

  • MinIO rinde mejor con almacenamiento respaldado por SSD (instancias NVMe de Clore.ai).

Persistencia entre sesiones de Clore.ai

Dado que los servidores de Clore.ai pueden terminarse:

Exporta regularmente las conversaciones desde Configuración → Exportación de datos en la interfaz.


Solución de problemas

El contenedor no inicia

No se puede conectar a Ollama desde LobeChat

Errores de conexión a la base de datos (modo de base de datos)

Las imágenes/archivos no se suben (modo de base de datos)

Errores de memoria insuficiente


Lecturas adicionales

Última actualización

¿Te fue útil?