MVP Agente
Orquestador multiagente en Python con API REST, bots de Telegram y Discord, memoria de corto y largo plazo y cambio de proveedor de LLM sin modificar los agentes.
- Contexto y objetivo
- Un asistente que atiende por Telegram, Discord, terminal y API REST, con historial persistido, base de datos relacional y un catálogo de herramientas (búsqueda, correo, análisis forense de imagen y audio).
- Problema
- Integrar varios canales y varios proveedores de LLM en un único núcleo, sin acoplar los agentes a un proveedor específico y manteniendo la memoria por usuario entre reinicios.
- Tecnologías
- pythonfastapipydanticsqlalchemypostgresqlchromadbmemcachedjwtdockerpytestreacttypescript
Arquitectura utilizada
- telegram · discord · api
- manager
- planner
- executor
- tools registry
- llm strategy
- postgres · chromadb
Agentes
Manager conversa y orquesta; Planner arma un plan de acción (pipeline JSON) a partir del catálogo de tools; Executor ejecuta las funciones indicadas.
Canales
Bot de Discord; webhook de Telegram y API REST de chat con FastAPI, con autenticación JWT.
LLMs (Strategy)
OpenAI, Anthropic, Google Gemini y Ollama (modelos locales) detrás de la misma interfaz.
Memoria
Corto plazo en PostgreSQL (se recarga tras un reinicio); largo plazo con RAG en ChromaDB, filtrado por usuario; caché en Memcached.
Tools
Registry con auto-discovery: búsqueda web, SMTP y notificaciones con lista de destinatarios permitidos, cifrado Fernet, procesamiento de imagen y análisis de audio.
Decisiones técnicas
Y el trade-off detrás de cada una.
- Patrón Strategy para los LLM: cambiar de proveedor no modifica los agentes.
- Inyección de dependencias entre agentes y registry de tools con auto-discovery.
- Embeddings generados localmente por ChromaDB (all-MiniLM-L6-v2), compatibles con cualquier LLM.
- ChromaDB y Memcached opcionales: si no están disponibles, el agente sigue solo con el historial reciente.
- Memcached deduplica los webhooks de Telegram y guarda la intención detectada durante 1 hora, lo que ahorra llamadas al LLM.
- Herramientas de correo y notificación restringidas a destinatarios autorizados explícitamente.
Desafíos enfrentados
¿Cuáles fueron los problemas difíciles? ¿Qué no funcionó en el primer intento?
Resultados obtenidos
Resultados medidos (tiempo, costo, usuarios, aprendizajes). Prefiere números.