MVP Agente
Orquestrador multi-agentes em Python com API REST, bots de Telegram e Discord, memória de curto e longo prazo e troca de provedor de LLM sem alterar os agentes.
- Contexto e objetivo
- Um assistente que atende pelo Telegram, Discord, terminal e API REST, com histórico persistido, banco relacional e um catálogo de ferramentas (busca, e-mail, forense de imagem e áudio).
- Problema
- Integrar vários canais e vários provedores de LLM num único núcleo, sem acoplar os agentes a um provedor específico e mantendo memória por usuário entre reinícios.
- Tecnologias
- pythonfastapipydanticsqlalchemypostgresqlchromadbmemcachedjwtdockerpytestreacttypescript
Arquitetura utilizada
- telegram · discord · api
- manager
- planner
- executor
- tools registry
- llm strategy
- postgres · chromadb
Agentes
Manager conversa e orquestra; Planner monta um plano de ação (pipeline JSON) a partir do catálogo de tools; Executor executa as funções indicadas.
Canais
Bot do Discord; webhook do Telegram e API REST de chat via FastAPI, com autenticação JWT.
LLMs (Strategy)
OpenAI, Anthropic, Google Gemini e Ollama (modelos locais) atrás da mesma interface.
Memória
Curto prazo no PostgreSQL (recarregado após restart); longo prazo com RAG no ChromaDB, filtrado por usuário; cache no Memcached.
Tools
Registry com auto-discovery: busca web, SMTP e notificações com lista de destinatários permitidos, criptografia Fernet, processamento de imagem e análise de áudio.
Decisões técnicas
E o trade-off por trás de cada uma.
- Padrão Strategy para LLMs: trocar de provedor não altera os agentes.
- Injeção de dependências entre agentes e registry de tools com auto-discovery.
- Embeddings gerados localmente pelo ChromaDB (all-MiniLM-L6-v2), funcionando com qualquer LLM.
- ChromaDB e Memcached opcionais: fora do ar, o agente segue só com o histórico recente.
- Memcached deduplica webhooks do Telegram e guarda a intenção detectada por 1 hora, economizando chamadas de LLM.
- Ferramentas de e-mail e notificação restritas a destinatários explicitamente liberados.
Desafios enfrentados
Quais foram os problemas difíceis? O que não funcionou na primeira tentativa?
Resultados alcançados
Resultados medidos (tempo, custo, usuários, aprendizados). Prefira números.