MVP Agente
Multi-Agent-Orchestrator in Python mit REST-API, Telegram- und Discord-Bots, Kurz- und Langzeitgedächtnis und austauschbarem LLM-Anbieter, ohne die Agenten zu ändern.
- Kontext und Ziel
- Ein Assistent, der über Telegram, Discord, Terminal und REST-API erreichbar ist, mit persistiertem Verlauf, relationaler Datenbank und einem Katalog an Tools (Suche, E-Mail, Bild- und Audioforensik).
- Problem
- Mehrere Kanäle und mehrere LLM-Anbieter in einem einzigen Kern vereinen, ohne die Agenten an einen bestimmten Anbieter zu koppeln, und das Gedächtnis pro Nutzer über Neustarts hinweg erhalten.
- Technologien
- pythonfastapipydanticsqlalchemypostgresqlchromadbmemcachedjwtdockerpytestreacttypescript
Eingesetzte Architektur
- telegram · discord · api
- manager
- planner
- executor
- tools registry
- llm strategy
- postgres · chromadb
Agenten
Manager führt das Gespräch und orchestriert; Planner erstellt aus dem Tool-Katalog einen Aktionsplan (JSON-Pipeline); Executor führt die angegebenen Funktionen aus.
Kanäle
Discord-Bot; Telegram-Webhook und Chat-REST-API über FastAPI, mit JWT-Authentifizierung.
LLMs (Strategy)
OpenAI, Anthropic, Google Gemini und Ollama (lokale Modelle) hinter derselben Schnittstelle.
Gedächtnis
Kurzzeit in PostgreSQL (nach Neustart neu geladen); Langzeit mit RAG in ChromaDB, nach Nutzer gefiltert; Cache in Memcached.
Tools
Registry mit Auto-Discovery: Websuche, SMTP und Benachrichtigungen mit Liste erlaubter Empfänger, Fernet-Verschlüsselung, Bildverarbeitung und Audioanalyse.
Technische Entscheidungen
Und der Trade-off hinter jeder einzelnen.
- Strategy-Pattern für LLMs: Ein Anbieterwechsel ändert die Agenten nicht.
- Dependency Injection zwischen den Agenten und eine Tool-Registry mit Auto-Discovery.
- Embeddings werden lokal von ChromaDB erzeugt (all-MiniLM-L6-v2) und funktionieren mit jedem LLM.
- ChromaDB und Memcached sind optional: Fallen sie aus, arbeitet der Agent nur mit dem jüngsten Verlauf weiter.
- Memcached dedupliziert Telegram-Webhooks und speichert die erkannte Absicht 1 Stunde lang. Das spart LLM-Aufrufe.
- E-Mail- und Benachrichtigungs-Tools sind auf explizit freigegebene Empfänger beschränkt.
Herausforderungen
Was waren die schwierigen Probleme? Was hat beim ersten Versuch nicht funktioniert?
Erreichte Ergebnisse
Gemessene Ergebnisse (Zeit, Kosten, Nutzer, Erkenntnisse). Am besten mit Zahlen.