MVP Agente

Multi-Agent-Orchestrator in Python mit REST-API, Telegram- und Discord-Bots, Kurz- und Langzeitgedächtnis und austauschbarem LLM-Anbieter, ohne die Agenten zu ändern.

MVP in aktiver Entwicklung · MIT-LizenzMulti-Agent-System · LLM2026
Kontext und Ziel
Ein Assistent, der über Telegram, Discord, Terminal und REST-API erreichbar ist, mit persistiertem Verlauf, relationaler Datenbank und einem Katalog an Tools (Suche, E-Mail, Bild- und Audioforensik).
Problem
Mehrere Kanäle und mehrere LLM-Anbieter in einem einzigen Kern vereinen, ohne die Agenten an einen bestimmten Anbieter zu koppeln, und das Gedächtnis pro Nutzer über Neustarts hinweg erhalten.
Technologien
pythonfastapipydanticsqlalchemypostgresqlchromadbmemcachedjwtdockerpytestreacttypescript
01 / Architektur

Eingesetzte Architektur

  1. telegram · discord · api
  2. manager
  3. planner
  4. executor
  5. tools registry
  6. llm strategy
  7. postgres · chromadb
telegram · discord · api → managermanager → plannerplanner → executorexecutor → tools registrymanager → llm strategymanager → postgres · chromadb

Agenten

Manager führt das Gespräch und orchestriert; Planner erstellt aus dem Tool-Katalog einen Aktionsplan (JSON-Pipeline); Executor führt die angegebenen Funktionen aus.

Kanäle

Discord-Bot; Telegram-Webhook und Chat-REST-API über FastAPI, mit JWT-Authentifizierung.

LLMs (Strategy)

OpenAI, Anthropic, Google Gemini und Ollama (lokale Modelle) hinter derselben Schnittstelle.

Gedächtnis

Kurzzeit in PostgreSQL (nach Neustart neu geladen); Langzeit mit RAG in ChromaDB, nach Nutzer gefiltert; Cache in Memcached.

Tools

Registry mit Auto-Discovery: Websuche, SMTP und Benachrichtigungen mit Liste erlaubter Empfänger, Fernet-Verschlüsselung, Bildverarbeitung und Audioanalyse.

02 / Entscheidungen

Technische Entscheidungen

Und der Trade-off hinter jeder einzelnen.

  • Strategy-Pattern für LLMs: Ein Anbieterwechsel ändert die Agenten nicht.
  • Dependency Injection zwischen den Agenten und eine Tool-Registry mit Auto-Discovery.
  • Embeddings werden lokal von ChromaDB erzeugt (all-MiniLM-L6-v2) und funktionieren mit jedem LLM.
  • ChromaDB und Memcached sind optional: Fallen sie aus, arbeitet der Agent nur mit dem jüngsten Verlauf weiter.
  • Memcached dedupliziert Telegram-Webhooks und speichert die erkannte Absicht 1 Stunde lang. Das spart LLM-Aufrufe.
  • E-Mail- und Benachrichtigungs-Tools sind auf explizit freigegebene Empfänger beschränkt.
03 / Herausforderungen

Herausforderungen

Noch offen

Was waren die schwierigen Probleme? Was hat beim ersten Versuch nicht funktioniert?

04 / Ergebnisse

Erreichte Ergebnisse

Noch offen

Gemessene Ergebnisse (Zeit, Kosten, Nutzer, Erkenntnisse). Am besten mit Zahlen.