Aquila — Elixir-Bibliothek für LLM-Orchestrierung

Aquila ist Franz Bettags Open-Source-Bibliothek für Elixir, die OpenAI Responses- und Chat-Completions-APIs orchestriert, mit Tool-Kontext-Callbacks, Streaming-Sinks für Prozesse und LiveView sowie deterministischem Record/Replay für Tests.

Problem

Ausgangslage

Produktive LLM-Integrationen in Elixir/Phoenix brauchen eine gemeinsame Abstraktion für Responses- und Chat-Completions-APIs, Tool-Aufrufe mit eigenem Kontext, Streaming in Prozesse und LiveView sowie reproduzierbare Tests ohne Live-API-Aufrufe.

Rolle

Franz Bettags Rolle

Autor und Maintainer der Bibliothek.

Architektur und Arbeitsweise

Orchestrierung

Responses- und Chat-Completions-Orchestrierung mit Tool-Kontext-Callbacks.

Streaming

Streaming-Sinks für Elixir-Prozesse und Phoenix LiveView.

Deterministische Tests

Record/Replay-Kassetten erlauben reproduzierbare Tests ohne Live-API-Aufrufe, ergänzt um Telemetry für Beobachtbarkeit.

Ergebnisse und Grenzen

Was belegt ist

Die Record/Replay-Kassetten sind reproduzierbare Zuverlässigkeits- und Korrektheitstests, keine Performance-Benchmarks. Es liegen keine gemessenen Kundenwerte zu Latenz oder Kosteneinsparung vor.

Vollständiges Anwendungsbeispiel

examples/support_assistant führt einen vollständigen Tool- und Streaming-Ablauf offline aus. Prüfung am 5. September 2026: 432 Bibliothekstests bestanden, 15 Live-Tests ausgeschlossen, 82,6 % Testabdeckung; zusätzlich drei bestandene Beispieltests. Das Beispiel ist kein Kundensystem.

Belege

Quellen und Status

Quellcode, Paket, Dokumentation und öffentlich konfigurierte CI. Der aktuelle CI-Status ist über den Link einsehbar und wurde für diese Seite nicht manuell verifiziert.