Prompts und Kontext
Prompt Injection, indirekte Instruktionen, System-Prompt-Leaks und unsichere Kontextgrenzen.
AI Security Engineering für produktive KI-Systeme
Bettag Systems prüft und sichert LLM-, RAG- und Agentensysteme für technische Entscheider in der Metropolregion Nürnberg und in Deutschland. Franz Bettag arbeitet dabei selbst an Architektur, Angriffspfaden und Umsetzung.
Was abgesichert wird
RAG und Daten
Poisoning, manipulierte Quellen, Rechteverletzungen, Datenabfluss und fehlende Herkunftsnachweise.
Tools und Agenten
Überprivilegierte Werkzeuge, unsichere Aktionsketten, fehlende Freigaben und unkontrollierte Seiteneffekte.
Betrieb
Evals, Audit Logs, Monitoring, Kostenkontrollen, Incident Response und sichere Rollouts.
Arbeitsweise
1. System verstehen
Architektur, Datenflüsse, Modelle, Retrieval, Tools, Berechtigungen und menschliche Freigabepunkte aufnehmen.
2. Angriffswege testen
Bedrohungsmodell und reproduzierbare Tests für Injection, Exfiltration, Poisoning und Tool-Missbrauch entwickeln.
3. Risiken beheben
Kontrollen implementieren oder als priorisierten, verantwortbaren Backlog übergeben.
4. Betrieb absichern
Regression-Evals, Logging, Alarmierung, Freigaben und Runbooks für den Produktivbetrieb verankern.
Ergebnis
Threat Model
Konkrete Assets, Trust Boundaries, Angreiferziele und nachvollziehbare Angriffspfade.
Security Findings
Reproduzierbare Befunde mit Risiko, Nachweis und umsetzbarer Abhilfe.
Sicherer Produktionspfad
Priorisierte Architektur- und Implementierungsmaßnahmen samt Evals und Betriebsanforderungen.