Prompts und Kontext
Prompt Injection, indirekte Instruktionen, System-Prompt-Leaks und unsichere Kontextgrenzen.
AI Security Engineering für produktive KI-Systeme
KI-Sicherheitsberatung für LLMs, RAG und Agenten: Bettag Systems prüft Ihre Architektur, testet Angriffswege und hilft bei der Umsetzung. Franz Bettag arbeitet persönlich mit Ihrem Engineering- und Operations-Team, in der Metropolregion Nürnberg und deutschlandweit. Ziel sind überprüfbare Kontrollen und Abläufe, die Ihr Team weiterführen kann.
Was abgesichert wird
RAG und Daten
Poisoning, manipulierte Quellen, Rechteverletzungen, Datenabfluss und fehlende Herkunftsnachweise.
Tools und Agenten
Überprivilegierte Werkzeuge, unsichere Aktionsketten, fehlende Freigaben und unkontrollierte Seiteneffekte.
Betrieb
Evals, Audit Logs, Monitoring, Kostenkontrollen, Incident Response und sichere Rollouts.
Arbeitsweise
1. System verstehen
Architektur, Datenflüsse, Modelle, Retrieval, Tools, Berechtigungen und menschliche Freigabepunkte aufnehmen.
2. Angriffswege testen
Bedrohungsmodell und reproduzierbare Tests für Injection, Exfiltration, Poisoning und Tool-Missbrauch entwickeln.
3. Risiken beheben
Kontrollen implementieren oder als priorisierten, verantwortbaren Backlog übergeben.
4. Betrieb absichern
Regression-Evals, Logging, Alarmierung, Freigaben und Runbooks für den Produktivbetrieb verankern.
Ergebnis
Threat Model
Konkrete Assets, Trust Boundaries, Angreiferziele und nachvollziehbare Angriffspfade.
Security Findings
Reproduzierbare Befunde mit Risiko, Nachweis und umsetzbarer Abhilfe.
Sicherer Produktionspfad
Priorisierte Architektur- und Implementierungsmaßnahmen samt Evals und Betriebsanforderungen.
Weiterbildung und praktische Anwendung
Kursnachweise zu Claude, MCP und Agenten
Franz Bettags Anthropic-Kursabschlüsse ergänzen die praktische Arbeit an KI-Systemen. Die Zertifikatsseite zeigt die Originalurkunden; die Bug-Bounty-Fallstudie beschreibt Modellrollen, Werkzeuge und die Prüfung von Ergebnissen im eigenen System.
Von der Praxis zu Ihrem Projekt
Welche Prüfung passt zu Ihrem System?
Ein LLM Security Audit prüft Ihre KI-Anwendung, ihre Datenzugriffe und Werkzeuge. Ein externer Penetrationstest untersucht die freigegebene Angriffsfläche Ihrer Websites, APIs und Dienste. Platform Engineering schafft die Betriebsgrundlage für beides. Scope und Umsetzung stimmen wir mit den verantwortlichen Teams ab.
