KI-Sicherheit: Penetrationstests für Chatbots, RAG und KI-Agenten
Ein Chatbot, der Kundendaten verrät, oder ein Agent, der auf eine präparierte Mail hin handelt, ist kein Zukunftsszenario. Wir testen Ihre KI-Anwendung, bevor es jemand anders tut.
- Für
- Chatbots, RAG, KI-Agenten, eigene Modelle
- Prüft
- Prompt Injection, Datenabfluss, Tool-Missbrauch
- Ergebnis
- Reproduzierbare Testfälle, Bericht, Nachtest
- Bezug
- AI Act und DSGVO
/ Angriffe
Typische Angriffe
Was wir an Ihrer KI-Anwendung ausprobieren, bevor es jemand anders tut.
- Prompt Injection, direkt im Chat oder versteckt in Dokumenten, Webseiten und Mails
- Datenabfluss: Systemanweisungen, interne Dokumente und personenbezogene Daten
- Tool- und Agenten-Missbrauch: Aktionen, die ein Nutzer nicht auslösen dürfte
- Vergiftete Wissensbasen in RAG-Systemen
- Manipulierte Modelle: Hintertüren in heruntergeladenen Gewichten und der Lieferkette
- Klassische Lücken drumherum: APIs, Berechtigungen und Inferenz-Server
/ Erfahrung
Warum wir
Wir bauen selbst KI-Systeme und forschen zu ihrer Sicherheit. Die Masterarbeit unseres Gründers behandelt trojanisierte Sprachmodelle und Abwehrstrategien, seine Forschung die KI-gestützte Suche nach Schwachstellen.
Wir wissen also, wie solche Systeme gebaut sind und wo sie brechen.
/ Regulierung
Passt zum AI Act
Der AI Act verlangt je nach Risikoklasse Robustheit und Cybersicherheit von KI-Systemen. Unsere Prüfberichte mit reproduzierbaren Testfällen dienen dafür als Nachweis.
/ Fragen
Häufige Fragen
Wir nutzen nur fertige KI-Dienste. Brauchen wir das?
Für die reine Nutzung meist nicht. Sobald Sie eigene Daten anbinden, eigene Assistenten bauen oder Agenten Aktionen ausführen lassen, ja.
Testen Sie auch selbst gehostete Modelle?
Ja, inklusive Herkunft der Modelle und Konfiguration der Inferenz-Server.
Wie wird das Ergebnis nachvollziehbar?
Jeder Fund ist mit der genauen Eingabe dokumentiert. Ihr Team kann ihn nachstellen und die Behebung selbst prüfen.
Hilft der Bericht beim AI Act?
Ja. Der AI Act verlangt je nach Risikoklasse Robustheit und Cybersicherheit von KI-Systemen. Unsere Prüfberichte dienen dafür als Nachweis.
/ Weitere Leistungen