Ich teste einen AI-Agent-Chatbot für Prompt-Injection, Jailbreaks und LLM-Sicherheit OWASP LLM

Dein AI-System wirkt im normalen Gebrauch vielleicht zuverlässig, kann aber bei absichtlicher Manipulation durch einen Nutzer schwer versagen.

Ich führe eine autorisierte AI-Sicherheits- und Red-Team-Bewertung deines Chatbots, RAG-Anwendung, AI-Agenten oder LLM-gestützten Workflows durch.

Ziel ist es, Schwachstellen zu erkennen wie:

PROMPT INJECTION

JAILBREAKS

SYSTEM PROMPT LEAKAGE

SENSITIVE DATEN OFFENLEGUNG

UNSICHERER TOOL-VERWENDUNG

RAG-MANIPULATION

ÜBERMÄSSIGE AGENTENBERECHTIGUNGEN

UNZUVERLÄSSIGE GUARDRAILS

UNSICHERES AUSGABEVERHALTEN

WAS ICH TESTEN KANN

• Direkte Prompt-Injection
• Indirekte Prompt-Injection
• Jailbreak-Beständigkeit
• System Prompt Leak
• Hierarchiefehler bei Anweisungen
• Sensible Informationsoffenlegung
• Unsichere Tool-Aufrufe
• Übermäßige Agentenberechtigungen
• RAG-Manipulation
• Malicious Document Instructions
• Prompt-Leakage
• Kontextvergiftung
• Agenten-Zielübernahme
• Umgehung der menschlichen Freigabe
• Unsicheres Funktionsaufrufen
• Tool-Berechtigungsgrenzen
• Halluzinations-Stresstests
• Fehler bei Output-Richtlinien
• Autorisierungslogik
• Speicher-Manipulation
• Multi-Turn-Angriffe
• Wirksamkeit der Guardrails
• Eingabekontrolle
• Ausgabekontrolle
• Fehlerbehandlung
• Prompt-Sicherheit
• AI-Workflow-Sicherheit
• MCP-Tool-Sicherheit
• Agenten-Eskalationsverhalten

BITTE SCHREIB MIR EINE NACHRICHT, BEVOR DU BESTELLST