Jailbreak
Prompts (oder Prompt-Ketten), die Sicherheitsregeln, Ablehnungen oder Nutzungsrichtlinien eines Modells umgehen sollen, nicht normales Prompt Engineering.
Ein Jailbreak ist ein Prompt (oder mehrstufiger Trick), mit dem ein LLM eingebaute Grenzen ignorieren soll: Policy-Ablehnungen, Inhaltsfilter oder Werkzeug-Beschränkungen. Das ist adversarial, kein gewöhnliches Aufgaben-Prompting.
Jailbreaks überschneiden sich mit Prompt Injection (besonders wenn fremder Text im Kontext steht, z. B. bei RAG), betont aber oft das Aushebeln von Safety-Training. Gegenmaßnahmen: Guardrails, Monitoring und Red Teaming im Rahmen von Alignment.