Jailbreak
Prompts (ou chaînes de prompts) visant à contourner les règles de sécurité, refus ou politiques d'usage d'un modèle, ce n'est pas du prompt engineering ordinaire.
Un jailbreak est un prompt (ou astuce en plusieurs étapes) pour qu’un LLM ignore des limites intégrées : refus de politique, filtres de contenu ou restrictions d’outils. C’est un usage adversarial du prompting, pas une conception de tâche normale.
Les jailbreaks recoupent l’injection de prompt (surtout quand du texte non fiable est dans le contexte, p. ex. en RAG), mais le terme insiste souvent sur contourner l’entraînement de sécurité. Défenses : guardrails, surveillance et red teaming dans le cadre de l’alignment.