Inyección de prompts (prompt injection)
Instrucciones hostiles u ocultas en el contexto que secuestran el comportamiento de un LLM, directa (entrada del usuario) o indirecta (RAG, herramientas, documentos).
La inyección de prompts (prompt injection) introduce instrucciones hostiles en texto que el modelo debe leer: mensajes del usuario, fragmentos recuperados, correos o páginas web, para que un LLM las siga en lugar del prompt de sistema de la app.
Directa: el atacante escribe instrucciones manipuladoras. Indirecta: contenido no confiable llega vía RAG, salida de herramientas o documentos pegados sin que el usuario redacte el ataque. Se solapa con, pero no es lo mismo que, un jailbreak, que a menudo apunta a rechazos de seguridad más que a secuestrar la jerarquía de instrucciones en producción.
Afecta a chatbots públicos, agentes de IA con herramientas y asistentes empresariales. Mitigaciones: diseño de contexto, filtros, guardrails y red teaming.