Guardrails
Capas técnicas y de política que limitan lo que un sistema de IA puede decir o hacer: filtros, reglas, permisos de herramientas y revisión humana.
Los guardrails son las vallas prácticas del comportamiento de la IA: filtros de entrada/salida, temas bloqueados, herramientas permitidas, límites de tasa, registros y escalada a humanos. Implementan metas de alignment en producción, no solo en entrenamiento.
En LLM, chatbots y agentes de IA, los guardrails complementan un buen diseño de prompts y pruebas. Reducen, pero no eliminan, jailbreaks, inyección de prompts y respuestas dañinas. Los equipos suelen validarlos con red teaming estructurado.