Índice del artículo
Qué es
Una barandilla es una regla que limita lo que la IA puede hacer o decir: qué temas no toca, qué datos no muestra, cuándo tiene que pedir aprobación, qué no puede enviar por su cuenta. Es una valla puesta antes del precipicio, no un botón que se aprieta después.
Puede ser una instrucción, una lista de filtros o un límite de permisos, según la herramienta. Lo importante no es cómo se monta, sino qué frena.
Explicado fácil
Piensa en la barandilla de un balcón. No impide que mires, no impide que pases al lado; solo evita que te caigas por descuido. La barandilla de IA hace eso con un agente: lo deja trabajar, pero puede frenarlo antes de la caída —el dato que no debe salir, el envío que no debe hacerse.
No es un candado que lo encierra. Es un borde que lo contiene.
Ejemplo práctico
Una veterinaria usa un agente para responder por mensaje a sus clientes. Le pone tres barandillas: no dar consejo médico sin que un veterinario lo revise, no confirmar una cita sin consultar la agenda, y no revelar el dato de otro cliente.
Con eso, el agente puede responder rápido las preguntas habituales, y se detiene justo donde una respuesta mal dada puede hacer daño. La barandilla no lo hace infalible: reduce el espacio para el error.
Así no
Soltar al agente sin límites y confiar en que «ya sabe lo que no debe hacer».
Así sí
Poner reglas sobre qué puede decir, qué puede hacer y cuándo debe detenerse y preguntar.
La barandilla no promete que nunca falle: acorta el terreno donde puede fallar.
Por qué te importa
Porque es más barato frenar antes que reparar. Una barandilla puede reducir el riesgo de una acción indebida —el envío que no debía salir, el dato que no debía mostrarse, el consejo que no le tocaba dar—; comprueba su funcionamiento y no la tomes como garantía.
Y porque una instrucción puede fallar: combina las reglas con permisos y aprobaciones configurados en la herramienta, y comprueba que funcionan.
El error típico
Creer que la barandilla elimina el riesgo. No: reduce el espacio para el error, y puede fallar —por un caso que no cubre, por una instrucción escondida que la esquiva o por un cambio en la herramienta. Se usa como apoyo, no como garantía.
El error contrario: no poner ninguna y descubrir el límite cuando algo ya salió mal.
No lo confundas con
Los permisos del agente. Los permisos definen qué puede tocar el agente (leer, escribir, enviar); la barandilla define qué le está permitido en cada paso. Se parecen y se complementan.
Una evaluación. La evaluación comprueba que el agente hace bien su trabajo; la barandilla lo limita mientras lo hace. Una es prueba, la otra es freno.