Qué son las barandillas de IA

Ejemplos ilustrativos con datos ficticios, sin clientes reales ni resultados medidos: una instaladora de Valencia quiere preparar respuestas a solicitudes de presupuesto. La IA lee la solicitud autorizada y redacta un borrador para el comercial. No debe consultar expedientes ajenos, borrar solicitudes ni enviar la oferta por otra vía. El responsable decide el destinatario, el texto y cualquier compromiso de precio o plazo. Configura estos límites con tu técnico antes de conectar el correo del negocio.

La imagen de una barandilla de balcón ayuda a entenderlo: puedes moverte dentro del espacio previsto, pero hay un borde que limita hasta dónde llegas. En IA, ese borde puede actuar sobre la información que entra, la respuesta que sale o la acción que se intenta ejecutar. Si interviene un agente, un programa que decide pasos y utiliza herramientas para completar una tarea, debes mirar también qué puede hacer con esas herramientas.

Un texto correcto no basta. Además de filtrar la respuesta, el sistema que recibe la acción debe comprobar sus condiciones. Por ejemplo, antes de una devolución, debe verificar que el pedido pertenece al cliente y admite esa devolución. Revisa también la operación completa: varias peticiones que parecen admisibles por separado pueden saltarse un límite acumulado. La decisión de autorizar no debe quedar en manos del propio modelo que propone la acción.

El aislamiento de ejecución, o sandbox, limita los archivos y las conexiones de un proceso que ejecuta comandos, instrucciones para el ordenador. Una agencia de diseño de Zaragoza prepara textos de su web en una copia. El responsable revisa la vista previa y autoriza la publicación por su procedimiento habitual. El agente trabaja sin credenciales de publicación, los datos que permiten acceder al sistema que publica la web. El control de publicar se mantiene en ese sistema.

En n8n, una herramienta para conectar aplicaciones mediante secuencias de pasos, puedes separar filtrado y aprobación. Su nodo Guardrails, uno de esos pasos, examina texto. Cuando detecta una infracción, el recorrido que recibe el fallo necesita una salida decidida por ti, como derivar a revisión. La revisión humana de herramientas permite pausar antes de ejecutar las que hayas protegido. No extiende esa pausa automáticamente a cualquier acción del proceso.

Revisar con otra IA tampoco equivale a que una persona haya aprobado. Claude Code, la herramienta de Anthropic para trabajar con código, distingue modos que cambian qué acciones se autorizan sin preguntar. En su modo Auto interviene un clasificador, otro modelo que revisa acciones. Su aislamiento configurable de comandos limita archivos y red dentro de su ámbito; no cubre por sí solo todas las herramientas. Comprueba la configuración efectiva antes de usarlo sobre un proyecto del negocio.