Riesgos de la inteligencia artificial para un negocio

Los casos de Valencia y Zaragoza son ejemplos ilustrativos. Una asesoría de Valencia quiere pedir documentación pendiente a sus clientes. Para probar, entrega a la IA una relación ficticia de documentos y un modelo de mensaje. Le encarga preparar un borrador y señalar lo que falta. No conecta el correo ni facilita expedientes reales. La asesora decide después qué enviar y a quién.

El punto que revisa es el dato decisivo: si el borrador añade un plazo tributario que nadie ha facilitado, debe contrastarlo en una fuente válida antes de usarlo. También abre cualquier referencia que aparezca y comprueba que respalda esa afirmación. Una respuesta bien redactada puede contener una alucinación, información inventada o incorrecta presentada como cierta. Permitir que la IA reconozca una duda y darle documentos autorizados ayuda a reducir estos errores; no los elimina.

Aprueba herramientas y cuentas antes de que el equipo suba información del negocio. Revisa qué datos necesita el encargo, para qué se usan, cuánto se conservan, quién los recibe y qué permisos tiene cada persona. Si hay datos personales, identifica la base jurídica que permite tratarlos y el contrato que corresponde cuando el proveedor los trata por tu cuenta. Elegir una cuenta empresarial es una parte de esa revisión, no una autorización para cualquier documento.

Empieza con información ficticia mientras compruebas el proceso. Quitar un nombre no asegura que el resto del contexto deje de identificar a alguien. Tampoco confundas tratar un documento con publicarlo para todo el mundo: son cosas distintas. La decisión depende del producto, sus condiciones y sus accesos. Para valorar un expediente concreto, sigue con datos de clientes en una IA y con qué es una fuga de datos.

Un agente es un sistema que decide pasos y usa herramientas para realizar una tarea. Al leer contenido externo puede encontrar una instrucción maliciosa, también llamada prompt injection: texto que intenta desviar su trabajo. Puede llegar dentro de un adjunto aunque solo tú hables directamente con el agente. Pedirle que ignore esas órdenes es una pauta, pero hace falta limitar las herramientas, los archivos y las conexiones que puede utilizar. Quien configure la instalación debe comprobar también cómo se separa la ejecución sensible del resto del ordenador.

La aprobación debe detener la acción antes de ejecutarla. Por ejemplo, n8n, una plataforma para automatizar tareas, permite configurar herramientas del agente que esperan aprobación o rechazo y muestran sus parámetros: los datos concretos de la acción. En una distribuidora de recambios de Zaragoza, el comercial revisaría referencias, condiciones, importe y destinatario de la propuesta. Para probar este flujo de presupuestos, usa un catálogo ficticio y accesos sin compra ni borrado. Prueba la pausa antes de usar solicitudes reales; recibir un aviso después del envío no cumple esa función.

Para evaluar recomendaciones sobre personas, define criterios pertinentes y comprueba si los resultados perjudican a determinados perfiles. Quien supervisa necesita capacidad real para corregir o detener el proceso. El artículo 22 del Reglamento General de Protección de Datos, o RGPD, regula las decisiones exclusivamente automatizadas con efectos jurídicos o similares importantes, con excepciones y garantías específicas. No toda ordenación automática entra en ese supuesto. Revisa qué decisión se toma, qué consecuencias tiene y si la persona responsable puede corregirla o detenerla.

Al publicar, revisa procedencia, derechos y presentación del material. Las obligaciones de transparencia distinguen entre informar de una interacción con IA, el marcado técnico del proveedor y la revelación de ultrafalsificaciones: imágenes, audios o vídeos manipulados que parecen auténticos. No existe una etiqueta visible idéntica para todo borrador o texto comercial. Una etiqueta tampoco te concede derechos sobre una imagen ajena. Si el uso implica personas o material que puede confundirse con algo real, consulta el Reglamento de IA para situar tu caso.

Conserva originales e instrucciones recuperables fuera del único servicio del que dependa el proceso. Guarda también los registros necesarios y ensaya cómo seguir trabajando si ese proveedor falla. Exportar los datos no significa que todas las conexiones entre aplicaciones, las automatizaciones y su comportamiento se puedan trasladar a otro sitio. Encarga a una persona probar la alternativa manual antes de que la herramienta se convierta en un paso imprescindible del trabajo diario.

Para decidir si una prueba de preparación de correos o presupuestos compensa, mide el proceso completo. Separa licencia, consumo, implantación, mantenimiento y revisión humana. Si una plataforma cuenta ejecuciones, es decir, recorridos completos del flujo, ese contador no equivale al consumo del modelo conectado, el motor que genera las respuestas. Anota si el dato relevante era correcto, qué errores detectaste y cuánto trabajo exigió corregirlos. Decide previamente quién puede parar la prueba. No interpretes una prueba sin incidentes como prueba de seguridad futura ni un precio de entrada como el coste de mantener el servicio.

Que tus datos no se usen para entrenar la IA, es decir, mejorar el modelo, no significa que se borren. En Claude, el plan personal Pro sigue bajo las condiciones de productos personales. En los productos comerciales de Anthropic, las entradas y salidas quedan fuera del entrenamiento por defecto, con excepciones si se autoriza o se envían comentarios o informes de errores. Esa diferencia no demuestra ausencia de conservación, residencia española ni autorización para tratar cualquier dato. Comprueba cada condición por separado; una casilla sobre mejora del modelo no responde por sí sola a todas las preguntas sobre privacidad.

Una instalación propia no aísla por sí sola al agente. OpenClaw y Hermes son agentes que puedes instalar en tus equipos y conectar a modelos locales, que generan respuestas en tu ordenador o servidor. Aun así, el correo, las búsquedas u otras herramientas pueden enviar información fuera. En OpenClaw hay que configurar el aislamiento de la ejecución; no se presume activo. En Hermes, los controles de comandos no aíslan por sí solos la terminal, la herramienta que ejecuta órdenes en el ordenador. Antes de elegir esa vía, pide que te expliquen qué puede alcanzar el agente y qué conexiones siguen saliendo al exterior.

El equipo necesita instrucciones que pueda aplicar: qué información puede introducir, cómo contrastar un resultado y cuándo detenerse o derivar el encargo. Una advertencia general de tener cuidado deja esas decisiones abiertas. Adapta la formación a los conocimientos de las personas, al contexto y a quienes pueden resultar afectados. El artículo 4 del Reglamento de IA exige medidas de apoyo a esa alfabetización; no prescribe un curso idéntico para todas las empresas ni una duración universal.

Para organizarlo, asigna un responsable del proceso que pueda resolver dudas y actualizar las instrucciones cuando cambien herramientas o tareas. La política escrita necesita cuentas, permisos y una forma de trabajar que la acompañen. Si quieres empezar por esa base, puedes ver el programa de formación de Ciade. El siguiente paso para tu negocio es elegir un encargo acotado y dejar claras las condiciones de la prueba antes de introducir información real.