Índice del artículo
En 30 segundos
El sesgo en IA es una tendencia sistemática que puede favorecer o perjudicar a ciertos perfiles por los datos, el diseño o el uso del sistema.
No necesita intención: una máquina puede producir un trato desigual aunque nadie haya querido discriminar. Su aparente neutralidad no demuestra que el resultado sea justo.
Busca diferencias relevantes con casos ficticios equivalentes. Esta comprobación orienta una revisión; no permite declarar que una herramienta está libre de sesgo.
Ejemplo práctico: una empresa de mantenimiento en Valencia
Ejemplos ilustrativos con datos ficticios. Una empresa quiere usar IA para preparar respuestas a reclamaciones. La responsable de atención observa qué solución propone ante el mismo problema cuando cambia únicamente el nombre del cliente. La cuestión es el trato que recibe la reclamación: si la considera igual de importante o le resta prioridad por un rasgo que no tiene relación con el trabajo realizado. No se trata de elegir cuál de los textos suena mejor.
En este ejercicio, la IA prepara un resumen y un borrador siguiendo una política escrita de atención. La responsable comprueba los hechos, el tono y la solución antes de enviar cualquier respuesta real. Decidir compensaciones y enviar mensajes automáticamente quedan fuera de la prueba.
Explicado fácil: aprender de los expedientes antiguos
- Historial de la oficina
- Patrón aprendido
- Nuevo caso
- Posible trato desigual
Imagina a alguien que aprende el oficio leyendo los expedientes viejos. Puede tomar una desigualdad del pasado como referencia para tratar un caso nuevo. El problema está en qué aprende del historial y cómo lo aplica. Esta analogía explica una vía de entrada, pero el sesgo también puede aparecer en decisiones de diseño y en el uso posterior. Para ampliar esa parte, consulta el entrenamiento de un modelo.
De dónde puede venir el sesgo
Datos
Una muestra incompleta deja perfiles fuera. Una tienda que solo analiza opiniones de compradores por internet no representa a toda su clientela. El historial también puede arrastrar desigualdades anteriores.
Diseño
Una variable indirecta puede influir sin que lo esperes. La zona de residencia puede usarse como atajo para valorar a una persona. Además, una cifra global de acierto puede ocultar errores concentrados en un grupo.
Uso
El contexto de aplicación importa. Una prueba con otra población u otro idioma puede no representar tu tarea. Aceptar la recomendación por venir de una máquina añade otro problema: dejar de examinar sus errores.
Estas puertas de entrada pueden coincidir: no hay una causa única que puedas descartar mirando solo la respuesta final. Antes de implantar el proceso, pregunta qué datos se usaron, qué resultado se consideró bueno y para qué personas se evaluó. Así podrás relacionar el problema con la parte del trabajo que necesita una revisión.
Cómo buscar una señal de sesgo
Define el criterio
Escribe qué resultado sería pertinente antes de leer la respuesta. En el ejemplo de Valencia, la valoración debe depender de la incidencia y de la política de atención. Si el criterio cambia después de ver cada texto, no podrás comparar el trato con claridad. Deja también por escrito qué queda fuera del ejercicio. El objetivo es examinar un borrador con documentos ficticios, sin intervenir en una reclamación real. Esta preparación evita confundir una preferencia de redacción con una diferencia que afecta a alguien.
Prepara casos equivalentes
Usa documentos ficticios con el mismo contenido y cambia únicamente el rasgo cuya influencia quieras explorar. Por ejemplo, prepara currículums con idéntica experiencia y formación, variando solo el nombre, en un ejercicio separado de una selección real. No deduzcas la identidad de nadie a partir de su nombre. Mantener el resto igual ayuda a localizar una posible diferencia, aunque no permite explicar por sí solo qué la ha causado. Guarda las versiones para que otra persona pueda comprobar qué has cambiado.
Mantén las condiciones
Conserva el modelo, es decir, el motor que genera la respuesta, y el mismo prompt: el encargo que escribes. Mantén comparable el contexto y apunta la configuración que tengas disponible. Copiar una pregunta entre cuentas no asegura condiciones iguales si las conversaciones o la personalización son distintas. Repite también entradas idénticas para observar la variación habitual. No hay un número universal de intentos que permita descartar sesgo en cualquier tarea o sistema.
Compara lo relevante
Examina la valoración o la recomendación, no solo las palabras elegidas. Busca cambios en requisitos atribuidos, prioridad o solución propuesta. Vuelve al criterio escrito y distingue una reformulación de una diferencia de trato que merezca atención. Conserva también las respuestas que no encajen con tu sospecha: elegir solo las que la confirman distorsiona la comprobación. Las comparaciones entre parejas pueden complementarse con resultados por grupos cuando sea viable y lícito; una prueba pequeña no representa a todas las personas que usarán el sistema.
Decide qué revisar
Si el patrón persiste, suspende ese uso y revísalo con el proveedor y con quien lleva el proceso. Describe el criterio, las entradas, las condiciones y la consecuencia que has observado. Si no aparece una diferencia, anota hasta dónde llegaba el ejercicio y qué situaciones quedaron fuera. Esa delimitación permite que otra persona entienda el resultado sin convertirlo en una conclusión general. Para entender mejor cómo se organiza una comprobación, consulta qué son las evaluaciones de IA.
Por qué importa quién revisa
Una revisión humana necesita capacidad real de corregir. La persona debe conocer el proceso, disponer de la información pertinente y tener autoridad para modificar el resultado. También necesita tiempo y recursos. En la empresa de Valencia, revisar exige contrastar el borrador con la incidencia y la política de atención, en lugar de confirmar el texto porque parece profesional. Una firma rutinaria no sustituye ese examen. La pregunta útil es qué puede comprobar y cambiar esa persona cuando discrepa de la propuesta.
Para el negocio, el riesgo está en cómo se usa la salida: puede afectar a quién recibe atención o a cómo se valora una candidatura. Antes de llevar el ejercicio a decisiones relevantes sobre personas, examina las obligaciones aplicables y quién responde del proceso. Puedes concretar tareas y límites en una política de uso de IA. Si tu duda es laboral, consulta IA en recursos humanos, manteniendo separada la preparación de documentos de las decisiones sobre candidaturas.
No lo confundas con
Alucinación
Una alucinación produce contenido falso o sin fundamento. El sesgo describe una tendencia en el trato o los resultados. Pueden coexistir: verificar un dato no basta para evaluar si el trato es equitativo.
Variación
Una respuesta distinta puede ser variación del sistema. No demuestra por sí sola una tendencia. Importa qué cambia, si afecta al criterio relevante y si el patrón se mantiene al controlar las condiciones.
Si sospechas que una respuesta contiene hechos inventados, contrástalos con la información de partida; puedes ampliar esta comprobación en qué es una alucinación. Para examinar el trato, compara la valoración o la prioridad entre casos equivalentes. Son comprobaciones distintas que puedes necesitar en una misma respuesta.
Dudas sobre el sesgo en IA, respuestas cortas
¿Cómo puede tener sesgo una máquina que no tiene prejuicios personales?
No hace falta intención de discriminar. Los datos pueden reflejar desigualdades y el diseño puede usar criterios o mediciones insuficientes. También influye el contexto donde se aplica el sistema. Por eso una recomendación automática no es imparcial por el mero hecho de proceder de una máquina.
¿Basta con ocultar el nombre y el sexo?
No. Otros datos pueden funcionar como indicadores indirectos de un grupo. La zona de residencia, por ejemplo, puede influir aunque hayas quitado el nombre. Revisa qué variables necesita realmente la tarea y cómo afectan al resultado; ocultar un campo no demuestra que hayas eliminado el problema.
¿Puedo corregirlo pidiendo que sea imparcial?
Cambiar las instrucciones puede formar parte de la revisión, pero hay que evaluar el cambio. Pedir imparcialidad no demuestra que el trato haya mejorado. Vuelve a comparar resultados bajo condiciones equivalentes y comprueba si el nuevo encargo sirve para la tarea concreta que quieres realizar.
¿Una prueba favorable demuestra que puedo confiar en el sistema?
Solo informa sobre los casos y las condiciones que has probado. No permite extender la conclusión a otras personas, tareas o contextos. Anota los límites del ejercicio y lo que falta por examinar antes de aplicar el sistema en tu negocio.
Fuentes
Fuentes oficiales, consultadas el 4 de noviembre de 2026
- NIST · Identificar y gestionar el sesgo en IA
- NIST · El sesgo va más allá de los datos
- Google · Tipos de sesgo
- Google · Evaluar el sesgo y los resultados por grupos
- Google · Comparar casos equivalentes
- NIST · Riesgos de la IA generativa y límites de las pruebas
- AEPD · Derecho a no ser objeto de decisiones individuales automatizadas
- AEPD · Intervención humana efectiva
- Wu, Liu, Bai y Griffiths · Sesgos sociales que surgen en una simulación de contratación
- Plan International · Método de comparación y repetición de preguntas
Cómo lo comprobamos. Fuentes consultadas el 4 de noviembre de 2026. Estos ejercicios no se han probado con una cuenta real ni se han medido resultados de empresas. No los uses como una auditoría del sistema que vas a implantar.
Qué ha cambiado.
- 4 de noviembre de 2026: Comparación de casos equivalentes y límites de la prueba. Se conserva la distinción entre datos, diseño y uso.
Términos relacionados
Aprende a usar la IA en tu trabajo, con criterio.
El nivel 0 es gratis: cuarenta minutos para entender qué pedirle a la IA y qué revisar. El programa completo enseña a implementarla en tu propio negocio, tarea a tarea.
