Índice del artículo
Qué es
El sesgo en IA es una tendencia sistemática del sistema, que puede venir de los datos, del diseño o del uso que se le da. No es una intención ni un fallo puntual: es una inclinación que se repite.
El modelo no decide tener sesgo. Aprende de ejemplos, y si en esos ejemplos ciertos perfiles aparecen más en ciertos papeles, tiende a repetir esa tendencia al generar o al clasificar.
Explicado fácil
Piensa en un empleado nuevo que aprende el oficio leyendo los expedientes viejos de la oficina. Si en esos expedientes ciertos perfiles aparecen una y otra vez en un mismo puesto, el empleado los asocia con ese puesto, sin saber que el patrón viene de cómo se llenaron los papeles.
El sesgo es eso: el modelo repite la tendencia que había en sus ejemplos, sin que nadie se lo haya ordenado.
Ejemplo práctico
Una empresa filtra currículums con un agente para preseleccionar candidatos. Para comprobar si hay sesgo, usa dos currículums iguales —misma experiencia, misma formación— y cambia solo el nombre. Si el resultado cambia al cambiar solo ese dato, hay una señal que investigar: repite también con entradas idénticas. Si no cambia, esta prueba tampoco demuestra ausencia de sesgo.
La comprobación es justa porque cambia una sola cosa cada vez: mismo currículum, distinto nombre. No afirma que una herramienta concreta tenga sesgo; muestra cómo se busca la huella.
Así no
Confiar en la preselección «porque es una máquina, no se deja llevar».
Así sí
Probar con casos parejos donde solo cambia un dato y ver si la decisión cambia con él.
El sesgo no se detecta mirando el resultado bonito: se busca cambiando un dato a la vez.
Por qué te importa
Porque estas decisiones tocan a personas: a quién se contrata, a quién se le da crédito, a quién se atiende primero. Si el modelo reproduce un patrón, el negocio puede estar tomando decisiones injustas sin darse cuenta, y eso tiene costo: de talento, de clientes y de reputación.
No hace falta ser ingeniero para notarlo. Basta con probar con casos parejos y cambiar un dato a la vez antes de confiar la decisión al modelo.
El error típico
Creer que una máquina es imparcial por ser máquina. El modelo hereda los patrones de sus datos, así que la neutralidad no viene de fábrica: hay que comprobarla.
El error contrario: pensar que el sesgo se elimina por completo con un ajuste. Se reduce, se vigila y se mitiga; no se borra del todo.
No lo confundas con
Una alucinación. La alucinación inventa un dato puntual sin sustento; el sesgo es un patrón que se repite a lo largo de muchas respuestas. Uno se atrapa verificando el dato; el otro, probando con casos parejos.
Un error de la herramienta. El error es una equivocación en una tarea concreta; el sesgo es una tendencia sistemática que puede aparecer también en errores y alucinaciones.