El sesgo de género que esconde la inteligencia artificial
La IA no es neutral. Aunque muchos la perciben como objetiva y libre de prejuicios, la realidad es que reproduce y amplifica los sesgos que ya existen en la sociedad. Esto ocurre porque los algoritmos aprenden a partir de patrones en grandes volúmenes de datos, y cuando esos datos reflejan desigualdades históricas o presentes, la máquina las perpetúa.
Cuando pides a ChatGPT o Copilot que genere la imagen de un eminente médico sin especificar género, ambas herramientas devuelven reiteradamente hombres de cierta edad y rasgos caucásicos. Solicita una imagen de alguien limpiando y verás solo mujeres, mayoritariamente de grupos racializados. No es casualidad: estos sistemas entrenan con información que ya contiene esos prejuicios. Wikipedia en español, por ejemplo, tiene menos del 25% de artículos biográficos sobre mujeres, y cuando los hay, suelen definirse por género o relaciones familiares («esposa de», «madre de») en lugar de logros profesionales.
El problema se agrava en decisiones empresariales concretas. Amazon desarrolló un sistema automático para revisar currículums que, sin incluir la variable «género», favoreció a hombres. ¿Cómo? El modelo aprendió de datos históricos y detectó que las universidades con mayor presencia masculina, ciertos estilos de redacción y hasta las formas de describir logros (hombres usan «lideré», mujeres tienden a escribir «colaboré») correlacionaban con contrataciones previas. Variables aparentemente neutras se convirtieron en filtros discriminatorios.
Qué debes vigilar como usuario
- No des por sentado que una respuesta de IA es más objetiva solo porque procede de un algoritmo. Es un sesgo cognitivo llamado heurística de las máquinas.
- Cuando pidas imágenes o descripciones, especifica diversidad: edad, género, origen, capacidades. Así fuerzas al sistema a salir de sus patrones por defecto.
- Revisa los resultados con ojo crítico. Busca sutilezas: ¿todos tienen cuerpos normativos? ¿Persisten ciertos elementos estereotipados aunque pidas lo contrario?
- Si usas IA en decisiones importantes (selección de personal, evaluaciones), audita los resultados. Comprueba si hay patrones injustos en quién sale favorecido.
Las empresas que desarrollan IA tienen la responsabilidad de usar datos representativos y equilibrados, implementar controles que frenen sesgos y crear equipos diversos. Pero mientras eso ocurre con demasiada lentitud, tú tienes que actuar como contrapeso. Mantén distancia crítica. Cuestiona. No confundas automatización con imparcialidad. La IA amplifica lo que ya existe; no lo cura.
