La inteligencia artificial suele presentarse como una herramienta objetiva, casi neutral, capaz de tomar decisiones más eficientes que las personas gracias a su base de datos. Sin embargo, esta imagen resulta cada vez más cuestionable. La IA no se desarrolla en un entorno aislado, sino que aprende de datos que provienen de la sociedad y, por tanto, puede reproducir —e incluso intensificar— desigualdades ya existentes. Entre las más relevantes se encuentran los sesgos de género y los sesgos políticos.
Este fenómeno tiene implicaciones importantes. Los algoritmos ya intervienen en decisiones clave como la selección de personal, la concesión de créditos, la moderación de contenidos o la distribución de información política. Si estos sistemas incorporan sesgos, sus efectos pueden ser estructurales, influyendo en las oportunidades educativas y laborales, así como en la configuración del debate público.
En este contexto, varias expertas han alertado sobre los riesgos. Zinnya del Villar, directora de la unidad de Datos, Tecnología e Innovación de Data-Pop Alliance, defiende la necesidad de un uso ético e inclusivo de los datos. Su trabajo, en colaboración con organismos internacionales como ONU Mujeres, pone de relieve cómo los datos —materia prima de la IA— pueden invisibilizar a las mujeres si no se recopilan y analizan adecuadamente.
Una cuestión central es si la IA es sesgada por naturaleza o si el sesgo proviene de quienes la diseñan. Como señala Nerea Luis, directora de Data e IA de Sngular, los sistemas no poseen sesgos intrínsecos, sino que surgen de los datos con los que se entrenan. En otras palabras, los algoritmos aprenden de la realidad que se les cuenta.
Esto implica que, si los datos históricos reflejan desigualdades —como la menor presencia de mujeres en ciertos sectores—, la IA tenderá a reproducirlas. Por ejemplo, un sistema de selección laboral entrenado con currículums de hace diez años puede favorecer perfiles masculinos simplemente porque han sido mayoritarios en esos puestos.
Situaciones similares se observan en otros ámbitos. En educación, los sistemas de recomendación pueden orientar a las estudiantes hacia trayectorias menos tecnológicas si los datos reflejan esa tendencia histórica. En el terreno político, los algoritmos de recomendación pueden amplificar discursos polarizados o reducir la visibilidad de determinadas voces en función de patrones previos aprendidos. El problema no se limita a reflejar la realidad, ya que la IA puede amplificarla o validarla aunque no sea correcta. Sus sistemas operan a gran escala y con gran rapidez, lo que significa que un sesgo integrado en el algoritmo puede afectar a miles o millones de decisiones al mismo tiempo.
En el ámbito laboral, por ejemplo, los algoritmos pueden filtrar candidaturas antes de cualquier revisión humana. Si están entrenados con datos sesgados, ciertos grupos —como las mujeres— pueden quedar excluidos sin que exista una discriminación fácilmente detectable. En el entorno digital ocurre algo parecido. Los algoritmos que determinan qué contenido se muestra influyen directamente en la visibilidad de ideas, discursos y figuras públicas. Esto tiene consecuencias políticas evidentes, ya que condiciona tanto la agenda pública como el acceso a la información.
Frente a estos riesgos, la respuesta tiene que ser rechazar la inteligencia artificial, sino desarrollarla de forma responsable. Expertas como Zinnya del Villar subrayan la necesidad de mejorar la calidad de los datos y de fomentar la diversidad en los equipos tecnológicos. La inclusión de más mujeres y perfiles diversos no es solo una cuestión de equidad, sino también de calidad del diseño. Equipos más diversos están mejor preparados para identificar sesgos que, de otro modo, podrían pasar desapercibidos. Asimismo, resulta fundamental avanzar en mecanismos de regulación y transparencia. Comprender cómo funcionan los algoritmos y comprobar sus resultados permite corregir discriminaciones antes de que se consoliden.
El debate sobre los sesgos en la IA se trata, en gran medida, de una cuestión política y social. Las decisiones sobre qué datos utilizar, qué variables u objetivos priorizar reflejan valores. Por ello, el desarrollo de la inteligencia artificial plantea una pregunta fundamental: si queremos que los algoritmos reproduzcan las desigualdades existentes o que contribuyan a construir una sociedad más justa. Encontrar la respuesta a este dilema será la clave para la gobernanza tecnológica en los próximos años. Como recuerdan numerosas especialistas sobre el tema, la neutralidad tecnológica es, en última instancia, un mito: detrás de cada algoritmo siempre hay decisiones humanas.
Bibliografía:
- ONU Mujeres (2025, 5 de febrero). Cómo la inteligencia artificial refuerza los sesgos de género y qué podemos hacer al respecto. https://www.unwomen.org/es/noticias/entrevista/2025/02/como-la-inteligencia-artificial-refuerza-los-sesgos-de-genero-y-que-podemos-hacer-al-respecto
- BBC News (2018). Artificial intelligence: How bias affects outcomes
ICEX España Exportación e Inversiones (2024, 11 de septiembre). Sesgos de género en inteligencia artificial, una inquietud global. https://www.icex.es/es/radar-icex/mujer-internacionalizacion/experiencias/sesgos-genero-inteligencia-artificial-inquietud-global?utm_source=social&utm_medium=x&utm_content=mujer-e-internacionalizacion&utm_campaign=noticia-sesgos-genero-ia-inteligencia-artificial-2024