IA Y Género: ¿Cómo romper el círculo de la exclusión?

En estos últimos meses la Inteligencia Artificial estuvo en boca de todas las personas por la aparición de Chat GPT, un generador de lenguaje que escribe de manera prácticamente indistinguible de la escritura humana. Aún así, esta tecnología se encuentra presente en nuestro día a día desde hace rato. Lo que las aplicaciones nos sugieren que veamos (sabiendo que es muy posible que nos interese), los mapas que usamos en el móvil, las sugerencias que nos aparecen cuando comenzamos a escribir en el buscador, entre muchas otras.

¿Pero qué pasa si estas “decisiones” están mal programadas?

La Inteligencia Artificial, mediante el uso de algoritmos, genera información nueva basándose en datos ya existentes en Internet. El inconveniente surge es que en esta data previa existen prejuicios, exclusiones y discriminaciones, que estarán también presentes en los resultados que produzca. Algunos de los sesgos tienen que ver con la clase social, el lugar de residencia, la orientación sexual y el género, entre muchos otros. Estos pueden estigmatizar y marginar aún más a los grupos históricamente excluidos, e incluso contrarrestar algunos de los avances en materia de igualdad alcanzados en los últimos años.

Muchas empresas utilizan la IA para seleccionar candidatos a puestos de trabajo. Si el sistema sabe que la mayoría de los ingenieros que actualmente trabajan son varones, excepto que esté configurado desde una perspectiva de género, seguramente priorizará a otro varón en esta búsqueda, a pesar de que existan mujeres ingenieras con curriculums similares. Este tipo de sesgos también se evidencian en las búsquedas en línea, donde la tecnología puede asociar ciertas actividades con un género específico, como mostrar solo mujeres en la búsqueda de “enfermería”.

Podemos preguntarnos, ¿por qué no se está haciendo nada para contrarrestar este tipo de sesgos? Los equipos de desarrollo y las personas que trabajan en STEM se caracterizan por la poca diversidad de género y socio cultural: los creadores de IA son, en un 80%, hombres blancos heterosexuales de cultura judeocristiana (Endesa, 2020), un perfil muy reducido y poco representativo.

Esta falta de mujeres en disciplinas tecnológicas no es natural, sino que es una consecuencia de imposiciones sociales. Desde la infancia, chicos y chicas comienzan su desarrollo en una sociedad estereotipada que les hace creer que hay cosas “para niños”, muy diferentes a las que son “para niñas”.  A medida que van creciendo, estas imposiciones no hacen más que reforzarse, lo que termina viéndose en las aulas de las universidades tecnológicas, donde hay una marcada desigualdad de género, y se agrava aún más en el ámbito laboral, donde la maternidad suele ser un factor discriminatorio adicional.

En un informe de Chicos.net se consultó a docentes de Argentina si consideraban que el género de sus estudiantes influía en el rendimiento escolar. ¡Casi la mitad dijo que sí en el área de tecnología! Entre estas personas, el 81% cree que esa diferencia favorece a los varones. Al acarrear esta creencia, se estimula en menor medida a quienes se cree que “no tienen facilidad”, lo que dificulta despertar intereses en el área y generar mejores condiciones para un buen desempeño. (Chicos.net, Aula Abierta, Grow – género y trabajo, 2019).

Conociendo estos problemas es posible trabajar para encontrar soluciones. En primera instancia, es fundamental promover -dentro y fuera del sistema educativo- el interés por disciplinas STEM desde la infancia sin importar el género, especialmente para colectivos en situación de pobreza o vulnerabilidad. Revisar los sesgos que tenemos como personas adultas que educan y acompañan infancias y adolescencias es un punto fundamental para ayudarles a que se animen a formar parte de estos sectores, así dejan de ser exclusivos “de varones”.

Algunas ideas para lograr esto desde la docencia son:

• Incluir desde el lenguaje: el masculino genérico puede hacer que las niñas, adolescentes mujeres y personas de otras identidades de género no se sientan interpeladas.
• Prestar atención a cómo damos la voz al estudiantado, distribuyéndola de manera equitativa para que todos y todas puedan participar de igual manera.
• Brindar ejemplos en los que se visibilice que el género no define las capacidades, mostrando referentes diversos.
• Incentivar desde edades tempranas la introducción a disciplinas vinculadas a las ciencias y tecnología.

Por otra parte, es necesaria la conformación de equipos de trabajo pluralistas, multiculturales e interdisciplinarios en el diseño y desarrollo de la tecnología. Incluyendo personas lingüistas, sociólogas y antropólogas, entre otras, que puedan garantizar una perspectiva de diversidad e inclusión.

A su vez, debemos exigir a los estados una promoción de la equidad de género a través de una adecuada gobernanza de datos. En 2021 los 193 estados miembros de la UNESCO aprobaron la Recomendación sobre la ética de la IA, donde se toman como puntos fundamentales la necesidad de:

• Políticas internacionales y nacionales y marcos regulatorios para garantizar que estas tecnologías emergentes beneficien a la humanidad en su conjunto.
• Que la IA esté al servicio de los intereses de los ciudadanos y las ciudadanas.

Solo implementando medidas para garantizar que la IA sea desarrollada de manera ética y teniendo en cuenta la perspectiva de género y diversidad en todo momento, podremos aprovechar su potencial para mejorar la vida de todas las personas por igual.