Sobre algoritmos y sesgos: ¿cómo influyen en lo que vemos en línea?

“El algoritmo” parece un integrante más de nuestros grupos de amigos. Hablamos de él como si tuviera vida propia: “el algoritmo me mandó un video gracioso”, “el algoritmo no me muestra lo que me gusta”.

Pero a veces personificarlo tanto nos corre del foco:  la inteligencia artificial no sale de un repollo, es diseñada por personas, y es por eso que también es susceptible a los prejuicios y sesgos presentes en la sociedad.

Cuando los humanos programan este tipo de recursos tecnológicos también muchas veces también replican ciertos criterios y sesgos humanos, que luego repercuten en las elecciones que toman las herramientas de inteligencia artificial. ¿Cómo sería esto? Se los contamos con dos casos.

El algoritmo sexista de Amazon

En 2014 Amazon puso en marcha un algoritmo para contratar personal. Pero este sistema resultó ser sexista. 5 miembros del equipo que trabajaron en el desarrollo de esta herramienta contaron que el algoritmo “se enseñó a sí mismo que los candidatos masculinos eran una preferencia”. El sistema recibió información sobre solicitantes de empleo en Amazon durante 10 años, y fue entrenado para observar patrones. Como la mayoría de ellos eran hombres, esto creó un sesgo que afectó sus decisiones.

Inteligencia artificial racista 

En junio de 2015, un usuario de Google Photos descubrió que el programa etiquetaba a sus amigos de piel negra como gorilas. La inteligencia artificial de Google no era capaz de distinguir una tez oscura de humano de la de simios como gorilas y chimpancés. Ese sesgo racista de la máquina obligó a disculparse a Google, que se comprometió a buscar una solución al error. 

¿Qué hacer para combatir el sesgo algorítmico? 

Para evitar estos errores de inteligencia artificial, es fundamental conformar equipos de programación que estén integrados con personas de géneros, orígenes y culturas diversas, y promover la capacitación sobre el aspecto social de los medios digitales. La adolescencia es un momento clave para fomentar el interés en las disciplinas STEM (Ciencia, Tecnología, Ingeniería y Matemática) de forma igualitaria y lograr este objetivo. 

Fuentes

https://www.bbc.com/mundo/noticias-45823470

https://bits.blogs.nytimes.com/2015/07/01/google-photos-mistakenly-labels-black-people-gorillas/