NOTICIAS
Sobre algoritmos y sesgos: ¿cómo influyen en lo que vemos en línea?
23 de junio 2022
“El algoritmo” parece un integrante más de nuestros grupos de amigos. Hablamos de él como si tuviera vida propia: “el algoritmo me mandó un video gracioso”, “el algoritmo no me muestra lo que me gusta”.
Pero a veces personificarlo tanto nos corre del foco: la inteligencia artificial no sale de un repollo, es diseñada por personas, y es por eso que también es susceptible a los prejuicios y sesgos presentes en la sociedad.
Cuando los humanos programan este tipo de recursos tecnológicos también muchas veces también replican ciertos criterios y sesgos humanos, que luego repercuten en las elecciones que toman las herramientas de inteligencia artificial. ¿Cómo sería esto? Se los contamos con dos casos.
El algoritmo sexista de Amazon
En 2014 Amazon puso en marcha un algoritmo para contratar personal. Pero este sistema resultó ser sexista. 5 miembros del equipo que trabajaron en el desarrollo de esta herramienta contaron que el algoritmo “se enseñó a sí mismo que los candidatos masculinos eran una preferencia”. El sistema recibió información sobre solicitantes de empleo en Amazon durante 10 años, y fue entrenado para observar patrones. Como la mayoría de ellos eran hombres, esto creó un sesgo que afectó sus decisiones.
Inteligencia artificial racista
En junio de 2015, un usuario de Google Photos descubrió que el programa etiquetaba a sus amigos de piel negra como gorilas. La inteligencia artificial de Google no era capaz de distinguir una tez oscura de humano de la de simios como gorilas y chimpancés. Ese sesgo racista de la máquina obligó a disculparse a Google, que se comprometió a buscar una solución al error.
¿Qué hacer para combatir el sesgo algorítmico?
Para evitar estos errores de inteligencia artificial, es fundamental conformar equipos de programación que estén integrados con personas de géneros, orígenes y culturas diversas, y promover la capacitación sobre el aspecto social de los medios digitales. La adolescencia es un momento clave para fomentar el interés en las disciplinas STEM (Ciencia, Tecnología, Ingeniería y Matemática) de forma igualitaria y lograr este objetivo.
Fuentes
https://www.bbc.com/mundo/noticias-45823470
https://bits.blogs.nytimes.com/2015/07/01/google-photos-mistakenly-labels-black-people-gorillas/
También puede interesarte
Reflexiones sobre un año bisagra: ¿qué nos trajo el 2022?
Activismo real vs activismo digital
Activismo digital, brecha de acceso y trabajo interseccional: Algunos punto[...]
Día de Internet: ¿Qué es lo que aprendimos?
A un año del Chat GPT, ni magia ni ciencia ficción
¿Cómo acompañar a chicos y chicas a procesar las noticias y contenidos viol[...]
Niños, niñas y adolescentes de Latinoamérica manifiestan su preocupación an[...]
¿Qué pasa con el grooming en Argentina?
Nuevas sociedades, nuevos ciudadanos
7 claves para crear proyectos educativos de inclusión digital
Día de Internet: ¿Habremos aprendido algo?
Demanda a redes sociales en Nueva York
Cómo es la campaña que apunta a proteger la niñez frente al desafío digital
"Si lo hablaste, ya ganaste". Celebramos 25 años de inclusión digital promo[...]
Wiki: una herramienta colaborativa para entender todos los conceptos claves[...]
Ciudadanía digital en el aula: recursos transmedia para un abordaje signifi[...]
¿Cómo acompañar el uso de pantallas en casa?
Más allá del filtro: autoestima y redes sociales
El Destape | Lanzan campañas por el Día de la Internet Segura
LA SALUD MENTAL DE LOS CHICOS Y LAS REDES SOCIALES: New York demandó a cinc[...]
Guerra contra las redes sociales: Nueva York las demandó en la Justicia por[...]
Inteligencia artificial, apuestas online, celulares y derechos en jaque: ¿q[...]
Estar adentro o quedarse afuera
Mirar en clave de género el vínculo de las infancias con las TIC
Concurso Zoom a tus derechos para niños, niñas y adolescentes
Género y tecnología, dos revoluciones se encuentran
Por qué celebramos el Día Internacional de las Niñas en las Tecnologías de[...]
¿Cómo brindarles más oportunidades a las niñas en las disciplinas STEM?
Innovación inclusiva. Muchos brazos para alcanzar a todos y todas
Guía para informarse en redes sociales y no caer en la trampa
Proteger la identidad digital y la privacidad en línea de niñas y niños par[...]
La paradoja de la privacidad: decimos que nos preocupa, pero seguimos compa[...]
Concurso Zoom a tus Derechos: ¡lanzamiento 2024!