Agencias/ Ciudad de México.- El programa de recompensas lanzado por Twitter para identificar los potenciales daños de su algoritmo de recorte de imágenes ha reafirmado la presencia de sesgos, ya que favorece las imágenes de personas de piel clara, jóvenes y femeninas.
Twitter ha compartido los resultados del programa de recompensas diseñado para mejorar su algoritmo de recorte de imágenes, con el que animaba a los ‘hackers’ a ayudar a conocer los potenciales daños que pudiera generar.
Los ganadores, desvelados este lunes en la convención DefCon, han aportado una perspectiva novedosa para afrontar el problema de los daños no intencionados y las vías de explotación que podrían existir en el algoritmo, como ha explicado la compañía en la red social.
Uno de ellos mostró que el algoritmo “amplifica los sesgos del mundo real y las expectativas sociales de belleza”, mostrando preferencia por aquellos rostros de personas con pieles claras, cálidas y suaves, más jóvenes y más femeninas.
El segundo demostró que el algoritmo perpetuaba la marginación de determinados grupos sociales como los ancianos y las personas con discapacidad, que quedaban excluidos de los recortes de fotos.
En tercer lugar, Twitter reconoció un trabajo basado en memes bilingües, en los que el algoritmo priorizaba aquellos con texto en escritura latina sobre el texto en árabe, afectando con ello a la diversidad lingüística en la plataforma.
Como trabajo más innovador, también se reconoció una propuesta con emoji, en la que el algoritmo favorecía aquellos que tenían un tono de piel claro, en aquellos conjuntos donde un emoji se representaba con distintos tonos de piel.
La conclusión de tal concurso fue revelada en la conferencia DEF CON 29, donde Rumman Chowdhury, director del equipo META de Twitter (que estudia la ética, la transparencia y la responsabilidad del aprendizaje automático), elogió a los participantes por mostrar los efectos en la vida real del sesgo algorítmico.
El primer lugar lo consiguió un estudiante de posgrado en EPFL (una universidad de investigación en Suiza), llamado Bogdan Kulynych, quien además recibió el premio mayor de 3,500 dólares por su descubrimiento. Su resultado demostró que el algoritmo de recorte de Twitter favorece las caras que son “delgadas, jóvenes, de color de piel claro o cálido y textura de piel suave, y con rasgos faciales estereotípicamente femeninos”.
Para dar con este descubrimiento, Kulynych utilizó un programa de inteligencia artificial llamado StyleGAN2 con el objetivo de generar una gran cantidad de rostros realistas divididos según el color de la piel, los rasgos faciales femeninos en comparación a masculinos y la delgadez. Luego, puso a prueba el algoritmo de Twitter con mosaicos de las imágenes artificiales para reconocer las tendencias del recorte automatizado.
Al respecto, el estudiante explicó en sus conclusiones que lo que está haciendo en realidad la inteligencia artificial detrás del algoritmo es una amplificación de los sesgos ya existentes en la sociedad y que así es como literalmente recorta a “aquellos que no cumplen con las preferencias del algoritmo de peso corporal, edad, color de piel”.
