Twitter ha estado revisando sus algoritmos para detectar posibles sesgos y recientemente dejó de usar su sistema automático de recorte de imágenes.
Twitter dijo el miércoles que está abandonando su sistema automático de recorte de imágenes después de que su revisión descubrió una falla en el algoritmo que controla la función.
Archivo plataforma de mensajería dijo que había encontrado algoritmo proporcionó “trato desigual basado en diferencias demográficas” con blancos y hombres favorecidos sobre negros y mujeres, y objetivación que se centró en el pecho o las piernas de la mujer, lo que se conoce como una “mirada masculina”.
La noticia llegó un mes después de que Twitter anunciara que estaba lanzando una iniciativa de equidad algorítmica en un esfuerzo por reducir el sesgo en su plataforma introducido por la automatización.
En 2018, Twitter introdujo el llamado Algoritmo de relevancia para recortar imágenes, diseñado para mejorar la coherencia del tamaño de la foto en su propia línea de tiempo y centrarse en sus elementos más importantes.
Rumman Chowdhury, jefe de Twitter Ingeniería de software y un especialista en ética i inteligencia artificial, dijo que la compañía después de la revisión dijo que era mejor dejar las decisiones sobre los cultivos a los usuarios.
“Consideramos las compensaciones entre la velocidad y la consistencia del autocultivo y los riesgos potenciales que vimos en esta investigación”, dijo en una publicación de blog.
“Una de nuestras conclusiones es que no todo en Twitter es un buen candidato para un algoritmo y, en este caso, son las personas quienes deciden cómo se recorta la imagen”.
El anuncio se produjo en medio de una mayor preocupación por los algoritmos avanzados que podrían dar resultados erróneos debido a la falta de datos minoritarios u otros factores.
Esta semana, Amazon dijo que estaba extendiendo la prohibición. cumplimiento de la leyusar tecnología de reconocimiento facial por temor a que sus desventajas empeoren Prejuicio racial.
Según la empresa, la iniciativa de Twitter exige “responsabilidad por nuestras decisiones algorítmicas” para garantizar “la igualdad y equidad de los resultados”.
© 2021 AFP