Twitter ha presentado planes para una competencia de recompensas por errores con una diferencia. Esta vez, en lugar de pagar a los investigadores que descubren problemas de seguridad, Twitter recompensará a aquellos que encuentren ejemplos de sesgos aún no descubiertos en su algoritmo de recorte de imágenes.

En abril, Twitter dijo que estudiaría los posibles “daños no intencionales” creados por sus algoritmos, comenzando con el de recorte de imágenes. Comenzó a usar el algoritmo en 2018 en un intento de enfocarse en las partes más interesantes de las imágenes en las vistas previas. Algunos usuarios criticaron cómo Twitter manejó el recorte automático, alegando que el algoritmo tiende a enfocarse en personas de piel más clara en las fotos.

“En mayo, compartimos nuestro enfoque para identificar sesgos en nuestro algoritmo de prominencia (también conocido como nuestro algoritmo de recorte de imágenes), y pusimos nuestro código a disposición de otros para que reproduzcan nuestro trabajo”, escribió Twitter en una publicación de blog. “Queremos llevar este trabajo un paso más allá al invitar e incentivar a la comunidad para que ayude a identificar los daños potenciales de este algoritmo más allá de lo que nosotros mismos identificamos”.

Twitter dice que esta es “la primera competencia de recompensas por sesgo algorítmico de la industria” y está ofreciendo premios en efectivo de hasta 3,500 dólares. Rumman Chowdhury, director del equipo de Responsabilidad, Transparencia y Ética del Aprendizaje Automático de Twitter, escribió en un tuit que la empresa está llevando a cabo el concurso “porque creemos que las personas deben ser recompensadas por identificar estos problemas y no podemos resolver estos desafíos solos”. Los ganadores serán anunciados en un taller DEF CON AI Village organizado en Twitter el próximo 8 de agosto.

Fuente: