Twitter gab die Ergebnisse seines offenen Wettbewerbs bekannt, um Verzerrungen in seinem System zum Zuschneiden von Fotos zu finden.
Die Kopfgeld-Herausforderung wurde im Juli eröffnet, nachdem Twitter-Nutzer gezeigt hatten, dass das automatische Zuschneide-Tool der Website die Gesichter von Menschen mit hellerer Haut gegenüber denen mit dunklerer Haut bevorzugt. Es warf einige Fragen darüber auf, wie die Software die Hautfarbe und bestimmte Faktoren gegenüber anderen priorisiert hat.
Die Herausforderung bestand darin, andere Fehler und Verzerrungen des Zuschneidesystems zu finden, um die Probleme zu beheben.
Der erste Platz ging an Bogdan Kulynych, dessen Beitrag zeigte, wie Schönheitsfilter das Bewertungsmodell des Algorithmus ausspielen können, was wiederum traditionelle Schönheitsstandards verstärkt. Die Einreichung zeigte, dass der Algorithmus junge und schlanke Gesichter mit entweder hellem oder warmem Hautton bevorzugte. Kulynych gewann $3.500.
Der zweite Platz ging an HALT AI, ein Technologie-Startup in Toronto, das entdeckte, dass Bilder von älteren und behinderten Menschen aus Fotos herausgeschnitten wurden. Das Team erhielt $2.000 für den zweiten Platz.
Dritter Platz und 500 $ gingen an Roya Pakzad, Gründerin von Taraaz Research, die entdeckte, dass der Algorithmus lateinische Schriften gegenüber arabischen Schriften bevorzugt, was der sprachlichen Vielf alt schaden könnte.
Die detaillierten Ergebnisse wurden auf der DEF CON 29 von Rumman Chowdhury, dem Direktor des META-Teams von Twitter, präsentiert. Das META-Team untersucht die unbeabsichtigten Probleme in Algorithmen und sondert jede Art von geschlechtsspezifischer und rassistischer Voreingenommenheit aus, die solche Systeme haben könnten.
Die aus diesem Wettbewerb gewonnenen Daten werden verwendet, um Fehler und Verzerrungen im Zuschneidealgorithmus zu beseitigen und ein integrativeres Umfeld zu gewährleisten.
