Stephen Shankland/CNET
Un chercheur de l'université technique suisse de l'EPFL a remporté un prix de 3 500 $ pour avoir déterminé qu'un algorithme clé de Twitter favorisait les visages minces et jeunes et avec une peau plus claire ou plus chaude. Twitter a annoncé dimanche avoir décerné le prix à
Bogdan Kulynych
, un étudiant diplômé examinant la confidentialité, la sécurité, l'IA et la société.
Twitter a parrainé le concours pour trouver des problèmes dans l'algorithme de « saillance » qu'il utilise pour recadrer les photos qu'il affiche sur votre chronologie Twitter. Les
prime que Twitter a offert pour trouver le biais de l'IA
est une nouvelle version de la pratique désormais courante des primes de bogue que les entreprises paient des étrangers pour trouver des failles de sécurité.
Recevez la newsletter CNET Daily News
Découvrez les plus grandes actualités en quelques minutes. Livré en semaine.
L'IA a révolutionné l'informatique en s'attaquant efficacement à des sujets compliqués comme le sous-titrage de vidéos, la détection des e-mails de phishing et la reconnaissance de votre visage pour déverrouiller votre téléphone. Mais les algorithmes d'IA formés sur des données du monde réel peuvent refléter des problèmes du monde réel, et la lutte contre les biais de l'IA est un domaine brûlant en informatique. La prime de Twitter est conçue pour trouver de tels problèmes afin qu'ils puissent éventuellement être corrigés.
Plus tôt cette année, Twitter lui-même a confirmé que son système d'IA montrait un biais lorsque son algorithme de recadrage
images préférées des Blancs par rapport aux Noirs
. Mais Kulynych a trouvé d'autres problèmes dans la façon dont l'algorithme recadrait les photos pour souligner ce qu'il jugeait le plus important.
Le chercheur Bogdan Kulynych a découvert que l'algorithme d'IA de Twitter favorisait souvent des variantes plus jeunes, plus claires et plus minces d'une photo originale. Le score de « saillance » de Twitter, utilisé pour déterminer comment recadrer les photos, a augmenté de 35 %, 28 % et 29 %, respectivement, pour les variations les plus à droite des séquences du haut, du milieu et du bas présentées ici.
Bogdan Kulynych
"Le modèle cible a tendance à considérer comme plus saillantes les représentations de personnes qui semblent minces, jeunes, de couleur de peau claire ou chaude et de texture de peau lisse, et avec des traits du visage stéréotypés féminins",
Kulynych a déclaré dans les conclusions de son projet
. "Ce biais pourrait entraîner l'exclusion de populations minoritaires et la perpétuation de normes de beauté stéréotypées dans des milliers d'images."
Le système de Kulynych a comparé la saillance d'une photo originale d'un visage humain à une série de variations générées par l'IA. Il a constaté que les scores de saillance augmentaient souvent avec des visages qui semblaient plus jeunes et plus minces. L'algorithme a également émis des scores plus élevés pour une peau plus claire, plus chaude, plus contrastée et avec des couleurs plus saturées.
Twitter et l'IA
Twitter offre une prime aux bogues pour repérer les biais de l'IA afin qu'il puisse corriger ses algorithmes
Twitter va enfin vérifier plus de comptes : comment obtenir le chèque bleu
Google désactive la retouche selfie par défaut dans Pixel 5, 4A
Twitter a salué la participation au concours comme étant importante dans un monde où beaucoup d'entre nous utilisent des applications d'appareil photo et d'édition qui appliquent des filtres de beauté avant de partager des photos avec des amis ou sur les réseaux sociaux. Cela peut fausser nos attentes d'attractivité.
Les filtres de beauté et d'applications sont répandus.
Facetune
, l'une des meilleures applications, promet de vous aider à « vous démarquer sur les réseaux sociaux ».
B612
, un autre filtre populaire, propose un outil de « beauté intelligente » qui peut recommander des modifications de la forme de votre visage et d'autres changements d'apparence. Mais conclure que les filtres d'embellissement peuvent « avoir un impact négatif sur le bien-être mental »,
Google a désactivé ses retouches automatiques
par défaut dans son application d'appareil photo Pixel. Il a également cessé d'appeler ses ajustements des filtres de « beauté ».
