Facebook is ending its facial recognition system this month and plans to delete face scans of the more than 1 billion users it collected in the past decade, the company – attributing the shift to growing societal concerns – announced Tuesday.
La décision élimine une fonctionnalité qui a créé des modèles de visages des utilisateurs et les a comparés à d'autres photos et vidéos publiées sur la plate-forme.Les données collectées ont permis à Facebook d'informer les utilisateurs lorsqu'ils sont apparus sur la photo ou la vidéo de quelqu'un d'autre et ont incité les utilisateurs à "marquer" des amis et de la famille que l'intelligence artificielle a reconnue dans le contenu.
"Il existe de nombreuses préoccupations concernant le lieu de la technologie de reconnaissance faciale dans la société, et les régulateurs sont toujours en train de fournir un ensemble clair de règles régissant son utilisation", Jerome Preseti, vice-président de l'intelligence artificielle chez Meta, la société mère nouvellement nommée de Facebook, a déclaré dans un article de blog."Au milieu de cette incertitude continue, nous pensons que limiter l'utilisation de la reconnaissance faciale à un ensemble étroit de cas d'utilisation est approprié."
Bien que le nouveau changement signifie que la technologie de META ne reconnaîtra plus automatiquement si le visage d'un utilisateur apparaît sur une photo ou une vidéo publiée sur la plate-forme, Facebook utilisera toujours le système à titre limité.Les utilisateurs pourront accéder aux comptes verrouillés ou vérifier leur identité pour les produits financiers.
"Ce sont des endroits où la reconnaissance faciale est à la fois largement précieuse pour les gens et socialement acceptable, lorsqu'elle est déployée avec soin", a déclaré Presenti.L'entreprise déplacera des "formes plus étroites d'authentification personnelle" à l'avenir, a-t-il ajouté.
Mais il y a "des compromis difficiles", a déclaré Presentti, et les changements pourraient avoir un impact négatif sur la communauté malvoyante.
"La possibilité de dire à un utilisateur aveugle ou malvoyant que la personne sur une photo sur son fil d'actualités est leur ami du secondaire ou ancien collègue, est une fonctionnalité précieuse qui rend nos plateformes plus accessibleCela dépend d'une technologie sous-jacente qui tente d'évaluer les visages sur une photo pour les faire correspondre avec ceux qui sont gardés dans une base de données de personnes qui ont opté. "
Le texte ALT automatique, ou AAT, est une technologie que Facebook utilise pour créer des descriptions d'images pour les utilisateurs visuellement malvoyants et aveugles.La société a déclaré qu'elle identifie actuellement les personnes dans environ 4% des photos.Bien que l'AAT puisse toujours reconnaître le nombre de personnes sur une photo, elle n'utilisera plus la reconnaissance faciale pour identifier chaque utilisateur sur la photo.
La technologie de reconnaissance faciale a progressé ces dernières années, mais son utilisation croissante des organismes d'application de la loi a alimenté les appels à la réglementation des experts en matière de confidentialité.Un rapport d'août du Government Accountability Office a révélé que 18 des 24 agences fédérales interrogées ont déclaré avoir utilisé un logiciel de reconnaissance faciale et au moins dix prévu pour étendre son utilisation d'ici 2023.
Le biais racial dans l'utilisation de la technologie de reconnaissance faciale est une autre préoccupation car elle peut identifier mal les visages noirs et bruns à des taux considérablement plus élevés que leurs homologues blancs.Des experts en droits civiques ont également critiqué l'utilisation de la technologie par la Chine pour suivre les musulmans ouïghour au nom de la prévention du terrorisme.
Les experts en matière de confidentialité ont salué l'annonce de Facebook comme un pas dans la bonne direction.
Sharon Bradford Franklin, codirectrice du projet de sécurité et de surveillance au Center for Democracy and Technology, a déclaré que la reconnaissance faciale est un domaine où la technologie se développe plus rapidement que le règlement qui le guide.
"Lorsque le Congrès est lent à agir ou incapable d'agir, il peut être utile que les grands acteurs privés prennent des mesures pour autorégler ou imposer des contrôles en tant que remplissage d'écart", a déclaré Franklin."Il est difficile de dire que cela augmentera l'élan vers la réglementation", a-t-elle ajouté.
L'année dernière, Amazon, Microsoft et IBM ont tous annoncé qu'ils ne vendraient pas leur technologie de reconnaissance faciale aux organismes d'application de la loi.
L'annonce de Facebook intervient alors que le réseau social traite d'un examen minutieux du public.Le mois dernier, un ancien employé de Facebook, Frances Haugen, a divulgué des milliers de documents internes montrant que la société savait que ses produits aidaient à diffuser une désinformation et un contenu diviseur.
Nathalie Maréchal, responsable de la politique et des partenariats senior chez Ranking Digital Rights, une organisation qui promeut la confidentialité sur Internet, a remis en question le calendrier de l'annonce de Facebook.
Elle a déclaré que la plate-forme de médias sociaux "essaie de contourner les questions réelles et extrêmement importantes sur son dossier de gouvernance et son record de transparence".Plus tôt cette année, Facebook a réglé un procès de confidentialité de 650 millions de dollars dans l'Illinois pour avoir prétendument utilisé les données biométriques des utilisateurs sans leur consentement.
"Cela ne sort pas de nulle part, de la bonté du cœur de l'entreprise", a déclaré Maréchal."Cette question de reconnaissance faciale a été un vrai mal de tête pour l'entreprise depuis longtemps", a-t-elle ajouté.
Maréchal a noté que l'annonce de Facebook indiquait que l'entreprise, qui recentre ses ressources pour construire le métaverse - un monde numérique pour que les gens travaillent et jouent - continuera à utiliser une forme de logiciel de reconnaissance faciale à l'avenir.
"Ils pourraient à nouveau construire le même système très rapidement", a déclaré Maréchal."Il n'y a rien pour les empêcher de le retourner."
CBS News Reporter couvrant l'intersection entre la politique et la technologie.
