Au cours des dernières années, la technologie de reconnaissance faciale est devenue un outil essentiel pour l'application des lois: le FBI l'a utilisé pour aider à identifier les suspects qui ont pris d'assaut le Capitole le 6 janvier et l'État et la police locale affirment qu'elle a été déterminant en cas de vols, d'agressions,et les meurtres.Le logiciel de reconnaissance faciale utilise des algorithmes mathématiques complexes ou des instructions pour comparer une image du visage d'un suspect à des millions d'autres dans une base de données.Mais ce n'est pas seulement les mogues que le logiciel peut rechercher.Si vous avez un permis de conduire, il y a de fortes chances que votre photo ait été recherchée, même si vous n'avez jamais commis de crime dans votre vie.
En janvier 2020, Robert Williams est rentré du travail pour trouver deux policiers de Détroit l'attendant devant sa maison dans la banlieue tranquille de Farmington Hills, Michigan.
Ils avaient un mandat pour son arrestation.
Il n'avait jamais eu de problèmes avec la loi auparavant et n'avait aucune idée de ce dont il était accusé.
Robert Williams: Je me dis: "Tu ne peux pas simplement me présenter chez moi et dire que je suis en état d'arrestation."
Robert Williams: Le flic obtient un morceau de papier et il dit: "Larceny criminel".Je me dis "mon frère, je n'ai pas volé rien.Je me dis: "Tu as la mauvaise personne."
Williams, qui a 43 ans et qui se remet maintenant d'un accident vasculaire cérébral, a été menotté devant sa femme, Melissa, et leurs deux filles.
Melissa Williams: Nous pensions que c'était peut-être une identité erronée.Comme, quelqu'un a-t-il utilisé son nom?
Il a été amené dans ce centre de détention et enfermé dans une cellule pendant la nuit.La police pensait que Williams était cet homme dans le chapeau rouge, enregistré dans un magasin de Détroit en 2018, volant 3 800 $ de montres.
Lorsque les détectives de Detroit ont finalement interrogé Williams plus de 12 heures après son arrestation, ils lui ont montré quelques photos - y compris de la caméra de sécurité du magasin.
ROBERT WILLIAMS: Alors, il retourne le journal et il se dit: "Alors, ce n'est pas toi?"Et je l'ai regardé, je l'ai ramassé et je l'ai tenu à mon visage et j'ai dit: "J'espère que vous ne pensez pas tous que tous les Noirs se ressemblent."À ce stade, je suis bouleversé.Comme, mon frère, pourquoi suis-je même ici?Il est comme, "Alors, je suppose que l'ordinateur s'est trompé."
Anderson Cooper: L'officier de police a déclaré: "L'ordinateur s'est trompé"?
Robert Williams: Ouais, l'ordinateur s'est trompé.
Williams ne savait pas que l'ordinateur auquel ils faisaient référence était un programme de reconnaissance faciale.La police de Détroit nous a montré comment leur système fonctionne.Premièrement, une photo d'un suspect inconnu est exécutée contre une base de données de centaines de milliers de mugshots, que nous avons brouillé pour cette manifestation.
James Craig: C'est un livre de tasse électronique, si vous voulez.
James Craig est le chef de police de Détroit depuis 2013.
James Craig: Une fois que nous avons inséré une photographie, une photo de sonde - dans le logiciel - l'ordinateur peut générer 100 probables.Et puis ils classent ces photographies dans l'ordre de ce que l'ordinateur suggère ou le logiciel suggère que c'est le suspect le plus probable.
Anderson Cooper: Le logiciel le classe par ordre de - de suspect le moins probablement le moins probablement?
James Craig: Absolument.
Il appartient ensuite à un analyste pour comparer chacune de ces correspondances possibles au suspect et décider si l'un d'eux devrait être étudié plus loin.
Dans l'affaire Robert Williams, la police de Détroit a déclaré qu'elle n'avait pas d'analyste en service ce jour-là, ils ont donc demandéIDS et permis de conduire.Cette photo de permis de conduire de Robert Williams est apparue.Nous avons appris qu'il était classé 9e parmi 243 matchs possibles.Un analyste l'a ensuite envoyé à la police de Détroit en tant que responsable d'enquête uniquement, et non une cause probable d'arrêter.
Anderson Cooper: Que s'est-il passé dans le cas de Robert Williams?Qu'est ce qui ne s'est pas bien passé?
James Craig: travail d'investigation bâclé et bâclé.
Sloppy, le chef Craig dit parce que le détective de Détroit a fait peu d'autres travaux d'enquête avant d'obtenir un mandat d'arrêt Williams.
James Craig: La réponse de cette administration - ce détective a été discipliné.Et, par la suite, un commandant de ce commandement a été déçu.Mais ce n'est pas une reconnaissance faciale qui a échoué.Ce qui a échoué, c'est une horrible enquête.
Deux semaines après son arrêt, les accusations contre Robert Williams ont été licenciées.
Anderson Cooper: La police de Détroit dit que l'affaire Williams était en grande partie le résultat d'un travail de détective bâclé.Pensez-vous que c'est vrai?
Clare Garvie: Cela fait partie de l'histoire, c'est sûr.Mais la reconnaissance du visage fait également partie de l'histoire.
Clare Garvie, avocate au Georgetown's Center on Privacy and Technology, estime que la reconnaissance faciale a été impliquée dans des centaines de milliers de cas.
Elle suit son utilisation par la police depuis des années.Les législateurs, les forces de l'ordre et les développeurs de logiciels ont tous recherché la contribution de Garvie sur le sujet.
Clare Garvie: Parce que c'est une machine, parce que ce sont les mathématiques qui font la reconnaissance du visage dans ces systèmes, nous lui donnons trop de crédibilité.Nous disons: "C'est les mathématiques, donc ça doit être vrai."
Anderson Cooper: "L'ordinateur doit être correct"?
Clare Garvie: Exactement.Quand nous voulons être d'accord avec l'ordinateur, nous allons aller trouver des preuves qui sont d'accord avec elle
Mais Garvie dit que l'ordinateur est aussi bon que le logiciel sur lequel il fonctionne.
Clare Garvie: Il y a de bons algorithmes;Il existe des algorithmes terribles, et tout le reste.
Patrick Grother a examiné la plupart d'entre eux.Il est informaticien d'une agence gouvernementale peu connue appelée l'Institut national des normes et de la technologie.
Chaque année, plus d'une centaine de développeurs de reconnaissance faciale du monde entier envoient ses prototypes de laboratoire pour tester la précision.
Anderson Cooper: Les ordinateurs sont-ils bons pour reconnaître les visages?
Patrick Grother: Ils sont très bons.Je ... ils sont meilleurs que les humains aujourd'hui.
Anderson Cooper: Ces algorithmes sont-ils impeccables?
Patrick Grother: en aucun cas.
Les développeurs de logiciels forment des algorithmes de reconnaissance faciale en leur montrant un grand nombre de visages humains afin qu'ils puissent apprendre à repérer les similitudes et les différences, mais ils ne fonctionnent pas comme vous pourriez vous attendre.
Anderson Cooper: Nous avons tous vu dans des ordinateurs de films qui - forment une carte du visage.Est-ce ce qui se passe avec la reconnaissance faciale?
Patrick Grother: Je veux dire, historiquement, oui.Mais de nos jours, ce n'est pas l'approche.
Anderson Cooper: il ne vous prend donc pas le nez et ne le compare pas au nez dans sa base de données, ni puis à prendre des yeux et à le comparer aux yeux.
Patrick Grother: Rien de si explicite.Il pourrait être regardé les sourcils, les yeux ou le nez ou les lèvres.Il pourrait être regardé - la texture de la peau.Donc, si nous avons 20 photos d'Anderson Cooper, qu'est-ce qui est cohérent?Il essaie de découvrir ce qui fait Anderson Cooper, Anderson Cooper.
Il y a un an et demi, Shotr et son équipe ont publié une étude historique qui a révélé que de nombreux algorithmes de reconnaissance faciale avaient plus de mal à élaborer des différences dans les visages noirs, asiatiques et féminins.
Patrick Grother: Ils font des erreurs - fausses erreurs négatives, où ils ne trouvent pas le bon visage et les erreurs fausses positives, où ils trouvent quelqu'un d'autre.Dans un contexte de justice pénale, cela pourrait conduire à un - vous connaissez une arrestation incorrecte.
Anderson Cooper: Pourquoi la course ou le sexe d'une personne mènerait-il à une mauvaise identification?
Patrick Grother: L'algorithme a été construit sur un nombre fini de photos qui peuvent ou non être équilibrées démographiquement.
Anderson Cooper: pourrait ne pas avoir assez de femmes, assez de personnes asiatiques, assez de Noirs parmi les photos qu'il utilise pour enseigner l'algorithme.
Patrick Grother: Oui, pour enseigner à l'algorithme comment - faire l'identité.
Clare Garvie souligne le potentiel d'erreurs rend d'autant plus important comment la police utilise les informations générées par le logiciel.
Anderson Cooper: La reconnaissance faciale est-elle utilisée à mauvais escient par la police?
Clare Garvie: En l'absence de règles, quoi - je veux dire, quelle est la mauvaise utilisation?Il y a très peu de règles dans la plupart des endroits sur la façon dont la technologie est utilisée.
Il s'avère qu'il n'y a pas de directives nationales bien établies et c'est aux États, aux villes et aux organismes locaux d'application de la loi pour décider comment ils utilisent la technologie: qui peut effectuer des recherches de reconnaissance faciale, quel type de formation formelle, le cas échéant, est nécessaire, et quel type d'images peut être utilisée dans une recherche.
Dans un rapport de 2019, Garvie a trouvé des pratiques surprenantes dans certains services de police, y compris l'édition des traits faciaux des suspects avant d'exécuter les photos dans une recherche.
Clare Garvie: La plupart des photos que la police sont - traitent naturellement sont partiellement obscurcies.Les services de police disent: "Pas de soucis.Il suffit de couper et coller les traits de quelqu'un d'autre, le menton et la bouche de quelqu'un d'autre dans cette photo avant de le soumettre."
Anderson Cooper: Mais c'est, comme, la moitié du visage de quelqu'un.
Clare Garvie: Je suis d'accord.Si nous y réfléchissons, la reconnaissance du visage est considérée comme un biométrique, comme les empreintes digitales.C'est unique à l'individu.Alors, comment pouvez-vous échanger les yeux des gens et vous attendre à obtenir un bon résultat?
Le chef de la police de Détroit, James Craig, dit qu'ils n'autorisent pas ce type de montage avec leur système de reconnaissance faciale, qui a coûté environ 1 $.8 millions et est utilisé depuis 2017.Il dit que c'est devenu un outil crucial pour lutter contre l'un des taux de crimes violents les plus élevés du pays et a été utilisé dans 117 enquêtes l'année dernière seulement.
James Craig: Nous comprenons que le - le logiciel n'est pas parfait.Nous savons que.
Anderson Cooper: Il faut être tentant que certains officiers l'utilisent comme plus qu'une simple avance.
James Craig: Eh bien, comme j'aime toujours dire à mon personnel, la fin ne justifie jamais les moyens.
Après Robert Williams, une autre arrestation présumée injustifiée de la police de Détroit a été révélée.Le chef Craig dit qu'ils ont mis en place des politiques plus strictes limitant l'utilisation de la reconnaissance faciale aux crimes violents.
Obliger la police à divulguer son utilisation aux procureurs lors de la recherche d'un mandat et de l'ajout de nouvelles couches de surveillance.
James Craig: Donc, l'analyste numéro un passera par le travail méthodique M-essayant d'identifier le suspect.Un deuxième analyste doit passer par le même niveau de rigueur.La dernière étape est que le superviseur concorde, maintenant cette personne peut être utilisée comme chef.Une avance uniquement.Un suspect ne peut pas être arrêté seul et inculpé seul en fonction de la reconnaissance.
Mais il y a des services de police comme celui-ci à Woodbridge, New Jersey, où on ne sait pas quelles règles sont en place.En février 2019, la police de Woodbridge a arrêté Nijeer Parks, 33 ans,.
Anderson Cooper: Vous ont-ils dit pourquoi ils pensaient que c'était vous?
Nijeer Parks: à peu près juste la reconnaissance faciale.Quand je leur ai demandé: "Eh bien, comment êtes-vous venu me voir?"Comme, "Le ... comme l'ordinateur vous a fait monter.L'ordinateur ne mentira pas seulement."
La police a déclaré qu'un suspect aurait volé à l'étalage de cette Hampton Inn et avait presque frappé un officier avec une voiture en échappant sur les lieux.Ils ont dirigé ce permis de conduire que le suspect leur a donné par le biais d'un programme de reconnaissance faciale.Il n'est pas clair si c'est l'agresseur puisque les forces de l'ordre ont dit que c'était une fausse pièce d'identité.Selon les rapports de la police, la recherche est revenue "."Il a passé plus d'une semaine de prison avant qu'il ne soit libéré pour combattre son cas devant le tribunal.
Nijeer Parks: Je pense qu'ils ont regardé mes antécédents, ils pensaient à peu près, comme "Il avait la veste, nous les avons.Il n'est pas ... il ne va pas le combattre."
Anderson Cooper: Quand vous dites que vous aviez une veste, vous avez déjà été condamné.
Nijeer Parks: Oui.
Anderson Cooper: Quelles condamnations antérieures avez-vous?
Nijeer Parks: J'ai été condamné pour avoir vendu de la drogue, je suis en prison deux fois.Mais je suis à la maison depuis 2016, j'ai eu un emploi sans arrêt tout le temps.
Face à 20 ans de prison, Parks dit qu'il a envisagé de conclure un accord de plaidoyer.
Nijeer Parks: Je savais que je ne l'ai pas fait, mais c'est comme, j'ai eu la chance d'être à la maison, de passer plus de temps avec mon fils, ou j'ai eu la chance de rentrer à la maison, et c'est un adulte et pourrait avoir le sienfils.
Anderson Cooper: 'Parce que je pense que la plupart des gens pensent: "Eh bien, si je n'avais pas commis de crime, il n'y a aucun moyen d'accepter un accord de plaidoyer."
Nijeer Parks: Vous diriez que jusqu'à ce que vous soyez assis juste là.
Après huit mois, les procureurs n'ont produit aucune preuve devant le tribunal reliant les parcs au crime et, en octobre 2019, l'affaire a été rejetée.Parks est maintenant le troisième homme noir depuis l'été dernier à se présenter et à poursuivre pour une arrestation injustifiée impliquant la reconnaissance faciale.La police de Woodbridge et le procureur impliqué dans le cas de Parks ont refusé de nous parler avec nous.Un porte-parole de la ville nous a dit qu'ils avaient refusé les réclamations civiles de Parks dans les documents judiciaires.
Anderson Cooper: Si cela a été utilisé des centaines de milliers de fois comme leader dans les enquêtes, et que vous ne pouvez que signaler trois arrestations en fonction d'une erreur d'identification par cette technologie, dans l'équilibre est-elle si mauvaise?
Clare Garvie: Le fait que nous ne connaissons que trois erreurs d'identification est plus un produit de la façon dont nous savons peu de choses sur la technologie que la précision.
Anderson Cooper: Pensez-vous qu'il y a plus?
Clare Garvie: Oui.J'ai toutes les raisons de croire qu'il y a plus.Et c'est pourquoi la personne qui est accusée ne découvre presque jamais qu'il a été utilisé.
Robert Williams dit qu'il n'a découvert qu'il avait été utilisé après que les détectives lui aient dit que l'ordinateur s'est trompé.Il a poursuivi avec l'aide de l'ACLU.La ville de Détroit a nié toute responsabilité juridique et nous a dit qu'ils espéraient régler.
Alors que l'utilisation de la technologie de reconnaissance faciale par les services de police continue de croître, il faut donc une plus grande surveillance.Au cours des deux dernières années, une ville et un État ont mis un moratoire sur la technologie et 19 villes l'ont interdit carrément.
Produit par Nichole Marks et David M.Levine.Producteur associé, Annabelle Hanflig.Édité par Joe Schanzer.
Anderson CooperAnderson Cooper, ancre de "Anderson Cooper 360" de CNN, a contribué à 60 minutes depuis 2006.Ses reportages exceptionnels sur les événements de grandes nouvelles ont valu à Cooper une réputation de l'un des journalistes prééminents de la télévision.
