Un cas pour tenir les entreprises technologiques responsables de leurs algorithmes

MICHEL MARTIN, ANIMATEUR :

Comme nous venons de l'entendre, les démocrates et les républicains ont commencé à parler de réglementer Facebook et d'autres grandes entreprises technologiques. Nous voulons parler davantage de ce à quoi cela pourrait ressembler. Lors de l'audience au Sénat, la lanceuse d'alerte Frances Haugen a déclaré que les critiques devraient se concentrer sur les algorithmes de l'entreprise. C'est l'intelligence artificielle que les entreprises de médias sociaux utilisent pour classer ou promouvoir le contenu. Roddy Lindsay est d'accord. C'est un ancien data scientist qui a travaillé sur des algorithmes chez Facebook, qui, on le répète, a été un soutien financier de NPR. Il a écrit un éditorial pour le New York Times sur la façon de réglementer les algorithmes. Et il a commencé par expliquer pourquoi ils sont si dangereux.

RODDY LINDSAY : Il existe des risques réels associés à ces algorithmes qui peuvent amplifier un contenu qui aurait pu être relégué autrefois à un coin marginal d'Internet. Ce type de contenu peut s'installer et se propager très rapidement en très peu de temps. Je pense qu'en tant que société, nous nous demandons, vous savez, si nous voulons ces algorithmes dans nos vies et s'ils sont compatibles avec la démocratie.

Et la bonne nouvelle est qu'il existe une solution relativement simple que le Congrès peut apporter, qui dit essentiellement que si vous utilisez ces algorithmes pour distribuer du contenu, vous, en tant que plate-forme, devez en assumer la responsabilité. Et vous pourriez en être tenu responsable. Et je pense que ce que cela ferait, c'est que - cela changerait les incitations pour ces entreprises à changer la façon dont elles créent ces flux et créent leurs produits et s'orientent davantage vers un modèle qui remet le contrôle entre les mains des utilisateurs et le fait, vous savoir, compréhensible, la façon dont ils commandent le contenu et le sortent des mains de ce genre d'algorithmes d'IA de type boîte noire.

MARTIN : Vous l'avez décrit comme une réforme directe. Si c'est direct et simple, pourquoi pensez-vous que cela ne s'est pas encore produit ?

LINDSAY: Vous savez, le Congrès s'est débattu avec, eh bien, comment faites-vous cela d'une manière qui, vous savez, ne va pas à l'encontre du Premier Amendement? Vous savez, vous ne voulez pas que le Congrès obtienne - vous savez, dire que c'est le type de discours que vous pouvez organiser. C'est le discours que vous ne pouvez pas héberger. Je veux dire, cela se heurterait évidemment aux problèmes du premier amendement.

Mais si vous vous concentrez uniquement sur la partie amplification (ph), il y a un précédent historique à cela. Vous savez, dans les années 1940, les villes des États-Unis étaient envahies par ces camions sonores qui roulaient avec ces énormes klaxons et amplifiaient la musique, les publicités et des choses comme ça. Et donc certaines villes ont commencé à adopter des lois réglementant ces camions sonores, disant, vous savez, vous ne pouvez pas conduire et faire exploser ce discours dans les maisons des gens à ce niveau très fort. Et la Cour suprême a en fait confirmé la loi de Trenton - Trenton, NJ en 1949. Il y a donc un précédent pour la Cour suprême disant qu'il existe des moyens de limiter l'amplification du discours - pas le discours lui-même, mais comment il est amplifié et distribué.

MARTIN : Mais qu'en est-il du côté commercial ? Je veux dire, je pense que les critiques, comme Frances Haugen, ont fait valoir que l'une des raisons pour lesquelles Facebook ne fait pas cela ou ne l'a pas fait de lui-même est que cela a été très rentable. Les affaires qu'ils ont dirigées ont été extrêmement rentables. Quel est votre sentiment de - et je sais que vous ne parlez pas pour Facebook. Ce n'est pas pour ça qu'on t'a appelé. Mais quel effet cela aurait-il sur leur business model ?

LINDSAY: Vous savez, il n'y a aucune incitation pour eux à se débarrasser de ces algorithmes eux-mêmes, c'est pourquoi il faut que le Congrès intervienne et dise qu'il doit y avoir une réglementation complète qui les limite pour tout le monde, pas seulement pour un site ou une autre. Donc, même si Facebook ou YouTube voulaient faire ce qu'il fallait, ils ne le peuvent vraiment pas aujourd'hui à cause de la pression du marché. Et ils ont des actionnaires, bien sûr, à qui rendre compte. Donc, si vous deviez dire, vous savez quoi? Nous allons unilatéralement diminuer nos revenus de 10 ou 20 % - vos actionnaires vous crieraient dessus.

Mais si c'est le Congrès qui peut intervenir, alors tout le monde a le même impact. Et après cela, vous savez, tout le monde - il y a ceci - il y a des règles du jeu équitables. Et toutes les entreprises peuvent recommencer à créer des produits qui profitent réellement à leurs utilisateurs sans compter sur ces algorithmes pour être le principal moteur de l'engagement. Je pense donc, vous savez, même si les entreprises pourraient dire que cela leur serait préjudiciable, je pense que ce serait à très court terme.

MARTIN : Avant de vous laisser partir, cela vous dérange-t-il si je vous pose une question - une question personnelle ?

LINDSAY : Absolument.

MARTIN : Comment gérez-vous votre alimentation sur les réseaux sociaux en sachant tout ce que vous savez ? Sachant tout ce que vous savez sur le fonctionnement de ces algorithmes, comment gérez-vous cela vous-même ?

LINDSAY: Eh bien, en fait, sur Twitter, j'utilise leurs flux chronologiques, leur flux non algorithmique, qui est l'une de leurs options. Et, vous savez, ce que je trouve, c'est que cela me permet de découvrir des choses qui ne sont peut-être pas le contenu le plus polarisant ou le plus engageant. C'est peut-être un peu plus ennuyeux. Mais je trouve que c'est en fait un meilleur reflet des gens dans nos vies et, vous savez, de ce qui se passe là-bas.

Vous savez, tout n'a pas besoin d'être le - tout ce que vous voyez sur les réseaux sociaux n'a pas besoin d'être le contenu le plus engageant. Il pourrait être avantageux d'avoir un flux plus ennuyeux. Et ce n'est pas quelque chose que les autres préfèrent. Et je l'utilise moi-même. Et je pense que tout ira bien.

MARTIN : Roddy Lindsay est un ancien data scientist de Facebook. Son éditorial du New York Times s'intitule "J'ai conçu des algorithmes sur Facebook. Voici comment les réglementer". Roddy Lindsay, merci beaucoup de nous avoir parlé.

LINDSAY : Merci de m'avoir invité.

(EXTRACTION SONORE DE MUSIQUE)

Les transcriptions NPR sont créées dans un délai très court par Verb8tm, Inc., un sous-traitant NPR, et produites à l'aide d'un processus de transcription exclusif développé avec NPR. Ce texte peut ne pas être dans sa forme définitive et peut être mis à jour ou révisé à l'avenir. La précision et la disponibilité peuvent varier. L'enregistrement faisant autorité de la programmation de NPR est l'enregistrement audio.