La plupart des entreprises disposent aujourd'hui d'une grande quantité de données à portée de main. Ils ont également les outils pour exploiter ces informations. Mais avec ce pouvoir vient la responsabilité. Avant d'utiliser les données, les technologues doivent prendre du recul et évaluer le besoin. À l'ère virtuelle d'aujourd'hui, axée sur les données, il ne s'agit pas de savoir si vous disposez de l'information, mais si vous devez l'utiliser et comment.
Considérez les implications du Big Data
Les outils d'intelligence artificielle (IA) ont révolutionné le traitement des données, transformant d'énormes quantités d'informations en informations exploitables. Il est tentant de croire que toutes les données sont bonnes et que l'IA les rend encore meilleures. Les feuilles de calcul, les graphiques et les visualisations rendent les données « réelles ». Mais comme tout bon technologue le sait, le vieux sentiment informatique, "garbage in, garbage out" s'applique toujours. Aujourd'hui plus que jamais, les organisations doivent se demander d'où proviennent les données et comment les algorithmes interprètent ces données. Enfouis dans tous ces graphiques se trouvent des risques éthiques potentiels, des préjugés et des conséquences imprévues.
Il est facile de demander à vos partenaires technologiques de développer de nouvelles fonctionnalités ou capacités, mais à mesure que de plus en plus d'entreprises adoptent des opérations et des outils d'apprentissage automatique (ML) pour rationaliser et informer les processus, il existe un potentiel de biais. Par exemple, les algorithmes discriminent-ils sans le savoir les personnes de couleur ou les femmes ? Quelle est la source des données ? Y a-t-il une autorisation d'utiliser les données ? Toutes ces considérations doivent être transparentes et étroitement surveillées.
Considérez comment la loi existante s'applique à l'IA et au ML
La première étape de ce voyage consiste à élaborer des directives sur la confidentialité des données. Cela comprend, par exemple, des politiques et des procédures qui traitent de considérations telles que la notification et la transparence que les données sont utilisées pour l'IA, des politiques sur la façon dont les informations sont protégées et tenues à jour, et la façon dont le partage de données avec des tiers est régi. Ces lignes directrices, espérons-le, s'appuient sur un cadre global existant de confidentialité des données.
Au-delà de la confidentialité, d'autres corps de lois pertinents peuvent avoir un impact sur votre développement et votre déploiement de l'IA. Par exemple, dans l'espace RH, il est essentiel que vous vous référiez aux lois fédérales, étatiques et locales sur l'emploi et la lutte contre la discrimination. De même, dans le secteur financier, il existe une série de règles et réglementations applicables qui doivent être prises en compte. La loi existante continue de s'appliquer, tout comme elle le fait en dehors du contexte de l'IA.
Garder une longueur d'avance tout en utilisant les nouvelles technologies
Au-delà du droit existant, avec l'accélération de la technologie, notamment l'IA et le ML, les considérations deviennent plus complexes. En particulier, l'IA et le ML introduisent de nouvelles opportunités pour discerner des informations à partir de données qui étaient auparavant irréalisables et peuvent le faire à bien des égards mieux que les humains. Mais l'IA et le ML sont créés en fin de compte par les humains, et sans une surveillance attentive, il y a des risques d'introduire des biais et des résultats indésirables. La création d'un comité d'éthique de l'IA et des données peut aider les entreprises à anticiper les problèmes de ces nouvelles technologies.
Commencez par établir des principes directeurs pour régir l'utilisation de l'IA, du ML et de l'automatisation spécifiquement dans votre entreprise. L'objectif est de s'assurer que vos modèles sont pertinents et fonctionnels, et qu'ils ne « dérivent » pas de leur objectif sans le savoir ou de manière inappropriée. Considérez ces cinq lignes directrices :
1. Responsabilité et transparence. Effectuez des audits et des évaluations des risques pour tester vos modèles, et surveillez et améliorez activement vos modèles et systèmes pour vous assurer que les modifications des données sous-jacentes ou des conditions du modèle n'affectent pas de manière inappropriée les résultats souhaités.
2. Confidentialité dès la conception. Assurez-vous que votre approche à l'échelle de l'entreprise intègre la confidentialité et la sécurité des données dans le ML et les systèmes de traitement de données associés. Par exemple, vos modèles ML cherchent-ils à minimiser l'accès aux informations identifiables pour vous assurer que vous n'utilisez que les données personnelles dont vous avez besoin pour générer des informations ? Offrez-vous aux individus une possibilité raisonnable d'examiner leurs propres données personnelles et de les mettre à jour si elles sont inexactes ?
3. Clarté. Concevoir des solutions d'IA qui sont explicables et directes. Vos modèles de découverte et d'utilisation des données ML sont-ils conçus avec la compréhension comme attribut clé, mesuré par rapport à un résultat souhaité exprimé ?
4. Gouvernance des données. Comprendre comment vous utilisez les données et les sources à partir desquelles vous les obtenez devrait être la clé de vos principes d'IA et de ML. Maintenir les processus et les systèmes pour suivre et gérer l'utilisation et la conservation des données. Si vous utilisez des informations externes dans vos modèles, telles que des rapports gouvernementaux ou des terminologies industrielles, comprenez les processus et l'impact de ces informations dans vos modèles.
5. Utilisation éthique et pratique des données. Établir une gouvernance pour fournir des conseils et une supervision sur le développement de produits, de systèmes et d'applications qui impliquent l'IA et les données.
Des principes comme ceux-ci peuvent à la fois guider la discussion sur ces questions et aider à créer des politiques et des procédures sur la façon dont les données sont traitées dans votre entreprise. Plus largement, ils donneront le ton à toute l'organisation.
Créer un comité d'IA et d'éthique
Les lignes directrices sont excellentes, mais elles doivent être appliquées pour être efficaces. Un comité d'éthique de l'IA et des données est un moyen de s'assurer que ces principes sont intégrés au développement de produits et à l'utilisation des données internes. Mais comment les entreprises peuvent-elles s'y prendre ?
Commencez par réunir une équipe interdisciplinaire. Envisagez d'inclure des experts internes et externes tels que l'informatique, le développement de produits, le juridique et la conformité, la confidentialité, la sécurité, l'audit, la diversité et l'inclusion, des analystes du secteur, un expert juridique externe et/ou un expert en affaires de consommation, par exemple. Plus l'équipe est diversifiée et bien informée, plus vos discussions peuvent être efficaces autour des implications potentielles et de la viabilité des différents cas d'utilisation.
Ensuite, passez du temps à discuter des problèmes plus importants. Il est important ici de s'éloigner du processus pendant une minute et de se plonger dans une discussion en direct et productive. Quelles sont les valeurs fondamentales de votre organisation ? Comment devraient-ils éclairer vos politiques concernant le développement et le déploiement de l'IA et du ML ? Toute cette discussion jette les bases des procédures et des processus que vous décrivez.
Il peut également être utile de définir une cadence de réunion régulière pour examiner les projets. Encore une fois, les problèmes les plus importants devraient guider la discussion. Par exemple, la plupart des développeurs de produits présenteront les aspects techniques, tels que la manière dont les données sont protégées ou cryptées. Le rôle du conseil devrait viser à analyser le projet à un niveau plus fondamental. Certaines questions à considérer pour orienter la discussion pourraient être :
Parce que l'IA et l'éthique sont devenues un problème de plus en plus important, il existe de nombreuses ressources pour aider votre organisation à naviguer dans ces eaux. Contactez vos fournisseurs, cabinets de conseil ou groupes commerciaux et consortiums, comme l'Enterprise Data Management (EDM) Council. Mettez en œuvre les éléments qui conviennent à votre entreprise, mais n'oubliez pas que les outils, les listes de contrôle, les processus et les procédures ne doivent pas remplacer la valeur de la discussion.
L'objectif ultime est d'intégrer ces considérations à la culture de l'entreprise afin que chaque employé qui touche à un projet, travaille avec un fournisseur ou consulte un client, garde à l'esprit la confidentialité des données.
