Qu'est-ce que l'éthique de l'IA, en un article ?

Définition de l'éthique de l'intelligence artificielle

L'éthique de l'intelligence artificielle (éthique de l'IA) est un domaine interdisciplinaire qui étudie les principes moraux, les valeurs et les responsabilités sociales qui devraient être respectés lors du développement, du déploiement et de l'utilisation des systèmes d'IA. L'éthique de l'IA tente de répondre à la question fondamentale de savoir "comment concevoir, utiliser et gouverner l'IA", en couvrant les catégories de base de l'éthique traditionnelle, telles que la justice, les droits, le bien-être et la vertu, et en proposant de nouvelles normes et de nouveaux cadres de gouvernance en réponse aux caractéristiques de la nouvelle technologie, telles que la prise de décision algorithmique, les actions pilotées par les données et les actions automatisées. L'éthique de l'IA ne s'intéresse pas seulement aux risques inhérents à la technologie elle-même, mais aussi à la répartition du pouvoir, aux ressources, aux impacts culturels et aux questions de gouvernance mondiale découlant de l'intégration de la technologie dans le système social, dans le but de promouvoir l'innovation tout en minimisant les dommages causés à la dignité personnelle, à la justice sociale et à l'environnement écologique, et en veillant à ce que le développement technologique améliore le bien-être général des êtres humains. Ce domaine rassemble des perspectives multidisciplinaires issues de la philosophie, du droit, de l'informatique, de la sociologie, de l'économie, de la psychologie et d'autres disciplines pour former un système de gouvernance éthique dynamique, ouvert et interculturel par la formulation de principes, la conception de normes, l'innovation institutionnelle et la participation du public, afin de répondre à des défis imminents tels que la partialité algorithmique, la fuite de la vie privée, le chômage automatisé, les armes autonomes et la manipulation de l'information. En bref, l'éthique de l'IA est la somme des connaissances et des pratiques visant à "rendre l'intelligence bonne".

Sécurité technique dans l'éthique de l'intelligence artificielle

• Vérifiable et testable : mettre en place un système de vérification à plusieurs niveaux (vérification formelle, tests de simulation, exercices en équipe rouge, etc.) pour s'assurer que les caractéristiques de sécurité essentielles sont entièrement testées avant le déploiement.
• Gestion des vulnérabilités : mise en place d'un mécanisme de récompense pour la divulgation des vulnérabilités, d'un processus de correction rapide et partage des informations sur les menaces avec la communauté de la cybersécurité afin de réduire le risque d'exploitation malveillante.
• Surveillance collaborative homme-machine : conserver le droit de décision humaine finale dans les scénarios à haut risque tels que la conduite autonome et le diagnostic médical, et concevoir des interfaces interprétables en temps réel pour faciliter l'intervention opportune de l'opérateur.
• Prévention des risques catastrophiques : pour les systèmes dotés de capacités d'auto-amélioration ou d'optimisation récursive, fixer des seuils de capacité, des interrupteurs fusibles et des audits externes afin d'éviter les effets en cascade.

Biais algorithmique dans l'éthique de l'intelligence artificielle

• Représentativité des données : les données de formation doivent couvrir plusieurs dimensions de la population cible, telles que le sexe, l'âge, la race, la géographie, etc. et atténuer le biais de l'échantillon en rééchantillonnant et en synthétisant les données.
• Transparence dans la sélection des caractéristiques : l'utilisation directe d'attributs sensibles comme caractéristiques d'entrée est interdite et des tests de causalité sont effectués sur des variables de substitution afin d'éviter la transmission indirecte de la discrimination.
• Mesures d'équité : introduire de multiples indicateurs d'égalité des chances, d'égalité des résultats et d'égalité d'étalonnage, en les pondérant entre les différentes parties prenantes afin d'éviter que des indicateurs uniques ne masquent des injustices localisées.
• Contrôle continu et recyclage : il convient de vérifier régulièrement les résultats des décisions après leur mise en œuvre, de mettre à jour le modèle en temps voulu lorsque des écarts sont constatés et d'enregistrer les changements de version afin de garantir la traçabilité des responsabilités.
• Engagement des parties prenantes : réunir des représentants des communautés affectées par les algorithmes, des organisations de défense et des décideurs politiques pour qu'ils participent à des audits de partialité et à des programmes d'amélioration visant à renforcer la légitimité de la gouvernance.

Protection de la vie privée dans le cadre de l'éthique de l'intelligence artificielle

• (c) La minimisation des données : ne collecter que les données nécessaires à l'accomplissement d'une tâche spécifique, en évitant le modèle de la "collecte d'abord, puis de l'utilisation ultérieure" de l'acquisition excessive.
• Confidentialité différentielle : l'injection d'un bruit contrôlé dans les rejets statistiques ou la formation de modèles rend les informations individuelles difficiles à déduire en sens inverse, ce qui permet d'équilibrer l'utilité des données et les garanties en matière de protection de la vie privée.
• Apprentissage fédéré et chiffrement homomorphique : le fait de conserver les données "locales" pour l'apprentissage ou le calcul des modèles réduit la surface de fuite causée par le stockage centralisé.
• Consentement éclairé de l'utilisateur : informe en langage clair sur la finalité des données, la durée de stockage, l'étendue du partage avec des tiers, et prévoit un mécanisme de consentement qui peut être retiré à tout moment.
• Évaluation de l'impact sur la vie privée : procéder à une évaluation systématique dès le début de la conception du produit afin d'identifier les scénarios à haut risque et d'élaborer des mesures d'atténuation pour former un processus d'amélioration en boucle fermée.

Transparence et interprétabilité dans l'éthique de l'intelligence artificielle

• Interprétation globale : divulgation de la structure du modèle, des sources de données d'entraînement, des fonctions objectives et des contraintes aux régulateurs et au public afin de faciliter les audits externes.
• Interprétable localement : fournir des exemples comparatifs, un classement de l'importance des caractéristiques ou des explications en langage naturel pour les décisions individuelles afin d'aider les personnes concernées à comprendre les raisons des résultats.
• Explication interactive : permet aux utilisateurs d'obtenir des détails supplémentaires par le biais de questions-réponses et de la visualisation, ce qui renforce la confiance entre l'homme et la machine et la correction des erreurs.
• Fidélité de l'interprétation : veiller à ce que le contenu de l'interprétation soit cohérent avec la logique interne du modèle et éviter d'induire les utilisateurs en erreur avec des "histoires superficielles".
• Accessibilité de l'interprétation : concevoir des interfaces d'interprétation multimodales pour des publics d'origines culturelles et éducatives différentes afin d'abaisser le seuil de compréhension.

Attribution de la responsabilité en matière d'éthique de l'intelligence artificielle

• Chaîne de responsabilité : définir les obligations et les responsabilités des développeurs, des déployeurs, des opérateurs et des utilisateurs finaux dans les différents maillons afin d'éviter un "vide de responsabilité".
• Mécanismes d'assurance et d'indemnisation : mettre en place une assurance responsabilité algorithmique obligatoire afin que les victimes soient rapidement indemnisées et que les entreprises soient incitées à réduire les risques de manière proactive.
• Débat sur la personnalité juridique : étudier la possibilité de créer une personnalité juridique limitée pour les systèmes hautement autonomes afin de permettre un recours direct en cas d'infraction.
• Normes d'enquête sur les incidents : élaborer un processus interdisciplinaire d'enquête sur les incidents, comprenant des étapes telles que le scellement des journaux, l'expertise judiciaire par des tiers et la reproduction algorithmique, afin de garantir l'objectivité des conclusions.
• (c) Plateformes de surveillance publique : mise en place d'organisations indépendantes ou de plateformes ouvertes pour recevoir les plaintes du public, publier une base de données sur les cas de responsabilité et créer une pression de surveillance sociale.

Implications de l'éthique de l'intelligence artificielle pour le personnel

• Évaluation du remplacement des emplois : quantifier l'ampleur et le rythme de l'impact de l'automatisation sur l'emploi dans tous les secteurs d'activité et à tous les niveaux de qualification grâce à la macro-simulation et à la recherche sur les micro-entreprises.
• Recyclage des compétences : le gouvernement, les entreprises et les syndicats collaborent pour créer des comptes d'apprentissage tout au long de la vie et proposer des cours de compétences numériques et des conseils en matière de transition de carrière à la population remplacée.
• (c) Socle de sécurité sociale : explorer de nouveaux mécanismes de redistribution tels que le revenu de base inconditionnel et la taxe algorithmique sur le partage des dividendes afin d'atténuer les chocs de revenus à court terme.
• Création de nouvelles carrières : encourager la création de nouvelles formes d'emploi autour de la formation à l'IA, de la maintenance, de l'audit éthique, de la conception d'expériences et d'autres domaines afin de créer un cycle positif.
• Mise à jour des normes du travail : réexamen de la réglementation du travail sur les heures de travail, la sécurité, la protection de la vie privée, etc. pour s'assurer que les droits des travailleurs assistés par l'IA dans l'économie de plateforme ne sont pas érodés.

Durabilité environnementale de l'éthique de l'intelligence artificielle

• Algorithmes économes en énergie : optimisation de la structure du modèle et des stratégies d'apprentissage afin de réduire les opérations en virgule flottante et la consommation d'énergie du GPU, par exemple en utilisant des techniques telles que la sparsification, la quantification et la distillation des connaissances.
• Centres de données verts : utilisation d'énergies renouvelables, de systèmes de refroidissement liquide et de programmation dynamique de la charge pour réduire le PUE (Power Usage Effectiveness) à moins de 1,1.
• Analyse du cycle de vie (ACV) : calculer et rendre publique l'empreinte carbone de l'ensemble du processus, de la fabrication des puces au recyclage en fin de vie, en passant par le transport, l'exploitation et la maintenance des équipements.
• Incitations politiques : encourager les entreprises à privilégier les solutions d'IA à faible consommation d'énergie par le biais d'exonérations de la taxe carbone et de listes de marchés publics écologiques.
• Justice environnementale : éviter le transfert de tâches de formation à forte intensité énergétique vers des régions où la réglementation environnementale est faible et empêcher l'externalisation de la pollution et de la consommation de ressources.

Gouvernance internationale de l'éthique de l'intelligence artificielle

• Cadre multilatéral : soutenir les organisations internationales telles que les Nations unies, l'OCDE, le GPAI et d'autres, afin qu'elles élaborent des lignes directrices et des normes éthiques globales pour l'IA.
• Flux transfrontaliers de données : accords bilatéraux ou multilatéraux sur des sujets tels que la protection de la vie privée, l'assistance mutuelle en matière d'application de la loi et la répartition des taxes afin d'éviter les silos de données et l'arbitrage réglementaire.
• Contrôle des exportations de technologies : établissement d'une liste et d'un système de licences pour les technologies d'IA hautement sensibles afin d'empêcher la prolifération d'applications à des fins militaires et de violations des droits de l'homme.
• Coopération Nord-Sud : aider les pays en développement à renforcer leur capacité d'examen éthique de l'IA et leur infrastructure numérique par le transfert de fonds, de technologies et de talents.
• Biens publics mondiaux : promouvoir la construction de biens publics tels que les modèles à source ouverte, les ensembles de données ouvertes et les plateformes arithmétiques partagées afin de réduire les inégalités engendrées par les monopoles technologiques.

Diversité culturelle dans l'éthique de l'intelligence artificielle

• Conception sensible aux valeurs : intégrer le langage éthique et les systèmes de symboles de différentes cultures au stade de l'analyse des besoins afin d'éviter la domination d'une perspective éthique occidentale unique.
• Ensembles de données localisées : recueillir et respecter les données textuelles, visuelles et vocales dans leur contexte d'origine afin d'éviter les erreurs d'identification ou les offenses dues aux différences culturelles.
• Équité linguistique : veiller à ce que les langues minoritaires bénéficient du même niveau de précision et de service dans des systèmes tels que la reconnaissance vocale et la traduction automatique, et prévenir le génocide linguistique numérique.
• Respect de la religion et des coutumes : éviter de porter atteinte aux vêtements religieux, aux rituels et aux traditions en matière de respect de la vie privée dans des applications telles que la reconnaissance faciale et la prédiction comportementale.
• Mécanisme de participation multiple : créer des comités d'éthique régionaux et inviter les autochtones, les communautés minoritaires, les chefs religieux, etc. à participer à l'élaboration des normes et à l'évaluation de l'impact.