Nous vous proposons aujourd’hui une synthèse d’une excellente publication de Claude REVEL et David FAYON, sur le sujet de l’éthique et de l’IA.
(le lien vers l’article complet est en bas de page)
L’avènement des intelligences artificielles génératives, telles que ChatGPT, DALL-E et Midjourney, a suscité un vif intérêt et menace de perturber divers secteurs d’activité. Les préoccupations éthiques occupent une place centrale dans ce débat, notamment en ce qui concerne la question de savoir si ces IA sont éthiques, inclusives et exemptes de biais, tout en interrogeant le rôle de l’humain dans ce contexte.
Historique
Historique
Depuis ses premiers pas dans les années 1950 avec le test de Turing jusqu’aux avancées plus récentes, en particulier grâce aux réseaux de neurones, à l’autoapprentissage et à la puissance de calcul croissante, l’IA a accéléré son développement.
Malgré les phases de déception passées, les IA génératives connaissent actuellement une forte croissance, suscitant des interrogations sur un éventuel ralentissement futur. Des mesures de régulation sont envisagées, notamment au Parlement européen, afin de créer un cadre réglementaire pour l’IA face à la concurrence mondiale.
Dans l’ensemble, le paysage de l’IA évolue rapidement, avec l’émergence des IA génératives comme une avancée majeure, remettant en question les aspects éthiques et réglementaires de cette technologie.
Algorithmes et éthique
Les algorithmes éthiques posent des défis, car les décisions sont souvent biaisées par les auteurs et les programmes. La nuance en éthique est négligée au profit d’approches binaires.
Certains proposent une “moyenne éthique” pour obtenir des décisions fonctionnelles malgré la perte de nuance. Toutefois, les modèles actuels, comme ChatGPT, privilégient souvent la conformité politique au détriment du contexte et de l’exactitude.
Le techno-solutionnisme consiste à utiliser des solutions numériques sans évaluer leur nécessité. Il est important d’envisager les conséquences de telles approches.
Une initiative propose de distinguer le contenu créé par des humains face à la prolifération du contenu généré par les IA : c’est l’initiative de la Charte 100 % humain lancée lors de Vivatech 2023.
La liberté comme composante de l’éthique
La question de la liberté est un élément central de l’éthique numérique. L’impact du numérique sur la liberté doit être constamment évalué, car il peut réduire les choix des individus, notamment avec la montée en puissance des moyens de paiement électroniques qui diminuent l’usage de l’argent liquide. De plus, le numérique favorise la traçabilité, créant de nouveaux outils de surveillance.
L’éthique numérique doit être intégrée dès le début du développement technologique, mais elle est souvent négligée, avec les questions de conséquences et de régulation émergeant après coup.
La pandémie de Covid-19 a montré comment les Pass Sanitaires et environnementaux pourraient limiter la liberté des citoyens, en les privant d’accès à des lieux ou de moyens de transport. Cette convergence numérique pose des questions sur la cybersurveillance et la régression des libertés.
La liberté d’expression est un autre enjeu, notamment en ce qui concerne la modération par l’IA sur les réseaux sociaux, où l’humour et l’ironie peuvent être mal interprétés, et où des comptes peuvent être supprimés arbitrairement.
En résumé, la liberté dans le contexte numérique est un sujet complexe et crucial pour lequel l’éthique doit être prise en compte dès le début du développement technologique.
Débureaucratisation impérative
La bureaucratie induite par les algorithmes soulève des préoccupations similaires à celles de la bureaucratie traditionnelle. Les algorithmes gèrent de plus en plus d’aspects de nos vies, de l’allocation des ressources à l’énergie, en passant par l’alimentation, avec peu de possibilités de recours pour les citoyens en cas de problème.
L’utilisation généralisée de l’IA dans les processus administratifs pourrait priver les citoyens de la possibilité de faire valoir leurs droits, même s’ils sont dans leur bon droit. Il est donc essentiel d’envisager des modes manuels pour les exceptions et des systèmes de secours lorsque l’IA ne peut pas fonctionner, par exemple en cas de cyberattaques, de pannes informatiques ou de maintenance.
La transformation numérique devrait simplifier et sécuriser la vie des citoyens, conformément aux recommandations des gouvernements. Cependant, il y a encore des problèmes, notamment des retards dans la délivrance de documents et des bogues dans les processus électoraux. L’utilisation de l’IA ne doit pas discriminer ceux qui n’ont pas accès aux technologies numériques, et les avantages réels de l’IA, comme en médecine, ne doivent pas excuser les abus.
IA, algorithme et développement durable
L’utilisation massive de données par les algorithmes peut nuire à la sobriété énergétique et contribuer au réchauffement climatique, en particulier la consommation d’eau dans les datacenters. Par exemple, la formation de GPT-3 par OpenAI a nécessité une grande quantité d’eau, et chaque requête utilisateur consomme également de l’eau.
La question clé est de savoir comment les solutions technologiques peuvent augmenter la satisfaction du public tout en répondant aux exigences de sobriété numérique et d’intérêt général. Il est essentiel de concevoir des algorithmes plus efficaces dès le départ.
La consommation de données par les algorithmes soulève des préoccupations de sobriété énergétique, et des solutions innovantes, comme Hive, cherchent à maximiser l’utilisation des ressources tout en réduisant l’impact environnemental.
Établir des principes applicables à l’IA
Le rapport du Conseil d’État français de mars 2022 souligne la nécessité pour l’administration d’utiliser l’IA dans l’intérêt de la collectivité humaine, en garantissant l’accessibilité pour tous. Il insiste sur l’importance d’analyser les conséquences à long terme dès la phase de préparation de la loi.
L’OMS propose six principes directeurs pour l’utilisation de l’IA, notamment la protection de l’autonomie humaine et la promotion du bien-être public. Les données doivent être gérées avec des lois protectrices pour éviter les abus et les prédations.
Il est crucial d’adopter une conception éthique dès le début de la conception et du déploiement des technologies numériques. Les acteurs mondiaux et les initiatives variées concernant l’éthique et l’IA soulèvent des questions géopolitiques, et il est nécessaire de déterminer si un cadre global de responsabilité est nécessaire.
L’UNESCO a déjà émis une recommandation sur l’éthique de l’IA, adoptée par 193 États membres, et l’ISO travaille sur la création d’une société d’IA éthique. La réflexion française, notamment l’avis du CNPEN, propose des recommandations pour encadrer le développement de l’IA générative et s’assurer d’une éthique commune dans la conception des algorithmes.
Il est impératif que les gouvernements démocratiques s’engagent dans ces questions en collaboration avec les citoyens et les assemblées parlementaires pour améliorer le contrat social qui les lie.
De cette réflexion autour de l’éthique dans la collaboration entre IA et intelligence humaine, nous pouvons tirer les recommandations suivantes :
Recommandation 1 : Indiquer en filigrane qu’une réponse a été générée par une IA et qu’elle ne vaut pas vérité.
Recommandation 2 : Avoir une traçabilité des échanges.
Recommandation 3 : Former et informer l’utilisateur quant au stockage de ses données personnelles et des aspects de respect de la législation.
Recommandation 4 : Compléter une décision impactante générée par une IA d’une supervision humaine.
Recommandation 5 : Prévoir un accompagnement quant à l’utilisation de l’IA notamment pour les personnes les plus fragiles.
Recommandation 6 : Prévoir des modes dégradés, en cas de coupure d’électricité, de zone non couverte par le réseau, pour que le service puisse être assuré même moins efficacement.
Recommandation 7 : Jauger en premier lieu du bénéfice réel et mesuré pour le citoyen et le consommateur, avant de décider de la mise en place de procédures totalement automatisées reposant sur des algorithmes et sur l’IA.
Recommandation 8 : Rechercher des solutions pour la frugalité des algorithmes afin qu’ils soient plus performants et moins énergivores.
Pour en savoir plus :
Le texte original en intégralité
