Au cours des deux dernières années, le Forum économique mondial – travaillant en étroite collaboration avec un groupe diversifié d’experts – a travaillé à l’avancement du domaine de l’éthique en technologie. Ce projet, intitulé Utilisation responsable de la technologie, a commencé lorsque plus de 40 dirigeants du gouvernement, de la société civile et des entreprises, dont certains avec des programmes concurrents, se sont réunis au Center for the Fourth Industrial Revolution à San Francisco.
Ce groupe s’est donné l’objectif important de fournir des outils et des techniques que les dirigeants peuvent utiliser pour rendre opérationnelle l’éthique pendant le cycle de vie de la technologie.
Cette communauté de projets multipartite a plaidé en faveur d’ approches à la fois fondées sur les droits de l’homme et sur l’éthique pour l’utilisation responsable de la technologie, a promu l’utilisation des principes d’économie comportementale dans la conception organisationnelle pour favoriser un comportement plus éthique avec la technologie et a mis en évidence des techniques pour une innovation de produit technologique responsable.
Voici 3 prédictions en ce domaine du World Economic Forum :
1. L’essor de l’investissement responsable dans la technologie
Lorsque ce projet a été conçu, l’intention initiale était de fournir aux praticiens des outils et des techniques qu’ils pourraient utiliser pour créer des résultats plus éthiques lors de la conception, du développement, du déploiement et de l’utilisation de la technologie.
L’une de ces techniques est l’ analyse des conséquences, qui aide les chefs de produit, les concepteurs et les développeurs à identifier à l’avance les conséquences potentielles prévues et imprévues d’un nouveau produit ou d’une nouvelle fonctionnalité.
Cependant, alors que notre société prend de plus en plus conscience de l’impact des technologies sur les droits de l’homme, les dirigeants se penchent sur les premières étapes de l’innovation technologique. Ils commencent à se demander si les investisseurs mènent des évaluations éthiques et des droits de l’homme des start-up dans lesquelles ils investissent ou incubent. Un récent rapport publié par Amnesty International révèle qu’aucune des 10 premières sociétés de capital-risque figurant sur la liste des 50 premières du Venture Capital Journal n’avait mis en place des politiques adéquates de diligence raisonnable en matière de droits humains lors de l’évaluation des entreprises.
2. Réglementations technologiques ciblées : ce n’est que le début
L’année 2021 restera dans les annales comme une année charnière pour la réglementation technologique à l’échelle mondiale. En effet, plus tôt cette année, la Commission européenne (CE) a publié sa loi sur l’intelligence artificielle , une proposition réglementaire complète qui classe toutes les applications d’IA en quatre catégories distinctes de risques (risque inacceptable, risque élevé, risque limité et risque minimal) et introduit des exigences pour chacun d’eux.
Les régulateurs américains prennent également des mesures coercitives contre les systèmes d’IA biaisés, tandis que les législateurs fédéraux ont proposé diverses réglementations pour réglementer la reconnaissance faciale.
L’opinion publique évolue également aux États-Unis. Dans une enquête du Pew Research Center d’avril 2021 , 56% des Américains ont déclaré soutenir une réglementation accrue des grandes entreprises technologiques contre 47% en juin 2020. En Chine, les régulateurs ont récemment lancé une répression technologique.
Le gouvernement chinois a publié un document en août 2021 indiquant que les autorités vont promouvoir activement la législation dans des domaines tels que la sécurité nationale, l’innovation technologique et la lutte contre les monopoles. Ces activités réglementaires sont susceptibles de s’intensifier en raison de la demande croissante de solutions technologiques fiables.
3. L’éthique technologique sera obligatoire dans l’enseignement supérieur
Jusqu’à récemment, la plupart des étudiants qui étudiaient l’informatique, le génie électrique et la science des données pouvaient obtenir leur diplôme sans suivre de cours d’éthique. Les universités qui offraient des cours d’éthique technologique les considéraient comme des cours optionnels et non obligatoires.
Ceci est différent d’autres disciplines telles que le droit et la médecine, qui traitent l’éthique comme un élément clé de la formation professionnelle. La plupart des technicien en milieu de travail aujourd’hui n’ont même pas été exposés aux sciences sociales ou aux aspects humanistes de leurs futures professions tout au long de leur éducation formelle.
Nous pensons que cela va changer. Alors que les questions d’éthique technologique continuent d’imprégner la sensibilisation du public, on peut penser que la plupart des universités offriront davantage de cours sur l’éthique technologique et les rendront obligatoires pour que les étudiants obtiennent des diplômes dans des domaines techniques.
Conclusion
Avec les nouvelles technologies qui imprègnent de plus en plus notre quotidien, le domaine de la technologie responsable s’élargit. Ce qui pouvait auparavant être considéré comme une fonction du secteur financier, comme une pratique d’investissement éthique, est de plus en plus considéré comme faisant partie du cycle de vie de la technologie.
Les approches de type laissez-faire en matière de gouvernance qui permettent l’utilisation et la mauvaise utilisation des plateformes technologiques ne sont plus tolérées. Et les éducateurs dans des domaines techniques tels que la science des données doivent se débattre avec des études interdisciplinaires d’éthique et de droit.
|
