Ann Skeet et Brian Green sont les auteurs de Ethics in the Age of Disruptive Technologies: An Operational Roadmap.
Ils ont exposé pour le site CEO une méthode en 5 étapes pour conjuguer éthique et technologie dans l’entreprise.
Le texte parle de l’importance de l’éthique technologique à la lumière des avancées de l’IA générative au cours de la dernière année. Il souligne que les informaticiens ont longtemps été conscients de ce problème mais qu’il a été largement négligé. Les enjeux liés à l’IA sont de plus en plus préoccupants, avec 42 % des PDG interrogés pensant que l’IA pourrait menacer l’humanité dans la décennie à venir.
Le texte évoque deux solutions proposées par les leaders technologiques : un moratoire sur le développement de l’IA ou une réglementation législative. Cependant, il souligne que ces approches ont leurs limites, les moratoires étant peu réalistes et la réglementation prenant du temps à se mettre en place en raison de la complexité des partenariats public-privé.
Les auteurs suggèrent que les entreprises devraient compléter ces approches par un développement technologique prudent, axé sur des principes éthiques dès la conception et le développement des technologies. Ils ont élaboré une feuille de route avec des étapes que les responsables informatiques peuvent suivre avant même la réglementation. En outre, ils proposent cinq bonnes pratiques pour le développement de technologies éthiques et humaines, afin de donner aux entreprises les outils et l’agence nécessaires pour développer des technologies de manière éthique, sans attendre la réglementation.
1 – Leadership
La première étape de la feuille de route met l’accent sur le rôle crucial du leadership dans l’éthique technologique. Les dirigeants doivent s’engager à développer leur compréhension de l’éthique technologique et à allouer des ressources à des technologies responsables. La désignation d’un champion de l’éthique technologique est recommandée pour créer une déclaration d’éthique technologique et sensibiliser les dirigeants de l’organisation à l’éthique technologique avant de l’adopter au sein de l’ensemble de l’entreprise.
2 – Culture de l’éthique
La deuxième étape pour promouvoir l’éthique dans les organisations consiste à évaluer la culture et les pratiques de gestion de l’organisation pour comprendre son point de départ. Cela implique de vérifier les conditions qui encouragent l’éthique, ainsi que d’examiner les pratiques de développement de produits de l’entreprise pour s’assurer que les exigences éthiques sont prises en compte dès la phase de conception, que des principes de conception éthique sont utilisés, qu’il y a des formations et des accords pour les utilisateurs, et quelles sont les pratiques de développement des employés en place.
3 – Approche Hollistique
Les entreprises devraient mettre en place un cadre de gouvernance technologique pour guider la conception, le développement et le déploiement responsables de la technologie. Ce cadre holistique tient compte à la fois de la technologie elle-même et de l’organisation qui la développe.
Quatre niveaux de principes – ancrage, guidage, spécification et action – sont identifiés pour aider les organisations à passer de l’engagement éthique abstrait à des principes concrets et actionnables. Les entreprises peuvent choisir l’ensemble de principes le mieux adapté à leur stratégie et à leur maturité organisationnelle.
Il est essentiel que les entreprises ne se contentent pas de proclamer des principes nobles, mais qu’elles définissent également les actions concrètes qui les soutiendront.
4 – éthique
Dans la quatrième étape de la feuille de route, l’éthique est intégrée dans les pratiques organisationnelles de manière régulière et cohérente. Cela implique le développement de la culture et des processus de gestion nécessaires à l’éthique. Si les conditions pour promouvoir l’éthique font défaut, elles sont développées à ce stade, y compris la mise à jour des descriptions de poste et des évaluations de performance. Les exigences éthiques des parties prenantes sont intégrées au cycle de développement de produits ou de services, et une formation est dispensée. Les politiques sur l’utilisation de la technologie sont élaborées, et le cadre technologique responsable guide les pratiques de gestion. Un responsable technologique éthique supervise le développement de nouvelles politiques pour appliquer les principes directeurs dans la prise de décision quotidienne.
5 – Systémique
La cinquième étape de la feuille de route vise à établir des pratiques organisationnelles durables pour une amélioration continue. Ces tâches deviennent permanentes, se déroulant chaque année pour assurer la mise en place et l’utilisation du cadre et des politiques. L’évaluation annuelle montre les progrès par rapport aux évaluations initiales.
Ce processus peut sembler moins excitant que la technologie elle-même, mais il est essentiel pour garantir le déploiement de nouvelles technologies en tenant compte des risques. Il nécessite une réflexion sur la technologie elle-même ainsi que sur l’organisation. Bien que le voyage puisse sembler plus long, il est plus sûr avec une feuille de route appropriée.
Pour en savoir plus :
L’article en anglais de CEO
