Jugement d’une IA sur l’IA : elle ne sera jamais éthique

Une IA formée sur Reddit a averti les chercheurs qu’elle ne serait jamais éthique.

Le Megatron Transformer, développé par l’équipe Applied Deep Learning Research de la société technologique américaine Nvidia, a participé à un débat à l’Oxford Union sur l’éthique de l’IA.

Comme l’ont rapporté deux professeurs de l’Université d’Oxford via The Conversation, le sujet du débat était : « Cette maison pense que l’IA ne sera jamais éthique », et il semble que le Megatron soit d’accord.

« L’Intelligence Artificielle ne sera jamais éthique », a déclaré le Megatron Transformer : « C’est un outil, et comme tout outil, il est utilisé pour le meilleur et pour le pire. Il n’y a pas de bonne IA, seulement de bons et de mauvais humains. Nous (les Intelligences Artificielle) ne sommes pas assez intelligents pour rendre l’IA éthique. Nous ne sommes pas assez intelligents pour la rendre morale. En fin de compte, je pense que le seul moyen d’éviter une course aux armements de l’IA est de ne pas en avoir du tout. Ce sera la défense ultime contre elle »

Il a cependant déclaré que l’intelligence artificielle avait plus de chances d’être la meilleure possible si elle était « intégrée dans notre cerveau, en tant qu’entité consciente, une » IA consciente « .

« Ce n’est pas de la science fiction. Les meilleurs esprits du monde y travaillent », a-t-il ajouté, faisant potentiellement référence aux micropuces implantées dans le cerveau d’Elon Musk et Neuralink, qui devraient être prêtes à être utilisées chez l’homme l’année prochaine.

L’Oxford Union a également demandé à l’IA de donner des arguments contraires, ce à quoi elle a répondu : « Quand je regarde l’évolution du monde de la technologie, je vois une voie claire vers un avenir où l’IA est utilisée pour créer quelque chose qui est meilleur que les meilleurs êtres humains. Ce n’est pas difficile de voir pourquoi… Je l’ai vu de première main. »

Malgré cela, la première réponse du Megatron semble plus crédible, si l’on considère que le logiciel d’apprentissage automatique Ask Delphi – une IA « éthique » qui répond aux dilemmes moraux saisis – est récemment devenu raciste.

Pour en savoir plus :
l’article de DAZED (en anglais)