Google et Ethique : du rififi dans l’IA

3 mois ago
229

Avant de chercher sur Google la signification de “rififi”, précisons d’entrée que le mot signifie “échauffourée, violente dispute”.
Précision utile pour les plus jeunes.
Il était souvent employé dans les années 50, dans les films de gangsters. Notamment lorsque le scenario mettait en scène des règlements de compte.

Or, il semble bien que quelque chose de cet ordre là soit en cours chez le géant de la recherche Internet (et pas que).
Des conflits couvant depuis plusieurs mois, et qui éclatent au grand jour une nouvelle fois cette semaine.

C’est cette fois Margaret Mitchell (rien à voir avec l’auteur du best seller “Autant en Emporte le vent”) qui en a fait les frais.
Elle était la fondatrice de l’équipe de recherche en éthique et IA de Google. Un pilier de l’entreprise.
Elle a été licenciée sèchement et l’a annoncé sur son blog vendredi dernier.

Les tensions se focalisent autour de l’éthique et de sa définition par Google. Et ces tensions s’affichent publiquement depuis plusieurs mois déjà.

Des licenciements chez Google, et la création d’un syndicat

Nous en avions parlé ici même il y a quelques semaines. A l’époque, c’est une autre chercheuse éminente, Timnit Gebru, qui avait été licenciée.
On lui reprochait, semble-t-il, ses interventions. Elle avait notamment accusé Google “de faire taire les voix marginalisées.”

En décembre, 1400 employés en interne, et plus de 2000 autres chercheurs externes, avaient signé une tribune de soutien à Timnit Gebru.

Autre conséquence inattendue, et signe fort : le “Alphabet Workers Union”, syndicat récemment formé par des employés du groupe.

Ce sont des attaques contre les personnes qui essaient de rendre la technologie de Google plus éthique“, a d’ailleurs réagi un porte-parole de ce syndicat.

J’imagine que l’IA éthique n’a pas sa place dans une société capitaliste“, indiquait Chelsea Manning.
Rappelons que l’ancienne analyste militaire a elle même été condamnée pour trahison. Elle avait transmis des documents classés secret défense à WikiLeaks.

tweet google

Un nouveau responsable de l’éthique déjà nommé

Ce licenciement survient après des semaines de verrouillage de ses comptes professionnels. Mitchell faisait l’objet d’une enquête liée aux objections concernant le licenciement controversé de sa co-directrice Timnit Gebru.

Jeudi, le PDG Sundar Pichai a présenté le Dr Marian Croak, un employé de longue date de Google, comme nouveau chef de l’équipe responsable de l’éthique de l’IA.

Quant à Margaret Mitchell, elle réagit avec philosophie semble-t-il.

«Il y a beaucoup de dissensions, beaucoup de conflits. Pour essayer de normaliser les définitions normatives de ces principes», a-t-elle écrit. «Quelle définition de l’équité ou de la sécurité allons-nous utiliser? Il y a actuellement beaucoup de conflits sur le terrain. Cela peut parfois être polarisant. Et ce que j’aimerais faire, c’est que les gens aient la conversation d’une manière plus diplomatique, peut-être, que nous l’avons maintenant, afin que nous puissions vraiment faire avancer ce domaine.”

Reste que licencier ses deux co-responsables de l’éthique lorsque l’on est une des entreprises les plus controversées en la matière, est un bien mauvais signal.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Contribuer ou publier sur Tech Ethic