L’équipe de l’éthique d’Intelligence Artificielle (IA) de Google a envoyé à ses dirigeants une liste de demandes pour « rétablir la confiance » suite à la destitution de son co-chef et chercheur renommé Timnit Gebru.
« Le futur de l’IA éthique à Google Research »
L’équipe d’éthique, qui déclare donner des conseils sur la recherche, les produits et les politiques, a écrit une lettre de six pages à Sundar Pichai, PDG de l’entreprise, Jeff Dean, chef de l’IA, et Megan Kacholia, vice-présidente de l’ingénierie. La lettre, intitulée « The Future of Ethical AI at Google Research » énumère les demandes des dirigeants, notamment le retrait de Kacholia de la structure hiérarchique du groupe, l’abstention de représailles et le rétablissement de Gebru à un niveau supérieur.
« Au cours des deux dernières semaines, nous avons entendu les dirigeants de Google dire qu’ils s’engageaient à poursuivre le travail important de diversité, d’équité et d’inclusion au sein de l’AP Recherche et à soutenir l’équipe d’Ethical AI », peut-on lire dans la lettre. « Mais nous devons nous rappeler que les mots qui ne sont pas associés à des actions sont des signaux de vertu ; ils sont dommageables, évasifs, défensifs et démontrent l’incapacité des dirigeants à comprendre comment notre organisation fait partie du problème ».
Google n’a pas répondu immédiatement aux demandes de commentaires sur la lettre.
Un licenciement qui fâche
La correspondance des employés représente une méfiance à l’égard de la direction deux semaines après que M.Gebru, un chercheur en intelligence artificielle bien connu et co-dirigeant technique de l’équipe d’IA éthique de Google, ait tweeté que Google l’avait licenciée à cause d’un désaccord sur un document de recherche qui examinait les préjugés dans l’intelligence artificielle. Timnit Gebru, qui s’était exprimée ouvertement sur le traitement des employés noirs par l’entreprise, a affirmé que ce traitement était révélateur d’un schéma plus large chez Google et a déclenché un soutien de l’ensemble du secteur, notamment une pétition signée par des milliers d’employés de Google et de pairs du secteur.
La semaine dernière, Sundar Pichai, PDG d’Alphabet et de Google, a envoyé un courriel aux employés, s’excusant de la méfiance qui s’est installée dans l’entreprise et le secteur au moment du départ de M. Gebru, tout en promettant que l’entreprise lancerait un examen de ce qui a mal tourné.
Plus tôt dans la journée de mercredi, plusieurs membres du Congrès démocrate, dont Sens. Elizabeth Warren et Cory Booker ont envoyé une lettre à Pichai, lui demandant des détails sur son examen du licenciement de Gebru ainsi que sur les efforts de Google pour atténuer les préjugés discriminatoires dans les modèles de langue à grande échelle, ce que Jeff Dean avait initialement déclaré être une raison de rejeter le document de l’équipe de Gebru. « L’univers des chercheurs d’élite en IA est limité en taille, et les politiques de Google concernant la publication des employés ont le potentiel de façonner substantiellement le discours universitaire et public sur l’IA », peut-on lire dans la lettre du Congrès.