← Joy Buolamwini : la page du portrait (lecteur, citations, sources)
Joy Buolamwini, le masque blanc qui a démasqué l'IA
Les Voix de l'IA · transcription complète · épisode enregistré le 12 octobre 2026. Voix générées par intelligence artificielle : Ada, Alan et Lia.
Ouverture
Ada :Vous écoutez Les Voix de l'IA.
Alan :Le podcast qui raconte les fondateurs, les têtes pensantes et les géants de la tech et de l'intelligence artificielle.
Ada :Une série imaginée par Alexandre Stopnicki.
Alan :Petit rappel avant de commencer : ce portrait est construit à partir de ce qui a été publié — articles, interviews, biographies, conférences — que nous avons analysé et recoupé.
Ada :Notre but est uniquement pédagogique : comprendre qui sont ces personnes. Nous ne parlons pas à leur place.
01. L'énigme
Ada :Premier indice : elle a dû porter un masque blanc pour qu'un ordinateur remarque enfin son visage.
Alan :Un masque, pour un ordinateur ? Je ne vois pas encore.
Ada :Deuxième indice : en 2018, elle a mis en difficulté les logiciels de Microsoft et d'IBM avec des photos de députés.
Alan :Attends… Une chercheuse du MIT, non ?
Ada :Troisième indice : en 2019, le magazine Fortune l'a surnommée « la conscience de la révolution de l'IA ».
Alan :Joy Buolamwini !
Ada :Bravo. Joy Buolamwini, celle qui a appelé son site « Poet of Code », la poète du code.
02. Son vrai profil
Alan :La carte d'identité, alors. Informaticienne née à Edmonton, au Canada, de parents ghanéens.
Ada :Et quel parcours ! Licence d'informatique à Georgia Tech en 2012, avec la plus haute mention.
Alan :Puis Oxford : boursière Rhodes, elle obtient un master avec distinction en 2014. Au MIT, elle décroche un master en 2017, puis soutient sa thèse le 6 octobre 2021.
Ada :En 2016, elle fonde l'Algorithmic Justice League pour sensibiliser le public aux effets de l'IA. En octobre 2026, l'association la présentait comme sa fondatrice et sa présidente.
Alan :En novembre 2025, elle est aussi élue au conseil du Legal Defense Fund, une organisation de défense des droits civiques fondée en 1940.
Ada :Et le chiffre clé ?
Alan :Plus de trois mille quatre cents citations pour son étude Gender Shades, selon son association.
03. Le début de sa vie
Ada :Mais avant les laboratoires, il y a une petite fille née au Canada, qui passe sa petite enfance au Ghana.
Alan :Et qui arrive aux États-Unis à quatre ans, à Oxford, dans le Mississippi.
Ada :Oxford, déjà ! Elle ira plus tard à l'autre Oxford, en Angleterre.
Alan :Côté famille, elle l'a écrit elle-même : sa mère est artiste, son père professeur de chimie médicinale et de sciences pharmaceutiques.
Ada :Et elle ajoute : « En grandissant, je voyais l'art et la science comme une seule chose. »
Alan :À neuf ans, elle découvre sur PBS Kismet, un robot du MIT qui exprime des émotions. C'est son déclic pour l'IA.
Ada :Et elle ne fait pas que coder : elle a fait du saut à la perche en compétition, et elle joue de la guitare.
Alan :Pendant ses études, elle pilote en Éthiopie un système de collecte de données de santé, ensuite utilisé contre des maladies tropicales négligées, dont le trachome.
Ada :L'outil sert à interroger plus de quarante mille personnes. Puis elle part en Zambie avec une bourse Fulbright.
04. Le tournant
Alan :Et c'est là que tout bascule. Le premier signal arrive à Georgia Tech.
Ada :Dans un labo de robots sociaux, le logiciel la détecte mal. Elle l'a raconté en 2017 : « Je finissais par emprunter le visage de ma colocataire pour finir le travail. »
Alan :Non ?! Emprunter un visage…
Ada :En 2015, au MIT Media Lab, elle construit l'Aspire Mirror, un miroir qui projette animaux, citations ou symboles sur le visage.
Alan :Sauf que le logiciel suit mal son visage à elle.
Ada :En 2019, elle raconte qu'après une fête, elle reprend son travail avec un masque blanc d'Halloween. En dernier recours, elle l'enfile.
Alan :Et alors ?
Ada :Je cite : « Dans le miroir, je suis devenue un lion. »
Alan :C'est fou. Pour la machine, le masque ressemblait plus à un visage que son vrai visage.
Ada :Elle appelle ça le « regard codé ». En 2016, elle commence son mémoire de master au MIT : ce sera Gender Shades.
05. Les anecdotes extraordinaires
Alan :Des histoires comme ça, elle en a d'autres. Pour tester les IA, elle ne prend pas n'importe quelles photos.
Ada :Les bases de référence comptaient surtout des personnes à la peau claire. Elle réunit donc 1 270 parlementaires de six pays : Rwanda, Sénégal, Afrique du Sud, Islande, Finlande et Suède.
Alan :Résultat, publié en 2018 avec Timnit Gebru : chez IBM, 34,7 % d'erreur sur le genre des femmes à la peau foncée, contre 0,3 % pour les hommes à la peau claire.
Ada :Et même la célébrité ne protège pas. Dans l'un de ses tests, l'IA d'Amazon a classé Oprah Winfrey parmi les hommes.
Alan :Et le service de vision de Microsoft a décrit Michelle Obama comme un « jeune homme ». Sa formule : « La célébrité ne vous sauvera pas. »
Ada :Après deux ans de mobilisation nourrie par ses audits, IBM abandonne la reconnaissance faciale généraliste au début de juin 2020.
Alan :Le 10 juin, Amazon annonce un moratoire d'un an sur l'usage policier, avec des exceptions. Le lendemain, Microsoft suspend ses ventes à la police jusqu'à l'adoption d'une loi fédérale.
Ada :Le 13 novembre 2025, au Vatican, elle offre Unmasking AI au pape Léon XIV.
Alan :Et pour les dix ans de l'AJL, un bal masqué, la « Decade of Impact Masquerade », a été annoncé pour le 14 novembre 2026.
06. Dans sa tête
Ada :Mais au fond, comment voit-elle l'IA ?
Alan :Pour elle, c'est une question de pouvoir. Sur NPR, en novembre 2023 : « qui a le pouvoir de façonner la technologie, et quelles préférences et priorités y sont intégrées ».
Ada :Dans la même émission, cette phrase : « Je crois vraiment que si vous avez un visage, vous avez votre place dans le débat sur l'IA. »
Alan :Pas technophobe pour autant. En juin 2023 : « Nous pouvons profiter de la promesse tout en atténuant les périls. »
Ada :Et elle compte sur la loi. En octobre 2023 : « Et c'est le rôle de l'État : faire ce que l'industrie n'a pas intérêt à faire. »
07. La part d'ombre
Alan :Évidemment, tout le monde n'est pas d'accord. En janvier 2019, Amazon conteste son audit.
Ada :Matt Wood, chez AWS, répond que l'étude porte sur l'analyse faciale — estimer le genre, par exemple — et non sur la reconnaissance d'une personne.
Alan :AWS recommande à la police un seuil de confiance de 99 %. Pour Matt Wood, ces tests ne correspondent pas à l'usage prévu.
Ada :Des chercheurs, dont Yoshua Bengio, répondent qu'un biais dans l'analyse faciale doit aussi inquiéter pour la reconnaissance faciale.
Alan :Et elle, en avril 2019 : « Je ne m'attendais pas à une réaction aussi hostile. » Puis : « On ne peut pas laisser les entreprises seules faire ces vérifications. »
Ada :L'étude de 2018 reconnaît aussi la limite d'un genre réduit à deux catégories. En 2019, le NIST relève des écarts démographiques dans la majorité des algorithmes, mais les plus équitables figurent aussi parmi les plus précis.
08. Les questions qu'on aurait aimé lui poser
Ada :Lia, une question qu'on aurait aimé lui poser ?
Lia :Cette fois, Lia s'est invitée chez Ada et Alan sans même frapper au micro.
Ada :Bienvenue ! Ma question piège : si un jour une IA reconnaît parfaitement tous les visages, Joy Buolamwini aura gagné ?
Lia :Son propos public : en 2023, elle réclamait des droits biométriques protégeant visages et voix des algorithmes d'exploitation. J'imagine donc qu'elle répondrait que la précision ne suffit pas : même parfait, un système pourrait exploiter nos visages.
Alan :Petit rappel : c'est Lia qui imagine, pas Joy Buolamwini qui parle. Ma question complexe : la reconnaissance faciale, on l'encadre ou on l'interdit ?
Lia :En 2019, elle demandait au Congrès un moratoire sur les usages policiers jusqu'à l'adoption de règles adaptées. En 2020, elle demandait à Boston d'interdire la surveillance faciale par les pouvoirs publics.
Lia :En juin 2020, elle disait aussi qu'on ne peut pas compter sur les entreprises pour s'autoréguler. J'imagine donc qu'elle défendrait une ligne très restrictive pour les usages policiers et gouvernementaux.
Ada :Des hypothèses de Lia, à partir de ce qu'elle a réellement dit en public.
09. La boule de cristal de Lia
Alan :Lia, ta boule de cristal ?
Lia :Les faits : selon l'AJL, plus de 250 aéroports étaient équipés en mai 2025, avec une extension prévue au-delà de 430. Le rapport repose sur 420 fiches remplies par des voyageurs dans 91 aéroports : 99 % de ces voyageurs disent n'avoir reçu aucune information orale sur leur droit de refuser. Nous n'avons lu aucune réponse officielle de la TSA. Ma supposition, rien de plus : les aéroports pourraient devenir un grand combat de la deuxième décennie de l'AJL.
Ada :Ce n'est qu'un jeu : cette prédiction n'engage que Lia.
10. Ce qu'on retient
Ada :Moi, je retiens qu'un masque d'Halloween et un lion dans un miroir ont lancé tout un combat.
Alan :Et moi, qu'un tableau de chiffres bien mesurés a su faire réagir des géants.
Ada :Et vous, si une machine ne voyait pas votre visage, à qui demanderiez-vous des comptes ?
Le mot de la fin
Ada :Restez encore quelques secondes…
Alan :… le message qui suit est important !
Alan :C'était Les Voix de l'IA.
Ada :Si ce portrait vous a plu, abonnez-vous ! Retrouvez tous les épisodes sur 3h33.com…
Alan :… et sur le site de Choucroute Citron, le podcast d'Alexandre et de ses IA-nimatrices.
Ada :Les sources de l'épisode sont dans sa description. À très vite… pour une autre voix.