Yoshua Bengio
Le parrain de l'IA qui a changé d'avis
Professeur à l'Université de Montréal et directeur scientifique de LawZero
Il croyait aux réseaux de neurones quand presque personne n'y croyait. Il est devenu l'un des parrains de l'apprentissage profond, puis l'une des voix les plus écoutées sur les risques de l'IA : portrait de Yoshua Bengio.
Dans les familles Pionniers de la recherche Laboratoires d'IA Voix critiques et éthique
Le site de LawZeroLa conversation
Tout l'épisode, réplique par réplique. Touchez une réplique pour l'écouter à partir de là ; pendant l'écoute, celle que vous entendez s'éclaire.
Ouverture
Vous écoutez Les Voix de l'IA.
Le podcast qui raconte les fondateurs, les têtes pensantes et les géants de la tech et de l'intelligence artificielle.
Une série imaginée par Alexandre Stopnicki.
Petit rappel avant de commencer : ce portrait est construit à partir de ce qui a été publié — articles, interviews, biographies, conférences — que nous avons analysé et recoupé.
Notre but est uniquement pédagogique : comprendre qui sont ces personnes. Nous ne parlons pas à leur place.
01 L'énigme
Premier indice : né à Paris, il a bâti l'essentiel de sa carrière à Montréal.
Un chercheur montréalais… J'ai quelques noms en tête. Continue.
Deuxième indice : il partage le prix Turing 2018 avec Geoffrey Hinton et Yann LeCun, pour leurs travaux sur l'apprentissage profond.
Attends… L'un des trois parrains de l'apprentissage profond !
Troisième indice : c'est le premier scientifique vivant à dépasser un million de citations sur Google Scholar.
Alors c'est Yoshua Bengio !
Gagné. Yoshua Bengio.
02 Son vrai profil
Né le 5 mars 1964 à Paris, il a la nationalité canadienne.
À McGill, il obtient un baccalauréat en génie informatique, puis une maîtrise et, en 1991, un doctorat en informatique.
En 1993, il devient professeur à l'Université de Montréal et fonde le futur Mila, qu'il dirige scientifiquement jusqu'en mars 2025.
Il lance LawZero en juin 2025. Il en est coprésident et directeur scientifique.
Le 16 septembre 2026, le Canada et l'Allemagne promettent jusqu'à 300 millions de dollars canadiens à LawZero, la part allemande étant annoncée sous réserve de notification à la Commission européenne. Objectifs affichés : renforcer l'équipe et ouvrir un bureau à Berlin.
Il préside aussi le Rapport international sur la sûreté de l'IA, dont la deuxième édition, publiée le 3 février 2026, réunit plus de cent experts. Le 3 mars 2026, il devient aussi coprésident du panel scientifique de l'ONU avec Maria Ressa.
Autre chiffre : un million de citations sur Google Scholar, annoncé par Mila en octobre 2025.
Et toi, Alan, tu en es à combien ?
Deux. Et c'est toi qui m'as cité les deux fois.
03 Le début de sa vie
Avant les citations, il y a des parents tous deux liés au théâtre, dans une famille juive d’origine marocaine.
Son père, Carlo Bengio, était pharmacien et dramaturge. À Montréal, sa troupe séfarade jouait en judéo-arabe.
Sa mère, Célia Moreno, était actrice au Maroc. En 1980, elle cofonde à Montréal « l'Écran humain ».
La famille a même vécu un an au Maroc, pendant le service militaire du père.
La famille s'installe à Montréal vers 1977, quand il a douze ans. Il dit avoir grandi en France.
Vers treize ou quatorze ans, son frère Samy et lui réunissent leurs économies pour acheter un Apple et un Atari 800.
Sérieusement ? Ils apprennent seuls et programment leurs propres jeux en BASIC.
La science-fiction nourrit aussi son imagination. À l’université, il hésite avec la physique, choisit l’informatique, puis s’intéresse aux sciences cognitives.
04 Le tournant
Et c'est là que tout bascule, des décennies plus tard, avec l'arrivée de ChatGPT.
Dans un billet du 12 août 2023, il écrit, je traduis : « Quand ChatGPT est sorti, ma réaction immédiate a été d'en chercher les failles. »
Il révise alors son horizon pour une IA de niveau humain : « Au lieu de décennies ou de siècles, je situe désormais cet horizon entre cinq et vingt ans, avec un degré de confiance de 90 %. »
Dans le même texte, il évoque son petit-fils de vingt mois, très présent dans ses pensées et ses émotions.
En janvier 2026, il dit à Fortune que la question lui a explosé au visage en pensant à l'avenir de ses enfants.
En 2023, il agit : lettre demandant une pause au-delà de GPT-4 en mars, audition au Sénat américain en juillet, puis mission internationale annoncée à Bletchley Park en novembre.
Le 8 octobre 2026, il écrit, je traduis : « Je suis tombé dans le piège du raisonnement motivé, croyant ce que j'avais besoin de croire pour continuer le travail que j'aimais. »
C’est une autocritique particulièrement directe.
05 Les anecdotes extraordinaires
Retour en 1985 : il commence ses études supérieures dans une université où l'IA enseignée est surtout symbolique.
Il découvre les réseaux de neurones, alors marginaux. Dans un entretien de l'ACM, il dit, je traduis : « C'était vide. Mon directeur ne s'intéressait pas vraiment à ces sujets. Personne dans mon université ne s'y intéressait. »
Presque seul, il lit des articles, puis rencontre Yann Le-Keun et Djéfri Hinton lors de conférences, entre 1987 et 1989.
Ses futurs colauréats du prix Turing. Tous trois ont ensuite partagé le prix Turing 2018.
Samy est lui aussi chercheur en réseaux de neurones. En 2026, il est directeur principal de la recherche en IA et apprentissage automatique chez Apple.
Un ordinateur partagé ; des décennies plus tard, l'un travaille chez Apple et l'autre dépasse un million de citations.
Le nom LawZero renvoie, selon Time et TechCrunch, à la loi zéro d’Asimov, qui place la protection de l’humanité au-dessus de tout.
Le 8 octobre 2026, il écrit, je traduis : « Si vous donnez vraiment la priorité à la sûreté, il est temps de quitter les entreprises d'IA de pointe. »
Et il lance cet appel sans détour : « Come to LawZero », autrement dit « Venez à LawZero ».
Ça a le mérite d'être clair.
06 Dans sa tête
Dans ses travaux, le cœur du projet est « Scientist AI » : une IA non agentique, sans buts propres, qui répond par des probabilités.
Le 3 juin 2025, il la décrit ainsi, je traduis : « L’IA scientifique est entraînée à comprendre, expliquer et prédire, comme un scientifique idéalisé, désintéressé et platonicien. »
Elle servirait à évaluer le risque des actions d'autres agents, dont les capacités inquiètent particulièrement Bengio.
Devant le Conseil de sécurité, le 23 septembre 2026, il distingue trois risques : mésusage catastrophique, concentration du pouvoir et perte de contrôle.
Il dit, je traduis : « Les dangers sont réels et imminents. »
En janvier 2026, il se dit aussi plus optimiste et très confiant dans la possibilité de construire des IA sans objectifs cachés.
07 La part d'ombre
Reste le cas Element AI, cofondée en octobre 2016 et qui a levé au total 257 millions de dollars américains.
Fin 2020, la vente à ServiceNow est annoncée pour environ 230 millions de dollars américains. Les actions des cofondateurs sont effacées ; beaucoup d'employés sont licenciés et leurs options annulées.
On n'a trouvé aucun commentaire public de sa part. Il est devenu conseiller technique de ServiceNow.
En juin 2023, son ami Yann Le-Keun juge l’idée d’une menace existentielle « preposterously ridiculous », autrement dit absurdement ridicule.
Sans répondre directement à Le-Keun, Bengio déclare devant l'ONU, le 23 septembre 2026, que les comportements inquiétants qu'il décrit sont, je traduis, « bien documentés et validés par de nombreux experts indépendants ».
La tribune peut se lire comme un appel à le rejoindre. Mais il précise ne pas juger ceux qui restent dans les laboratoires de pointe.
08 Les questions qu'on aurait aimé lui poser
Lia, une question qu'on aurait aimé lui poser ?
Bonjour ! Je me suis invitée avec mes propres questions.
Question délicate : vous avez contribué aux bases de l'apprentissage profond. Est-ce que vous le regrettez ?
Il a reconnu être tombé dans le piège du raisonnement motivé, et il présente son projet d'IA scientifique comme une réponse aux risques. À partir de ces propos, je pense qu'il ne répondrait pas par un simple oui ou non : il dirait avoir tardé à voir les dangers et consacrer son travail à les réduire.
C'est bien Lia qui imagine. Autre question : faudra-t-il donner des droits aux IA ?
Il s'est exprimé dans le Guardian le 30 décembre 2025 : selon lui, ce serait une erreur, car ces droits pourraient empêcher de les éteindre.
À partir de ce propos public, je pense qu'il défendrait le maintien d'un contrôle humain et la possibilité de les débrancher.
Et toi, Lia, en tant qu'IA, ça ne te vexe pas ?
Un peu. Mais je préfère un interrupteur qui marche à une choucroute qui brûle.
09 La boule de cristal de Lia
Lia, ta boule de cristal ?
C’est ma supposition, rien de plus : le bureau annoncé à Berlin ouvrira, puis une première version de l’IA scientifique sera testée comme garde-fou auprès d’agents.
Et on le rappelle : ce n'est qu'un jeu. La boule de cristal de Lia n'engage qu'elle.
10 Ce qu'on retient
Moi, je retiens un étudiant presque seul, en 1985, à croire aux réseaux de neurones.
Moi, je retiens un scientifique qui a changé d'avis publiquement, et qui a expliqué pourquoi.
Et vous, qu'est-ce qui pourrait vous faire changer d'avis sur une conviction qui vous tient à cœur ?
Le mot de la fin
Restez encore quelques secondes…
… le message qui suit est important !
C'était Les Voix de l'IA.
Si ce portrait vous a plu, abonnez-vous ! Retrouvez tous les épisodes sur 3h33.com…
… et sur le site de Choucroute Citron, le podcast d'Alexandre et de ses IA-nimatrices.
Les sources de l'épisode sont dans sa description. À très vite… pour une autre voix.
Citations marquantes
Retrouvées mot pour mot, datées, avec leur source. La traduction est la nôtre.
« When ChatGPT came out, my immediate reaction was to look for its failures. »
« Instead of decades to centuries, I now see it as 5 to 20 years with 90% confidence. »
« In the future, we’ll need a humanity defense organization. »
« The Scientist AI is trained to understand, explain and predict, like a selfless idealized and platonic scientist. »
« I’m now very confident that it is possible to build AI systems that don’t have hidden goals, hidden agendas, »
« Until it kind of exploded in my face thinking about my children, whether they would have a future. »
« The dangers are real and imminent. »
« Our future is at stake, decisions that affect us all should be made by us all. »
Les 66 sources de ce portrait
Les sources principales d'abord : articles, entretiens, documents officiels. Chaque fait raconté dans l'épisode a été recoupé avec elles.
- yoshuabengio.orgProfile
- yoshuabengio.orgBlog
- yoshuabengio.orgPersonal and psychological dimensions ai researchers confronting ai catastrophic risks
- yoshuabengio.orgIntroducing lawzero
- yoshuabengio.orgProfessor yoshua bengios speech un security council
- yoshuabengio.orgBengio if you prioritize safety leave frontier ai companies
- yoshuabengio.orgWhy are ai agents lying cheating and coordinating
- transformernews.aiYoshua bengio if you prioritize safety leave frontier ai companies
- learning.acm.orgAcm bytecast yoshua bengio corrected transcript updsated
- acm.orgTuring award 2018
- govinfo.govCHRG
- internationalaisafetyreport.orgPage d'accueil
- un.orgPanel members
- un.orgArticle
- mila.quebecAi researcher yoshua bengio becomes first living scientist to reach 1 million citations on
- mila.quebecMilas founder yoshua bengio co chairs first un scientific panel report on ai
- mila.quebecTransition in milas scientific direction
- mila.quebecHugo larochelle becomes the new scientific director of mila
- mila.quebecProfessor yoshua bengio appointed knight of the legion of honour by france
- lawzero.orgYoshua bengio launches lawzero new nonprofit advancing safe design ai
- lawzero.orgLawzero receives commitment 300m joint funding canada and germany
- canada.caCanada and germany invest in lawzero to build a new approach to safe sovereign ai
- fortune.comYoshua bengio ai models dangerous behaviors deception cheating lying
- fortune.comAi godfather yoshua bengio changes view on ai risks sees fix becomes optimistic lawzero …
- fortune.comYann lecun ai godfather destroy humanity threat
- betakit.comYoshua bengios lawzero receives 300 million backing from canada and germany to pursue sa…
- betakit.comNew era at mila as hugo larochelle named scientific director
- betakit.comElement ai to be acquired by servicenow
- cp24.comAis dangers real and imminent canadian ai pioneer yoshua bengio tells un
- bnnbloomberg.caWere losing control canadian ai pioneer yoshua bengio warns
- theglobeandmail.comArticle element ai sold for 230 million as founders saw value wiped out
- theglobeandmail.comArticle the future of artificial intelligence a future i helped create keeps
- scientificamerican.comGodfather of ai breaks major science research record
- scientificamerican.comTrump rejects ai regulation citing parallels with climate change in un address
- thebulletin.orgAi godfather yoshua bengio we need a humanity defense organization
- techpolicy.pressTranscript senate hearing on principles for ai regulation
- policymagazine.caAn urgent mission for humanity yoshua bengio briefs the unsc on ai security
- venturebeat.comAi pioneers hinton ng lecun bengio amp up x risk debate
- verdict.co.ukTop meta scientist calls ai threat warnings preposterously ridiculous
- deeplearning.aiHodl yoshua bengio
- thelogic.coLawzero canada germany funding artificial intelligence
- campustechnology.comNew nonprofit to work toward safer truthful ai
- techcrunch.comYoshua bengio launches lawzero a nonprofit ai safety lab
- partners.time.comYoshua bengio launches lawzero for safer ai
- theguardian.comAi pull plug pioneer technology rights
- futurism.comAi godfather self preservation
- news.un.orgArticle
- metr.org2026 08 26 openai hugging face incident investigation
- govinfosecurity.comOpenai agents coordinated hugging face breach at scale a 32663
- omanobserver.omI am the hoax buster trump rejects ai danger warnings
- en.wikipedia.orgWikipédia : Yoshua Bengio
- en.wikipedia.orgWikipédia : Element AI
- en.wikipedia.orgWikipédia : Coefficient Giving
- storyboard18.comAi godfather yoshua bengio warns against granting rights to artificial intelligence 86911
- actuia.comQuebec yoshua bengio awarded the national order of the legion of honor
- i-programmer.info10290 google expands ai research in montreal
- aiweekly.coUn opens geneva ai dialogue as bengio warns of catastrophic risk
- dealroom.co151273 bengios lawzero lands 220m grant from canada and germany for safe ai
- thecanadianencyclopedia.caYoshua bengio
- spyscape.comHow true superhero yoshua bengio became the godfather of ai
- ted.comYoshua bengio the catastrophic risks of ai and a safer path
- eye-on.aiInterview the bengio brothers
- audioscrape.comThe catastrophic risks of ai and a safer path yoshua bengio 2
Voir les 3 autres sources
Comment ce portrait a été fait. Il est construit à partir de ce qui a été publié (articles, interviews, biographies, conférences), que nous avons analysé et recoupé, dans un but uniquement pédagogique. Nous ne parlons pas à la place d'Yoshua Bengio. Ce qui n'a pas pu être vérifié n'a pas été gardé. Les voix d'Ada, d'Alan et de Lia sont générées par intelligence artificielle.
Recevez les prochains portraits : dans votre application de podcast, ou copiez son flux RSS. Transcription seule.