I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle

Jean-Francois Senechal, David Beauchemin, Ève Gaumond, Frédérick Plamondon, Sylvain Munger, Shirley Plumerand

Bienvenue au podcast IA café, le podcast pour les passionnés, comme vous, d’intelligence artificielle. Deux fois par mois, nous recevons, dans notre studio à la Faculté de philosophie de l’Université Laval, au cœur de la ville de Québec, les principaux acteurs (chercheurs, entrepreneurs, artisans) de la recherche sur l’intelligence artificielle, et nous discutons avec eux des enjeux techniques, éthiques et sociétaux émergeant de leurs domaines d’expertise. Au passage, nous tentons nous aussi d'arrimer nos expertises en Éthique, droit et sociologie avec ce domaine émergeant qu'est l'Intelligence artificielle. Je sais que le sujet peut sembler intimidant, mais le ton de ce podcast se veut très relaxe, simple, humble. On prend un café. On discute des grandeurs et misères de la recherche en intelligence artificielle. Rien de plus. Le podcast s’adresse principalement aux chercheurs, entrepreneurs et artisans de ce domaine, aux étudiants qui aimeraient y travailler, mais aussi à ceux et celles qui souhaitent s’immiscer à l’intérieur des murs, parfois étanches, des compagnies et institutions qui créent les intelligences artificielles qui feront bientôt partie de nos vies. Bonne écoute! Vos moutons électriques: Jean-François Sénéchal, David Beauchemin, Ève Gaumond, Frédérick Plamondon, Shirley Plumerand et Sylvain Munger.

Épisode 42 - Retour en classe et «apprentissages profonds»!
Sep 8 2022
Épisode 42 - Retour en classe et «apprentissages profonds»!
Ça y est! Corne de brume! Nous sommes de retour. Bienvenue à votre saison #3 d’IA café. Épisode 42. L’épisode de la «réponse ultime» (ou pas)! Avec mes collaborateurs et collaboratrices (Ève Gaumond, Sylvain Munger et Maxime Heuillet), nous mettons la table pour cette saison 3, explorons les thèmes à venir, discutons des événements en IA qui ont attirés notre attention, et partageons nos ambitions et projets d'automne.Et au passage, quelques discussions passionnantes sur nos sujets préférés:Dall-e et Midjourney - banc d'essaiJustice, démocratie et expression en ligneDu lien social entre la communauté de chercheurs en IA et la population en généraleAristocratie et entrepreneuriat - Rêve, imagerie et pouvoirWorkshop - Utilisation de techniques de NLP pour traduire le sens caché et cryptique des plumitifs (résumé sommaires de décisions judiciaires)De pertinence de la question de la singularité et de la naissance potentielle d'une IA générale menaçante (ou enthousiasmante) Guide de survie pour étudiantes et étudiants français qui aimeraient étudier en IA au Québec ou en Amérique (de l'autre côté de la Grande Flaque)Du rôle de l'IA dans l'intox, dans la construction des discours conspirationnistes et dans la radicalisation du discours sur les réseaux sociauxNeurIps 2022 -  Conference on Neural Information Processing Systems Et encore plus !Bonne écoute.Production et animation: Jean-François Sénéchal, Ph.DInvités: Ève Gaumond, Sylvain Munger, Maxime HeuilletCollaborateurs: David Beauchemin, Fredérick Plamondon, Shirley Plumerand.
Épisode 39 - Économie de la promesse et battage technologique en IA - Entrevue avec Maxime Colleret
Jun 2 2022
Épisode 39 - Économie de la promesse et battage technologique en IA - Entrevue avec Maxime Colleret
Dans cet épisode, nous recevons Maxime Colleret. Avec lui, nous revenons sur le rapport qu'il a coécrit, avec son collègue et directeur de recherche Yves Gingras, et qui est intitulé: L'intelligence artificielle au Québec : un réseau tricoté serré. Nous explorerons également les principales idées publiées dans un autre article, coécrit avec son collègue Mahdi Khelfaoui, et intitulé: D'une révolution avortée à une autre? Les politiques québécoises en nanotechnologies et en IA au prisme de l'économie de la promesse. Au programme:D’un réseau (tissé serré) en IAAnalyse sociologique du réseau, des principaux acteurs et des bailleurs de fonds en IA au QuébecDes potentiels conflits de rôles, conflits d’intérêts et problèmes d’éthique organisationnelleDe la concentration du financement de la recherche en IADe l’économie de la promesseDu cycle de battage technologiqueDe l’avenir de l’IA Bonne écoute!Référence principale:- Colleret, M. et Khelfaoui, M. (2020). D'une révolution avortée à une autre? Les politiques québécoises en nanotechnologies et en IA au prisme de l'économie de la promesse. Recherches sociographiques, 61(1), 163-188.- Colleret, M., & Gingras, Y. (2020). L'intelligence artificielle au Québec: un réseau tricoté serré (Doctoral dissertation, UQAM).Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.
Épisode 38 - NLP, GPT3 et fraude scientifique - Guillaume Cabanac, le détective de la tromperie!
May 19 2022
Épisode 38 - NLP, GPT3 et fraude scientifique - Guillaume Cabanac, le détective de la tromperie!
Dans cet épisode, nous recevons Guillaume Cabanac surnommé « détective de la tromperie ». Guillaume a été nommé, par la prestigieuse revue Nature, parmi les 10 personnalités qui ont marqué la science en 2021. Guillaume est un chercheur qui fait de la recherche, mais sur la recherche. Il est maître de conférence, docteur en informatique, professeur à l’Université Paul Sabatier Toulouse 3. Il enseigne en informatique, en gestion et traitement informatique des données massives.  Ses plus récents travaux de recherche sont en scientométrie (la science de la mesure et de l'analyse de la science). Avec lui, nous avons principalement discuté d’un article qui a fait beaucoup de bruit dans la communauté scientifique. L’article a été publié en juillet 2021 :Cabanac, Guillaume, Cyril Labbé, and Alexander Magazinov. "Tortured phrases: A dubious writing style emerging in science. Evidence of critical issues affecting established journals." arXiv preprint arXiv:2107.06751 (2021). Ma traduction: Des phrases torturées, de l'émergence d'un style étrange d'écriture en science - Les preuves d'un important problème qui affecte même les journaux scientifiques les plus sérieux et prestigieux. Bonne écoute!Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.
Épisode 37 - Former à l’éthique de l’IA en enseignement supérieur - Entrevue avec Frédérick Bruneaul
May 5 2022
Épisode 37 - Former à l’éthique de l’IA en enseignement supérieur - Entrevue avec Frédérick Bruneaul
Dans cet épisode, avec mon invité Frédérick Bruneault, notre enquête sur les enjeux éthiques et sociaux de l'IA s'aventure bien en amont du développement de l'IA en explorant: la  formation en éthique de l'IA. Frédérick Bruneault est professeur de philosophie au Collège André-Laurendeau, professeur associé à l'École des médias de l'Université du Québec à Montréal (UQAM), chercheur principal au Laboratoire d'éthique du numérique et de l'intelligence artificielle (LEN.IA), chercheur associé à l'Observatoire sur les impacts sociétaux de l'intelligence artificielle et du numérique (OBVIA), à l'Observatoire du numérique en éducation (ONE). Ses recherches portent sur la fondation de nos obligations morales dans le contexte du développement technologique actuel, notamment celui des technologies du numérique et de l'intelligence artificielle.Avec lui, nous explorons un texte dont il est le coauteur (avec Andréane Sabourin Laflamme, et André Mondoux) : Former à l’éthique de l’IA en enseignement supérieur : Référentiel de compétence.  Au programme:Histoire et genèse du rapport. Méthode de rechercheD’une approche pragmatique en éthiqueDe la compétence en éthique (générale)De la compétence en éthique de l’IABonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.
Épisode 36 - Les biais en IA et en intelligence...naturelle - Entrevue avec Jean-Philippe Beauregard
Apr 21 2022
Épisode 36 - Les biais en IA et en intelligence...naturelle - Entrevue avec Jean-Philippe Beauregard
Dans cet épisode d’IA Café,  nous replongeons dans un sujet que vous avez aimé : les biais en IA.  Avec Jean-Philippe Beauregard, nous retournons à la source en explorant non pas les biais en intelligence artificielle, mais les biais propres à notre intelligence humaine, et donc ... naturelle! Et cela, évidemment afin d'approfondir notre compréhension des biais en IA!Nous avions entamé cette réflexion dès l’épisode 8 (avec Justine Dima) intitulé : «Dis-moi qui tu embauches, et je te dirai qui tu es» (publié le 28 janvier 2021). Nous avions poursuivi notre réflexion avec l’équipe et les collaborateur d’IA Café à l’épisode 9 intitulé : «Biais psychosociaux -  une IA humaine trop humaine» (publié le11 février 2021). Cette enquête sur les biais n’a donc jamais pris de repos. Le nombre de fois où le terme biais est mentionné dans nos 35 premiers épisodes! C’est un thème récurrent, mais nous prenons rarement le temps de l’approfondir. Les réflexions de Jean-Philippe Beauregard nous permettront de faire quelques pas de plus dans notre enquête.Plusieurs thèmes abordés:Analyse des faits - De la discrimination et du racisme systémique en ressources humaines et dans le processus d'embauche - quelques expériences et résultats surprenants!Le problème - Des biais en ressources humaines - Définition, exemple, nature, fréquence Les causes - Des causes psychologiques et sociales Les solutions et conseils - De la gestion prudente des biais en RH et quelques conseils à celles et ceux qui sont impliqués dans la conception d'IA  Bonne écoute! Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand.Principales sources Jean-Philippe Beauregard, Thèse de doctorat : Les frontières invisibles de l’embauche des Québécois minoritaires : hiérarchie ethnique, effet modérateur du genre féminin et discrimination systémique. Dévoiler la barrière à l’emploi par un testing à Québec (2020)
Épisode 28 - Nos prix I.A.rk et Lovelace 2021 (partie 1) - Et le party de Noël d'IA Café!
Dec 17 2021
Épisode 28 - Nos prix I.A.rk et Lovelace 2021 (partie 1) - Et le party de Noël d'IA Café!
Bienvenue à vos prix I.A.rk et Lovelace - édition décembre 2021. C’est votre cadeau de Noël. C’est le nôtre aussi.Rappelons le concept, nos prix Lovelace et I.A.rk sont nos prix pour récompenser et sanctionner le meilleur et le pire en intelligence artificielle. Pour remettre nos prix, cette année et pour notre party de Noël, j’ai donné rendez-vous à l’équipe d’IA Café dans un chalet en bois rond perdu dans la forêt québécoise. Voici nos prix I.A.rk et Lovelace  - Décembre 2021:1. Shirley Plumerand Prix IArk : Tinder et les biais de «l'amour».  « L’amour sous algorithme » de Judith Duportail. Prix Lovelace : De la protection des données personnelles -  Délibération de la CNIL  (Commission nationale de l’informatique et des libertés) en France .  2.  Sylvain MungerPrix Lovelace: Facebook perd la face - Frances Haugen, ancienne cheffe de produit chez Facebook et son témoignage au sénat américain pour dénoncer les pratiques de son ancien employeur.  Facebook Whistle-Blower Brings Campaign to Europe After DisclosuresPrix I.A.rk: De la liberté et ses excès - Mouvement antivax, conspirationniste et destruction des efforts de la santé publique. 3. David BeaucheminPrix I.A.rk :  Du processus de révision par les pairs (et de ses problèmes) dans le champs du deep learning - «Inconsistency in Conference Peer Review: Revisiting the 2014 NeurIPS Experiment". Prix Lovelace: Du financement de la recherche ... au hasard?  Et si le processus d'octroi des fonds publics en recherche  se faisait purement et simplement au hasard!  Financer la recherche au hasard, une hérésie ? 4. Jean-François SénéchalPrix I.A.rk: Des «paper mills», des moulins à papiers et des moulins à vents - GPT3 et les générateurs de textes automatisés pour publier des articles scientifiques frauduleux en AI.  Ref.: CABANAC, Guillaume, LABBÉ, Cyril, et MAGAZINOV, Alexander. Tortured phrases: A dubious writing style emerging in science. Evidence of critical issues affecting established journals. arXiv preprint arXiv:2107.06751, 2021.
Épisode 27 - Un chandail (ou champs d'AI) québécois tricoté serré !
Dec 2 2021
Épisode 27 - Un chandail (ou champs d'AI) québécois tricoté serré !
Dans le cadre de cet épisode d’IA Café, nous avons pensé lire, pour vous, un rapport sur l’intelligence artificielle au Québec. Ce rapport a été publié en 2020 par Yves Gingras et Maxime Colleret de l’Université du Québec à Montréal. Le rapport que nous avons lu est intitulé : L'intelligence artificielle au Québec : un réseau tricoté serré. Dans ce rapport, on y mentionne :que quelques organisations domineraient (sans surprise) l'écosystème AI québécois:  l'Institut québécois d’intelligence artificielle (Mila); Ivado Labs, Scale AI, le Creative Destruction Lab (CDL), le Comité consultatif ministériel sur l'intelligence artificielle (CCMIA).  Plus surprenant toutefois, on y apprend:que ce réseau AI Québécois serait contrôlé par quelques acteurs seulementque ces acteurs au sein de ces organisations seraient impliqués à plusieurs étapes du financement en recherche que certains acteurs siègeraient sur conseil et comités associés aux instances de financementqu’ils exerceraient sur le système AI Québec un pouvoir certain sur la vie et la survie de cet écosystème québécois.Comprenez-vous pourquoi nous nous intéressons à ce rapport!Aussi, nous revenons sur un épisode de notre podcast ami, Open-Layer, animé par notre collaborateur David Beauchemin. Dans l'Épisode 38 d'Open Layer,  David s'est entretenu avec Maxime Colleret, corédacteur du rapport en question.Évidemment, ça fait un peu Québéco-centriste tout ça, mais nous souhaitions que cette analyse rigoureuse et approfondie de l’écosystème québécois puisse être instructive pour quiconque souhaite comprendre l'écosystème AI de leurs propres pays ou régions du monde. C’est du moins l’angle que nous souhaitions explorer dans cet épisode avec vous.Production et animation: Jean-François Sénéchal, Ph.DCollaborateurs: David Beauchemin, Ève Gaumond, Fredérick Plamondon, Sylvain Munger, Shirley Plumerand, Claude Coulombe.