Transcription automatique (Whisper), non relue — cliquez pour aller au passage.
Diderot : « parle et je te baptise »
3:55 j'ai eu des réactions comme ça, informelles, bilatérales, soit par téléphone. Il y en a qui sont vraiment enthousiastes de voir qu'on va enfin parler de l'intelligence artificielle à partir de quelqu'un qui n'en parle pas de l'extérieur et qui va enfin nous en parler pour dire ce que c'est, et non pas bavarder sur tout ce que ça n'est pas.
4:25 Ce qui est le cas le plus courant médiatiquement, disons, ou au café du commerce, ce qui revient au même. Je vous rappelle quand même toujours que je n'ai aucun mépris social pour les gens qui sont au café du commerce. Ce n'est pas le lieu d'éclosion de la vérité, mais ce n'est pas sa fonction non plus. Mais on peut faire aussi des choses très sympathiques. Et puis, il y a au contraire ceux qui disent, je ne comprends pas, Pagani part un peu dans tous les sens.
4:55 C'était bien les rêveries analytiques, là. Il nous a fait un numéro sur Mignon, le Mignon de Goethe, cette espèce de… Là, maintenant, on va être face à une machine. Je caricature un peu exprès, je fais confiance à Christophe qui mettra les choses au point. Mais je parle ici au nom d'un certain public peu prévenu. Et que je voudrais rassurer tout de suite, moi, je ne vois aucune discontinuité entre, et pourtant, entre notre série des rêveries analytiques et notre atelier régulier du mercredi, hebdomadaire, pour lequel nous entamons une nouvelle session ce soir.
5:44 La preuve, écoutez, la preuve, je vais vous la donner à partir d'une anecdote que j'emprunte à Diderot. Juste après le rêve de d'Alembert, un peu en épilogue au rêve de d'Alembert, Diderot nous propose un entretien sous forme de dialogue. C'est lui qui lance un peu la mode à l'époque, puis ça inspirera le Rousseau juge de Jean-Jacques un petit peu après. Un dialogue essentiellement entre, disons, un médecin pour aller vite et une jeune aristocrate, Mademoiselle de Lespinasse.
6:28 Son salon était célèbre, enfin, ce n'est pas notre sujet. Et où il est pas mal question du rapport homme-animal. Vous voyez, on commence à y venir. à l'intelligence artificielle, pas encore à la preuve que je suis en continuité avec mes propos sur le chant de Mignon. Mais revenons-y. Et pour illustrer son propos, le médecin dit à Mlle de Lespinasse, écoutez, avez-vous vu l'orang-outan qui est au jardin des plantes ?
7:06 C'était la toute première fois qu'on voyait ce genre d'animaux, en cage bien sûr, présentés au public du nord de la planète, en l'occurrence, un public parisien. Et bien sûr, Mlle de Lespinasse dit, oui, oui, je le vois, comme beaucoup de gens, très curieux. Et il lui dit, l'évêque de Polignac lui aurait dit, orang-outan, à travers les barreaux de sa cage, parle et je te baptise.
7:38 On est fin du XVIIIe siècle. Il y a eu Buffon qui a comme esquissé des hypothèses de la théorie de l'évolution. Bientôt, il va y avoir Darwin, une génération et demie, deux générations maximum. Et déjà, Diderot montre à quel point il y a peu de choses, n'est-ce pas, entre l'orang-outan et l'homme, mais ce peu est énorme, puisqu'il décide carrément de savoir si l'intéressé va être baptisé, bref, s'il appartient à la sphère anthropologique ou bien à la sphère zoologique.
8:23 Moi, s'il reste dans la sphère zoologique, parle et je te baptise. Alors, vous voyez, on est déjà dans les problèmes du langage. Je ne parle pas de langage machine, Christophe, en parlera beaucoup mieux que moi. Mais on est déjà dans quelque chose qui a un rapport à l'oreille, pour l'instant. Parle et je te baptise. Première anecdote. Deuxième, je vous les donne comme ça, dans le désordre apparent, qui nous rapproche un peu plus de Mignon, parce que pour l'instant, c'est parle, c'est pas chante.
Le rossignol mécanique de Kant et le téléphone du Château
8:53 Et vous voyez, Kant, dans sa critique du jugement, dit, je me promène dans un parc, tout ça est très 18e siècle, si vous regardez bien, c'est très galant. Je me promène dans un parc et j'éprouve un ravissement à entendre l'incomparable mélodie du chant du Rossignol à l'heure Vespéral. N'est-ce pas ? Et voilà que mon ravissement est gâché par le propriétaire des lieux qui vient à ma rencontre et qui me dit, vous avez entendu, c'est beau, mais ce n'est qu'un mécanisme.
9:26 C'est déjà le développement des automates à l'époque. Il y avait déjà un joueur d'échecs, un automate, avec qui on jouait aux échecs, ce n'était pas encore l'ordinateur, mais c'était un automate. Vous voyez, on s'en rapproche. Et l'intéressé dit tout de suite que son plaisir, pourtant, on n'a pas changé une seule note, c'est les mêmes intervalles. Mais le fait que ce soit un mécanisme qui imite, où je reprends le mot par lequel Christophe va introduire l'intelligence artificielle, l'ensemble des procédés par lesquels une machine simule, moi je dis imite, c'est la même chose, vieux terme platonicien.
10:07 Le fond de la caverne est une simulation. Mais n'anticipons pas. N'empêche que son plaisir est gâché alors qu'on n'a rien changé à la musique. Et même le fait qu'on sache que ce n'est pas un quelqu'un qui est en train de chanter, mais un quelque chose qui est programmé pour le faire, fait que le promeneur exprime toute sa déception.
10:38 Voilà. Donc, rappelez-vous par quoi j'ai commencé le texte sur Mignon. Même pas par un langage, même pas par une musique. Je reprends le mot, notre premier texte c'était le Kafka extrait du château. K, le personnage central du roman, tout au début, dans les premières pages, n'est-ce pas ? Puisqu'on lui dit que le château, vous êtes un mégalomane, qu'est-ce qu'il vous dit que le château a engagé quelqu'un, un vagabond comme vous ?
11:09 Il dit, bon, puisque c'est comme ça, on va téléphoner pour voir. Et il décroche le téléphone, on va enfin entendre la voix de Dieu. Le château, c'est la transcendance, c'est le Graal. Puisque tout le roman se passe, une quête éperdue pour essayer d'y arriver, il n'y arrivera jamais au château, tant s'en faut. Par ses efforts, il se prive d'ailleurs de rester au village, donc il n'est ni au village comme les gens sages de tous les jours, ni non plus au château, il est dans la navette. Ce n'est pas notre sujet, je le rappelle, parce que c'est admirable comme structure, comme pitch.
11:40 Il décroche le téléphone, on va enfin entendre la voix de l'absolu, la voix de Dieu. C'est le contraire de la machine. C'est la voix, non pas de quelque chose, mais de quelqu'un, qu'est-ce que je dis ? Du quelqu'un par excellence, du seul qui est. C'est comme ça qu'il se nomme à Moïse, l'éternel. Il dit, on dit « Yahvé » parce qu'il faut des voyelles, mais sinon c'est imprononçable. Parce qu'un homme ne peut pas dire « je suis ». Il n'y a que Dieu qui est. Nous, on devient.
12:11 J'anticipe, on va discuter de tout ça, mais c'est intéressant que l'hébreu, comme le russe, n'ont pas de verbe être au présent de l'indicatif. En russe, on ne dit pas « je suis russe », on dit « ya russkiy », « je russe ». Car seul Dieu peut parler de l'être au présent. Car comme dit Pascal, s'il est éternel et une fois, il est toujours. Je sème un petit peu des graines, comme ça, il va être question. On va entendre la voix de Dieu.
12:42 Je reviens au château. Et qu'est-ce qu'on entend ? Je vous ai dit que ce n'est ni un langage ni une musique. Le terme de Kafka, c'est un grésillement. Il entend un grésillement. Puis ce grésillement semble la voix d'une multitude de voix enfantines, mais lointaines, très lointaines, puis qui se fondent en une seule, qui donne l'impression de vouloir percer quelque chose de plus résistant qu'une pauvre oreille, pour citer le texte admirable.
13:12 Voilà. Donc, je voulais juste vous montrer, je ne résous aucun des problèmes. Je ne réponds à aucune des questions que je viens de soulever un peu dans le désordre. Par contre, je viens de rassurer ceux qui croient qu'on est passé un petit peu du coq à l'âne. Non, non, non, non. Nous continuons notre réflexion sur le rapport entre les sciences qui se rapportent à l'homme, les sciences de l'histoire, comme je les appelle, vous pouvez dire les sciences humaines, les sciences sociales, ça m'est égal.
Jeter une passerelle entre sciences humaines et sciences de la nature
13:46 Je vous ai déjà dit que je me soustrais au terrorisme structuraliste. Je n'ai rien contre les structures. Ce serait anti-scientifique, mais le structuralisme, c'est plus que les structures, c'est une idéologie. Donc, appelez ça comme vous voulez, l'abîme, l'infranchissable abîme selon Kant qui sépare les sciences de l'histoire ou sciences humaines et les sciences de la nature ou sciences dures, surtout quand on leur ajoute les mathématiques, sans lesquelles aucune de ces sciences n'aurait la dureté qui font leur prestige, sans lesquelles, si on dit les mathématiques au plus réel, créer un lien entre les deux, jeté une passerelle fut-elle frêle sur cette infranchissable abîme que Kant essayait de faire dans sa dernière critique qui a le plus inspiré les post-kantiens, pas les néo-kantiens, mais les Hegel et compagnie.
14:43 Vous savez que ça va aller vers Marx après tout ça. Donc, ce cycle que j'ai intitulé par une question comment des sciences historiques peuvent être réelles, et pas seulement possibles, mais réelles, vous voyez, nous sommes en continuité avec les exemples que je viens de donner. Parle, je te baptise. Un ingénieur pourrait dire la même chose à quelqu'un qui lui dirait tiens, voilà, tu as un robot, là tu verras, c'est vraiment un mec, il n'y a plus aucune différence, admettons.
15:21 L'interlocuteur sera en droit de dire au robot à ce moment-là pour mettre à l'épreuve ce que dit son collègue, qu'il parle et je le baptise. Voilà. Oui, les problèmes sont posés, ils ne sont pas résolus, surtout pas par moi. Les questions sont posées. Je donne la parole à Christophe qui, je pense, est soucieux d'abord de, par courtoisie envers notre public, de rendre un peu plus public, un peu plus courant ce que l'on entend par l'intelligence artificielle, comme je vous disais tout à l'heure, en s'attardant un peu sur ce qu'elle a vu de l'intérieur par quelqu'un qui, pour laquelle elle est un objet de recherche et de pratique et de conceptualisation, ça fait beaucoup, et qui en plus transmet son savoir, car Christophe, à ma connaissance, a un grand souci de transmission pédagogique.
16:21 Ce n'est pas toujours le cas chez les chercheurs, donc j'insiste sur cette triple compétence. Et je lui passe la parole pour qu'il commence par nous dire, enfin, de l'intérieur ce qu'il faut entendre avec le moins de bêtises possible sur ce syntagme, j'enlève les guillemets, l'intelligence artificielle. À toi, Christophe, si tu veux bien. Bonjour. Donc, déjà, merci à toutes et à tous d'être là ce soir.
Une définition sans consensus : simuler l'intelligence humaine
16:53 Donc, je vais avoir le... Donc, je vais brièvement aussi me présenter pour ceux qui ne me connaissent pas, parce qu'il y en a beaucoup. Donc, je suis Christophe Denis, donc je suis un enseignant-chercheur à l'université Pierre-et-Marie-Curie, qu'on a rebaptisé Sorbonne Université, et j'effectue mes travaux, donc j'enseigne et j'effectue mes travaux de recherche dans la thématique de l'intelligence artificielle.
17:23 Et ce qui m'intéresse particulièrement, c'est de savoir qu'est-ce qu'il y a dans la boîte de l'intelligence artificielle d'une certaine manière, mais en lien aussi avec la pratique scientifique, voilà, en quoi l'apprentissage machine, puisqu'on a parlé tout de suite, bouleverse ou non la discipline scientifique, en quoi ça peut être un apport, etc., et donc j'enseigne aussi, je suis vraiment très intéressé par l'enseignement aussi et la vulgarisation de l'intelligence artificielle, parce qu'on se rend compte, je me rends compte souvent que ceux qui font le plaisir de m'écouter après me posent des questions et souvent c'est loin d'être des questions stupides et ça me replonge aussi dans la recherche.
18:25 Donc, ce que je vous propose c'est déjà, je vais peut-être commencer par vous décevoir, parce que si vous voulez une définition complète, de l'intelligence artificielle qui a un consensus au niveau scientifique, eh bien, ça ne va pas être le cas, puisqu'il existe encore, vous voyez, par exemple, quand il y a des réunions de gens qui travaillent autour de l'intelligence artificielle pour définir quel est le bon usage de l'intelligence artificielle, généralement, dans ces groupes de travail, il y a une grande partie, on peut voir à chaque fois, c'est, mais qu'est-ce que l'intelligence artificielle, donc vous voyez, il n'y a pas un consensus au niveau aussi des chercheurs, et aujourd'hui, on ne va pas présenter aussi toute une thématique sur l'éthique de l'intelligence artificielle, parce qu'on entend beaucoup que l'intelligence artificielle doit être loyale, etc., en fait, c'est la finalité un peu d'un outil, et des fois, c'est un peu, pour moi, c'est un peu délicat
19:35 de mettre des propriétés un peu exogènes ou normatives, en disant, c'est comme si vous preniez un outil et vous dire, cet outil, ou je ne sais pas quoi, cette scie doit être loyale, pour je caricature un peu, parce qu'elle doit scier du bois et puis pas couper un doigt, ou je ne sais pas quoi. Donc, je propose, j'ai mis une première définition dans la planche, peut-être, je vais essayer de remettre, en fait, on peut voir une définition, alors, Peter Norvig, c'est le boss de l'intelligence artificielle dans Google, j'en ai pris une parmi d'autres, juste parce que on va commencer peut-être à s'amuser ensemble, donc, voilà, une définition, l'intelligence artificielle est l'ensemble des théories et des techniques mises en oeuvre
20:45 en vue de réaliser des machines capables de simuler l'intelligence humaine. Alors, c'est une définition assez récente, mais ça rejoint, en fait, un certain rêve, une utopie des pères, entre guillemets, de l'intelligence artificielle. Il faut voir que le terme intelligence artificielle est venu parce qu'il y a eu quatre chercheurs qui ont voulu obtenir un financement des universités américaines pour faire un séminaire d'été et donc, ils avaient décrit, ben voilà, on va proposer une nouvelle technique, l'intelligence artificielle et c'était dans l'idée et ce qui est assez drôle déjà de voir, c'est que, imaginez-vous, à l'époque, ben les ressources de calcul qu'on avait, c'était vraiment assez ridicule et dès qu'il y a eu ces premiers machines de calcul, on s'est projeté, on a dit, ben est-ce que, finalement, à partir de ce mécanisme, on ne pourrait pas simuler l'intelligence humaine.
21:54 Alors, il y a eu beaucoup de choses dessus, peut-être on pourrait revenir aussi, si vous avez des questions, il y a eu, par exemple, le fameux test d'imitation de Turing pour tenter de mesurer l'intelligence d'une machine, en fait, c'était l'idée, on met dans deux pièces différentes un être humain et une machine et si l'observateur, en posant des questions à l'un ou à l'autre, il n'arrive pas à différencier, on pourrait dire qu'il y a une certaine intelligence de la machine.
22:29 alors là, ça a été bien critiqué par un autre, alors, Alan Turing, c'est un élément important, c'est quelqu'un d'important dans l'informatique, donc, si vous avez vu, par exemple, il y avait un film un peu romancé qui retracait sa vie, je crois que c'était The Imitation Game, où on voyait avec le rôle qu'il a eu pendant la Seconde Guerre mondiale dans les machines Enigma, mais il a aussi fait de la théorie sur l'informatique avant que les ordinateurs existent et c'est ça qui est assez toujours intéressant, c'est que l'informatique est contrainte par les évolutions technologiques des ordinateurs, il y a des choix qui se font parce qu'à un moment donné, l'industrie d'un point de vue économique développe plus un certain type de machines donc on s'adapte mais il y a toute une partie théorique qui est indépendante et d'ailleurs ces théories de calculabilité
23:41 par exemple étaient avant l'avènement des machines informatiques et c'est par exemple la machine de Turing d'ailleurs que je vous invite parce qu'il y a des choses assez rigolos par exemple il y a des gens qui ont développé des machines de Turing en Lego etc donc si vous regardez par exemple dans votre navigateur ou dans votre Google préféré vous pourrez les trouver alors je reviens sur donc l'idée c'était de simuler l'intelligence humaine et il y a eu et moi j'aime bien ces définitions parce que si on rajoute une seule lettre et bien ça ça renverse un peu la cette définition par exemple si vous rajoutez la lettre T je pense que c'est aussi le rôle de cet outil donc si je remplace je mets aussi l'intelligence artificielle est l'ensemble
Stimuler plutôt que remplacer ; approches symbolique et connexionniste
24:51 des théories et des techniques mises en oeuvre en vue de réaliser des machines capables aussi de stimuler l'intelligence humaine je crois que on est il ne faut pas tomber aussi dans les certaines peurs de que l'intelligence va remplacer l'être humain l'intelligence humaine etc parce que je reste quand même convaincu que qu'en fait on dispose d'un outil et l'utilisation de cet outil pour qu'il soit pas bête ou pas qu'il soit vraiment utile on a besoin aussi du du génie humain des mathématiciens aussi pour comprendre etc donc par contre on ne va pas l'aborder ici indéniablement ça pose des problèmes sociétaux des problèmes aussi qu'il faut réfléchir au niveau du travail mais je crois que c'est pas que lié à l'intelligence artificielle c'est une ça vient depuis longtemps de la numérisation
26:01 de la mécanisation etc et il n'est pas en rupture et s'inscrit dans ce prolongement donc l'intelligence artificielle donc ça naît dans les années 60 et souvent on parle du renouveau vous voyez le renouveau de l'intelligence artificielle par exemple c'est sur toutes les capacités prédictives par exemple c'est de reconnaître automatiquement dans les photos s'il y a la présence d'un chien ou d'un chat donc comme il y a eu des capacités prédictives impressionnantes qui ont détrôné toute une thématique pour reprendre une anecdote c'est que sur les activités de reconnaissance pas une anecdote c'est même pas une anecdote c'est d'un point de vue historique si on reprend par exemple c'est dans le contexte du traitement d'images avant il y a eu toute une communauté scientifique qui travaillait sur des algorithmes donc ça veut dire sur des séquences d'opérations bien déterminées pour faire
27:11 justement du traitement d'images de la reconnaissance faciale etc et il y a eu une conférence avec des challenges pour que les chercheurs testent leur algorithme il est arrivé une bande un peu de entre guillemets avec la machine connaissant peu ou prou le traitement d'images utilisant ces techniques de d'apprentissage machine qu'on verra tout de suite après et qui ont vraiment détrôné les performances de tous ces algorithmes et donc c'est pour ça que maintenant d'ailleurs dans le domaine du traitement d'images il est on utilise massivement donc l'apprentissage machine donc c'est un bouleversement aussi dans les je vais axer beaucoup plus aujourd'hui sur la discipline scientifique et ça aussi bouleverse je veux dire aussi d'un point de vue générationnel puisque vous savez dans le domaine de la recherche
28:21 il y a généralement les jeunes chercheurs qui sont guidés par les anciens et avec ces nouvelles techniques ça a un peu redistribué un peu les cartes alors si je vais vous en dire un peu plus mais je pense qu'il est important aussi de voir qu'il y a eu deux champs principaux deux champs dans l'intelligence artificielle et qu'aujourd'hui on est sur tout ce qui est apprentissage machine mais il y a eu deux champs l'approche symbolique ça veut dire qu'on définit explicitement à base de de point de vue formel par exemple on définit des du langage informatique de haut niveau pour décrire des concepts une ontologie informatique donc pour et à travers donc tout est écrit et une approche connexionniste qu'on est en ce moment en fait dans le haut de la vague donc dans l'approche symbolique
29:31 qu'est-ce que ça signifie ça veut dire qu'on réfléchit à un ensemble de règles par exemple ça peut être c'est pas limité que ça mais ça peut être ce qu'il y a eu dans les années 1980 les systèmes experts qui ont été utilisés beaucoup pour dans le domaine on a essayé d'utiliser dans le domaine médical mais aussi dans l'industrie ça veut dire qu'on définit un ensemble de règles c'est quoi si par exemple c'est pour détecter la la détérioration d'un matériel si la température est supérieure à à 10 et à 10 degrés que je sais pas quoi vous voyez c'est un ensemble de règles et ben on va produire ça donc on les experts c'est pour ça qu'on appelle un système expert c'est que toutes les règles sont décrites et à partir des données on rentre des données donc il y a un moteur pour dire ben voilà comment on va s'imbriquer un peu toutes ces règles et on a un résultat et d'un autre côté donc il faut voir aussi que malgré ce qu'on dit ben le renouveau de l'intelligence artificielle
30:41 bien sûr c'est lié à cette fois-ci je vais je vais pas écrire explicitement les règles on va se dire c'est à partir des données par exemple on va mesurer cette fois-ci comme je disais tout à l'heure la température d'une pièce la pression etc mais on va pas définir de manière explicite un lien ça va être les corrélations entre les données qui vont faire que on va dire ben en fonction des corrélations ben statistiquement ça produit ce résultat et on peut ce qu'on espère après c'est en déduire des règles ou des modèles c'est ce qu'on appelle dans le jargon aussi l'explicabilité est-ce que finalement je peux déduire des choses de ces modèles et ce qu'il faut voir c'est que dans la vie de l'IA d'un point de vue historique ben il y a une succession ici de de phase où c'est l'approche connexionniste qui alors là l'échelle en fait c'est le nombre je crois de publications donc c'est très lié
31:51 finalement au financement de la recherche donc à un moment donné il y avait quelque chose qui était plus en vogue vous voyez au départ j'ai pas le temps de détailler mais il y a eu l'approche connexionniste à un moment donné les premiers réseaux de neurones qui étaient qui ont été développés pas que dans les années 2000 en fait des premiers réseaux de neurones datent de 1950 il y a eu le fameux perceptron en fait qui était peu on arrivait bien à comprendre le fonctionnement mais il était peu peu efficace donc il y a eu des critiques de cette chose là on arrivait plus sur du système expert l'approche symbolique et à un moment donné c'est lié à aussi à une révolution un peu technologique au niveau des ordinateurs qui a fait qu'on est passé à des approches connexionnistes donc tout ça pour dire que l'intelligence artificielle ne se résume pas loin s'en faut à l'approche qu'on voit maintenant c'est à dire on est dans l'approche comme on dit big data
33:01 on prend les données on met tout ça dans un énorme une énorme boîte noire qui qui fait un peu ses réglages et on est à l'ordre de ressenti et on comprend rien du tout il y avait l'approche symbolique elle avait le problème d'être peu performante il y a un peu un graal des gens aussi qui font l'intelligence artificielle et vous voyez tout de suite ça serait de combiner les deux pour avoir les avantages et les inconvénients alors là je voulais vous présenter parce que c'est important et alors finalement je vais vous présenter de manière assez vite qu'est-ce qu'un réseau neurone vous pouvez imaginer que c'est un ensemble comme ça de cercle sur lequel on va avoir des pondérations on va avoir des poids qui sont associés et en fait quel est le principe le principe qui est quand même un peu bête on verra tout de suite ça veut dire que si on veut détecter
Réseaux de neurones, chiens et huskies ; corrélation et causalité
34:11 par exemple dans une image un chien d'un chat on va avoir une base d'apprentissage avec plein de chats et plein plein de chiens et à chaque fois on est là dans ce qu'on appelle l'apprentissage supervisé ça veut dire qu'on va dire à chaque fois ici quand il y aura l'image d'un chat on va lui mettre une étiquette c'est un chat et par des successions de d'algorithmes d'optimisation à chaque fois on va avoir un critère d'erreur qui va dire on va remodifier ça pour que en moyenne il se trompe le moins possible et vous voyez que ben là si on compare d'un point d'une intelligence on peut dire mais où est l'intelligence parce que imaginons que vous êtes enseignant et que vous avez besoin de passer vous avez un élève et vous avez besoin de lui donner un je ne sais pas 100 000 images d'un chat et d'un chien pour qu'il arrive à comprendre quelle est la différence entre un chien et un chat vous voyez qu'on se demande s'il est vraiment intelligent et si ce n'est pas
35:21 du par coeur mais à la puissance 10 000 d'un autre truc c'est que si imaginons qu'on lui donne cette fois-ci une photo d'un chat où il manque pour un accident quelconque une patte ben peut-être il ne va pas pouvoir le reconnaître et puis il va dire que c'est un chien parce que il n'aura pas été dans la base d'apprentissage et bien sûr pour toutes les personnes qui qui ont des enfants quand on leur montre la différence entre un chien et un chat on le dit deux trois fois et on ne donne pas une quantité astronomique d'exemples autre problème c'est que imaginons cette fois-ci que vous n'ayez pas un chat mais vous voulez détecter un chien et un chien de traîneau par exemple ben si vous ne faites pas attention je ne sais pas si vous ne faites pas attention mais l'algorithme par exemple qu'est-ce qu'il peut faire et bien il peut répondre à la mauvaise question il peut détecter en fait parce que il va essayer de trouver des différences entre les deux images et il peut se dire ben je vois que en grande majorité dans les images de chiens il n'y a pas de neige et dans les images
36:31 de chiens de traîneau et bien il y a de la neige donc en fait votre méthode va peut-être détecter s'il y a de la neige ou pas sur la photo et et ça pose un problème parce que si vous prenez un chien de traîneau qui un husky qui est en ville et bien il va se tromper donc c'est ça tout ce qu'on entend sur l'apprentissage machine supervisée c'est ça a été rendu possible déjà parce qu'on a de plus en plus de données et parce qu'on a des capacités de calcul très importantes alors si je reviens j'ai presque fini comme ça on va pouvoir j'arrive plus voilà qu'est-ce que voilà et avant avant de redonner redonner la parole à Dominique alors qu'est-ce que ça a produit ça il y a un côté un peu illusionniste alors là aussi je voudrais dire c'est que après quand je vous parlais du génie humain etc et bien des gens ont développé aussi des chercheurs des algorithmes
37:41 un peu plus sophistiqués l'utilisation un peu moins rustre que ça il y a toute une activité de recherche qui va contredire justement ce que je voulais vous présenter ici donc Chris Anderson dans son article de vulgarisation en 2006 donc c'est un américain qui est très vous voyez très tech très voilà que finalement tout le côté machine learning big data va sauver le monde et surtout les scientifiques il faut quand même peut-être vous mettre un peu à la page et puis voilà la machine va maintenant dire la vérité entre guillemets c'est pour ça qu'il disait ben voilà l'avalanche de données va mettre la méthode scientifique obsolète pourquoi parce qu'il dit maintenant les modèles sont imparfaits donc c'est sûr que les modèles sont imparfaits et nous on a quelque chose qui va dire qui va être vraiment une perfection on a des pétaoctets
38:52 c'est-à-dire un grand nombre de données ce qu'il ne dit pas aussi c'est qu'il y a une grande puissance de calcul et qu'il y a quand même une consommation électrique très importante qui est derrière donc bon on pourrait utiliser de manière raisonnée quand même l'énergie il dit ben voilà la corrélation est suffisante nous pouvons arrêter de chercher des modèles nous pouvons analyser les données sans hypothèse sur ce qu'elles pourraient montrer et on a le résultat alors là je vous dis déjà d'un point de vue pratique de praticien c'est faux puisque les données en fait sont toujours pré-traitées par qui par des personnes qui les pré-traitent pour remplacer par exemple des valeurs manquantes parce que si vous êtes sur un dispositif de capteur industriel ben vous pouvez avoir un capteur qui est défectueux qui vous donne des valeurs aberrantes donc il y a quand même du pré-traitement etc donc je ne vais pas rentrer dans le détail et c'est surtout qu'on a besoin de modèles justement puisque quel est le modèle de l'apprentissage machine comment on peut l'imbriquer et une chose
40:02 importante aussi c'est vraiment de faire la différence entre corrélation et causalité c'est pas parce que et là vous voyez par exemple c'est à chaque fois un peu des marronniers dans la presse on vous dit il suffit on a fait des analyses statistiques c'est en prenant un verre de vin que vous allez peut-être diminuer augmenter les chances de ne pas avoir le cancer puis après il y a une autre étude qui sort un peu l'inverse c'est parce que quand vous avez des corrélations si vous avez une corrélation entre deux phénomènes vous n'avez pas forcément une causalité puis vous avez peut-être une variable qui va expliquer le phénomène qui est caché alors il y a deux exemples pour ça c'est d'ailleurs je vous donnerai il y a un site qui s'appelle Spurious Correlation que j'utilise souvent et qu'on utilise souvent envers nos étudiants pour l'expliquer il montre qu'on peut construire des corrélations avec des phénomènes qui sont complètement rien à voir
41:13 par exemple la consommation de margarine dans le Maine et le taux de divorce peut-être il y a un rapport mais je ne le vois pas tout de suite et sur la corrélation sur la variable explicative cachée par exemple on peut dire cette crème à bronzer elle est vraiment elle augmente quand même le taux de cancer de la peau des personnes mais on oublie que dire qu'il y a quelque chose qui est caché c'est que quand même les personnes se mettent au soleil avec la crème à bronzer voilà ce que je voulais vous dire en introduction sur l'intelligence artificielle et le machine learning bon bien sûr il faudrait plus mais je pense qu'il est important qu'on puisse échanger avec Dominique oui mais merci beaucoup Christophe parce que c'est une entrée en matière dont nous avions besoin et je ne sais pas j'ai une besoin public ne demande qu'à poursuivre cette élucidation à laquelle tu viens de commencer à procéder moi je
Hume, Kant et la causalité ; le mythe de l'homme artificiel
42:24 je vais insister surtout sur la encore une fois la continuité que tes propos apportent à des problématiques que j'essaye de faire émerger depuis déjà pas mal de temps j'ai déjà proposé une corrélation c'est un exemple de la corrélation de la causalité qui me fait fourcher une dichotomie entre le quelque chose et le quelqu'un c'est important pour pour pas que la machine devienne celle qu'il y a dans le célèbre film n'est-ce pas l'odyssée de l'espace n'est-ce pas où la machine est mise à mort carrément d'ailleurs je reprends mon fil tout à l'heure sur le chant de mignon d'un quarchot obsédé c'est pas moi parce que Kubrick lui-même quand il le met à mort la dernière expression du robot c'est quand même une chanson et même une chanson une comptine enfantine ce qui nous rapproche encore du personnage de mignon qui comme Goethe le précise est entre deux sexes et entre deux âges voilà non mais plus sérieusement
43:34 tu as parlé de tu as tu as rappelé la corrélation très importante dans le dans la rigueur scientifique entre la corrélation et la causalité je rappelle à ceux qui nous écoutent et qui font c'est la saison des examens et des concours je m'adresse surtout ici aux philosophes je rappelle que pendant des dizaines d'années le gros de l'effort théorique de Kant je dis bien de l'effort théorique c'est à dire son gros corpus la critique de la raison pure ça a été de se battre avec le concept de causalité qui pour Hume n'est-ce pas était quelque chose d'illusoire je rappelle ici pardon Christophe je sous-traite ce que tu dis pour certaines oreilles qui ont besoin de traduction je rappelle que quand Kant dit Hume m'a réveillé de mon sommeil dogmatique phrase importante ça veut dire jusque là j'étais newtonien un peu comme tout le monde c'est à dire que si je vois
44:44 une boule de billard qui se dirige vers une autre j'anticipe je dis que dès qu'il va y avoir le choc l'autre va se mettre en mouvement et ce mouvement est causé par le mouvement de la boule que je viens de lui envoyer et voilà que Hume dit oui mais ça veut pas dire qu'il y a une loi c'est à dire alors soyons rigoureux maintenant un lien objectif entre les deux phénomènes mais un lien subjectif c'est que j'ai toujours vu l'un moi je sujet succéder à l'autre et à ce moment là il faut faire très attention et là je vais faire rire un peu le public pour détendre mais Hegel se moquait de ceux qui confondent la causalité et la corrélation en faisant dire à quelqu'un qui observe que sa mère retire son linge ce n'est pas quand le ciel devient menaçant dans le jardin on retire son linge du fil le gamin dit la cause de la pluie c'est que ma mère enlève son linge parce que j'ai remarqué que chaque fois qu'elle enlève son linge cinq minutes après il y a la pluie qui commence à tomber je crois que ça fait bien comprendre ici l'abîme qu'il y a entre cause et corrélation donc résumons d'une manière rigoureuse
45:54 Rimbaud dans la saison en enfer pose cette question ou plutôt l'exprime sous une forme d'affirmation alternative et qui pose notre problème il dit ceci phrase étrange il n'y a personne ici et il y a quelqu'un on pourrait dire ça d'une machine il n'y a personne et il y a quelqu'un c'est un peu comme mon oiseau artificiel tout à l'heure vous voyez on revient toujours à cette marge d'incertitude j'en profite avant de rendre la parole à Christophe de lui restituer la parole j'en profite pour rappeler un sujet d'agrégation qui avait été proposé il y a une quinzaine d'années à peu près non pas à l'agrègue de philosophie encore moins à l'agrègue de mathématiques ou à l'agrègue de sciences dures mais à l'agrègue de lettres parce qu'il y avait au programme comme toujours dans l'agrègue il y a un programme de ce qu'on appelle littérature comparée il y a un thème donné les premières rencontres dans un roman et on compare dans différentes oeuvres comment est traitée la première rencontre dans la princesse de Clèves dans l'éducation sentimentale dans un amour de Swann peu importe mais là le thème c'était l'homme artificiel comment se retrouve
47:04 parce qu'il y a toute une littérature Frankenstein l'ève futur de Villiers de l'Isle-Adam une espèce de fabrication comme ça fin du 19ème siècle déjà n'est-ce pas l'homunculus chez Goethe n'est-ce pas fabriqué en laboratoire déjà là ça veut dire le petit bonhomme vous voyez et le sujet était formulé d'une manière forte intelligente parce que le sujet consistait à dire ceci dans tous les cas tous ces ouvrages que ce soit des chefs-d'oeuvre ou des oeuvres moins réussies ça c'est un autre problème purement littéraire tous ces ouvrages affirment toujours en fait le même jugement implicite et ça vous allez voir comme ça s'applique aux discussions sur l'intelligence artificielle surtout dans l'opinion à savoir que quelque chose a été transgressé un ordre a été transgressé un ordre qui est tantôt considéré comme humain tantôt naturel tantôt les deux je pense à Spinoza qui dit Dieu c'est-à-dire la nature l'homme a transgressé un ordre en créant
48:14 Frankenstein par exemple et ça crée bien sûr un désordre il a transgressé vous voyez je dis ça pour montrer qu'il ne faut pas non plus être trop geek et up to date comme Christophe nous avait montré là qu'il y en a qui roulent un peu les mécaniques mais enfin je veux dire qu'il ne faut pas tellement avancer le chimique par ailleurs parce que ce sont de très vieilles problématiques contrairement à ce que voilà ce que je voudrais rappeler ce qui est nouveau bien sûr c'est la manière de les traiter c'est la manière de les expérimenter c'est la manière de mettre nos hypothèses à l'épreuve des faits et en cela la machine est un terrain extraordinaire n'est-ce pas mais dans son dialogue avec celui qui la manipule bien sûr voilà donc je voudrais rappeler que ce sont de vieilles problématiques l'homme artificiel ça a toujours fasciné les théologiens les écrivains les cinéastes voilà je vais illustrer avec Kubrick tout à l'heure n'est-ce pas c'est pas la première la dernière fois qu'on ira à faire mais je présume que ton propos creuse un petit peu cette différence mon cher Christophe oui mais je voulais rebondir aussi sur un autre exemple sur
ELIZA : être écouté plutôt que compris
49:24 il faut se on a toujours tendance en tout cas l'être humain à penser que le système le système d'intelligence artificielle est plus compliqué que ce qu'il est réellement alors je vais vous prendre un exemple c'était je crois dans les années j'espère que je me souviens bien de la date mais c'est pas très grave sinon je crois que c'était en 1967 il y a un informaticien qui s'appelle Joseph Weizenbaum qui a développé un programme qui s'appelait ELIZA peut-être certains connaissent donc c'était il était un peu malicieux d'ailleurs donc il voulait simuler l'entretien entre un patient et un psychothérapeute rogerien c'est en plus c'est là où il y a la malice parce que c'est la pratique c'est la branche de la psycho psychanalyse qui est basée sur l'empathie donc vous voyez que c'est un peu le clin d'oeil puisque là c'était vraiment pas empathique du tout et donc c'était dans un langage de programmation Lisp
50:34 mais ça c'est pas très c'est pas très important sauf à mentionner quelqu'un qui un des pères de l'IA que je trouve avec un beau parcours et bien inspirant en tout cas pour un informaticien qui était John McCarthy qui était à la fois ingénieur informaticien mathématicien et qui a développé des choses qu'on utilise encore maintenant comme par exemple comme la possibilité de partager des machines il avait pensé au cloud computing donc ça veut dire le calcul etc donc je ferme la parenthèse mais ça fait partie des fois quand on est chercheur en informatique et on a toujours aussi c'est la même chose en philosophie des gens sur lesquels des fois on se raccroche parenthèse revenons à ELIZA donc ELIZA donc c'était un simulateur donc l'utilisateur pose ELIZA comme donc c'était vraiment en plus une interface assez rustre vous imaginez comme dans les vieux
51:45 les vieux écrans un peu monochrome sans images il y a une phrase qui s'écrit on répond etc donc il n'y avait pas tout le côté un peu comme maintenant avec tes chatbots ou peut-être les choses un peu 3D et pourtant et bien lorsque un utilisateur donc il disait je vais bien non peut-être sinon il n'y a pas quoi que si l'utilisateur le patient rentrait je ne vais pas bien la machine répondait pourquoi vous n'allez pas bien il disait à cause de mes parents qu'est-ce qui se passe avec vos parents etc donc on avait la première approche le sentiment de l'utilisateur qu'il y avait une intelligence un peu derrière et en fait si on regarde le programme c'était vraiment d'un point de vue informatique c'est qu'on détectait des motifs dans la question par exemple quand on disait je vais bien si on reconnaissait le motif je vais et on reformulait
52:55 avec une question on reprenait je reprends je vais mal donc il détectait je vais il prenait le mal et il remettait dans la question pourquoi vous allez mal voilà donc c'était un peu une une entourloupe et on pourrait croire alors qu'est-ce qui est intéressant ben c'est que quand même et ben des psychos des psychologues ont détecté qu'il y avait une il y avait des gens qui devenaient addicts il y avait de l'addiction par rapport à cette chose qui était en plus vraiment du visuel pas sexy et c'est ce qu'on a appelé à l'époque l'effet Eliza qui a été étudié et ce qui a une anecdote par exemple c'était la secrétaire de de Joseph Weizenbaum elle voulait se servir de ce programme mais seule dans son bureau la porte fermée à clé donc c'était pour Christophe c'est pour bien qu'on comprenne bien parce que c'est fascinant ton exemple si j'ai bien compris Eliza finissait par exercer allez risquons le mot une séduction exactement
54:06 sur un patient c'est ce qui me semble et bien et bien avant le film si vous l'avez vu le film Her où en fait il y a il y a quelqu'un qui tombe amoureux d'une voix et là vous voyez il n'y avait rien rien de sexy là-dedans et que ça veut dire que il ne faut pas aussi tomber dans les pièges parce qu'on peut avoir un côté des fois il y a illusionniste c'est un peu donc c'est bien parce que et en plus ça rejoint si on regarde dans les techniques à chaque fois on a utilisé des fois des choses pour pour s'amuser mais encore faut-il savoir qu'on s'amuse voilà par exemple on utilise l'électricité pour faire je ne sais pas quoi mais là il ne faut pas tomber dans certains pièges et là où c'est compliqué c'est que des fois on a besoin de ces illusions par exemple d'un point de vue médical pour certaines personnes il y a des études qui ont montré que l'empathie de certains robots participaient à la guérison donc voilà mais en tout cas
55:17 on pouvait produire un acting voilà c'est ça donc c'était pour rebondir sur le fait que sur l'être comment t'as dit l'être artificiel etc et donc et ce qui est assez drôle c'est que par exemple c'est ce que j'ai donné mes étudiants qui font l'introduction à l'IA ils ont programmé ça ils ont vu bah oui qu'il n'y avait rien d'intelligence là-dedans mais ça peut séduire aussi après ça peut créer des soucis puisque de ne pas savoir qu'en face c'est pas aussi une personne humaine ça peut créer aussi des choses d'un point de vue psychologique aussi assez grave parce que là on enfermait finalement les gens qui préféraient être écoutés que compris voilà d'une certaine manière ah c'est une jolie distinction je retiens voilà merci beaucoup ben alors justement alors on a remué
Adam, le démiurge potier et l'homme fait à l'image de Dieu
56:28 un matériau d'une telle richesse là enfin en même temps d'une telle actualité que ça ça nous permet peut-être de revenir à je dis ça pour rassurer certains certains éléments de notre public qui des fois auraient l'impression de mélanger les pinceaux au contraire pour les rassurer on revient à des choses fondamentales simples que tout le monde peut comprendre et dont tout le monde connaît pratiquement la référence je prends qu'on soit athée ou croyant n'a aucune importance je vais prendre un exemple dans la bible mais je peux dire c'est parce que c'est une référence culturelle extrêmement connue à propos de oui tu parlais de l'homme artificiel c'était la formule au départ qu'est-ce que l'homme dans l'ancien testament sinon une créature artificielle enfin quand même je ne je n'aime pas l'interprétation mais mes auditeurs le savent je ne fais que de l'analyse j'analyse le texte le texte dit que Dieu prend une motte de terre du limon du Nil le limon se dit Adam n'est-ce pas en hébreu Adam veut dire la boue la boue du Nil l'argile à laquelle le potier
57:38 peut donner la forme qu'il veut n'est-ce pas et c'est intéressant de voir d'ailleurs puisque je suis je suis en complicité avec un logicien mathématicien informaticien ce soir de voir que la donnée c'est mythique ici à savoir Adam comme la boue la matière à laquelle on peut donner n'importe quelle forme et chez Platon traditionnel au contraire tout à fait apparemment indépendante le démiurge chez Platon qui crée toutes les choses qu'on voit autour de nous au départ c'est un potier vous savez Platon c'est le plus grand metteur en scène de l'histoire de la pensée c'est un potier qui a son tour de potier là sous son pied qui regarde les modèles du cosmos noetos là il voit des modèles l'idée de chien on parlait de chien et de chat tout à l'heure et avec son tour il fait des copies des simulations de ce qu'il voit de l'idée dans le cosmos noetos
58:48 seulement voilà c'est là qu'on voit la profondeur et l'humour c'est toujours lié chez Platon il était un peu pompette au moment de la création ce qui fait que lorsqu'il voit quelque chose de rond il fait un ovale vous voyez c'est jamais tout à fait pareil mais je reviens à la référence biblique donc Dieu crée un être artificiel qui s'appelle l'homme d'accord alors bien sûr il y a le côté matériel il malaxe la boue et tout mais soyons clairs et soyons honnêtes pour lui donner une âme il faut en plus le souffle vous savez je vous rappelle que le souffle en allemand est le vieux radical indo-européen qui fait dire en sanscrit atman vous voyez vous savez dans le nouveau testament quand on demande au Christ c'est quoi l'esprit il dit tu entends le vent tu ne sais ni d'où il vient ni d'où il va ainsi en est-il des choses de l'esprit le vent souffle où il veut donc voilà c'est presque une banalité dans l'ordre symbolique j'entends pas je n'en diminue en rien la majesté de comparer l'âme ou l'esprit
59:58 à quelque chose d'aussi instable n'est-ce pas et d'aussi difficile à saisir qu'un souffle mais où je veux en arriver c'est qu'il est dit maintenant laissons la spéculation revenons à l'analyse textuelle parce qu'on fait des expériences aussi là avec le texte il est écrit Dieu créa l'homme à son image et on retrouve la simulation ça ne veut pas dire que Dieu a créé Dieu il a créé quelque chose qui donne l'image de Dieu ça veut dire qu'il y a autant de liens entre l'homme et Dieu qu'il y a de différences car ce n'est quand même qu'une image alors essayons de creuser ça et après je rends la parole à Christophe mais on voit les enjeux philosophiques qui sont sous-jacents à ces problématiques de intelligence artificielle ça veut dire quoi ça veut dire qu'est-ce qui fait que l'homme est à l'image de Dieu est-ce que ça veut dire que Dieu a du poil dans les narines enfin quand même ce serait lui faire insulte donc ce n'est pas image au sens visuel vous le voyez bien c'est pas que Dieu a un look comme ça avec deux yeux non non c'est peut-être
1:01:09 justement et je reviens à l'évêque qui disait l'orang-outan parle et je te baptise et qu'au commencement il y a la parole c'est peut-être que l'homme parle et c'est dans la mesure où il parle il ne se contente pas comme les dauphins et les abeilles voire les machines il ne se contente pas de transmettre de l'information car ça les animaux savent très bien le faire c'est très sophistiqué le mode de communication d'un animal où le collectif compte beaucoup comme les abeilles c'est très sophistiqué je rappelle les travaux de Frisch n'est-ce pas où une abeille éclaireuse peut venir rapporter à sa communauté à la ruche qu'il y a de la nourriture à quelle distance et dans quelle direction quand même c'est pas mal mais ce n'est pas du langage pourquoi parce qu'il n'y a pas le double niveau d'articulation j'interrogerai Christophe je peux même lui poser la question avant avant je termine mon petit couplet c'est qu'il va me dire ce qu'il en pense du fameux double niveau
1:02:19 d'articulation que la plus rigoureuse des sciences humaines la linguistique une des plus formalisées disons a mis en évidence c'est qu'il y a dans toute langue humaine d'abord le langage humain est divisé en langues ce qui n'est pas le cas des abeilles les abeilles du Japon de Californie etc. ont en gros le même système d'information alors qu'il n'y a aucun rapport entre lion français et diara en Bambara au Mali pour dire lion on dit diara pour le reste ça n'a rien à voir on avait vu la dernière fois donc je n'insiste pas vous ne confondez plus le signal et le signe là on est passé au signe c'est ça le double niveau d'articulation le premier nous le partageons avec l'animal le premier niveau d'articulation c'est l'ensemble des sons qu'un gosier humain peut émettre selon sa configuration physiologique physique c'est la nature là on reste dans le monde physico-chimique biologique tout ce que vous voulez on n'est pas dans les sciences humaines encore on n'est pas dans l'anthropologie et par dessus ce premier niveau d'articulation un second niveau
1:03:31 d'articulation conventionnel cette fois qui est transmis de l'homme par l'homme permet d'accéder au signe une combinatoire cette fois symbolique voilà je rappelle ici que si l'homme quelque part peut être considéré comme une image de quelque chose qu'il dépasse c'est par le fait qu'il parle et quand je parle je ne suis pas comme une machine dans l'univocité c'est très important de comprendre qu'une machine est toujours dans l'univocité qu'a-t-elle on appelle ça une application en mathématiques n'est-ce pas et même bijective c'est-à-dire que à chaque élément de l'ensemble de départ correspond un et un seul élément dans l'ensemble d'arrivée un peu comme dans le code de la route si vous voulez qui est très différent d'un langage dans le code de la route un tel signal doit impérativement avoir ça comme signification sinon vous ratez votre code or dans le langage tel qu'on le fait de la pratique quotidienne on s'aperçoit qu'il est aussi important de cacher que de dire ce que ne fait pas
1:04:41 la communication mécanique ou électrique ou informatique n'est-ce pas car le langage sa fonction n'est pas de nous faire connaître au départ ça peut être de cacher ça peut être de séduire ça peut être de commander ça peut être de donner la grâce ou au contraire la condamnation tout ça ce sont des fonctions du langage au départ c'est pas pour dire A et B ou A et non A voilà je rappelle au passage que il y a je sais que tous ceux qui travaillent sur l'intelligence artificielle je ne connais rien à l'intelligence artificielle par rapport à quelqu'un comme Christophe mais ce que je sais par rapport aux échanges que j'ai avec ceux qui travaillent dessus c'est que l'un des seuils qu'ils essayent de franchir c'est comment obtenir de la machine qu'elle parle comme vous et moi nous parlons maintenant voilà Christophe corrige-moi si je dis des bêtises n'hésite pas je vais dire non non mais c'était par rapport algorithmique je crois oui voilà ce que tu disais à un moment donné sur le passage un peu biblique ça me rappelait une citation de Saint-Exupéry dans la fin que j'avais de Terre des Hommes qui disait
Panneaux routiers et licornes : la machine ne sait pas dire « je ne sais pas »
1:05:51 seul l'esprit s'il souffle sur la glaise peut créer l'homme qui revient à ce que tu disais et je pense que oui en fait déjà sur l'approche signal-signe comment on peut l'illustrer par exemple et bien on va prendre une application concrète c'est par exemple les véhicules autonomes voilà les véhicules autonomes qui ont besoin de reconnaître des panneaux routiers donc il y a tous les mécanismes donc il y a l'acquisition de de signaux par les caméras etc avec des techniques après il y a vraiment la technique derrière d'optique et le système va dire ben là c'est c'est un sens interdit c'est un tourné à droite et un tourné à gauche et ce qu'on il y a eu des exemples c'est que après on verra d'autres exemples mais si vous mettez par exemple des petits morceaux de scotch sur le sur le panneau sens interdit ben peut-être
1:07:01 le système va dire ben c'est un tourné à droite ou un accéléré alors que bien sûr l'être humain va tout de suite voir que ça reste un sens interdit peut-être un peu détérioré donc sur cette approche un peu signe à signe et pour rejoindre aussi ce qui est difficile comme tu as dit c'est tout ce qui est le non-ah par exemple le non-ah c'est reprenons si on peut reprendre un peu notre exemple de tout à l'heure on voulait reconnaître des animaux imaginons qu'on ait une base d'éléphants et de de quoi de chevaux voilà on a une base et à un moment donné donc avec tout le mécanisme que je vous ai dit tout à l'heure donc on met un éléphant donc il a appris par coeur qu'il va voir avec les signaux justement en entrée du réseau de neurones de ce que j'ai présenté tout à l'heure il va dire c'est un éléphant mais imaginons cette fois-ci qu'on mettait un autre un cheval
1:08:11 ça va être un cheval quelle que soit la taille etc mais cette fois-ci imaginons qu'on mettait une licorne il va dire que c'est un cheval et et donc alors que même un enfant il va dire mais là quand même c'est un un cheval un peu particulier donc il n'y a pas cette possibilité de dire ben là vous m'avez dit vous m'avez donné en données d'apprentissage des des chevaux ou des ou des éléphants et ben je vais vous dire un cheval ou un éléphant dans cet approche il n'y a pas le côté alors ben là je ne sais pas donc il y a un choix un choix qui est quand même un peu caché puisque c'est en termes souvent de probabilité ce qu'on nous cache c'est que quand tout à l'heure je vous ai dit ben là il reconnaît même moi j'ai utilisé ces termes ben il va dire que là c'est un cheval
1:09:21 ou un non c'était quoi c'était un chien ou un chat ben c'est plutôt la probabilité par exemple il va dire j'ai une probabilité de 30% que c'est un chat ou une probabilité de 70% donc il y a quelque chose qui va dire ben je vais prendre la probabilité supérieure je vais dire que c'est un chien donc qu'est-ce qu'on peut qu'est-ce qu'on peut dire sur le doute et ben c'est plutôt ben au à la personne ou les gens qui vont post-traiter le résultat de dire ben là est-ce que 40% c'est quelque chose qui est convenable ou pas donc d'où l'intérêt aussi d'avoir de l'humain de dans dans la boucle puisque sur le traitement automatisé par exemple sur les sur les panneaux routiers après il y a eu des travaux un peu pour améliorer la stabilité etc pour revenir aussi sur
Galilée, la beauté qui égare la physique et le passage du signal au signe
1:10:34 l'utilisation de de l'intelligence artificielle dans le milieu aussi scientifique c'est que il y avait une phrase c'est que de sur les modèles que tous les modèles sont faux mais certains sont utiles c'est un peu le cas aussi c'est dans le domaine aussi de la de la simulation or si si je partage aussi un autre transparent avec vous c'est que je sais pas si c'est peut-être le moment de parler mais on a eu un moment donné pour rejoindre pourquoi on utilise de l'apprentissage machine dans le domaine scientifique on pourrait dire on a quand même des siècles aussi de mathématisation de phénomènes physiques alors là par exemple il y a le une on a Galilée dans L'Essayeur qui avait qui
1:11:45 avait dit que la philosophie est écrite dans cet immense livre qui est continuellement ouvert devant les yeux mais on peut le comprendre d'abord c'est pour revenir sur le langage que tu disais Dominique si la langue et les caractères sont écrits en langage mathématique et le caractère en sont les triangles les cercles et d'autres figures géométriques sans lequel il est impossible humainement d'en saisir le moindre mot et sans ces moyens on risque de s'égarer dans un labyrinthe obscur et je trouve que il y a le mot humainement aussi qui est intéressant qui est vraiment très intéressant de se focaliser donc déjà il y avait un côté aussi où Galilée essayait aussi de ne pas s'attirer les foudres des religieux en disant voilà on met ça mais pour dire il y a quand même Dieu c'est Dieu quand même qui régit tout si je peux me permettre d'interrompre une seconde humainement ça veut dire si je fais abstraction
1:12:55 des effets de la grâce ou du surnaturel voilà exactement mais moi j'en tire aussi une autre une autre réflexion c'est aussi est-ce que finalement c'est le sur le positionnement des mathématiques en fait c'est un côté peut-être métaphysique mais sur lequel d'ailleurs je pense qu'on ne pourra pas apporter une réponse mais c'est pour situer aussi l'intelligence artificielle est-ce que finalement est-ce que le les mathématiques c'est le langage des phénomènes voilà un phénomène c'est son langage et donc l'être humain a besoin de connaître ce langage pour comprendre la nature ou c'est un intermédiaire entre le phénomène naturel et l'humain en fait c'est l'humain qui a besoin de formaliser etc.
1:13:52 alors pourquoi j'en parle parce que on pourrait imaginer que l'apprentissage machine soit aussi quand tu reprenais tout à l'heure l'exemple de Platon du démiurge platonicien donc on pourrait dire que l'apprentissage machine est un peu le lien entre le monde un peu des lois le monde intelligible et le monde sensible alors pourquoi vous allez me dire mais pourquoi pourquoi tout ça encore parce qu'on a des belles équations on a des belles belles théories c'est que dans certaines disciplines on voit certaines limites par exemple je vous encourage il y a un livre qui est bien écrit excellent vraiment bien écrit de vulgarisation de Sabine Hossenfelder qui est chercheur Sabine dans son pays où on l'appelle comme ça oui et en fait déjà c'est ce qui est assez en dehors de l'IA
1:15:02 c'est qu'elle montre aussi des conflits dans le domaine scientifique vous voyez parce que on a l'impression qu'avec la Covid on s'aperçoit qu'il y a des conflits entre scientifiques et que or là ce qu'on voit c'est vraiment très rude je vous encourage le livre vous allez voir des séquences entre des physiciens connus où c'est un peu des fois de la bagarre de la bagarre un peu de chiffonnier entre guillemets mais bon après ce qu'il fait en fait c'est il ne faut pas aussi être étonné les scientifiques c'est des êtres humains comme les autres mais ce qui fait avancer la recherche parce qu'à un moment donné le consensus le dialogue etc la confrontation puisqu'il y a de la confrontation pour arriver à des concepts alors je reviens parce que je m'égare même si le titre c'est comment la beauté égare la physique pourquoi je dis ça c'est que vous savez il y a eu les grandes avancées la mathématisation a permis quand même de
1:16:12 de découvrir des phénomènes et même de on avait des résultats mathématiques et on a trouvé après que il y avait d'un point de vue physique ça correspondait à des choses voilà par exemple le meilleur exemple c'est le le boson de Higgs où en fait il y avait un problème dans la théorie mathématique où on a introduit cette petite particule qui a été après redécouverte mais avec les accélérateurs de particules etc donc et puis il y a aussi par exemple tous les travaux bien sûr d'Einstein et sur par exemple sur la sur la trajectoire de de Mercure oui merci de Mercure qui ne pouvait pas être expliqué par l'approche newtonienne et avec l'approche de la relativité on pouvait alors par contre ce que dit Sabine c'est que on est peut-être un peu trop loin pour faire court c'est que maintenant avec tous ces travaux
1:17:22 bien sûr la plupart des physiciens donc là je cite la beauté formelle comme la voie royale vers la découverte scientifique aveuglé par l'élégance mathématique il s'interroge sur les trous noirs développe des théories stupéfiantes avancent des dizaines de nouvelles particules décrètent des modèles de grande unification mais et là c'est qui est important aucune ou presque de ces idées n'a été confirmée par l'observation en fait nombre d'elles sont tout bonnement invérifiables et vous voyez ça pose un dilemme quand même sur la pratique scientifique où est l'expérimental etc alors on pourrait arguer que vous voyez par exemple pour le boson de Higgs ça a commencé ça nécessitait beaucoup d'investissement donc pour avoir d'autres particules ça demanderait beaucoup plus aussi d'argent et voilà mais ce que dit Sabine c'est qu'il faut revenir aussi à une pratique et par exemple ça peut être l'apprentissage machine ça veut dire qu'on a beaucoup de données et bien
1:18:32 ces données on peut essayer des données expérimentales de faire le lien entre ces équations en termes de validation et d'explicabilité voilà alors là je vous donne juste pour être un peu dans le concret la reine ce qui est très formel vraiment un peu la reine des disciplines en termes de formalisme c'est les mathématiques et si vous vous rappelez ou pas mais c'est pas très grave c'est les équations et en fait vous avez des types d'équations des équations aux dérivés partiels qui régit en fait les phénomènes quand je parlais tout à l'heure par exemple de de la mathématisation ça veut dire que par exemple si vous prenez un écoulement par exemple d'un fleuve et bien vous pouvez le modéliser à l'aide d'équations vous prenez un certain type d'équations vous n'êtes pas obligé de savoir leur tête par exemple des équations de type Navier-Stokes qui permet de modéliser l'écoulement d'un fleuve moi personnellement par exemple quand j'ai commencé
1:19:42 à faire la simulation numérique j'étais quand même un peu ébahis au départ comme ça étonné quand même qu'avec des équations on peut reproduire des phénomènes physiques donc il y avait ce qui m'a poussé aussi à continuer et là vous voyez c'est ici et c'est pour j'ai voulu présenter cette planche pour illustrer l'approche signal-signe de manière concrète qu'est-ce qu'on veut faire ici vous voyez c'est que on a des données des données alors là c'est dans le c'est dans le 1 par exemple c'est des données qu'on mesure est-ce qu'on va arriver vous voyez c'est des signaux est-ce qu'on voudrait arriver dans les travaux c'est arriver une approche un peu signe formelle une équation par exemple ici une équation mathématique et qu'est-ce qui fait le rôle ici de explore candidate equation donc l'exploration des équations candidate ça va être des techniques d'apprentissage machine par exemple ça peut être des techniques de reconnaissance de forme et donc on arrive comme ça
1:20:52 on peut arriver à de passer une approche signe et une approche plutôt signaux signal en utilisant des techniques de machine learning et d'une manière très concrète c'est parce que il y a des travaux de physiciens au CEA sur lesquels j'avais participé il y avait une doctorante sur lesquels j'avais fait un rapport sur sa thèse ou qui qui avait justement utilisé des techniques d'apprentissage machine pour leur aider à comprendre à différencier des particules dans des détecteurs etc et il n'y avait que le côté économique ça veut dire qu'on peut soit encore améliorer les dispositifs et les rendre complexes ou nous aider à traiter les données voilà c'était une autre explication sur l'approche signal-signe et ce qui est intéressant c'est de savoir comment on arrive
1:22:02 justement quel est le processus qui dans l'apprentissage machine permet de faire cette approche signal-signe pour essayer de comprendre d'expliquer de valider bien vu l'heure que nous nous venons d'atteindre il n'est pas loin de 22h je me demande s'il n'est pas le temps de donner la parole à à ceux qui nous posent des questions et je Alors, il y a deux dernières qui disent un commentaire que l'IA n'est-elle pas simplement aux algorithmes,
L'apprentissage machine relève-t-il de l'algorithme ?
1:23:13 que la machine universelle est aux automates mécaniques ? Oui, Daniel Arias est un fidèle compagnon et nous félicitons de la fidélité. Oui, je pense que c'est une autre analogie. Je trouve ce qui est important aussi, et c'est tout un travail qu'on mène, par exemple avec des gens qui sont plus sur la philosophie de la logique, et aussi c'est de redéfinir quand même la notion d'algorithme.
1:23:53 Qu'est-ce qu'un algorithme, etc. Puisque dans les techniques de machine learning, est-ce que les techniques qu'on utilise sont vraiment des algorithmes ou pas ? Pourquoi ? Puisqu'on peut utiliser une sous-classe des mathématiques pour l'optimisation. Quand je dis sous-classe, c'est bien sûr pas péjoratif parce que beaucoup de travaux, c'est des méthodes d'optimisation assez complexes.
1:24:24 Mais est-ce que c'est vraiment un algorithme ? Puisque une particularité quand même des algorithmes, c'est de pouvoir les spécifier. C'est-à-dire, voilà, mon algorithme, il va faire ce traitement. Si on donne ces données d'entrée, j'aurai les données de sortie. Et l'IA, en tout cas, par exemple sur le deep learning, c'est bien un peu la difficulté qu'il y a maintenant. C'est qu'on n'arrive pas à comprendre vraiment comment ça fonctionne à l'intérieur d'un point de vue mathématique, etc.
1:25:00 Donc, oui, sur certaines, l'IA, moi je dirais peut-être, si on fait la différence entre l'IA symbolique et l'IA connexionniste. En tout cas, moi je pense que vraiment l'IA symbolique, oui, ça remplit ça. Pour l'IA connexionniste ou statistique, je vais dire que ça dépend, mais c'est vrai que ça dépend vraiment, ça dépend du type de la méthode.
1:25:31 Donc, imaginons qu'on utilise une méthode de régression linéaire. Donc, régression linéaire, c'est, si vous avez un nuage de points et vous faites passer une droite qui est plus proche de tous les points, pour minimiser l'erreur entre les points, et bien cette fois-ci, on pourrait dire que dans cette approche, c'est un algorithme, puisque je sais exactement le processus, je sais exactement le déterminer.
1:26:01 Voilà, mais pour les réseaux neurones, est-ce qu'on parle vraiment d'algorithmes ? Ben, pas encore je crois, et c'est bien la difficulté, et c'est pour ça que c'est complexe à valider. C'est bien clair. Alors, il y a peut-être d'autres, parce que des fois je n'arrive pas à monter, parce qu'il y avait des premières questions. Il n'y a pas que des questions, il y a aussi des choses un peu gratifiantes, je te dis ça juste quelques secondes.
1:26:35 Je pense à Charles Michaud qui nous dit « Bonsoir et ravi de vous rejoindre pour mon premier live, Atelier passionnant ». Ah, merci. Ça encourage, ça fait… Parce que moi je remets en question, c'est une confidence que je fais rarement, je remets en question tous les soirs ce que j'ai pensé le matin. Je veux dire donc, quelque part, ça m'encourage. n'est-ce pas de voir quelque part que, je vais être un peu grossier, que non seulement nous qui ne sommes pas dans un violon, ni même dans une contrebasse, mais qu'il y en a qui y trouvent leur compte.
1:27:08 Et quelque part, ça veut dire qu'il y a bien quelque chose qui circule d'un intérêt commun entre nous. Merci pour cette… Merci beaucoup Charles. À Charles, voilà. Je te redonne la parole Christophe. Ah oui, donc… De QL, j'espère que ça se prononce comme ça. En tout cas, merci pour la question. Alors, je vais la relire. Le sens interdit là ? Oui, mais dans le cas du sens interdit, le doute rentre en jeu chez l'homme.
La machine peut-elle douter ? Véhicules autonomes et Kasparov
1:27:40 Or, la machine n'a pas la place de douter. Alors là, c'est une très bonne remarque. Je trouve aussi. Vraiment, c'est vraiment la place du doute. Déjà, est-ce qu'une machine peut douter ou pas ? C'est ça. Et il y a aussi un côté… Vous voyez ? Alors, comment je vais dire ? C'est que même si on va… Est-ce que… Si on ne parle pas du doute, mais de se tromper, voilà.
1:28:10 Voilà. Est-ce que le doute… Est-ce que aussi l'homme a le droit de se tromper et la machine n'a pas le droit de se tromper ? Ça fait écho, justement, avec ce que tu parlais de 2001, l'Odyssée de l'espace. En fait, c'est la machine qui se trompe une fois. On se dit qu'il faut vraiment la débrancher parce que si elle s'est trompée une fois, elle va se retromper beaucoup et on n'a plus confiance du tout. Et c'est la même chose aussi, vous voyez, d'un côté aussi psychologique, vous voyez, par exemple, sur le véhicule autonome, lorsqu'il y a eu des accidents, qui est dramatique pour la personne, mais quand il y a eu un accident, ça a fait aussi toute une résonance.
1:28:54 Alors que… Pourquoi ? Parce que, finalement, malheureusement, si on dit qu'il y a eu un accident parce que le conducteur était ivre, etc., d'un côté, ça rassure. Je dis entre guillemets. C'est-à-dire, voilà, c'est l'homme, j'ai mon explication. Et ce qui est un peu… Une défaillance humaine, comme on dit. Voilà, c'est une défaillance humaine. Et sur… Par exemple, vous pourriez se dire que, vous voyez, si on prend les véhicules autonomes et on dit, « Est-ce qu'on accepterait de vivre dans une société où on réduit, par exemple, le nombre d'accidents mortels de 4 en n'ayant que des véhicules autonomes ? »
1:29:41 Je veux dire, voilà, on l'a quand même réduit de 4, mais il n'y a que des véhicules autonomes et ils tuent 4 fois moins, 10 fois moins, je ne sais pas, 10 fois moins d'êtres humains. On va dire, « Ben non, parce que nous, on va arriver à zéro et déjà, on ne comprendrait pas pourquoi on n'arrive pas à l'aide de mécanismes. » Alors, pour retrouver sur le doute, il y avait un autre exemple aussi qui était intéressant sur les défaillances.
1:30:17 Je ne sais pas si j'ai le temps de parler, mais je trouve que ça, on va retourner un peu dans le côté ELIZA et des représentations qu'on se fait de la machine. C'était, je crois, dans les fameux tournois sur les jeux d'échecs, entre Kasparov et une machine. Voilà. Et ce qui était assez... Donc, c'était une machine quand même qui était, au départ, il y a eu beaucoup de progrès, mais utilisait des algorithmes assez rustiques, des algorithmes développés dans les années 70.
1:30:54 Mais là où était la force de la machine, c'est qu'elle avait beaucoup de données et qu'elle avait une puissance de calcul très importante qui permettait, pour ceux qui jouaient aux échecs, d'avoir une profondeur de jeu très importante par rapport à Kasparov. Mais, mine de rien, au fil du tournoi, Kasparov s'est rendu compte, même sans avoir des notions de cet algorithme, s'est dit qu'il a des fonctionnements plutôt simplistes et a déduit un certain algorithme.
1:31:35 Et, à un moment donné... Il a repéré des trucs récurrents. Voilà, exactement. Et, au bout d'une partie, eh bien, au bout d'une partie, eh bien, d'un seul coup, Kasparov, il perd ses moyens et il perd. Parce qu'un seul coup, la machine a fait un coup quand même assez en discontinuité avec toute la séquence qu'elle avait faite auparavant. Et il s'est dit, bah, cette fois-ci, la machine devient intelligente et ça va être dur pour moi.
1:32:07 Et après, je crois qu'il a perdu ou il a abandonné. Et qu'est-ce qui a été derrière l'histoire ? Eh bien, on s'est... Donc, après, Kasparov a dit, je veux quand même avoir la trace de mes coups, c'est pas des coups de la machine, d'avoir de la transparence, comment elle a joué, parce que c'est pas juste, parce que la machine a tout enregistré, ou plutôt les ingénieurs qui sont derrière la machine. Et ce qu'on a su après, c'est qu'il y a eu un bug dans la machine. À un moment donné, de jouer le coup, il y a eu l'algorithme qui était bugué et au lieu d'avoir le résultat de l'algorithme, ça donnait un peu n'importe quoi.
1:32:43 Et donc, Kasparov s'est dit, ah bah là, ça change radicalement. On retrouve un peu sur les approches un peu signes, signes, signal et signes. C'est que à un moment donné, on a une discontinuité dans des signes qu'il a sentis. Alors, sur le doute, il y a aussi des travaux, aussi sur le côté, la part du hasard, aussi dans la prise de décision.
1:33:16 ça veut dire que, alors là, c'est des choses qui sont, je ne suis pas forcément d'accord, quoique, il y a aussi des gens qui plaident, justement, pour ne pas avoir une transparence et justement, de prendre une approche peut-être intéressante, de dire, si je, on reprend l'exemple de tout à l'heure, donc, sur la détection de, de, qu'est-ce que c'était, d'éléphants et de chevaux.
1:33:48 Et par exemple, si c'est une licorne, on pourrait dire que, si la probabilité est un peu, un peu faible, etc., et bien, que ce soit pas la machine qui prend la décision, mais qui dise à l'humain qui est derrière, et bien là, je vais te donner, je te dis que je prends quelque chose au hasard, et c'est le résultat, parce que, c'est à toi, quand même, à te dépatouiller pour prendre la décision ici. Voilà. Et, c'est, c'est Alexei Grinbaum, au CEA, qui avait développé cette théorie, en prenant aussi l'exemple de, d'un passage biblique, je crois, entre Josué, lorsque, alors, je ne me rappelle plus exactement le titre, mais, c'est lorsque, donc, Dieu, Dieu avait, Dieu avait dit, ben voilà, vous pouvez aller dans ce territoire, vous pouvez le conquérir, mais surtout, vous ne devez pas, voler, je crois, vous ne devez pas, voler, il y a eu, un vol qui a été, qui a été fait, et puis, ben, bon, je reprends dans le bon sens, il y avait une condition,
Les dés de Josué ; IA faible et IA forte
1:34:58 voilà, il y avait une condition, en fait, la chose, c'est que, ils devaient gagner, et ils ont perdu, et en fait, ben, c'était cette condition, qui n'a pas été remplie, puisqu'il y avait, quelqu'un, qui avait, qui avait pas, qui avait enfreint, une règle divine, alors, voilà, c'est pour situer le contexte, et donc, Josué a dit à Dieu, ben, dis-moi, le, dis-moi, qui est coupable, et Dieu, il lui a dit, ben, prends les dés, en fait, il lui a dit, ben, prends les dés, tu les tires, et, tu auras le résultat, et bien sûr, ben, Dieu savait qui c'était, mais en fait, il y avait une côté, il voulait pas rendre une symétrie, en fait, dans le rôle du dénonceur, et que ça soit l'homme, qui, en jouant des dés, trouve le coupable, et ben, l'analogie que fait Alexei Grinbaum, c'est la même chose, en fait, de manière décalée, entre la machine et l'homme, c'est plutôt, là, cette fois-ci, il y a qui dit, ben voilà, ben moi, j'ai tiré les dés, et c'est toi qui, qui prends ta décision, donc c'est, c'est quelque chose, c'est quelque chose qui,
1:36:08 qui permet aussi de faire une part du hasard, c'est une, c'est une autre théorie, alors sur le doute, pour revenir, justement, sur le doute, voilà, en fait, c'est très difficile, fini, parce que je voudrais intervenir sur le doute, oui, bien sûr, je crois savoir, peut-être, ce que, mais le doute, c'est un peu compliqué, parce que, ça donne, pour douter, je pense qu'il faut avoir une certaine conscience, pour douter, et ça remplit, ça pose des questions, est-ce que la machine, peut-être, conscience, consciente, etc., et, voilà, et, je finis juste, après, je te donne la parole, c'est que, aussi, je vous encourage, à lire un livre, qui a été écrit, par celui, celui qui anime l'équipe de recherche, dans lequel je travaille,
1:37:18 qui s'appelle, Jean-Gabriel Ganascia, qui réfléchit, à des problèmes éthiques, et qui a défini, et qui a écrit un livre, sur le mythe de la singularité, qu'on nous vende, dans les entreprises de high-tech, etc., dans la Silicon Valley, qu'à un moment donné, on va avoir une rupture, technologique, et, on va avoir, ben, les machines, qui vont être dotées de conscience, qui vont remplacer, peut-être, les hommes, etc., et, là, où ça devient, un peu problématique, c'est de dire, ben, si on ne veut pas être remplacé, et ben, il faut rentrer, dans du transhumanisme, etc., voilà, mais, surtout, c'est que, c'est loin, loin, loin d'être vrai, pourquoi c'est loin d'être vrai, parce que, quand même, les systèmes, de machines, artificielles, sont très forts, mais pour faire, des opérations, vraiment fixes, délimitées, reconnaître, un chien, un chat, etc., et des choses, qui sont, assez faciles, à faire, pour l'humain, ben, c'est très difficile,
1:38:28 à l'humain, à la machine, de le faire, et, c'est, c'est la différence, je voulais introduire, parce que, si vous en, des fois, c'est, nous, même dans les revues, de vulgarisation, entre ce qu'on appelle, l'IA faible, ben, c'est l'IA de maintenant, ça veut dire que, finalement, c'est un peu dans le prolongement, de la mécanisation, parce que, si vous prenez, un stéthoscope, du médecin, ben, c'est aussi, une certaine forme, de, pas d'IA, mais, en tout cas, c'est, ça augmente, ses capacités, de, de perception, etc., donc, ça va dans, dans ce sens-là, et l'IA forte, quand même, c'est pas, c'est pas pour demain, pour demain du tout, pour des problèmes aussi, technologiques, de, de puissance de calcul, là, il faudrait, c'est qu'on arrive aussi, à des limitations, mais, vraiment physiques, sur, l'augmentation, de la vitesse des processeurs, d'un point de vue physique, parce que, on n'arrive pas, à diminuer, ce qu'on appelle, la finesse de gravure, etc., et d'un point de vue aussi, algorithme,
1:39:38 et je vous encourage aussi, si vous voulez aller plus loin, il y a des, aussi des bonnes vidéos, de, de Yann Le Cun, qui est, un peu, le père, de, du renouveau, de, de l'IA, en tout cas, sur l'apprentissage machine, et qui font, qui a des bonnes, qui montrent que, finalement, ben, quand même, avant que, la machine, soit dotée, même pas de conscience, mais puisse faire des choses, qui nous paraissent, très simples, ben, il y a quand même, beaucoup de travaux, donc, avant que la machine doute, d'accord, il y a encore, beaucoup de travaux, si possible, que ça soit, si, si c'est même possible, il y a encore un abîme, même s'il n'est peut-être pas, infranchissable, voilà, tu m'as pris, j'aurais bien pu retrouver mes mots, merci de m'avoir donné, alors, justement, moi, je suis très content, de la question, de, j'espère, je ne déforme pas son nom, de, qu'un coup, tu yel, sur le doute, parce que, alors, non seulement, ça ne contredit pas tout ce que tu viens de dire, mais, ça, ça le complète d'une manière presque orthogonale,
Le doute, un moins qui est un plus
1:40:48 enfin, soyons pas, soyons pas confus, je vais essayer d'être clair, l'homme doute, la machine ne doute pas, pour l'instant, on en est là, je ne, je ne confonds pas douter avec bugger, ce qui est tout à fait différent, doute, comme tu as très bien dit, ça suppose une conscience, il y a, j'arrive à un carrefour, est-ce que je vais à gauche ou à droite, là, j'ai un doute de savoir si je ne suis pas en train de me planter, c'est, c'est très différent, de la machine qui s'engage, sans hésiter, dans une direction qui n'est pas la bonne, pour le fonctionnement, mais, ce n'est pas ça mon problème, mon problème, c'est, dans tous les cas, on dit, faiblesse de l'homme qui doute, et force de la machine, je ne sais pas, qui ne doute pas, ceux qui, j'allais dire, qui ont ma couleur de cheveux, qui ont mon âge, mais, certainement, beaucoup de jeunes le connaissent aussi, je pense aux aventures de Blake et Mortimer, c'est pas, Edgar Jacobs, je crois que, elle n'est pas confinée à ma génération, je pense, au mystère de la grande pyramide le secret de l'Espadon, et surtout, chef-d'œuvre des chefs-d'œuvre, c'est un jugement de valeur, je me permets,
1:41:58 la marque jaune, or, dans la marque jaune, le professeur Septimus, invente le télé-céphaloscope, n'est-ce pas, qui permet, à son Frankenstein, à lui, le bonhomme à qui il a mis le télé-céphaloscope dans le cerveau, de n'avoir aucune inhibition, aucun jugement moral, aucun surmoi, on dirait, en termes analytiques, ce qui fait qu'il est, qu'il ne doute de rien, et qu'il est fabuleusement performant, à mon avis, c'est un contresens, là, j'en arrive à ce que je crois être l'essentiel, et là, je suis reconnaissant à Huiel d'avoir posé la question du doute, c'est que ce moins chez l'homme, le fait de douter qu'il y a un moins par rapport à la perfection mécanique, si je puis dire, de la machine, pour moi, c'est un plus, je fais un rapprochement troublant, que certains de mes auditeurs, qui commencent à être familier, certains de mes auditeurs, entre le fait que le grand secret de l'économie contemporaine, depuis que le mode de production capitaliste,
1:43:08 pour parler en termes marxiens, est apparu, le grand secret de l'extorsion de la plus-value, selon Marx, vient d'un moins, pas d'un plus, c'est-à-dire d'un travail non payé, d'une partie de la journée de travail, ou du temps de travail, qui n'est pas payé, qui est soutiré, qui est diminué, ça c'est un, deux, le mythe de Prométhée, la supériorité de l'homme sur les autres espèces animales, vient d'un moins, je rappelle, je rappelle le pitch, que l'a raconté dans la mythologie grecque, Zeus avait chargé Epiméthée, le frère de Prométhée, tout ça c'est des titans, Epiméthée en grec, ça veut dire celui dont l'esprit n'est pas tout à fait parfait, justement, qui n'est pas fut-fut, en gros, il lui avait dit, tu distribues les qualités aux espèces animales, de manière que chacun ait sa chance, à l'éléphant, tu donnes la force, mais sans l'agilité, à l'oiseau, tu donnes la rapidité, mais sans la force, voilà, comme ça, chacun a sa chance, mais l'autre, s'est un peu trompé en distribuant les qualités, arrivé à l'homme, il n'avait plus rien, vous connaissez bien l'histoire, l'homme, il est nu, le singe nu, comme dit un livre célèbre,
1:44:18 n'est-ce pas, l'homme, il est nu, il n'a pas de griffe vraiment très performante, par rapport au blaireau qui crée son terrier, il n'a pas de griffe, il n'a pas de poil, il n'a pas d'écaille, il n'a pas de, vous voyez, et donc, il était en position de faiblesse, voilà mon deuxième moins, après la plus-value, après le travail non payé, or, de ce moins, quand il va demander conseil à son frère, Prométhée, comment je vais m'en sortir, Prométhée me dit, t'inquiète pas, je m'en charge, et Prométhée va chercher le feu chez les dieux, c'est-à-dire l'intelligence, mais pas artificielle, le feu, n'est-ce pas, la jugeote, la conscience, et qui fait que ce moins, devient maître des autres créatures, n'est-ce pas, et il est dit dans l'Ancien Testament, Dieu a donné à Adam le privilège de nommer les créatures, de donner un nom, et pas seulement un algorithme, c'est intéressant, un nom, c'est compliqué la notion de nom, ceci est un bœuf, ceci est un micro, ceci est un clavier, ça établit une discontinuité dans l'être, comme ça, qui n'est pas évidente,
1:45:28 au bout de la truffe d'un chien, par exemple, qui est une espèce de continuum d'impression entre l'extérieur et l'intérieur, donc ne compliquons pas, troisième exemple, et bien mon robot de tout à l'heure, celui de Odyssée de l'espace, j'ai fait allusion à sa chanson, tout le monde, tous ceux qui ont vu le film, disent eux-mêmes que c'est pathétique, ce moment-là, de l'agonie, en quoi l'agonie d'une machine, peut être pathétique, après tout, si c'est une machine, mais justement, jamais le robot ne semble à ce point humain que lorsqu'il est au bord de la mort.
1:46:07 Et Dominique, si je peux, il y a aussi une phrase qu'il dit à un moment donné, il a dit « j'ai peur », je crois, de mémoire. Non, mais c'est pour ça, « j'ai peur », ça veut dire qu'il sent venir une fin, une limite, et là, je conclue ma période, si je puis dire, par une citation, que ce n'est pas la première fois que je la donne, mais chaque fois que je la ressors, elle prend encore plus de sens, du poète Hölderlin, n'est-ce pas, grand camarade d'études de Hegel, qui dit « car ils ne peuvent pas tous les dieux, les mortels, c'est-à-dire vous et moi, avant eux, atteignent l'abîme ».
1:46:48 Voilà la limite, la fin, de sorte qu'avec eux, l'écho change, ce qui est un non-sens en termes d'inéquation, en termes mathématiques. L'écho peut donner au plus le son qu'il a engendré, mais pas plus, n'est-ce pas ? C'est au plus égale à, mais pas plus. Et voilà que Hölderlin dit « mais avec l'homme, justement parce qu'il sait qu'il va mourir, parce qu'avant eux, avant les dieux, les mortels atteignent l'abîme, ainsi avec eux, l'écho change ».
1:47:24 Donc, c'est plus seulement stimulus-réflexe qui marche comme modèle, l'écho change, car il est long le temps, celui de l'histoire, sans doute, mais il survient le vrai. Voilà comment, provisoirement, je ne résous pas, comment je peux résoudre, ce serait mégalomane de ma part, ce genre de problématique, mais voilà comment j'oriente un faisceau de réponses à la question très inspirante de QL.
Entendement et raison : la machine n'a pas de finalité
1:47:54 Il y a une remarque, ah oui, une bonne, ça c'est souvent aussi une blague qu'on se fait entre compagnies d'intelligence artificielle, on parle souvent de bêtises aussi naturelles et de… Oui, la bêtise naturelle… C'est pas très loin de ce que je viens de dire, ça veut dire que… Exactement. La supériorité de l'homme, c'est sa bêtise. Oui.
1:48:24 Par rapport à la machine qui n'en a pas. Je rebondis aussi sur l'idiot sans nom. L'idiot sans nom, mais pas sans malice, parce que, je ne dis pas de malignité, il dit, la machine ne possède-t-elle pas une raison pure au sens de Spinoza, une connaissance du troisième genre ? C'est-à-dire la connaissance suprême, Spinoza, le dernier stade de la connaissance, c'est-à-dire la connaissance qu'a le chien aussi bien ou la mouche, c'est-à-dire la connaissance sensible, une sensation, un stimulus.
1:49:01 La connaissance du second genre, c'est l'entendement, les concepts, si, alors. Et puis le troisième genre, c'est-à-dire qui est beaucoup plus globalisant et qui fait la synthèse des deux, qui est aussi immédiat que la sensation et qui est absolument médiatisé comme celle du deuxième genre. Mais là, je corrige, l'idiot sans nom, je suis sur un point, si je peux me permettre, elle sait sans douter, c'est une intelligence morte. Eh bien, justement, ce n'est pas la raison, ça. C'est ce qu'on appelle l'entendement en philosophie. L'entendement, c'est si, alors.
1:49:34 ça, la machine peut accéder à cette forme d'intelligence. D'accord ? Je ne suis pas en train de dire du mal de l'entendement, de le réduire. Et je renvoie ici ceux que ce problème intéresse, surtout l'année où Hegel est au programme de l'agrégation. Je rappelle que personne n'a été aussi critique à l'égard de la raison réduite à l'entendement que Hegel. Disons, l'entendement, c'est un peu la raison mécanique, si vous voulez, ce n'est pas la vraie raison.
1:50:07 Mais inversement, Hegel réhabilitait l'entendement contre les romantiques, qui auraient bien voulu faire l'impasse sur ce qui a permis tout de même le développement de l'intelligence humaine dans l'univers. Donc, encore une fois, ne confondons pas la raison à l'entendement. Maintenant, pour ne pas être frustrant, je vais dire la différence. L'entendement, c'est si, alors. Et le texte que proposait le texte de Platon du sixième livre de la République que proposait Christophe est très clair à ce niveau-là.
1:50:42 Les géomètres, la géométrie est typiquement une discipline de l'entendement, procèdent, dit Platon, d'hypothèses en vue de conclusion. Au lieu de remonter des hypothèses, en sens inverse, vers le principe anhypothétique, anhypotheton, ce que doit faire la raison. La raison, et je donne la réponse de Kant, c'est la faculté des fins. Une machine n'a pas de finalité. Elle a une fonction qui lui est donnée par un autre, mais elle-même n'a pas de désir propre dont elle est la source première.
1:51:15 N'est-ce pas ? Il n'y a pas de téléologie de la machine. Il n'y a de téléologie que de celui qui lui a assigné une fonction, comme la voiture, qu'elle se gare sans que je sois au volant, ou qu'elle décode les panneaux ou les codes de la route pour tamponner personne. Ça, c'est des fonctions qu'un être qui n'est pas une machine lui a assignées. Voilà. Je t'en prie. Je trouve que ce que tu dis, oui, c'est tout à fait…
L'outil et la finalité des concepteurs
1:51:47 Moi, je pense qu'il faut insister aussi ce que c'est sur les finalités, parce qu'on a tendance à parler de la finalité de la machine pour cacher la finalité des concepteurs de la machine, ce qui est un peu… Voilà. Et c'est pour ça qu'on parle aussi à un moment donné de… Des débats sur la responsabilité de la machine, etc. Avec… Si on reprend les véhicules autonomes, sur…
1:52:19 C'est une manière de dédouaner quand même les concepteurs. Il ne faut pas… Et d'avoir des systèmes de plus de type assurance, assurantiel pour cette chose-là. Mais c'est pour ça que je suis toujours… J'ai un peu de mal à chaque fois lorsqu'on… Comme je disais tout à l'heure qu'il y a beaucoup de… Il y a des travaux sur la loyauté d'un algorithme, etc. De mettre des finalités sur des algorithmes. Et bien sûr, on peut dire par transitivité, on parle du concepteur, mais pas forcément.
1:52:56 donc il faut bien voir… C'était un livre de la scie tout à l'heure. Voilà. Il faut voir la fonction de la machine et quelle finalité on a derrière cette machine. Moi, je suis un peu brutal à ce niveau-là. Quand je vois des gens faire le procès de la technique en général, style à la Heidegger, par exemple, là, je dis, si je… Je vais parler argot, si je larde quelqu'un avec un couteau, ce n'est pas le couteau qu'on va envoyer en taule, bon sang.
1:53:29 Mais si tu fais… Imagine que… Tu sais, tu prends le couteau et tu prends un robot tueur qu'on appelle robot tueur, les drones, etc. Qui sait qu'on va… On ne va pas emmener aussi l'opérateur peut-être en prison s'il se trompait, etc. Donc, c'est la question aussi, cette question d'outils. Je pense qu'il faut faire quand même attention à toutes les dérives qu'ils peuvent avoir à ne pas considérer ces systèmes comme des outils qui n'ont pas de finalité propre.
1:54:09 Parce qu'après, on peut avoir une dérive quand même monstrueuse. Bien sûr. Si je peux me permettre, alors ce moment-là, ce qui est indéniable, c'est que plus l'outil est performant, plus il augmente notre puissance. Puissance de faire le mal aussi bien que puissance de faire le bien. Mais ce n'est pas l'outil de trancher si cette puissance va être au service du bien ou du mal. Oui, tout à fait. Ça, c'est le privilège du sujet et du sujet collectif de la volonté générale pour parler en termes républicains.
1:54:42 Voilà. Et je me permets de rebondir sur ce qu'on disait par exemple sur les systèmes soit de chatbot ou en français d'agent conversationnel. Je pense qu'il est important aussi de regarder, si on revient en termes de langage, que l'objet d'IA n'est jamais le sujet. Si on prend les caractérisations par exemple de l'école de Palo Alto en fait pour ceux qui écoutent, c'est qu'on a essayé de modéliser dans un langage qu'il y avait un sujet, il y a le sujet, il y a celui, il y a le canal sur lequel on fait passer le message, il y a le récepteur, etc.
1:55:26 et ce qui est toujours un peu déroutant, c'est que l'agent conversationnel ne porte pas la finalité aussi du message, il n'est pas sujet du message et ça peut entraîner des dérives en termes de on peut être complètement perdu dans nos sens en imaginant qu'il y a un sujet qui est derrière et ça permet aussi de ne pas voir quelle est la finalité aussi du concepteur de cet agent conversationnel.
1:56:01 Bon, ben, je crois qu'on a bien, grâce à vos questions, je vous remercie, on ne va pas non plus vous empêcher de dormir, je veux dire, parce que c'est tellement passionnant ce que développe Christophe là, avec son sujet de recherche qu'on n'y passerait bien la nuit, mais je sais bien qu'il y en a qui ont des enfants en bas âge. Oui, vas-y, je t'en prie. Peut-être, juste pour répondre assez rapidement à Abderrahim, Driss, qui a posé plusieurs choses que je vais répondre.
Complémentarité, données, schème kantien et travail
1:56:38 C'est celui auquel je réserve une vengeance, une vendetta, parce qu'il dit les Corses sont génétiquement infatigables. Il nous connaît bien, bravo Abderrahim. Alors, je rejoins complètement sur plusieurs points. Donc, il y avait ce premier point. L'IA et l'intelligence de l'homme ne peuvent être comparées, sont plutôt complémentaires. Je pense que, oui, c'est tout à fait vrai et c'est justement, par exemple, si on prend, par exemple, un radiologue, eh bien, vont avoir des systèmes d'IA qui vont augmenter sa capacité de perception d'une tumeur qu'il ne verrait peut-être pas à l'œil nu.
1:57:24 Voilà. Mais le diagnostic, quand même, reste dans le domaine du radiologue puisque, au départ, on avait dit, ça y est, avec ces systèmes d'IA, tous les radiologues vont aller au chômage. Il y a eu des études, en fait, aussi, qui ont montré que c'est des études aux États-Unis que la tâche de différents métiers, par exemple, du radiologue, ne se résume pas, quand même, à regarder sur une radio.
1:57:56 Il y a toutes d'autres activités qui ne peuvent pas être déléguées à une machine d'IA. Donc, pour dire, il y a une complémentarité et puis, en plus, d'un point de vue aussi un peu plus, un peu moins, un peu moins scientifique, mais je trouverais tellement, tellement triste qu'on reproduise une intelligence qui soit comme la nôtre. Ce serait quand même un peu, ce serait un peu, ça serait un peu, un peu douvelon. Voilà. et je finirai.
1:58:26 Oui, vas-y, vas-y. Et si il y avait une autre, voilà, merci, merci beaucoup parce que je pense que cette remarque, elle est vraiment très, très judicieuse. Entre la représentation et la réalité, il existe tout un univers de données. Alors, à double titre, c'est que les données ne sont pas la réalité. c'est, on manipule les données, on n'a pas parlé mais aussi de l'existence de biais dans les données, etc.
1:59:01 Mais, en fait, on manipule des données et en fonction de la manipulation des données, on peut avoir des résultats qui sont différents. Et un autre point est sur la représentation, entre représentation et la réalité, il peut avoir aussi une différence puisque, alors, comment le dire, c'est que, en fait, les algorithmes qu'on utilise dans les réseaux de neurones profonds ont tendance à couper le lien qu'on a avec le phénomène physique.
1:59:39 Pourquoi ? Puisque les données, en fait, on utilise des techniques mathématiques d'optimisation qui font, vous voyez, quand vous avez, en fait, un réseau de neurones profonds, quand vous avez, comme ça, des couches de neurones, en fait, c'est pour basculer les données dans d'autres dimensions. Voilà, donc, on bascule d'autres dimensions et les données ont tendance aussi à être plus régulières.
2:00:09 Par exemple, si vous avez un phénomène qui est un peu discontinu, un phénomène physique, je ne sais pas, je ne sais pas lequel, mais, pour arriver que les algorithmes d'optimisation à l'intérieur fonctionnent, il faut qu'il y ait certaines propriétés mathématiques et qui peut donc couper ce lien entre le phénomène physique qu'on voulait reproduire et le résultat qu'on a à la fin. donc, il y a à la fois ce double, un peu, cette interface entre la représentation et la réalité et c'est pour ça que la figure aussi, comme le démiurge, peut être aussi une première approximation.
2:00:55 Oui, alors, très bon exemple, on retrouve ce brave potier, ce démiurge potier et ce que tu viens de dire de l'interface que joue ici la formalisation entre la donnée et le sujet me fait penser à un concept kantien fondamental qui n'est pas le plus simple mais qui est un des plus féconds, c'est celui de schème.
2:01:25 Qu'est-ce que c'est qu'un schème chez Kant ? C'est quelque chose qui justement permet de faire un sas entre deux entités qui d'habitude ne sont jamais en contact, s'opposent quoi, sont dichotomiques et ce qui permet de les mettre en contact, l'unité, la pluralité, la notion de nombre est un schème pour Kant qui permet de les mettre en contact par exemple. Voilà. Donc, bon, on ne va pas, comme je dis tout à l'heure, moi je me sens parti pour y passer la nuit mais je ne veux pas abuser de nos auditeurs.
2:01:55 Je crois et nous en avons convenu avec Christophe en préparant la séance de ce soir que la matière qui nous apporte est tellement riche qu'elle mérite, je ne crois pas que, je suis sûr que la majorité d'entre vous seront d'accord là-dessus, ça mérite une deuxième séance, ça mérite une suite à laquelle je vous renvoie, Christophe, si tu te sens d'attaque. Oui, tout à fait, sachant que je suis, on va être obligé bientôt d'arrêter mais il y avait des questions encore vraiment et des remarques vraiment très intéressantes, notamment celles qui avaient été projetées mais aussi celles de Daniel qui parle avec la puissance numérique dont perdons en même temps la complexité et la maîtrise et je pense que ça montre encore de la finalité qu'on veut faire de l'outil.
2:02:46 Voilà, c'est, est-ce que, mais là, ça, ça va beaucoup plus loin que c'est aussi le monde dans lequel on veut vivre, est-ce qu'on veut utiliser et on va revenir, qu'est-ce qu'on fait des gains de productivité qu'on a avec l'intelligence artificielle ? Est-ce que c'est pour rendre le travail encore plus mécanique ou c'est, en fait, pour certaines tâches qui sont répétitives de dire que les gens se concentrent justement, on parlait peut-être d'innovation, etc., qu'ils puissent avoir la possibilité déjà de libérer du temps pour faire autre chose que travailler puisque si on regarde dans l'histoire, quand même les gains de productivité ont permis aussi à travailler moins et à faire des choses à côté qui sont très bien pour la société.
2:03:43 Et, alors, pour revenir avec la puissance du numérique que nous perdons en même temps la complexité, la maîtrise, c'est vrai que sur les, je comprends en tout cas la remarque sur les informaticiens et vraiment pour l'avoir vécu, j'avais travaillé donc dans un groupe qui faisait de la simulation numérique avec, comme on voyait, on va reprendre ce que, ce qu'a dit Chris Anderson à un moment donné, c'est qu'on, dans des services comme ça où des gens avaient acquis de l'expertise sur les modèles, etc., est arrivé des gens qui ont dit ben voilà, je vais prendre un modèle de machine learning, tout ce que tu avais fait avant, tu peux le mettre, je suis un peu caricatural à la poubelle et j'arrive avec mon algorithme de machine learning à avoir une qualité de prédiction importante.
2:04:45 Mais, mais, mais ce qu'on oublie, c'est que toutes ces choses-là, en tout cas d'un point de vue informatique, etc., on a développé beaucoup de preuves de concepts, mais ils ne sont pas toujours utilisés de manière opérationnelle puisque, à un moment donné, imaginons que on conçoive un système automatisé de pilotage du central, par exemple, de production hydraulique, je vais dire ça au hasard, et ben, on peut développer des concepts, mais quand on va voir l'opérateur ou le responsable du truc, il va peut-être hésiter à deux fois, il va dire, mais montre-moi comment ça fonctionne, comment on peut le valider avant de le mettre.
2:05:30 Mais par contre, c'est vrai qu'il y a toutes, il y a des problèmes quand même sociétaux, même au point de vue du travail qui sont quand même assez problématiques, mais la question qu'on peut se poser quand même, c'est est-ce que l'IA, c'est quand même pas un cache-sexe, un peu, je dirais, de tous les efforts, de tous les élans de numérisation, de mécanisation, de donner des petites tâches aux gens, etc., ça participe.
2:06:04 Voilà une question qui fait une excellente conclusion provisoire, je ne sais pas, mais vraiment de la poser comme ça, l'histoire du cache-sexe, je retiens bien la métaphore, c'est tellement ça. C'est ça. Ça montre ce qu'il y a d'irremplaçable, par exemple, la puissance de calcul, il est clair que là, l'ordinateur, il nous subjuge facilement, je veux dire, la puissance de calcul, je ne vois pas comment la conscience d'un individu peut aussi rapidement faire un milliard d'opérations.
2:06:35 Et puis, très rapidement, toujours pour la question à laquelle tu viens de répondre, Daniel prend l'exemple des employés de banque. Or, ici, on parle de finalité, il est bien, il est bien clair qu'il y a une grave crise actuellement sociale chez les employés du système bancaire parce que leurs employeurs n'ont plus envie de payer des loyers. Et donc, ils sont en train de dire restez chez vous, voilà le monde d'après. On voit bien un exemple ici de ce que dit Daniel, n'est-ce pas, restez chez vous et vous viendrez 20% de votre temps de travail au bureau, mais sinon, on n'aura plus besoin de louer dans Paris des mètres carrés, n'est-ce pas, qui nous coûtent les yeux de la tête aux yeux de nos directeurs financiers.
2:07:19 Et voilà, restez chez vous, voilà, avec vos enfants dans les pattes. Voilà, je... Je... Il a pris le bon sens, Daniel. Ah oui, je pense que ça serait... Daniel connaît bien le monde du rapport capital-travail. Donc, voilà, écoutez, moi, je vous donne rendez-vous à la suite de ce passionnant feuilleton. Moi, je suis accroché par le sujet de Christophe et j'ai envie de voir la suite. Et sinon, je souscris, ce sera ma conclusion à moi, à ce que dit l'idiot sans nom qui apparemment est allé se coucher comme d'autres, comme Abdérahim qui dit bonne soirée à vous tous.
2:08:01 L'idiot sans nom dit oui, vivement, la pêche le matin, la chasse l'après-midi, la poésie le soir et l'amour toute la nuit. Écoutez, comment ne pas être d'accord ? Là, je pense que c'est une très belle conclusion. Merci beaucoup et à la prochaine fois. Merci à tous et merci à Pierre-Alain et à la régie technique qui nous permet de nous réunir dans de si bonnes conditions. Merci Christophe. Bravo. Au revoir. Bonne nuit. Merci.
