L'hybridation de l'homme et de la machine est en marche, elle est certes aujourd'hui spectaculaire du fait des manipulations bio-technologiques, notamment sur le cerveau, de la révolution numérique avec une intelligence artificielle omniprésente et quasi omnisciente et des progrès considérables dans les neurosciences. Mais cette hybridation vient de loin, elle est concomitante des avancées de l'humanité pour affranchir Homo-sapiens d'un état de nature pour en faire un sujet sachant et faisant, réfléchissant et s'autonomisant des contraintes naturelles par la science, les techniques, l'IA mais aussi par la lecture, l'écriture et l'esprit de raison. Seulement, si cela a permis une transition de la préhistoire à l'histoire, est-ce que nous ne sommes pas en train de brouiller cette histoire pour un post-humanisme, une post-modernité où le réel et le virtuel deviennent indistincts ? Autrement dit, en nous hybridant à la machine, serons-nous des sujets augmentés, des sujets réparés, des sujets transformés voire robotisés ? Nous essaierons dans un premier temps d'évaluer les progrès enregistrés sur le cerveau comme pour les mobilités améliorées, avant d'en évaluer certains risques qui se profilent et d'établir in fine une grille de protection pour éviter que les progrès de la science ne viennent passer alliance avec une robotisation déshumanisante.
Émile Malet reçoit : - Raphaël Gaillard, psychiatre et chef de service au centre hospitalier Sainte-Anne, membre de l'Académie française, écrivain, - Laurent Alexandre, médecin, entrepreneur, écrivain, chroniqueur, - Patrick Guyomard, philosophe, psychanalyste à la SPF, professeur des Universités, - Catherine Pelachaud, informaticienne, directrice de recherches au CNRS, - Jean-Michel Besnier, philosophe, professeur des Universités.
Présenté par Emile MALET L'actualité dévoile chaque jour un monde qui s'agite, se déchire, s'attire, se confronte... Loin de l'enchevêtrement de ces images en continu, Emile Malet invite à regarder l'actualité autrement... avec le concours d´esprits éclectiques, sans ornières idéologiques pour mieux appréhender ces idées qui gouvernent le monde.
Bienvenue dans « Ces idées qui gouvernent le monde ».
L'homme-machine.
L'hybridation de l'homme et de la machine est en marche.
Elle est certes aujourd'hui spectaculaire du fait des manipulations biotechnologiques,
notamment sur le cerveau,
de la révolution numérique avec une intelligence artificielle
omniprésente et quasi-omnisciente,
et des progrès considérables dans les neurosciences.
Mais cette hybridation vient de loin.
Elle est concomitante des avancées de l'humanité
pour rafranchir Homo sapiens d'un état de nature,
pour en faire un sujet sachant et faisant,
réfléchissant et cherchant à s'autonomiser des contraintes naturelles
par la science, les techniques, l'intelligence artificielle,
mais aussi par l'écriture, la lecture et l'esprit de raison.
Seulement, si cela a permis une transition de la préhistoire à l'histoire,
est-ce que nous ne sommes pas en train de brouiller cette histoire
par un post-humanisme, une post-modernité,
où le réel et le virtuel deviennent indistincts ?
Autrement dit, en nous hybridant à la machine,
serons-nous des sujets augmentés, des sujets réparés,
des sujets transformés, voire des sujets robotisés ?
Nous essaierons dans un premier temps
d'évaluer les progrès enregistrés sur le cerveau,
comme au niveau des mobilités améliorées,
avant d'en évaluer certains risques
qui se profilent et d'établir in fine une grille de protection
pour éviter que les progrès de la science ne viennent passer alliance
avec une robotisation déshumanisante.
Avec mes invités que je vous présente,
nous allons chercher à trier le bon grain de l'ivraie.
Raphaël Gaillard, vous êtes psychiatre, chef de service
au Centre hospitalier Sainte-Anne.
Vous êtes également membre de l'Académie française et écrivain.
Laurent Alexandre, que nous avons en visioconférence.
Vous êtes médecin, entrepreneur, écrivain, chroniqueur.
Merci d'être en visioconférence avec nous.
Patrick Guyomard, vous êtes philosophe,
psychanalyste à la SPF et professeur des universités.
Catherine Pellachaud, vous êtes informaticienne,
directrice de recherche au CNRS.
Jean-Michel Beignet, vous êtes philosophe
et professeur des universités.
Avant de commencer ce débat, nous allons voir un échange
entre Cédric Villani, député, et le docteur Nordlinger.
C'était une table ronde à l'Assemblée nationale
le 21 février 2019.
Nous allons aller un peu plus dans le cœur du sujet
avec les allers-retours entre usage et finalités médicales,
diagnostiques, thérapeutiques.
De la collègue des données de santé, Bernard Nordlinger,
chirurgien oncologue à l'hôpital Ambroise Paré,
membre de l'Académie nationale de médecine.
La santé est de toute évidence un des principaux domaines
d'application de l'intelligence artificielle et des données.
C'est absolument irréversible.
Il va donc falloir faire avec.
Avant d'insister sur une question qui a déjà été abordée,
c'est que ça pose avant tout un défi de la confiance.
Il ne suffit pas d'avoir des réalisations techniques.
Il faut que nos concitoyens aient la confiance.
C'est un problème qui se pose avec un certain nombre
de fantasmes qui s'expriment dans les médias.
L'intelligence artificielle ferait courir le risque
que les ordinateurs ou les algorithmes prennent la main
et réduisent en esclavage le cerveau humain.
Raphaël Gaillat, au nom d'écouter cet échange au Parlement,
L'homme augmenté, c'est d'ailleurs le titre de votre dernier ouvrage,
abordant pour commencer l'excroissance des compétences
de cet homme augmenté.
Oui ou non, est-ce qu'on peut accroître dans l'absolu
les capacités de mémoire et est-ce qu'on peut remédier
à cette détérioration de la mémoire qui vient avec l'âge ?
Avec évidemment tous les moyens informatiques.
Commençons par la deuxième partie de votre question
qui est celle du remède et donc de la réparation.
Je crois qu'il faut d'abord dire que ces technologies
sont développées pour soigner et c'est leur première intention,
c'est leur premier but.
D'ailleurs il faut dire que l'invention des techniques
de stimulation cérébrale profonde est une invention française,
on la doit à un neurochirurgien grenoblois, Alim Benabim,
et c'est un traitement aujourd'hui qui a bénéficié
à quelques 200 000 patients dans le monde
dans la maladie de Parkinson.
Donc c'est avant tout des techniques de soins
qui permettent de soigner, nous pourrions dire réparer.
La difficulté tient au fait que la frontière entre réparation
et augmentation est difficile à établir
et que pour certains, l'objectif n'est clairement pas la réparation
mais l'augmentation.
Elon Musk, lorsqu'il crée Neuralink,
évidemment aujourd'hui implante des patients,
qu'il appelle d'ailleurs des users, donc des utilisateurs,
qui sont étraplégiques pour leur permettre
de récupérer une forme de motricité,
mais son objectif c'est bien l'augmentation.
Est-il possible d'augmenter des facultés ?
Oui, il est possible d'augmenter des facultés,
mais précisons d'emblée que cette augmentation
elle est élective.
C'est-à-dire que vous pouvez augmenter les facultés
correspondant au site de l'implantation.
Votre implant permettra d'augmenter l'activité cérébrale,
les fonctions cérébrales qui sont voisines de cet implant.
Et pas ce qui se passe à 10 cm,
notre cerveau c'est 85 milliards de neurones
qui chacun échangent de façon extrêmement complexe
et il n'y a pas un port USB dans le cerveau
qui fait que quand vous êtes dans le cerveau,
vous accédez à l'ensemble du cerveau.
Donc l'augmentation par un implant cérébral,
elle n'est pas globale, elle est élective.
Et d'ailleurs c'est intéressant puisque ça signifie
que si demain nous augmentons l'homme
par des implants cérébraux,
ce sera au travers d'ultra compétences
et non pas d'une augmentation globale de l'homme
alors que notre vision de l'homme,
celle de la Renaissance,
c'est celle d'une forme d'équilibre,
l'homme de Vitruve dans un cercle, dans un carré,
quelque chose qui est équilibré de notre vocation
quand nous nous enseignons,
quand nous éduquons nos enfants,
c'est de créer une forme d'harmonie.
Cette augmentation est une rupture
de l'harmonie de l'homme.
Merci.
Laurent-Alexandre, sur ce plateau,
nous avions un biologiste
à l'improchéance, pour ne pas le citer,
qui disait que la capacité
de mémorisation du cerveau
resterait limitée.
Est-ce que vous pensez, vous,
qu'on peut l'augmenter ?
Nous n'avons pas de technologie aujourd'hui
pour augmenter nos capacités
de mémorisation, ni nos capacités
intellectuelles.
Les travaux menés par Elon Musk,
pour l'instant, comme le disait le professeur Gaillard,
s'appliquent à la réparation
et non pas à l'augmentation du cerveau.
Est-ce que Elon Musk peut,
en investissant
beaucoup de milliards de dollars,
trouver des technologies d'augmentation électronique ?
Moi, je n'en suis pas persuadé.
Il faut bien comprendre qu'il y a une deuxième voie
qui est envisagée pour augmenter
les cerveaux.
C'est la sélection embryonnaire
et la manipulation génétique des embryons.
C'est une technologie, je trouve,
encore plus bouleversante
que l'augmentation cérébrale
envisagée par Elon Musk
avec ses implants Neuralink.
Il faut savoir qu'un sondage réalisé
par la grande revue scientifique américaine
Science a montré
que 38% des Américains
souhaitaient utiliser la sélection embryonnaire
des embryons pour avoir un bébé
plus intelligent, de manière à ce qu'il soit
compétitif à l'ère de l'intelligence artificielle.
Et dans le même sondage,
28% des Américains souhaitent
manipuler l'ADN de leur bébé
pour ce faire.
D'ailleurs, une entreprise américaine
a lancé le mois dernier un kit
de séquençage ADN
assez cher, à 50 000 dollars.
Et pour ce prix-là, on vous fabrique
quelques dizaines d'embryons
à partir de vos spermatozoïdes
et de vos ovules.
On séquence l'ADN
en éprouvette de tous les futurs bébés,
de tous les embryons.
On analyse le quotient
intellectuel probable futur
de ces embryons
et on vous laisse choisir
le bébé que vous souhaitez
implanter et qui deviendra
le plus intelligent ou l'un des plus
intelligents de l'ensemble des bébés
que vous avez fabriqués en éprouvette
pour 50 000 dollars.
Ces technologies, de mon point de vue, sont encore
plus bouleversantes que les technologies
envisagées par Neuralink.
Patrick Guillaumard, qu'est-ce qu'en pense
le psychanalyste ? Parce que
quand vous avez un patient
sur un divan, vous faites
travailler sa mémoire.
Oui, le psychanalyste est évidemment très intéressé
par tout ça. Freud disait
au début de son travail, de sa pratique
que la mémoire
enregistrait tout, que nous nous souvenions
de tout. Il a même pensé
que la guérison, c'était
la capacité de retrouver la
totalité de ses souvenirs. L'accessibilité
évidemment, pas être envahi
comme par un rat de marée de la
totalité de la mémoire, mais de
la retrouver. Alors cette idée
s'est un peu perdue
ou s'est un peu éloignée.
Comme clinicien, je dois
dire à ma grande surprise,
je constate dans bien des cas
que cette capacité de mémoire
existe. Je retrouve des patients de
50-60 ans retrouver
des souvenirs d'enfance ou des souvenirs
traumatiques qui étaient inaccessibles,
séparés, éloignés.
Donc avant de
penser à une augmentation
artificielle, il faut aussi
réfléchir à ce qui est inscrit, ce qui se conserve
même si c'est refoulé, écarté,
etc. Ce que je trouve intéressant
dans ce débat
et dans ces questions,
c'est que ça nous oblige à repenser
l'humain dans son ensemble
mais au fond à partir d'idées
assez familières.
L'homme a toujours été augmenté,
l'homme a toujours été hybride,
guérir n'a jamais
été réparé, ça a toujours été augmenté.
Freud pensait que la guérison
c'était ce souvenir
mais la pratique montre absolument
le contraire. On ne peut pas intégrer
un traumatisme sans souvenir, y faire
face, sans être profondément transformé.
Donc nous sommes obligés
de réfléchir
aux liens entre tous ces éléments
guérir, réparer, augmenter,
modifier, hybrider, changer
et je trouve ça absolument
passionnant mais ça nous oblige
à repenser ce qu'est
l'humain, c'est-à-dire l'humanisation
et dans ces éléments
il y a quand même
quelque chose d'essentiel,
c'est le référent, mais le référent
au sens de la personne qui parle,
qui peut expliquer ce qui se passe,
qui peut en rendre compte,
avec qui on peut dialoguer.
Donc la question
de l'intelligence artificielle, je vais
un peu trop vite, c'est la question
de la possibilité ou de l'impossibilité
du dialogue, c'est-à-dire
quelqu'un qui dit pourquoi vous faites ça,
quel sens a, qu'est-ce que vous voulez,
à quoi ça sert, ces éléments fondamentaux.
Oui, Jean-Michel Beignet,
qu'est-ce que vous en pensez ?
Écoutez, que vous posiez la question
de la mémoire d'emblée,
me semble intéressant
et en même temps
symptomatique,
parce que les techniques,
d'une manière générale, c'est McLuhan
qui disait ça autrefois,
les techniques ont toujours eu
pour ambition
d'externaliser l'humain.
Et il ajoutait, mais finalement
dans leur devenir, on s'aperçoit que
c'est pas externaliser l'humain
qu'elles veulent,
mais c'est finalement l'expulser.
Expulser l'humain.
Toutes les technologies
sont des entreprises
d'externalisation de la mémoire.
L'écriture est le
premier grand exemple
que
Platon avait
commenté
en invoquant
le fameux mythe
de Teut, avec
cette idée que l'écriture
allait décharger l'homme
de ce souvenir
et allait lui
faire perdre son âme, puisque
l'âme est associée étroitement
à la mémoire.
Mais quand on parle aujourd'hui
d'intelligence artificielle,
on suppose
finalement que cette mémoire
proprement humaine,
elle soit
finalement superflue.
Si la singularité
projetée par Haydn et Kurzweil
avait lieu, elle consacrerait
effectivement une espèce
de présentisme chez les humains
qui seraient
seulement préoccupés du présent.
Nous n'aurions plus que faire
du passé
et nous pourrions finalement
nous débarrasser également
de la préoccupation du futur.
Donc si nous parlons en termes
d'utopie, l'homme-machine
c'est la défaite de la mémoire.
C'est la défaite
de tout ce qui relève de la fonction
symbolique de l'humain.
La vie intérieure n'a pas
de sens si l'intelligence artificielle
prédomine.
Sans vie intérieure,
que ferions-nous de la mémoire ?
Je crois
que si
nous inscrivons notre discussion
sous le signe de la mémoire,
finalement
nous allons
très vite tomber
sur cette aporie
des machines qui développent
des automatismes
sont par définition des machines
pour lesquelles le passé
n'a aucun intérêt,
n'a pas de sens.
Et si nous nous hybridons avec ces machines,
nous liquidons
purement et simplement
cette question de la mémoire et nous reviendrons
tout à l'heure sur la question du dialogue
parce qu'elle est effectivement également
liée.
Vous êtes sceptique Raphaël là-dessus ?
Oui parce que
je pense que
ce qui est fascinant
ce qui est fascinant avec l'intelligence
artificielle et la façon
dont émerge une forme d'intelligence
parce que je pense qu'il est question d'une forme d'intelligence
émergeant d'un réseau de neurones
c'est justement
qu'il existe une histoire.
Un réseau de neurones c'est une
imitation de notre cerveau
ça a été pensé dès les
années 1950 mais il fallait la puissance
de calcul que nous avons aujourd'hui
et donc ça procède un peu de la même façon que
nos neurones fonctionnent en renforçant
leurs connexions, les affaiblissant
les couches superficielles de notre cerveau.
Encore faut-il l'éduquer
c'est-à-dire qu'il est une histoire
et ce que consacre l'intelligence
artificielle, surtout les derniers modèles
ceux qui sont devenus intelligents
par la rencontre du langage
et notamment de la lecture
c'est justement que
traversée par l'histoire
celle des hommes
celle de ce que tous les hommes ont écrit
ou tout ce que
témoignent
de l'écriture par les hommes
ou des hommes par l'écriture
plus exactement, il en reste
quelque chose, c'est un réseau de neurones
qui a une conformation particulière
qui est le témoin de cette histoire
et qui a une forme d'intelligence
et j'ajoute un point, c'est que
précisément, la grande particularité de cette
intelligence artificielle, les dernières en datent
non seulement
elles ont été rendues intelligentes
par le langage
et pas par la reconnaissance des formes
comme dans mon champ par exemple, reconnaître
un névus versus
un mélanome, c'était ça avant en médecine
l'intelligence artificielle
pour les dermatologues, là c'est vraiment le langage
mais justement, notre échange
avec cette intelligence artificielle
il est de l'ordre du dialogue
donc c'est une rencontre par le dialogue
et donc il y a une histoire
et il y a un dialogue
Catherine Pellachaud sur ce sujet, qu'est-ce que vous en pensez ?
Donc moi je suis informaticienne
c'est vrai que je vais prendre ce point de vue là
donc il y a des modèles
un modèle
de mémoire maintenant avec les
derniers avancés
de l'IA
mais je pense que
la mémoire c'est pas simplement
un amas de connaissances
il y a
nos émotions
qui influent sur
notre mémoire, sur la sélection
de ce qu'on va retenir
l'intelligence aussi c'est
l'intelligence sociale
donc gérer les autres, gérer les dialogues
etc.
et là il me semble que l'IA
encore énormément de pas à faire
l'IA sait organiser des connaissances
c'est absolument incroyable
il sait aussi
les sortir, parfois il fait encore beaucoup d'erreurs
mais
il sait le faire
il commence de plus en plus à
être étonnant
de ce qu'il peut promettre
par contre il y a tous les autres aspects
qui sont absolument
notre voix intérieure
pas sûr du tout que ce soit
même intéressant de modéliser
l'IA est un outil
et je pense qu'on le voit aussi
comme cela.
Vous avez vu il y a là
une nuance
dans les propos à la fois
de Raphaël Gaillard et de
Jean-Michel Besnier, est-ce qu'à
votre avis on peut entretenir
un dialogue avec l'intelligence
artificielle ?
Sûrement puisque c'est comme ça qu'on
nous la présente, simplement il faut
se demander ce qu'on appelle
dialogue
le mot d'altérité
c'est le même mot qu'altération
donc
toute rencontre avec une
altérité, quelle qu'elle soit
pose la question de l'altération
dans le meilleur et dans le pire
c'est-à-dire de la transformation
de l'amélioration mais en même temps
de la dégradation, de la folie, de la dissociation
etc. Donc on voit bien
que si on a une attitude
je ne dirais pas ouverte mais disons
accueillante à ce type
de progrès
si on réfléchit, on pense automatiquement
l'essentiel de l'humain
dans son rapport
à l'altérité dont comme
vous le disiez, le premier élément c'est la parole
un enfant à qui on ne parle pas, il ne parlera jamais
c'est une vieille question
humaine qui a été
posée de façon aussi dramatique
au 18ème on a essayé d'isoler des enfants
ne pas leur parler
Et s'ils ne parlent pas
ils finissent par mourir ?
Pas forcément
mais il y a la humanité qui se défait
qui se dégrade, qui se décompose
leur humanité c'est-à-dire leur capacité
de dialogue, de réception
avec les autres
Ce que je trouve paradoxal c'est que
ni l'intelligence
ni la mémoire ne sont des facultés
ce sont des composantes
de l'humain, on ne peut pas dire je veux augmenter
la mémoire comme on achète un outil
on ne peut pas dire je veux augmenter l'intelligence
en faisant ça, l'intelligence
elle peut s'altérer, elle peut rendre fou
parce qu'on pense trop, la mémoire
il y a une hypermésie, on se souvient de trop
ce ne sont pas des facultés
qu'on peut augmenter, soustraire etc
ça conduit
automatiquement
à la question des conditions
du dialogue dans lesquelles ça a été
transmis et ça se développe
donc je pense qu'il faut prendre
la question de l'intelligence
artificielle
comme un élément supplémentaire
dans ce qui se présente
comme l'environnement humain
mais pas comme un élément qui
transformerait à jamais
irréductiblement
cet environnement, sinon on tombe dans une impasse
il est bien clair
qu'il y a des personnes, des régimes politiques
des mouvements qui veulent que l'intelligence
artificielle transforme définitivement
l'environnement humain, parce qu'il y a des éléments
de pouvoir, des éléments financiers etc
Jean-Michel Beignet
j'ai vu que vous n'étiez pas tout à fait d'accord
sur le dialogue
avec l'intelligence artificielle
est-ce que vous croyez qu'aujourd'hui
tout le monde a
un outil informatique et c'est une
forme de dialogue avec lui, non ?
C'est un abus de langage
extraordinaire que de parler de dialogue
avec une machine
c'est confondre
deux concepts qui sont à mon avis
fondamentaux, c'est confondre le signe
et le signal
dans un dialogue, nous échangeons
des signes, j'aimais
un message à votre
direction
et vous restituez
un autre message, porteur
de signe
si
j'aimais un signal
par contre, je ne m'attends pas
forcément à ce que vous répondiez
par un signal
mais par un comportement
le signal c'est
un élément qui appelle une réaction
comportementale, un signe
c'est un message
qui appelle un autre signe
nous dialoguerons lorsque nous échangerons
des signes, l'intelligence artificielle
veut que nous confondions
les deux, traitement du signal
et échange de
signes, c'est une imposture
c'est une imposture complète qui témoigne
bien d'une espèce de
choix
en faveur d'une mécanisation
de l'humain, plus
nous mécaniserons l'humain
et moins nous aurons besoin
qu'il requiert
des signes
et les signaux lui suffiront
amplement. Nous ne
dialoguons pas avec Siri
ou avec Alexa
ou avec Elisa
nous ne dialoguons pas
nous sommes dans une
farce, dans un simulacre
mais un simulacre qui
est efficace
et c'est son efficacité qui nous
le fait retenir
mais cette efficacité
elle est au prix encore une fois
de cette élimination
de l'humain tel que Patrick
Guillemard l'évoquait tout à l'heure
en disant que non nous ne sommes pas
une entité qui supporte
des facultés susceptibles
d'être abstraites, susceptibles
d'être manipulées, non nous sommes
un tout
un tout indissociable
et ce qui nous caractérise fondamentalement
en tant qu'humain c'est que nous ne sommes pas
univoques, nous sommes ambivalents
nous sommes équivoques
par définition, nous
nous fonctionnons avec de l'approximation
ce qui
évidemment répugne
à l'approche
techniciste de l'humain
qui encore une fois
nous voue
de plus en plus à
éliminer le fondamental
en nous, c'est-à-dire
le symbolique et ce qui relève
alors Laurent-Alexandre je vais vous donner
la parole, je prends juste une réaction
de Raphaël Gaillard
sur le sujet et on prolongera
la discussion avec vous
je suis heureux d'avoir la réponse de
Laurent-Alexandre mais
moi ça me semble un petit peu abstrait, alors d'abord
si vous me permettez
Siri Alexa ça date un petit peu
et ensuite je voudrais ajouter
un point, enfin deux points
pour les cliniciens que nous sommes
nos patients nous prêtent beaucoup plus
que ce que nous avons
ça c'est l'exercice de la psychiatrie
de la psychanalyse
ils nous prêtent beaucoup plus que ce que nous avons
ils nous prêtent à savoir que nous n'avons pas
et c'est exactement ce que nous observons
dans les échanges, non pas avec Alexa mais avec
l'HGPT, j'ai raconté un jour
l'histoire de cette patiente qui vient me voir
comme ayant eu
une sorte d'épiphanie
me disant je discutais hier avec mon chat
et j'ai enfin
compris pourquoi dans cette famille les femmes n'ont pas
leur place, c'est toute l'histoire du
protestantisme, le problème de la
Vierge Marie, je me suis tout de suite dit
j'ai rien compris
je n'avais pas compris qu'elle délirait, qu'elle est psychotique
non pas du tout, mon chat
c'était le chat de l'HGPT, elle avait
discuté toute la soirée avec le chat de l'HGPT
et de fait il y avait eu
une forme de maïotique
celle qu'évoque Patrick Guillaumard, il y avait
eu quelque chose qui s'était passé en
elle, une hybridation
une altération et elle avait compris
les choses, évidemment nous l'avons repris
différemment, mais voyez bien
que l'altérité y était
et on n'est pas dans le signe, on est dans le symbole
on est dans quelque chose qui change chez une
patiente, on est dans
en fait l'hybridation qui
caractérise les êtres humains, donc non
je ne crois pas que l'humain s'appauvrisse
il s'étoffe de toutes sortes de choses
au point peut-être vous avez raison
de devenir fou parfois.
Laurent Alexandre, je vais vous demander
votre avis sur ce débat
sur la mémoire, mais je voudrais
prolonger le débat avec
une question que
je me suis personnellement
posée
en matière de mobilité
les Jeux Olympiques ont été suivis
par les Jeux Paralympiques
et on a vu des performances
considérables d'athlètes
qui étaient fortement
amputés. Comment
s'opère l'ajustement
techno-psychique, autrement dit
comment ça fonctionne
entre l'exosquelette
d'un côté et le cerveau ?
Je vais répondre à cette première
question, c'est un sujet passionnant
et d'ailleurs certains pensent
que l'homme augmenté, l'homme bionique
de demain, finalement
il va débuter chez les athlètes
paralympiques
qui dans certains domaines peuvent
avoir des performances supérieures
aux hommes non
amputés. Effectivement
c'est un sujet philosophique passionnant
est-ce que l'homme handicapé
mais augmenté par la technologie
n'est pas finalement le prototype
du transhumain
augmenté demain ?
Pour donner mon avis sur
le petit débat qui a
opposé Raphaël et
Jean-Michel, je suis d'accord avec
Raphaël, les exemples
et on en a débattu Jean-Michel
il n'y a pas très longtemps au Figaro
les exemples que tu prends sont
de la dernière guerre, Syrie-Alexa
ça n'est pas raisonnable de
prendre ça comme exemple
aujourd'hui à l'ère de
GPT4 ou un preview
donc il faut que tu changes de référence
je t'avais conseillé d'utiliser les dernières
versions de chaque GPT lors de notre
débat au Figaro et là je vais
dire la même chose que Raphaël
ne prends pas des exemples comme Elisa
qui sont de 1970 parce que
le sujet n'est plus là
l'IA a profondément changé
son rapport au temps est
très différent de ce que pouvait être Elisa
qui était un chat de bot absolument
merdique
donc aujourd'hui notre rapport à l'IA
il change et il est important
que les auditeurs travaillent
et réfléchissent avec les nouvelles
versions des IA
et pas avec les antiquités du tout début
de l'histoire de l'intelligence
artificielle, de la vieille
intelligence artificielle
symbolique
parce que là on parle de mémoire
mais le problème n'est pas la mémoire
des mémoires synthétiques on en a toujours
eu, nos disques durs sont des mémoires
et cela depuis
longtemps, notre problème c'est l'intelligence
notre problème c'est que
le costume intellectuel de l'IA augmente
de 2 points chaque mois
et que nous sommes en phase de dépassement
Laurent Alexandre pardon de vous interrompre
mais est-ce que vous pensez
qu'on arrivera un jour
à avoir un cerveau humain
neuronal complètement
artificiel vous voulez dire
oui artificiel bien sûr
je ne le crois pas
on arrive à découvrir
certains réseaux neuronaux
mais on n'a pas encore ce cerveau
neuronal artificiel
d'avoir un cerveau
humain artificialisé
c'est pas pour demain matin, nous allons être
dépassés par l'intelligence artificielle
bien avant d'être capable de bidouiller
notre cerveau, notre cerveau est une
boîte noire qu'on comprend pas mal
pas très bien et qui ne progresse pas
alors que l'intelligence artificielle galope
et je me permets de reciter le chiffre
que je donnais avant votre question
l'IA gagne
2 points de QI par mois
l'intelligence humaine ne progresse
pas, donc notre problème
aujourd'hui et c'est pour ça que certains
comme Elon Musk souhaitent mettre
des microprocesseurs dans le cerveau de nos
enfants, notre problème
c'est la compétition entre le cerveau humain
et le cerveau biologique et ça pose des
questions bouleversantes que
le professeur Gaillard a parfaitement décrit
dans son dernier livre.
Merci Catherine Pellachaud.
Déjà il y a quelques travaux
de recherche, on parle vraiment de travaux de recherche
qui essayent de modéliser justement
le cerveau par déjà l'apprentissage
du langage, j'avoue qu'on aimerait qu'on en aille
encore très loin,
ce sont des travaux de recherche qui sont absolument
passionnants, qui peuvent servir à
comprendre.
Mais ça c'est vraiment des travaux
de recherche, je pense qu'il va falloir encore
quelques années. Je voulais intervenir aussi
par rapport à la notion de dialogue
parce que là pour l'instant les exemples qu'on a
donnés c'est des exemples ou bien
textuels ou bien maintenant avec
la GPT vocale, mais lorsque l'on parle
il y a tout le comportement non-verbal qui intervient
et maintenant il y a tout de même de plus
en plus des robots humanoïdes
qui simulent,
on parle bien de simulation
et là je pense que c'est un amplificateur
incroyable pour l'interaction
des humains avec les IA.
Mais j'aimerais bien
que vous nous disiez ce que vous
pensez des interactions
et du fonctionnement
entre un exosquelette et le
cerveau, qui c'est qui dirige l'autre ?
Là j'avoue que je n'ai pas assez de compétences,
je ne suis pas la personne.
Vous avez un mot à dire là-dessus Raphaël Gaillard ?
Comment ça fonctionne ?
Ce que je pourrais dire c'est que
notre cerveau a
la faculté de recalculer
en permanence ses repères
de sorte que
si vous rajoutez une prothèse
à un être humain
et bien assez rapidement
il va considérer que cette prothèse
fait partie de lui.
Il y a une expérience très amusante
qui s'appelle la Rubber Hand Illusion
qui consiste à mettre une main
en plastique sur la table alors que la main
du sujet
est sous la table et on frotte avec
un pinceau la main en plastique,
vous pouvez trouver ça sur Youtube, n'importe
quelle chaîne, et
en même temps la main de celui
qui fait l'objet de l'expérience
en même temps, c'est ça qui est très important
et le fait que la personne
puisse ressentir le pinceau
en même temps qu'elle voit le pinceau passer
et bien elle va considérer que cette main
en plastique c'est la sienne. Et d'ailleurs
si l'expérimentateur qui parfois
fait des mauvais coups vient avec un marteau
et tape d'un coup sur cette main en plastique
et bien celui qui faisait
l'objet de l'expérience part en courant parce qu'il a
l'impression qu'on allait lui taper le cheveu. Au reste
si on conduit une voiture, ce qui arrive
encore de temps en temps, peut-être pas à Paris,
et bien on s'aperçoit très vite que de fait
on a l'impression que cette voiture
elle fait presque partie de votre corps
à tel point d'ailleurs que vous pouvez être
curieusement vexé et violent
si on traite mal votre voiture.
Donc vous voyez que le rapport
à une prothèse c'est pas quelque chose qui est extérieur
c'est très rapidement quelque chose
qui est incorporé, reprenons
ce mot, parce que notre cerveau
fonctionne ainsi en recalculant
constamment les repères
des coordonnées
de ce corps.
Merci. On va écouter maintenant un échange
entre le député
Hervé Soulignac
Parti Socialiste et le
ministre Jean-Noël Barraud
à l'époque ministre
du numérique, c'était à l'Assemblée
nationale le 4 octobre
2023.
Monsieur le ministre, je voudrais vous interroger sur
la montée en puissance de l'intelligence
artificielle, les évolutions des dernières
semaines sont particulièrement impressionnantes
une équipe de chercheurs de Stanford
a récemment annoncé être en mesure d'entraîner
un modèle équivalent au célèbre
Chad GPT-3 avec un budget
de seulement 600 dollars.
Plusieurs publications laissent penser que nous approchons
d'une intelligence artificielle dite forte
c'est-à-dire capable de comprendre
toutes tâches intellectuelles qu'un être humain
peut accomplir.
Ces développements soulignent l'importance de se doter
d'une stratégie nationale
pour assurer notre souveraineté
et garantir que la France soit
compétitive sur la scène internationale.
Monsieur le ministre, ma question est la suivante.
Existe-t-il une stratégie gouvernementale
pour faire face à ces défis, notamment en matière
d'investissement, de recherche et de formation ?
Mesdames et messieurs les députés,
monsieur le député, vous avez raison de
dire qu'il y a dans l'intelligence
artificielle de grandes promesses
et de grands progrès. Je pense
en particulier au progrès de la recherche
scientifique avec l'intelligence artificielle
qui sauve d'ores et déjà des vies
en permettant de détecter des cancers
très précocement et donc de les soigner
ou encore de découvrir de manière beaucoup plus
accélérée des traitements ou des vaccins comme ça a été
le cas pendant la Covid-19. Mais pour que
cette technologie reste au service
de l'humain et au service des Français,
il faut en avoir la maîtrise plutôt que de la subir.
Il faut créer un cadre de
confiance dans lequel ces innovations
peuvent se développer.
Pour en avoir la maîtrise,
le président de la République a lancé en 2018
une stratégie nationale pour l'intelligence
artificielle éclairée par le
rapport de Cédric Villani doté
de 1,5 milliard d'euros qui a permis
notamment la création de quatre
instituts interdisciplinaires pour l'intelligence
artificielle à Nice, à
Toulouse, à Grenoble et à Paris
qui produisent aujourd'hui des résultats.
Nous avons 500 doctorants de
plus qu'auparavant, 190 chairs
consacrées à l'intelligence artificielle,
nous avons doublé le nombre de diplômés
en intelligence artificielle et nous avons
à peu près 600 entreprises innovantes
spécialistes de l'intelligence artificielle.
Cette stratégie a été renouvelée
en 2021 dans le cadre de France 2030
et nous veillons avec Bruno Le Maire et Sylvie
Retailleau à ce qu'elles tiennent compte des dernières évolutions
en matière d'intelligence artificielle. Vous le voyez
monsieur le député, sous l'autorité de la
première ministre, le gouvernement est pleinement
mobilisé pour qu'en matière d'intelligence
artificielle, la France reste souveraine.
Merci monsieur le ministre, vous venez
de répondre à cet instant aux 578
députés puisque la question que je viens
de vous poser a été entièrement rédigée
par Tchad GPT. Vous noterez
que le robot qui vient de
vous interroger n'a pas
soulevé les questions de sécurité, de liberté,
de démocratie ou de menace pour notre
civilisation. Or les vrais sujets
sont précisément ceux que le robot
contourne. Ne contournez pas
les réponses monsieur le ministre, c'est d'ailleurs ce qui
fait la différence entre vous et le robot parce qu'il y a
urgence. La recherche est aux mains
de groupes privés qui n'ont aucun intérêt
à ralentir leur course folle
et la pose réclamée par certains
leaders de la tech est absolument illusoire.
L'Union Européenne a initié un processus
législatif trop long, trop lent.
La France doit exhorter les
grandes démocraties à ouvrir le débat sur les
transformations économiques et sociales
qu'on peut redouter et à construire très vite
une autorité de régulation.
La France doit dire qu'elle ne placera
jamais son destin technologique
au-dessus de considérations vitales
et universelles et que la société
n'a d'avenir que dans l'humanisme, la liberté
et la protection de sa vulnérabilité.
Alors, on n'épuisera pas
ce sujet des progrès, des
transformations, etc.
Mais on va quand même aborder
un peu la question des risques.
Geoffrey
Hinton vient d'obtenir
le prix Nobel de physique
2024 pour son travail
sur les réseaux de neurones
artificiels. Et sa
déclaration a été
« Je suis inquiet que les modèles
deviennent plus intelligents
que nous et prennent le contrôle. »
Est-ce que vous partagez
cette inquiétude ?
Raphaël Gaillard.
L'inquiétude existe et puis elle se situe
à des niveaux
différents d'ores et déjà,
c'est-à-dire, comme toujours, avec l'automatisation,
celle de la substitution
des êtres humains dans différentes fonctions.
D'ailleurs, ce qui est intéressant
ou inquiétant, excusez-moi de le dire
de cette façon, avec l'intelligence artificielle,
c'est que les automatisations ont plutôt touché
jusqu'ici des professions
non qualifiées. Et là, avec
Chad GPT, c'est plutôt des professions qualifiées
et donc c'est un changement
spectaculaire
de ce que peut être
le remplacement de l'homme par l'intelligence.
Mais je crois que l'essentiel n'est pas
dans la compétition et le remplacement,
je crois qu'il a été évoqué par
Patrick Geumart, l'essentiel est
dans la question de la transformation de l'homme.
Elle est dans l'hybridation
et je crois qu'on doit beaucoup plus se poser
la question de ce que
signifie cette hybridation particulière
qu'est l'hybridation technologique
qui succède à une myriade d'hybridations
parce que l'homme est fondamentalement hybridé
plutôt que se poser la question
de la compétition. Moi, je crois
qu'il ne va pas y avoir de match,
il ne va pas y avoir de compétition, il va y avoir
une hybridation et que nous allons tous
courir, autorités de régulation
ou pas, vers cette hybridation.
Nous sommes tous déjà hybridés avec cette
hybridation faible
que nous organisons avec nos téléphones
d'IA intelligents. Donc l'enjeu
c'est l'hybridation et les risques de cette hybridation
beaucoup plus que le sujet du remplacement.
Catherine Pellachaud sur ces risques-là.
Oui, je suis tout à fait d'accord.
Il y a des risques, je pense qu'il faut
en prendre conscience. Il faut prendre
conscience aussi des usages qui vont être faits
de cette intelligence artificielle.
Mais il y a
cette course, je ne pense pas qu'on puisse l'arrêter.
Par contre, on peut essayer de l'encadrer,
d'éduquer les gens
à utiliser à bon escient
et comprendre les limites
que l'intelligence artificielle ne remplace pas
les humains, ne remplace pas les contacts
sociaux, etc.
Je suis d'accord qu'il faut
qu'on va vers une hybridation,
qu'il faut faire avec.
Il faut au contraire essayer d'éduquer,
de comprendre
cette partie-là.
Jean-Michel Pénier, est-ce que vous intégrez
la dimension du risque
comme un progrès
pour l'humanité aussi d'avancer ?
On ne peut pas
avancer que dans la sérénité.
Ah, ça, sûr, et même pas.
On avance que dans le déséquilibre.
On est bien d'accord. Et alors, est-ce que
ce risque à portée ne peut
pas faire avancer,
pour parler trivialement,
le schmilblick ?
Moi, je vois mal comment
nous pourrions avancer,
comme vous dites, c'est-à-dire
satisfaire à l'idée
d'un progrès qui nous acheminerait
vers un meilleur.
Là, on n'a parlé que d'innovation,
on n'a pas parlé que de progrès jusqu'à présent.
Mais je me demande
comment on peut imaginer
cela en simplifiant
toujours davantage l'humain.
Parce que, au fond, l'entreprise
dans laquelle
nous sommes plongés, c'est une
entreprise de simplification
de l'humain.
La mécanisation,
elle est... Il y a un terme
que nous n'avons pas utilisé du tout
depuis le début de notre
discussion, c'est le terme de conscience.
La conscience.
Tout à l'heure, on a évoqué l'intelligence
artificielle forte. Et quand
on l'évoquait
dès les
années 50, on disait
qu'une intelligence artificielle forte, c'est
une intelligence artificielle
qui serait consciente d'elle-même.
Et donc la question de la conscience
a été placée
au premier plan.
Et la question
a été de savoir qu'est-ce que c'est donc
que cette conscience.
Et les scientifiques
se sont gaussés des
philosophes qui
n'ont toujours pas
finalement formulé une
définition univoque de la conscience.
Et les scientifiques,
eux, considèrent que
est conscient tout
organisme qui est capable de faire la différence
entre lui
et ce qui n'est pas lui, le self et le
non-self. Et cette
conception de la conscience,
elle est évidemment extrêmement
simplificatrice.
Nul d'entre
nous ne satisferait,
n'accepterait
qu'on le déclare conscient parce que
comme la mouche, il est capable de
se retirer lorsque une agression
du monde extérieur survient.
Et pour
aller plus loin,
je voudrais juste évoquer une petite
anecdote qui
m'avait semblé intéressante
lors d'un débat avec un
transhumaniste qui répondait
à une dame qui lui disait
vous parlez de l'humain comme si c'était
un robot, mais
nous les humains nous sommes quand même des êtres
conscients. Et le transhumaniste a
levé les bras au ciel en disant
hélas, hélas. Et il a expliqué
tout simplement que la conscience étant
un avantage sélectif dans la sélection
naturelle,
n'est plus
désormais un avantage sélectif
mais c'est plutôt un handicap. Lorsque
les pressions sélectives sont technologiques
et non plus naturelles, il est
meilleur de ne pas être conscient et
d'être plutôt réactif et
d'être plutôt mécanisé.
Ça en dit
effectivement extrêmement long sur cette espèce
de déflation
des concepts
qui définissaient jusqu'à présent l'humain.
Laurent Alexandre, vous écoutez
où on en est sur le débat,
est-ce que vous partagez l'avis
de Yuval Noah Harari,
cet écrivain
israélien qui
a beaucoup écrit sur ces questions-là
et qui dit que tout est information.
Mais si c'est tout est
information, qu'est-ce qui
reste au niveau du charnel ?
Est-ce qu'il n'y a pas un danger ?
Est-ce qu'il n'y a pas un risque d'abstraire
un peu les émotions, les sentiments,
etc.
Je pense que tout est information et
je ne crois pas qu'il y ait énormément de différences
entre l'intelligence artificielle et l'intelligence
humaine, à part que pour l'instant nous sommes
les seuls à avoir un corps physique
mais ça va changer avec le développement de la
robotique humanoïde et vous savez
qu'Elon Musk compte
fabriquer 100 millions de robots humanoïdes
hyper intelligents chaque année
à partir des prochaines années.
Moi je suis très en ligne
avec le professeur Raphaël Gaillard,
je crois beaucoup à l'hybridation
et comme nous rentrons dans une
économie de la connaissance où il y a
une prime importante aux gens les plus innovants
et les plus intelligents, je m'interroge
sur les conséquences de l'hybridation
sur la solidarité
et sur la cohésion de nos sociétés.
Moi j'ai vraiment peur
que les implants, que
l'hybridation augmente davantage
les capacités cognitives des gens
déjà les plus intelligents et les plus innovants
et je crains
que l'hybridation conduise
à une augmentation
des écarts entre la partie
la plus innovante et puis la partie
moins innovante,
moins favorisée
sur le plan cognitif de nos sociétés.
Je ne vois pas par quel miracle
l'hybridation avec
des implants, quelle que soit la nature,
n'augmenterait pas plus
les capacités cognitives de l'élite intellectuelle.
Je ne vois pas par quel miracle
un implant intracérébral
aiderait les gens
les moins doués, les moins favorisés
sur le plan cognitif à rattraper l'élite cognitive.
Je ne vois pas très bien.
Donc j'ai peur qu'il y ait une vraie
augmentation de l'écart
cognitif entre la partie la plus favorisée
et la moins favorisée. C'est pour ça que
il ne me semblerait pas idiot
que la loi
favorise les gens les moins
cognitivement développés
dans l'allocation de cette
hybridation et des implants.
Je pense qu'il serait raisonnable pour la société
de rembourser prioritairement
les implants d'augmentation
le jour où ils existeront
aux gens les moins intelligents
et surtout pas
de permettre à l'élite cognitive,
à l'élite intellectuelle de disposer
des implants d'augmentation en premier
ce qui ferait imploser
la cohésion sociale
de mon point de vue.
Mais Laurent Alexandre, vous dites
je suis d'accord avec la conception
de l'hybridation de Raphaël Gaillard
mais Raphaël Gaillard, je ne veux pas
résumer sa pensée,
mais il dit, nous sommes d'abord
hybridés à la lecture
et à l'écriture et c'est impréalable.
Vous diriez aussi ça ?
Qu'il faut être hybridé
à la lecture et à l'écriture
pour après accéder à d'autres
hybridations ?
Oui, on peut imaginer dans le futur
qu'il y ait des capacités
d'accès à l'intelligence
par d'autres intermédiaires
que la lecture et l'écriture mais pour l'instant
c'est le média le plus simple et puis surtout
c'est à partir de l'écriture
que l'on a éduqué
les modèles, les grands modèles
de type chat GPT, ce qui explique
très bien Raphaël Gaillard
dans son dernier bouquin. Donc aujourd'hui
c'est une étape obligatoire
je ne suis pas sûr que ce soit pour toujours
une étape obligatoire, on peut imaginer
d'autres modes d'accès
à l'intelligence, au savoir
que la lecture et à l'écriture
mais pour l'instant Raphaël a
totalement raison, c'est impréalable.
Vous voulez dire un mot Raphaël Gaillard ?
Peut-être pour préciser
cette pensée
que vient de résumer là
Laurent Alexandre
et qui repart
de l'idée que nous avons toujours été hybridés
et qui essaye de situer une sorte de point
de départ, c'est un peu artificiel peut-être
mais quand même ça reprend
d'ailleurs ce que vous évoquiez du mythe de Teut
et de l'invention de l'écriture
et la critique du pharaon Tamus
les risques de l'écriture
qui consiste à affaiblir l'homme en externalisant
son savoir. Ma perception
c'est que cette hybridation a été primordiale
elle a joué un rôle crucial
pour l'humanité, elle a eu
des conséquences, parfois des effets secondaires
j'aime bien citer
ce joli mot de Daniel Pennac
qui dit qu'on peut attraper des maladies
textuellement transmissibles, c'est pas anodin
la lecture et l'écriture, mais dans l'ensemble
ça a été une grande réussite
cette hybridation par l'écriture et la lecture
et donc moi je fais le pari
que pour nous préparer à l'hybridation
technologique, il faudrait répéter
ce qui a fonctionné à l'échelle de l'humanité
cette hybridation par la lecture
et l'écriture, mais en fait l'idée
ça n'est pas de refuser l'hybridation technologique
pour moi elle est inéluctable, c'est de nous
armer pour, et pourquoi il faut
s'armer ? Parce que
je pense que non seulement il y aura
une inégalité des effets
de cette hybridation
technologique, comme vient de l'évoquer Laurent Alexandre
non seulement il y aura une inégalité
d'accès, c'est-à-dire que
ceux qui auront les moyens auront les meilleures technologies
et les autres feront
de brique et de brogue, de la récupération
c'est très probable
mais au fond
il y a une inégalité plus importante encore
c'est que notre cerveau
il est à mes yeux tellement
performant qu'il a déjà des
bugs, il a déjà des ratés
nous payons déjà le prix
de sa complexité et de sa puissance
et nous le payons sous une forme
qui est mon quotidien, des 12 000
patients qui sont soignés
dans le pôle dont je suis responsable chaque année
les troubles mentaux, pourquoi
1% de la population souffre de schizophrénie
une personne sur 5 de dépression au cours de
sa vie ? En fait parce qu'il y a
un prix à payer à la puissance de ce cerveau
et s'il y a déjà un prix aussi élevé
que celui des troubles mentaux
je fais l'hypothèse qu'en l'augmentant
encore ce prix augmentera
autrement dit avec l'hybridation
technologique, certains seront augmentés
moi je n'ai pas de doute même si ça sera avec
une rupture de l'harmonie de l'homme
il faudra qu'on revienne sur les enjeux anthropologiques
de cette rupture mais je
pense surtout que certains ne tolèreront
pas cette augmentation
ce seront des grands brûlés de
l'augmentation et ils souffriront
de troubles mentaux et il nous faut préparer
nous préparer à les
soigner. Alors écoutez il me reste
très peu de temps avant la ponctuation
de cette émission
pour conclure, c'est pas une conclusion
mais c'est, je voudrais avoir
votre point de vue mais très bref
parce qu'on a vraiment très peu
de temps. Qu'est-ce que vous
proposez comme mesure
pour
freiner si on peut
dire ces progrès
s'ils s'avèrent intempestifs
est-ce que c'est un moratoire
est-ce que c'est
obliger les enfants à lire et écrire
est-ce qu'il faut limiter les écrans
on a vraiment très peu de temps je sais
que c'est une question importante mais
à votre avis Catherine
Pénachaud. Alors moi je pense qu'il faut
faire de la vigilance, ça oui
parce qu'une chose qu'on a parlé beaucoup
c'est l'homme unique
mais l'homme est en société
je veux dire
face à une IA s'il fait
toute sa vie face à une IA qu'est-ce que ça va donner
qu'est-ce que va donner notre société
donc à un moment donné il faut absolument
surtout pour ces
jeunes qui vont grandir
avec ces outils
cette nouvelle IA
regarder qu'est-ce qui va se passer
donc faire des points de vigilance très très serrés
je pense pas qu'on puisse freiner
surtout avec les enjeux économiques
qui sont tellement forts
pour cela. Merci
Laura Alexandre qu'est-ce que vous proposez
c'est que c'est
on a peu de temps
alors moi je ne propose pas de freiner
parce que si nous freinons
le développement de l'intelligence artificielle en France
nous transformerons
la France
en un nouveau Zimbabwe en 2080
nous serions complètement
largués sur le plan géopolitique
économique et nous laisserions à nos
enfants un enfer
décroissantiste dans lequel
ils seraient fort malheureux
face aux puissances géopolitiques
qui n'auraient pas bloqué l'intelligence artificielle
donc par pitié
pour l'avenir de nos enfants et de nos petits-enfants
ne bloquez pas l'intelligence artificielle
ce serait dramatique et je le répète
ce serait la voie directe
vers la transformation de la France
en le Zimbabwe du futur
Oui Patrick
Guillaumard
On pourrait parler du Zimbabwe
il y a plein de questions qui se posent
je pense en effet qu'il ne faut pas freiner
de toute façon parce que ça ne sert à rien
on est dépassé
c'est le principe même de l'intelligence artificielle
ça nous confronte à quelque chose qui nous dépasse
donc acceptons
que ça nous dépasse
il y a deux points qui me semblent intéressants
dans votre livre Raphaël Gaillard
vous incitez beaucoup sur la façon
dont l'intelligence artificielle
rend le cerveau
plus complexe qu'avant
les connaissances complexifient
les choses et atomisent le cerveau
c'est-à-dire là où vous pensez
que le cerveau était un tout et une faculté
il y a une atomisation
donc là peut-être que du côté de la connaissance du cerveau
il y a beaucoup de choses
maintenant il y a un mot
une question qui manque
à notre conversation
notre échange passionnant
qui est quand même une des questions majeures et plus humaines
qui est la question de la vérité et du mensonge
le mensonge n'est pas l'erreur
et un enfant
quand il s'hybride en écoutant
ses parents, en apprenant une langue
le Zimbabwe ou une autre, il se demande toujours
mais qui dit la vérité, qu'est-ce que la vérité
qu'est-ce que c'est que le mensonge
donc comment la question de l'intelligence artificielle
traite-t-elle ce sujet
et il ne faudrait pas que l'intelligence
artificielle apparaisse comme une réponse
globale au moment où
toutes ces questions sont en train de se diversifier
de se détotaliser
de se fractionner et de nous inciter
à plus de réflexions
Merci, Jean-Michel Beignet
on a très peu de temps, excusez-moi
la police du temps m'oblige
à vous limiter
Je préconiserais volontiers
comme antidote à cette espèce
de fatalisme qui s'installe
puisque j'entends tout autour de moi
qu'on ne peut plus
on ne peut plus rien faire
il ne faut surtout pas freiner, il faut avancer
etc. Je préconiserais volontiers
le recours à la littérature
à la littérature qui
là-bas on mettrait tout le monde
d'accord là-dessus
Raphaël Gaillard a un mot
on a vraiment peu de temps
évidemment je souscris tout à fait
si ce n'est que je ne préconiserais pas
je pense qu'il faut prescrire de façon
beaucoup plus autoritaire
la question c'est
celle de prendre des décisions
qui soient beaucoup plus autoritaires, la Chine a pris des décisions
très autoritaires pendant l'été
2023, alors on dit que c'est
une dictature, c'en est probablement une
que c'est pour des raisons
liées aux opinions, l'évolution des opinions
eux disent que c'est pour des raisons de santé publique
peut-être que c'est une vraie question de santé publique
Merci, écoutez
j'ai une brève bibliographie à vous présenter
alors Raphaël Gaillard
vous avez publié
L'Homme Augmenté
personnes en apparence peuvent considérer
que vous êtes pour une
neurobiologie
expansive mais ce n'est pas le cas
je crois que vous montrez que
l'hybridation première reste aussi
la question de la civilisation
et de la culture, c'est bien ça
Laurent Alexandre
Tchad GPT
va nous rendre immortel chez Jean-Claude
Lattès, immortel c'est bien
pour Raphaël Gaillard qui est à l'académie française
mais au-delà de cette
symbolique, est-ce que vous croyez vraiment
qu'on a intérêt à devenir immortel ?
Je ne sais pas si on a intérêt à être
immortel mais une partie importante de la
Silicon Valley y croit et l'une des raisons
pour lesquelles la Silicon Valley dépense
des milliards pour
développer des super intelligences
artificielles plus intelligentes que nous
c'est pour augmenter très vite l'espérance de vie
vous avez probablement vu
que le prix Nobel de chimie
qui est le patron de l'intelligence artificielle
chez Google à
Demis Hassabis a dit qu'il était
convaincu que l'intelligence artificielle allait
guérir l'ensemble des maladies humaines
toutes les maladies humaines d'ici
2035 et
Dario Amodei qui est le
patron d'Entropique, la principale
intelligence artificielle concurrente de Tchad GPT
a déclaré le mois dernier
qu'il a la certitude que l'espérance
de vie humaine dépassera dans
11 ans en 2035
150 ans déjà
on va voir, dans 10 ans c'est bientôt
alors Patrick Guyomart
vous avez publié un ouvrage collectif
sur la perversion encore
est-ce que vous croyez que cette notion
de perversion a quelque chose à voir
avec cette révolution
numérique ? La perversion elle est
à la fois créative, beaucoup d'artistes
sont un peu des pervers
et en même temps ont une perversité
en eux et en même temps
la perversion il y a une négativité
c'est-à-dire c'est la question du mal
de la destruction, de la prise de pouvoir
et de l'usage de quelque chose
à contre-courant ou à contre-sens
c'est ce que vous dites un peu
des drogues, le bien et le mal par rapport
à ça sont complètement confondus
et donc il y a des frontières
difficiles à tracer
mais l'humain c'est aussi faire la différence
entre le bien et le mal, entre le vivant
et le mort et entre le
malade et le saint. Catherine Pelasso
vous avez publié
des systèmes d'interactions
émotionnelles, vous voulez dire que
l'émotion est toujours là ?
Oui, c'est
prendre en compte les émotions, les émotions
dans les interactions sont fondamentales
donc si on fait des interactions avec des
machines, il faut le prendre en compte
c'est-à-dire essayer de
c'est toujours un problème de les simuler
on parle bien de simulation
des émotions chez les machines et puis après voir
comment les humains
attribuent après
des émotions, des intentions
aux machines, on parle bien d'attribution
Merci, Jean-Michel
Beignet vous avez publié demain
les post-humains chez Hachette
c'est justement pour résister à cette
post-modernité, cette post-vérité
C'est en tout cas
essayer de la mettre en perspective
par rapport aux valeurs
qui étaient celles de l'Occident
donc c'est
tester le potentiel
de préservation
de l'humanisme
derrière les innovations
Merci Madame
Merci Monsieur d'avoir participé
à cette émission, je voudrais remercier
notre équipe LCP
qui permet la réalisation de cette émission
et je vous dis à bientôt
Merci