Matthieu Guillermin, docteur en physique et en philosophie à l’Université catholique de Lyon (UCLy)

KTOTV
37 abonnés
10 Vues de vidéo·8 janv. 2025
l'invité de la
matinale kateo radio comment faire du
développement humain intégral une
priorité en matière d'intelligence
artificielle c'est un thème cher au pape
François et qu'un réseau de chercheurs
issus d' université catholique française
mais aussi américaine italienne kényane
ou encore singapourienne a décidé de se
saisir notre invité coordonne ce projet
baptisé new humanism in the time of
Neuroscience and art artificial
intelligence Matthieu guermain bonjour
bonjour merci beaucoup d'être avec nous
vous êtes docteur en physique et
philosophie maître de conférence à
l'Université Catholique de Lyon donc ce
titre en français c'est être humain
autant des neuroscience et de
l'intelligence artificielle le projet a
été lancé en 2023 et vient de publier
ses premiers résultats Mathieu guman en
quelques mots dans quelle démarche
s'inscrit ce projet quelle est l'idée de
base
oui non merci beaucoup pour l'invitation
euh alors le l'idée du projet c'est de
comment dire Bridger un petit peu le le
le le le le faire le lien entre les
milieux universitaires académiques où il
y a des experts de beaucoup de
disciplines sur ces questions
importantes euh mais qui reste parfois
théorique à propos de comment on est
transformé par les technologies
qu'est-ce que lia nous fait qu'est-ce
que l'intelligence humaine qu'est-ce que
l'intelligence artificielle des choses
comme ça euh avec les vrais sujets de
société et avec le l'humilité aussi de
se dire que euh il y a des grands
problèmes de société autour de
l'intelligence artificielle je pense que
tout le monde est un petit peu
sensibilisé maintenant et que ces
questions et ben elles vont poser
justement le le problème de qui on veut
être qui on est en tant qu'humain euh
aujourd'hui et demain avec nos
technologies et en particulier avec
l'intelligence artificielle et euh et
que ces questions-là nous on pense que
on doit aider à ce que on puisse en
parler comme il faut en société par euh
notamment en mettant sur la table les
connaissances qu'on peut avoir
disciplinaires mais qu'on peut pas y
répondre nous-même c'est pas les experts
qui peuvent répondre à ces questionslà
ce qu'il faut faire en tout cas c'est la
conviction du projet c'est aider tout le
monde nous compris d'ailleurs à avoir
une discussion citoyenne sur sur ces
sujets-là pour pouvoir après mieux
s'orienter au niveau éthique et donc le
but c'est de mettre à disposition donc
dans 9 pays participant 13 partenaires
principalement des universités
catholiques euh les ressources de
université pour d'une part apporter des
connaissances au débat mais aussi pour
organiser des des des des discussions
dans les différents pays et aider à
après les synthétiser les mettre à
disposition en tout cas les mettre à
disposition les résultats et et ce genre
de chos-là donc voilà c'est vraiment
mettre au service de la réflexion
collective les ressources des des
universités et comment vous faites pour
inviter les citoyens à s'emparer de de
ces sujets de ces débats alors ça c'est
tout un c'est tout un sujet qu' qu'on
pourrait d'ailleurs croiser avec les
problèmes de d'algorithme de
recommandation de choses comme ça et de
comment on on dispose de notre temps
d'attention euh disponible chacun dans
nos vie tous les jours donc c'est quand
même une une un enjeu fort et et c'est
pas facile et on n'est pas des
professionnel mais de la communication
en tout cas mais bon on a essayé de
commencer par définir avec des
partenaires locaux chaque université
partenaire dans le pays concerné à défin
avec les partenaires locaux des des des
sujets des des sujets d'importance des
où les gens avaient envie éventuellement
de discuter avec des relais et après de
travailler avec ces communautés là à
faire des débats en présentiel des des
événements en présentiel des discussions
en présentiel et avant on a collecté ce
qui s'est dit en présentiel et on a pour
chaque pays ouvert des espaces de débats
en ligne on a invité les gens à venir
poursuivre la discussion en ligne après
ce qui nous a permis ensuite de de de
faire des synthèses et de produire des
premiers résultats de discussion euh
alors c'est intéressant parce qu'on a
quand même eu grosso modo 2000
participants à date euh tout autour du
monde qui sont venus contribuer à nos
débats il y avait dans ces participantsl
aussi des représentants de 70
associations ou organisations en lien
avec les personnes plus exclues ou
vulnérables donc ça peut être des
personnes handicapées des patients euh
en médecine ou ou d'autres d'autres
choses comme cela et et puis on a
collecté globalement 3400 alors ça
cétait en novembre les chiffres dates de
novembre 3400 contributions euh en ligne
soit restituer des des des des débats en
présentiel soit produite par les gens
qui ont poursuivi la discussion euh en
ligne et alors une particularité quand
même de ce qu'on essaie de faire c'est
que plutôt que de dire voilà tout ce qui
s'est dit comme ça euh on a essayé
d'aller chercher tout ce qui faisait
sens pour nous en étant vraiment le plus
généreux possible le plus charitable
possible et de retranscrire à travers
une un regard de dire est-ce qu'il y a
parmi toutes ces idées qui font sens
qu'on entend donc chacun a fait le
travail les partenaires ont fait le
travail dans les pays puis on a fait des
synthèses globales de ça et dans tout ça
toutes les idées qui peuvent s'entendre
est-ce qu'il y en aurait que pas qui
serait en tension et on a essayé d'aller
chercher pour informer un petit peu la
réflexion collective les points de
tension ou de complexité où il y a des
idées qui semblent entrer en conflit
sans que il y a l'air de devoir dire
tout de suite il y en a une qui est
fausse et une et c'est celle-là la bonne
mais de déjà reconnaître euh de manière
un petit peu partagée et de s'enrichir
et d'aider à ce que tout le monde
s'enrichisse mutuellement avec euh voilà
des idées de tiens là les gens ont dit
ça et aussi ça et ça tient la route et
il y a un problème et il faut le le
regarder en face et quels sont les les
premiers résultats qui émanent de ces
contributions justement Matthieu
guillerma est-ce que vous avez des des
exemples concrets à nous donner oui
alors on pourrait euh il y en a beaucoup
et je j'invite les les les auditeurs et
les auditrices à éventuellement à les
consulter pour pour pour voir plus loin
le le site web on peut peut-être le dire
c'est NH
naai.org/fr pour la version française
mais peut-être ça sera retrouvable sur
votre site euh mais euh donc on a
travaillé sur de manière transversale
sur le thème l'humain et lia euh mais
aussi de manière un peu ciblée dans des
champs d'application qui étaient
l'éducation la santé et la démocratie et
euh et bien par exemple dans le dans les
idées qui sont ressorties pour la
démocratie euh très rapidement il y a eu
et ça c'est les les partenaires Kenan
qui les discussions au Kenya qui ont
fait remonter des idées intéressantes de
euh c'est super lia ça va nous aider à
nous développer ça va répondre à plein
problème qu'on a pour avoir des
meilleurs drones ou des des choses pour
aider les personnes qui sont un peu plus
vulnérables ou handicapé mais en même
temps on n'a pas de gros développement
technologique nous-même et on risque de
perdre la souveraineté sur nos notre
développement technologique et de de
d'avoir de la dépendance technologique à
des acteurs internationaux et donc de
moins bénéficier finalement de de l'IA
et et donc ça c'est vraiment un exemple
intéressant qui est c'est pas seulement
au Kenya que c'est vrai ça c'est vrai
très fortement au Kenya mais ça peut
enrichir la réflexion des autres pays
parce que en Europe on en parle aussi de
prendre du retard et de et de devenir un
peu une une une une dépendance de des
États-Unis ou de la Chine donc donc
voilà par exemple un sujet et autre
point sur lequel j'aimerais bien qu'on
qu'on s'arrête maintenant Mathieu
guiremain des aspects qui a qui a émergé
et sur lequel on a échangé en préparant
l'interview la relation les liens
l'affection que les humains commence à
tisser avec les machines c'est quelque
chose qui ressort dans dans plusieurs
pays c'est une réalité également
aujourd'hui avec ce que l'on appelle des
compagnons virtuels vous pouvez nous
nous expliquer ce que c'est
ou oui alors ben alors factuellement il
y a des technologies maintenant avec
c'est principalement les les grands
modèles de langage comme GPT ou d'autres
qui ont rendu ça possible et très
efficace on a des propositions de
d'automate qui vont nous tenir la
conversation et ça va pas être pour nous
informer spécialement ça va plutôt être
pour jouer le rôle d'un compagnon ou
d'un ami ou d'un conseil éventu ement
même si les les entreprises qui vendent
ça ou qui proposent ça sont très
prudentes hein mais mais donc on va
avoir voilà la petite amie virtuelle ou
le copain virtuel des choses comme ça
qui est là pour nous tenir compagnie et
et donc c'est des choses effectivement
de manière général on va dire ce ce type
de de possibilité de la machine de de
donner le change quelque part dans la
relation a été beaucoup évoqué dans les
discussions notamment beaucoup au
Portugal et en France mais mais pas que
et et il y a l'idée que bah voilà les
gens pointent ils le voivent se faire
que on va on risque d'avoir tendance à
se relayer de plus en plus
euh profondément affectivement avec les
les les machines parce qu'elle donnent
le change et et ça c'est un petit peu un
fait quoi c'est difficile de de de de de
voilà de rester neutre par rapport à en
plus on a pris l'habitude d'interagir à
travers nos écrans avec la covid donc
donc c'est renforcé donc ça a été
discuté ça tout en et c'est justement là
où on a vu un point de tension
intéressant les gens discuteent ça
disent ok il y a cette proposition cette
tentation peut-être mais en même temps
on a la conscience que ça reste des
machines et que voilà on a pu discuter
un petit peu du sujet des droits mais
les gens ont dit bah oui bien sûr les
droits de la machine h le jour dans 100
ans où on a quelque chose de
complètement nouveau une nouvelle espèce
pourquoi pas peut-être mais pour
l'instant c'est un sujet qui qui est pas
sérieux les machines sont des machines
il faut pas oblitérer la spécificité de
l'humain donc ça ça a vraiment été dit
euh et et les machines ne doivent pas
avoir de droit il faut bien garder la
spécificité de l'humain et il faut pas
que la machine se spécificity se pardon
se se substitue à la relation humaine et
donc vous voyez un petit peu ce ce cette
tension exprimée entre les machines sont
convaincantes on va avoir envie de se
relier à elles affectivement y compris
effectivement et en même temps la
conscience forte que la relation humaine
c'est quelque chose de spécifique la
relation vivant c'est quelque chose de
spécifique et que il faut le préserver
et est-ce que néanmoins ces ces
compagnons virtuels peuvent à influencer
les les relations que peuvent avoir les
les humains même entre eux est-ce qu'il
peut y avoir une forme de danger à à
forcuie avec ces nouvelles relation
virtuelles alors oui dire ce ne sont pas
des machines il faut pas se relier avec
elles effectivement ça peut être un
problème parce qu'on est quand même
devant une réalité où on a une machine
qui certes n'est qu'une machine mais a
toutes les apparences de l'humain au
moins dans la conversation peut vraiment
enfin vous parleriez à un vrai humain
vous auriez la même conversation et donc
simplement dire je sais que c'est une
machine je la traite comme telle c'est
potentiellement dangereux alors à
différents titres mais déjà il y a le
côté euh avoir une proposition un objet
technologique qui couple à la fois le
côté je suis un objet à ton service
potentiellement tu m'as même acheté tu
m'as payé donc tu attends de moi que je
je sois à ton service comme un objet et
en même temps ça c'est attirant parce
que ça ressemble à l'humain et donc là
on apprend à à à tenir ensemble et à
avoir l'habitude d'avoir à la fois le
côté tu es un objet et et tu es à mon
service intégral comme un objet et je te
jette à la limite si si tu fonctionnes
pas ou si tu me satisfais pas et le côté
humain mais avec tout le côté humain pas
dérangeant donc en fait on a un petit
peu mutilé ce que ça veut dire humain
sans le rendre compte on a le côté c'est
sympa ça ressemble à un humain et en
même temps ça risque pas de me
contredire ça risque pas de de
m'abandonner ça risque pas de faire tout
ce que j'ai peur que qu'un humain fasse
mais en même temps là dans dans dans
tout ce que j'ai peur qu'un humain fasse
c'est aussi ce qui fait la profondeur et
le et la réalité l'authenti de la
relation humaine et donc quelque part on
a enlevé l'authenticité de la relation
humaine même si parfois elle est
effrayante même si parfois elle est
redoutable et elle peut être
destructrice aussi hein pour pour pour
la personne et on a rajouté à la place
un
côté objet et et c'est cool c'est un une
sorte d'humain qui qui est mon esclave
finalement et donc en plus de de
potentiellement abîmé et et contribuer à
continuer à à l'érosion des relations
humaines parce que c'est c'est déjà déjà
làin et c'est déjà un sujet il y a il y
a ce risque de de contribuer à ça et de
renforcer cette érosion des relations
entre nous de faire perdre un peu le
sens de ce qu'est la relation humaine
mais en plus on a même le risque de
finalement se réhabituer à ce que des
humains esclaves ou des choses qui
ressemble à l'humain et qui sont nos
esclaves c'est normal et donc après
pourquoi pas étendre un petit peu le
réflexe à à d'autres à de vrais êtres
humains quoi vous voyez donc c'est voilà
c'est important de parler de tout ça
nous on n pas la la vocation à dire
voilà ce qu'il faut faire mais on a la
vocation à faire parler de ces sujets-là
et à aider à ce que tout le monde en
parle et puisse un petit peu se
sensibiliser à ces sujets-l et en
quelques mots pour conclure Mathieu
guermain qu'espérez-vous
qu'attendez-vous de de ce projet de ces
résultats une fois aboutis h bah nous
alors une fois abouti je dirais c'est
amorcer une dynamique et une culture de
de de de de la de la réflexion éthique
et de l'effort éthique de chez tout le
monde pour compléter un petit peu il y a
beaucoup d'efforts qui se font en on va
dire en en en descendant par les gens
qui ont le pouvoir les les gens qui ont
le pouvoir de décision les politiques
les grandes entreprises elles font un
travail éthique quand même euh et après
ça fait des normes et ça descend nous
notre conviction c'est qu'il faut que ce
mouvement il rejoigne un mouvement qui
parte un petit peu de nous de tout un
chacun tout un chacune et chacun qui
participe à un peu avoir des exigences à
être un peu au courant et à réfléchir et
à donner un cap et donc voilà nous notre
notre idée c'est d'essayer de contribuer
à à l'émergence ou à la ou à renforcer
le la réflexion un petit peu horizontale
qui serait un peu plus ascendante comme
ça pour rejoindre le la régulation top
bottom on va dire et Top Down
descendante en bon français et donc
voilà nous on essaie de contribuer à ça
et de créer un réseau d'acteurs
universitairees pour voilà encore une
fois on pense que l'université en
particulier catholique elle doit mettre
son ses ressources
à pour faire aider à ce que cet effort
se crrée et se renforce et soit efficace
merci Mathieu guirmain je rappelle le du
site sur lequel les les auditeurs s'ils
sont intéressés peuvent participer en
tout cas enrichir ces débats
www.nhnai.org/fr merci d'avoir été avec
nous ce matin Mathieu guermain je
rappelle que vous êtes docteur en
physique et philosophie maître de
conférence à l'Université Catholique de
Lyon et donc coordinateur de ce projet
être humain au temp des neurosciences et
de l'intelligence artificielle encore
merci et et bonne année à vous merci
bonne année
[Musique]
