La bataille
pour votre cerveau, avec Nita A. Farahany
Initiative sur l’intelligence
artificielle et l’égalité, 14/3/2023
72 minutes d’écoute
Invitée : Nita A. Farahany, Université Duke
Hébergé par Wendell Wallach
Ancien
titulaire de la bourse Carnegie-Uehiro, Initiative pour l’intelligence
artificielle et l’égalité (AIEI) ; Centre interdisciplinaire de bioéthique de
Yale
À propos de
la série
L’IA peut-elle
être déployée de manière à renforcer l’égalité ou les systèmes d’IA vont-ils
exacerber les inégalités structurelles existantes et créer de nouvelles
inégalités ? Le podcast “Intelligence artificielle et égalité” cherche à
comprendre les innombrables façons dont l’IA affecte l’égalité et les affaires
internationales.
Traduit par Fausto
Giudice, Tlaxcala
WENDELL
WALLACH : Bienvenue.
Je suis Wendell Wallach, codirecteur de l’initiative sur l’IA et l’égalité
(AIEI) au Carnegie Council pour l’éthique dans les affaires internationales. Ce
podcast est le deuxième de notre série sur la neuroéthique. Le premier
était avec le Dr Joseph
Fins, avec qui nous avons discuté de ses recherches sur l’utilisation des
neurotechnologies pour communiquer avec des patients peu conscients. Joe a
qualifié la neuroéthique d’“éthique de la technologie”, et je pense que cela
deviendra encore plus clair aujourd’hui lorsque nous parlerons de l’étendue des
neurotechnologies déjà déployées avec ma collègue et amie Nita Farahany. Nous
sommes particulièrement ravis de l’accueillir aujourd’hui, date de publication
de son merveilleux nouveau livre The
Battle for Your Brain :Defending the Right to Think Freely in the Age of
Neurotechnology (La bataille pour votre cerveau : défendre le droit de penser
librement à l’ère de la neurotechnologie).
Avant d’entrer
dans le vif du sujet, permettez-moi de vous parler un peu de Nita. Elle est une
éminente spécialiste des implications éthiques, juridiques et sociales des
biosciences et des technologies émergentes, en particulier celles liées aux
neurosciences et à la génétique comportementale. Nita est professeure de droit
et de philosophie à la Duke School of Law
et directrice fondatrice de Duke
University Science & Society. En 2010, Nita a été nommée par le
président Obama à la Commission
présidentielle pour l’étude des questions de bioéthique, où elle a siégé
jusqu’en 2017. Nita fait également partie du réseau d’experts du
Forum économique mondial. Nous nous sommes d’ailleurs rencontrés pour la
première fois lors d’un événement du Forum économique mondial à Tianjin, en
Chine.
Félicitations,
Nita, pour la publication de The Battle for Your Brain.
NITA
FARAHANY : Merci,
Wendell. Je suis ravie d’être avec vous aujourd’hui. Je ne peux imaginer
personne avec qui j’aurais plus de plaisir à avoir une conversation à ce sujet
ou à le célébrer que vous, compte tenu de notre longue histoire commune.
WENDELL
WALLACH : Merci.
Pour
commencer, parlons un peu de la manipulation de notre cerveau et de notre
comportement à l’aide des neurotechnologies, car je pense que c’est quelque
chose qui apparaît immédiatement à beaucoup de nos auditeurs lorsqu’ils
entendent parler de technologies conçues pour entrer en contact avec ce qui se
passe dans nos vies intérieures. DIites-nous où l’on en est exactement dans la
manipulation du cerveau, de ce que vous jugez acceptable et de ce qui vous
paraît vraiment excessif.
NITA
FARAHANY : C’est
un bon, un très bon point de départ, Wendell.
Il existe
toutes sortes d’algorithmes prédictifs qui peuvent déjà dire avec une précision
étonnante ce que nous pensons ou ressentons de manière générale. Si vous pensez
à une plateforme comme TikTok et aux algorithmes qui l’alimentent, une partie
de la raison pour laquelle des gouvernements comme celui des USA sont si
inquiets est que juste après qu’une personne a passé quelques minutes ou
quelques heures sur une plateforme comme celle-ci, l’algorithme est de mieux en
mieux capable de dire quelles sont les préférences, les désirs et les préjugés
d’une personne, de les segmenter, de les segmenter et commencer à leur donner
beaucoup plus de ce que leurs préférences révèlent, ce qui peut subtilement
manipuler et changer le comportement des gens en façonnant leurs opinions et en
leur faisant penser que ce qui les intéresse, ce qui les préoccupe, il y en a
beaucoup dans le monde. Cela devient leur monde entier à mesure que l’algorithme
façonne plus précisément ce avec quoi ils interagissent.
Si vous
réfléchissez à la manière dont le reste de la technologie avec laquelle nous
interagissons est conçu pour pirater les raccourcis de notre cerveau, qu’il s’agisse
de l’utilisation de fonctions AutoPlay qui vous maintiennent à l’écran et vous
font regarder la prochaine émission ou d’un bouton “J’aime” qui joue sur votre
besoin de réciprocité sociale comme une envie, un raccourci dans votre cerveau
qui vous fait revenir encore et encore, ou de notifications qui sont regroupées
de manière précise pour vous rendre dépendant des plateformes, nos cerveaux
sont manipulés en permanence. C ‘est pourquoi, lorsque j’ai écrit La
bataille pour votre cerveau, je n’ai pas abordé les neurotechnologies de
manière isolée. J’ai parlé des neurotechnologies intégrées dans un
environnement plus large, ainsi que des technologies qui utilisent les
connaissances avancées du cerveau grâce aux progrès des neurotechnologies et
des neurosciences pour pouvoir manipuler le cerveau avec plus de précision.
Lorsque je
pense à la manipulation et à ce qu’elle implique, la ligne n’est pas facile à
tracer. Nous essayons de nous persuader les uns les autres tout le temps - j’essaie
de vous persuader, vous et vos auditeurs, aujourd’hui - de l’importance de la
bataille pour notre cerveau, mais quand franchissons-nous la ligne entre
persuader d’autres personnes pour essayer de les rallier à votre perspective ou
à votre point de vue et partager des connaissances avec elles ou les inspirer
dans votre appel à l’action et faire quelque chose qui franchit la ligne de ce
que nous appellerions une manipulation inadmissible, contraire à l’éthique ?
Dans The
Battle for Your Brain, j’ai proposé une ligne de démarcation différente de
celle proposée par d’autres, en passant en revue les catégories du
neuromarketing - le marketing de notre cerveau fondé sur une meilleure
compréhension, les technologies de dépendance, la désinformation et l’utilisation
des heuristiques et des raccourcis de notre cerveau - et en examinant une
nouvelle stratégie de marketing surprenante appelée “incubation de rêves”.
WENDELL
WALLACH : L’incubation
de rêves : dites-nous de quoi il s’agit.
NITA
FARAHANY :
Pour être tout à fait honnête, l’incubation de rêves m’a donné la chair de
poule lorsque j’ai lu pour la première fois ce qu’il en était, Wendell. Il s’agit
d’une technique de marketing dans le cadre de laquelle des chercheurs ont
essayé de comprendre, en collaboration avec des spécialistes du marketing, s’il
était possible d’utiliser l’état suggestif de l’esprit juste au réveil -
lorsque tout le flux sanguin n’a pas été rétabli dans le cortex préfrontal et
distribué dans l’ensemble du cerveau, un moment où le cerveau est le plus
suggestible - pour essayer d’implanter essentiellement des préférences, des
désirs ou même des associations.
Le brasseur Coors était
régulièrement exclu du spectacle de la mi-temps du Super Bowl de la Ligue
nationale de football et voulait savoir s’il existait une autre tactique ou
technique de marketing qu’ils pourraient mettre au point. Ils ont donc décidé
de contacter une chercheuse qui avait étudié l’incubation des rêves.
Elle a
découvert qu’il existe un état d’esprit suggestible pendant la période qui suit
le réveil, avant que la circulation sanguine ne soit rétablie dans toutes les
parties du cerveau, et que pendant cette fenêtre suggestible, si vous diffusez
des éléments tels qu’un paysage sonore ou des images visuelles, par exemple,
vous pouvez potentiellement amener une personne à se rendormir en pensant à n’importe
quel élément auquel vous l’avez amenée à penser.
Si vous l’amorcez
à penser, par exemple, aux montagnes et à l’eau lorsqu’il s’agit de Coors,
comme si c’était rafraîchissant, et à faire cette association positive lorsqu’il
s’endort et rêve de cela, alors au réveil suivant, lorsque la personne est dans
cet état d’esprit, lorsque vous pouvez encore vous en souvenir, ils lui
demandent de quoi elle a rêvé et, bien sûr, sur la base des rapports
personnels, elle rêve de montagnes, d’eau et de cette association
rafraichissante avec Coors. Cette idée, selon laquelle on peut utiliser le
temps où une personne est inconsciente, où elle est endormie, pour lui faire du
marketing, me fait froid dans le dos.
WENDELL
WALLACH :
Une société de neuromarketing, Coors ou quelqu’un d’autre pourrait-elle savoir
à votre insu que vous êtes dans cet état de vulnérabilité ?
NITA
FARAHANY :
Potentiellement. Je dois commencer par dire que l’espoir de ce type de
recherche est que les gens puissent utiliser la suggestibilité de l’état de
sommeil pour faire des choses comme travailler sur le syndrome de stress
post-traumatique (SSPT) et surmonter les souvenirs traumatiques, qu’il puisse y
avoir des applications thérapeutiques et précieuses pour cela. Je ne suis pas
troublée par le fait que quelqu’un consente à l’utilisation de l’incubation des
rêves à des fins thérapeutiques ou à n’importe quelle autre fin. Ce qui me
préoccupe, c’est exactement ce que vous avez demandé, à savoir la possibilité d’une
utilisation qui ne serait pas pleinement consentie.
Par exemple,
les gens portent des biocapteurs pour dormir qui suivent leur activité de
sommeil, qu’il s’agisse d’une montre ou d’un masque de sommeil avec des
capteurs intégrés ou d’un Fitbit
qui capte leur activité de sommeil. Ces capteurs peuvent détecter le moment où
vous avez ces bousculades, ces mouvements où vous êtes suffisamment éveillé
pour être dans un état d’esprit suggestible. Avec l’utilisation croissante de
biocapteurs pour détecter l’activité cérébrale, ce type d’analyse pourrait
devenir encore plus précis.
Étant donné
l’omniprésence des téléphones portables dans les chambres à coucher et sur les
tables de chevet, ou d’autres appareils intelligents à domicile tels que Google
Home ou Amazon Echo, qui peuvent jouer de la musique, on pourrait imaginer un
monde dans lequel il y aurait une intégration entre ces appareils. Votre Apple
Watch détecte que vous vous réveillez et commence à jouer un paysage sonore
pour l’incubation des rêves.
Encore une
fois, pour des raisons thérapeutiques, cela pourrait être parfait. Mais si cela
était fait sans consentement à des fins de marketing, de micromarketing ou même
pour essayer de façonner les opinions, les préférences politiques ou l’idéologie
d’une personne, les possibilités d’utiliser un état d’esprit suggestible pour
cibler le cerveau pourraient être profondément problématiques.
WENDELL
WALLACH :
Qu’en est-il des applications plus répandues, comme le neuromarketing en
général ? Y a-t-il d’autres domaines que l’incubation des rêves où vous
souhaiteriez obtenir un consentement éclairé ?