La bataille
pour votre cerveau, avec Nita A. Farahany
Initiative sur l’intelligence
artificielle et l’égalité, 14/3/2023
72 minutes d’écoute
Invitée : Nita A. Farahany, Université Duke
Hébergé par Wendell Wallach
Ancien
titulaire de la bourse Carnegie-Uehiro, Initiative pour l’intelligence
artificielle et l’égalité (AIEI) ; Centre interdisciplinaire de bioéthique de
Yale
À propos de
la série
L’IA peut-elle être déployée de manière à renforcer l’égalité ou les systèmes d’IA vont-ils exacerber les inégalités structurelles existantes et créer de nouvelles inégalités ? Le podcast “Intelligence artificielle et égalité” cherche à comprendre les innombrables façons dont l’IA affecte l’égalité et les affaires internationales.
Traduit par Fausto Giudice, Tlaxcala
Le moment est venu d’étendre les droits humains aux droits cognitifs, propose Nita A. Farahany, professeur à la Duke Law School, dans son livre qui vient d’être publié, The Battle for Your Brain : Defending the Right to Think Clearly in the Age of Neurotechnologies (La bataille pour votre cerveau : défendre le droit de penser clairement à l’ère des neurotechnologies) . Elle y présente la vaste gamme d’appareils déjà déployés qui permettent d’échantillonner diverses formes d’activité cérébrale. Dans son livre et dans ce podcast d’une grande portée sur l’intelligence artificielle et l’égalité avec Wendell Wallach, membre de Carnegie-Uehiro, Mme Farahany explique comment les informations cognitives, même limitées, collectées par les neurotechnologies peuvent être combinées à d’autres données pour améliorer la compréhension de soi ou manipuler les attitudes ou l’état d’esprit.
WENDELL WALLACH : Bienvenue. Je suis Wendell Wallach, codirecteur de l’initiative sur l’IA et l’égalité (AIEI) au Carnegie Council pour l’éthique dans les affaires internationales. Ce podcast est le deuxième de notre série sur la neuroéthique. Le premier était avec le Dr Joseph Fins, avec qui nous avons discuté de ses recherches sur l’utilisation des neurotechnologies pour communiquer avec des patients peu conscients. Joe a qualifié la neuroéthique d’“éthique de la technologie”, et je pense que cela deviendra encore plus clair aujourd’hui lorsque nous parlerons de l’étendue des neurotechnologies déjà déployées avec ma collègue et amie Nita Farahany. Nous sommes particulièrement ravis de l’accueillir aujourd’hui, date de publication de son merveilleux nouveau livre The Battle for Your Brain :Defending the Right to Think Freely in the Age of Neurotechnology (La bataille pour votre cerveau : défendre le droit de penser librement à l’ère de la neurotechnologie).
Avant d’entrer dans le vif du sujet, permettez-moi de vous parler un peu de Nita. Elle est une éminente spécialiste des implications éthiques, juridiques et sociales des biosciences et des technologies émergentes, en particulier celles liées aux neurosciences et à la génétique comportementale. Nita est professeure de droit et de philosophie à la Duke School of Law et directrice fondatrice de Duke University Science & Society. En 2010, Nita a été nommée par le président Obama à la Commission présidentielle pour l’étude des questions de bioéthique, où elle a siégé jusqu’en 2017. Nita fait également partie du réseau d’experts du Forum économique mondial. Nous nous sommes d’ailleurs rencontrés pour la première fois lors d’un événement du Forum économique mondial à Tianjin, en Chine.
Félicitations, Nita, pour la publication de The Battle for Your Brain.
NITA FARAHANY : Merci, Wendell. Je suis ravie d’être avec vous aujourd’hui. Je ne peux imaginer personne avec qui j’aurais plus de plaisir à avoir une conversation à ce sujet ou à le célébrer que vous, compte tenu de notre longue histoire commune.
WENDELL WALLACH : Merci.
Pour commencer, parlons un peu de la manipulation de notre cerveau et de notre comportement à l’aide des neurotechnologies, car je pense que c’est quelque chose qui apparaît immédiatement à beaucoup de nos auditeurs lorsqu’ils entendent parler de technologies conçues pour entrer en contact avec ce qui se passe dans nos vies intérieures. DIites-nous où l’on en est exactement dans la manipulation du cerveau, de ce que vous jugez acceptable et de ce qui vous paraît vraiment excessif.
NITA FARAHANY : C’est un bon, un très bon point de départ, Wendell.
Il existe toutes sortes d’algorithmes prédictifs qui peuvent déjà dire avec une précision étonnante ce que nous pensons ou ressentons de manière générale. Si vous pensez à une plateforme comme TikTok et aux algorithmes qui l’alimentent, une partie de la raison pour laquelle des gouvernements comme celui des USA sont si inquiets est que juste après qu’une personne a passé quelques minutes ou quelques heures sur une plateforme comme celle-ci, l’algorithme est de mieux en mieux capable de dire quelles sont les préférences, les désirs et les préjugés d’une personne, de les segmenter, de les segmenter et commencer à leur donner beaucoup plus de ce que leurs préférences révèlent, ce qui peut subtilement manipuler et changer le comportement des gens en façonnant leurs opinions et en leur faisant penser que ce qui les intéresse, ce qui les préoccupe, il y en a beaucoup dans le monde. Cela devient leur monde entier à mesure que l’algorithme façonne plus précisément ce avec quoi ils interagissent.
Si vous réfléchissez à la manière dont le reste de la technologie avec laquelle nous interagissons est conçu pour pirater les raccourcis de notre cerveau, qu’il s’agisse de l’utilisation de fonctions AutoPlay qui vous maintiennent à l’écran et vous font regarder la prochaine émission ou d’un bouton “J’aime” qui joue sur votre besoin de réciprocité sociale comme une envie, un raccourci dans votre cerveau qui vous fait revenir encore et encore, ou de notifications qui sont regroupées de manière précise pour vous rendre dépendant des plateformes, nos cerveaux sont manipulés en permanence. C ‘est pourquoi, lorsque j’ai écrit La bataille pour votre cerveau, je n’ai pas abordé les neurotechnologies de manière isolée. J’ai parlé des neurotechnologies intégrées dans un environnement plus large, ainsi que des technologies qui utilisent les connaissances avancées du cerveau grâce aux progrès des neurotechnologies et des neurosciences pour pouvoir manipuler le cerveau avec plus de précision.
Lorsque je pense à la manipulation et à ce qu’elle implique, la ligne n’est pas facile à tracer. Nous essayons de nous persuader les uns les autres tout le temps - j’essaie de vous persuader, vous et vos auditeurs, aujourd’hui - de l’importance de la bataille pour notre cerveau, mais quand franchissons-nous la ligne entre persuader d’autres personnes pour essayer de les rallier à votre perspective ou à votre point de vue et partager des connaissances avec elles ou les inspirer dans votre appel à l’action et faire quelque chose qui franchit la ligne de ce que nous appellerions une manipulation inadmissible, contraire à l’éthique ?
Dans The Battle for Your Brain, j’ai proposé une ligne de démarcation différente de celle proposée par d’autres, en passant en revue les catégories du neuromarketing - le marketing de notre cerveau fondé sur une meilleure compréhension, les technologies de dépendance, la désinformation et l’utilisation des heuristiques et des raccourcis de notre cerveau - et en examinant une nouvelle stratégie de marketing surprenante appelée “incubation de rêves”.
WENDELL WALLACH : L’incubation de rêves : dites-nous de quoi il s’agit.
NITA FARAHANY : Pour être tout à fait honnête, l’incubation de rêves m’a donné la chair de poule lorsque j’ai lu pour la première fois ce qu’il en était, Wendell. Il s’agit d’une technique de marketing dans le cadre de laquelle des chercheurs ont essayé de comprendre, en collaboration avec des spécialistes du marketing, s’il était possible d’utiliser l’état suggestif de l’esprit juste au réveil - lorsque tout le flux sanguin n’a pas été rétabli dans le cortex préfrontal et distribué dans l’ensemble du cerveau, un moment où le cerveau est le plus suggestible - pour essayer d’implanter essentiellement des préférences, des désirs ou même des associations.
Le brasseur Coors était régulièrement exclu du spectacle de la mi-temps du Super Bowl de la Ligue nationale de football et voulait savoir s’il existait une autre tactique ou technique de marketing qu’ils pourraient mettre au point. Ils ont donc décidé de contacter une chercheuse qui avait étudié l’incubation des rêves.
Elle a découvert qu’il existe un état d’esprit suggestible pendant la période qui suit le réveil, avant que la circulation sanguine ne soit rétablie dans toutes les parties du cerveau, et que pendant cette fenêtre suggestible, si vous diffusez des éléments tels qu’un paysage sonore ou des images visuelles, par exemple, vous pouvez potentiellement amener une personne à se rendormir en pensant à n’importe quel élément auquel vous l’avez amenée à penser.
Si vous l’amorcez à penser, par exemple, aux montagnes et à l’eau lorsqu’il s’agit de Coors, comme si c’était rafraîchissant, et à faire cette association positive lorsqu’il s’endort et rêve de cela, alors au réveil suivant, lorsque la personne est dans cet état d’esprit, lorsque vous pouvez encore vous en souvenir, ils lui demandent de quoi elle a rêvé et, bien sûr, sur la base des rapports personnels, elle rêve de montagnes, d’eau et de cette association rafraichissante avec Coors. Cette idée, selon laquelle on peut utiliser le temps où une personne est inconsciente, où elle est endormie, pour lui faire du marketing, me fait froid dans le dos.
WENDELL WALLACH : Une société de neuromarketing, Coors ou quelqu’un d’autre pourrait-elle savoir à votre insu que vous êtes dans cet état de vulnérabilité ?
NITA FARAHANY : Potentiellement. Je dois commencer par dire que l’espoir de ce type de recherche est que les gens puissent utiliser la suggestibilité de l’état de sommeil pour faire des choses comme travailler sur le syndrome de stress post-traumatique (SSPT) et surmonter les souvenirs traumatiques, qu’il puisse y avoir des applications thérapeutiques et précieuses pour cela. Je ne suis pas troublée par le fait que quelqu’un consente à l’utilisation de l’incubation des rêves à des fins thérapeutiques ou à n’importe quelle autre fin. Ce qui me préoccupe, c’est exactement ce que vous avez demandé, à savoir la possibilité d’une utilisation qui ne serait pas pleinement consentie.
Par exemple, les gens portent des biocapteurs pour dormir qui suivent leur activité de sommeil, qu’il s’agisse d’une montre ou d’un masque de sommeil avec des capteurs intégrés ou d’un Fitbit qui capte leur activité de sommeil. Ces capteurs peuvent détecter le moment où vous avez ces bousculades, ces mouvements où vous êtes suffisamment éveillé pour être dans un état d’esprit suggestible. Avec l’utilisation croissante de biocapteurs pour détecter l’activité cérébrale, ce type d’analyse pourrait devenir encore plus précis.
Étant donné l’omniprésence des téléphones portables dans les chambres à coucher et sur les tables de chevet, ou d’autres appareils intelligents à domicile tels que Google Home ou Amazon Echo, qui peuvent jouer de la musique, on pourrait imaginer un monde dans lequel il y aurait une intégration entre ces appareils. Votre Apple Watch détecte que vous vous réveillez et commence à jouer un paysage sonore pour l’incubation des rêves.
Encore une fois, pour des raisons thérapeutiques, cela pourrait être parfait. Mais si cela était fait sans consentement à des fins de marketing, de micromarketing ou même pour essayer de façonner les opinions, les préférences politiques ou l’idéologie d’une personne, les possibilités d’utiliser un état d’esprit suggestible pour cibler le cerveau pourraient être profondément problématiques.
WENDELL WALLACH : Qu’en est-il des applications plus répandues, comme le neuromarketing en général ? Y a-t-il d’autres domaines que l’incubation des rêves où vous souhaiteriez obtenir un consentement éclairé ?
