“Le droit à la vie privée mentale, à l’autodétermination et à la liberté de pensée est en danger”Podcast : conversation avec Nita Farahany, auteure du livre “La bataille pour votre cerveau”

La bataille pour votre cerveau, avec Nita A. Farahany
Initiative sur l’intelligence artificielle et l’égalité, 14/3/2023
72 minutes d’écoute
Invitée : Nita A. Farahany, Université Duke
Hébergé par Wendell Wallach
Ancien titulaire de la bourse Carnegie-Uehiro, Initiative pour l’intelligence artificielle et l’égalité (AIEI) ; Centre interdisciplinaire de bioéthique de Yale

À propos de la série

L’IA peut-elle être déployée de manière à renforcer l’égalité ou les systèmes d’IA vont-ils exacerber les inégalités structurelles existantes et créer de nouvelles inégalités ? Le podcast “Intelligence artificielle et égalité” cherche à comprendre les innombrables façons dont l’IA affecte l’égalité et les affaires internationales.

Traduit par Fausto Giudice, Tlaxcala 

Le moment est venu d’étendre les droits humains aux droits cognitifs, propose Nita A. Farahany, professeur à la Duke Law School, dans son livre qui vient d’être publié, The Battle for Your Brain : Defending the Right to Think Clearly in the Age of Neurotechnologies (La bataille pour votre cerveau : défendre le droit de penser clairement à l’ère des neurotechnologies) . Elle y présente la vaste gamme d’appareils déjà déployés qui permettent d’échantillonner diverses formes d’activité cérébrale. Dans son livre et dans ce podcast d’une grande portée sur l’intelligence artificielle et l’égalité avec Wendell Wallach, membre de Carnegie-Uehiro, Mme Farahany explique comment les informations cognitives, même limitées, collectées par les neurotechnologies peuvent être combinées à d’autres données pour améliorer la compréhension de soi ou manipuler les attitudes ou l’état d’esprit.

 

WENDELL WALLACH : Bienvenue. Je suis Wendell Wallach, codirecteur de l’initiative sur l’IA et l’égalité (AIEI) au Carnegie Council pour l’éthique dans les affaires internationales. Ce podcast est le deuxième de notre série sur la neuroéthique. Le premier était avec le Dr Joseph Fins, avec qui nous avons discuté de ses recherches sur l’utilisation des neurotechnologies pour communiquer avec des patients peu conscients. Joe a qualifié la neuroéthique d’“éthique de la technologie”, et je pense que cela deviendra encore plus clair aujourd’hui lorsque nous parlerons de l’étendue des neurotechnologies déjà déployées avec ma collègue et amie Nita Farahany. Nous sommes particulièrement ravis de l’accueillir aujourd’hui, date de publication de son merveilleux nouveau livre The Battle for Your Brain :Defending the Right to Think Freely in the Age of Neurotechnology (La bataille pour votre cerveau : défendre le droit de penser librement à l’ère de la neurotechnologie).

Avant d’entrer dans le vif du sujet, permettez-moi de vous parler un peu de Nita. Elle est une éminente spécialiste des implications éthiques, juridiques et sociales des biosciences et des technologies émergentes, en particulier celles liées aux neurosciences et à la génétique comportementale. Nita est professeure de droit et de philosophie à la Duke School of Law et directrice fondatrice de Duke University Science & Society. En 2010, Nita a été nommée par le président Obama à la Commission présidentielle pour l’étude des questions de bioéthique, où elle a siégé jusqu’en 2017. Nita fait également partie du réseau d’experts du Forum économique mondial. Nous nous sommes d’ailleurs rencontrés pour la première fois lors d’un événement du Forum économique mondial à Tianjin, en Chine.

Félicitations, Nita, pour la publication de The Battle for Your Brain.

NITA FARAHANY : Merci, Wendell. Je suis ravie d’être avec vous aujourd’hui. Je ne peux imaginer personne avec qui j’aurais plus de plaisir à avoir une conversation à ce sujet ou à le célébrer que vous, compte tenu de notre longue histoire commune.

WENDELL WALLACH : Merci.

Pour commencer, parlons un peu de la manipulation de notre cerveau et de notre comportement à l’aide des neurotechnologies, car je pense que c’est quelque chose qui apparaît immédiatement à beaucoup de nos auditeurs lorsqu’ils entendent parler de technologies conçues pour entrer en contact avec ce qui se passe dans nos vies intérieures. DIites-nous où l’on en est exactement dans la manipulation du cerveau, de ce que vous jugez acceptable et de ce qui vous paraît vraiment excessif.

NITA FARAHANY : C’est un bon, un très bon point de départ, Wendell.

Il existe toutes sortes d’algorithmes prédictifs qui peuvent déjà dire avec une précision étonnante ce que nous pensons ou ressentons de manière générale. Si vous pensez à une plateforme comme TikTok et aux algorithmes qui l’alimentent, une partie de la raison pour laquelle des gouvernements comme celui des USA sont si inquiets est que juste après qu’une personne a passé quelques minutes ou quelques heures sur une plateforme comme celle-ci, l’algorithme est de mieux en mieux capable de dire quelles sont les préférences, les désirs et les préjugés d’une personne, de les segmenter, de les segmenter et commencer à leur donner beaucoup plus de ce que leurs préférences révèlent, ce qui peut subtilement manipuler et changer le comportement des gens en façonnant leurs opinions et en leur faisant penser que ce qui les intéresse, ce qui les préoccupe, il y en a beaucoup dans le monde. Cela devient leur monde entier à mesure que l’algorithme façonne plus précisément ce avec quoi ils interagissent.

Si vous réfléchissez à la manière dont le reste de la technologie avec laquelle nous interagissons est conçu pour pirater les raccourcis de notre cerveau, qu’il s’agisse de l’utilisation de fonctions AutoPlay qui vous maintiennent à l’écran et vous font regarder la prochaine émission ou d’un bouton “J’aime” qui joue sur votre besoin de réciprocité sociale comme une envie, un raccourci dans votre cerveau qui vous fait revenir encore et encore, ou de notifications qui sont regroupées de manière précise pour vous rendre dépendant des plateformes, nos cerveaux sont manipulés en permanence. C ‘est pourquoi, lorsque j’ai écrit La bataille pour votre cerveau, je n’ai pas abordé les neurotechnologies de manière isolée. J’ai parlé des neurotechnologies intégrées dans un environnement plus large, ainsi que des technologies qui utilisent les connaissances avancées du cerveau grâce aux progrès des neurotechnologies et des neurosciences pour pouvoir manipuler le cerveau avec plus de précision.

Lorsque je pense à la manipulation et à ce qu’elle implique, la ligne n’est pas facile à tracer. Nous essayons de nous persuader les uns les autres tout le temps - j’essaie de vous persuader, vous et vos auditeurs, aujourd’hui - de l’importance de la bataille pour notre cerveau, mais quand franchissons-nous la ligne entre persuader d’autres personnes pour essayer de les rallier à votre perspective ou à votre point de vue et partager des connaissances avec elles ou les inspirer dans votre appel à l’action et faire quelque chose qui franchit la ligne de ce que nous appellerions une manipulation inadmissible, contraire à l’éthique ?

Dans The Battle for Your Brain, j’ai proposé une ligne de démarcation différente de celle proposée par d’autres, en passant en revue les catégories du neuromarketing - le marketing de notre cerveau fondé sur une meilleure compréhension, les technologies de dépendance, la désinformation et l’utilisation des heuristiques et des raccourcis de notre cerveau - et en examinant une nouvelle stratégie de marketing surprenante appelée “incubation de rêves”.

WENDELL WALLACH : L’incubation de rêves : dites-nous de quoi il s’agit.

NITA FARAHANY : Pour être tout à fait honnête, l’incubation de rêves m’a donné la chair de poule lorsque j’ai lu pour la première fois ce qu’il en était, Wendell. Il s’agit d’une technique de marketing dans le cadre de laquelle des chercheurs ont essayé de comprendre, en collaboration avec des spécialistes du marketing, s’il était possible d’utiliser l’état suggestif de l’esprit juste au réveil - lorsque tout le flux sanguin n’a pas été rétabli dans le cortex préfrontal et distribué dans l’ensemble du cerveau, un moment où le cerveau est le plus suggestible - pour essayer d’implanter essentiellement des préférences, des désirs ou même des associations.

Le brasseur Coors était régulièrement exclu du spectacle de la mi-temps du Super Bowl de la Ligue nationale de football et voulait savoir s’il existait une autre tactique ou technique de marketing qu’ils pourraient mettre au point. Ils ont donc décidé de contacter une chercheuse qui avait étudié l’incubation des rêves.

Elle a découvert qu’il existe un état d’esprit suggestible pendant la période qui suit le réveil, avant que la circulation sanguine ne soit rétablie dans toutes les parties du cerveau, et que pendant cette fenêtre suggestible, si vous diffusez des éléments tels qu’un paysage sonore ou des images visuelles, par exemple, vous pouvez potentiellement amener une personne à se rendormir en pensant à n’importe quel élément auquel vous l’avez amenée à penser.

Si vous l’amorcez à penser, par exemple, aux montagnes et à l’eau lorsqu’il s’agit de Coors, comme si c’était rafraîchissant, et à faire cette association positive lorsqu’il s’endort et rêve de cela, alors au réveil suivant, lorsque la personne est dans cet état d’esprit, lorsque vous pouvez encore vous en souvenir, ils lui demandent de quoi elle a rêvé et, bien sûr, sur la base des rapports personnels, elle rêve de montagnes, d’eau et de cette association rafraichissante avec Coors. Cette idée, selon laquelle on peut utiliser le temps où une personne est inconsciente, où elle est endormie, pour lui faire du marketing, me fait froid dans le dos.

WENDELL WALLACH : Une société de neuromarketing, Coors ou quelqu’un d’autre pourrait-elle savoir à votre insu que vous êtes dans cet état de vulnérabilité ?

NITA FARAHANY : Potentiellement. Je dois commencer par dire que l’espoir de ce type de recherche est que les gens puissent utiliser la suggestibilité de l’état de sommeil pour faire des choses comme travailler sur le syndrome de stress post-traumatique (SSPT) et surmonter les souvenirs traumatiques, qu’il puisse y avoir des applications thérapeutiques et précieuses pour cela. Je ne suis pas troublée par le fait que quelqu’un consente à l’utilisation de l’incubation des rêves à des fins thérapeutiques ou à n’importe quelle autre fin. Ce qui me préoccupe, c’est exactement ce que vous avez demandé, à savoir la possibilité d’une utilisation qui ne serait pas pleinement consentie.

Par exemple, les gens portent des biocapteurs pour dormir qui suivent leur activité de sommeil, qu’il s’agisse d’une montre ou d’un masque de sommeil avec des capteurs intégrés ou d’un Fitbit qui capte leur activité de sommeil. Ces capteurs peuvent détecter le moment où vous avez ces bousculades, ces mouvements où vous êtes suffisamment éveillé pour être dans un état d’esprit suggestible. Avec l’utilisation croissante de biocapteurs pour détecter l’activité cérébrale, ce type d’analyse pourrait devenir encore plus précis.

Étant donné l’omniprésence des téléphones portables dans les chambres à coucher et sur les tables de chevet, ou d’autres appareils intelligents à domicile tels que Google Home ou Amazon Echo, qui peuvent jouer de la musique, on pourrait imaginer un monde dans lequel il y aurait une intégration entre ces appareils. Votre Apple Watch détecte que vous vous réveillez et commence à jouer un paysage sonore pour l’incubation des rêves.

Encore une fois, pour des raisons thérapeutiques, cela pourrait être parfait. Mais si cela était fait sans consentement à des fins de marketing, de micromarketing ou même pour essayer de façonner les opinions, les préférences politiques ou l’idéologie d’une personne, les possibilités d’utiliser un état d’esprit suggestible pour cibler le cerveau pourraient être profondément problématiques.

WENDELL WALLACH : Qu’en est-il des applications plus répandues, comme le neuromarketing en général ? Y a-t-il d’autres domaines que l’incubation des rêves où vous souhaiteriez obtenir un consentement éclairé ?

NITA FARAHANY : Ce qui est délicat avec le neuromarketing, c’est que l’on a le consentement éclairé des personnes qui se soumettent aux études, mais pas le consentement éclairé des personnes qui font l’objet du marketing. Je suis moins troublée, devrais-je dire, par le neuromarketing en tant que pratique et en tant que tactique. Je ne pense pas qu’il soit si différent d’autres pratiques de marketing que nous avons jugées admissibles pendant très longtemps.

Ce qui met mal à l’aise de nombreuses personnes à propos du neuromarketing, c’est que la raison pour laquelle le neuromarketing est devenu aussi populaire et répandu est la croyance selon laquelle les déclarations des personnes, leur perception de leurs préférences, ne s’alignent pas ou ne sont pas aussi bien corrélées que leurs réponses cérébrales à la publicité. Vous montrez une série de publicités à une personne sans regarder son activité cérébrale, et elle dit “J’aime celle-ci” ou “J’aime celle-là"” ou “C’est celle qui est la plus engageante”, puis vous lui montrez la même information en utilisant des techniques de détection basées sur le cerveau, qu’il s’agisse d’électroencéphalographie (EEG), d’imagerie par résonance magnétique fonctionnelle (IRMf) ou d’une autre technologie, et leurs cerveaux montrent des niveaux très différents d’activation, d’intérêt et d’immersion, et ce avec précision : « C’est à ce moment-là qu’ils ont arrêté de regarder, que leur cerveau s’est arrêté, que leur engagement s’est arrêté ; ils n’ont pas ressenti de joie en voyant cela ; ils ont ressenti du dégoût ou de l’ennui ». Vous utilisez ces informations pour modifier la présentation jusqu’à ce que vous obteniez la réaction que vous espérez de la personne, malgré ce qu’elle a déclaré.

Cette idée de s’appuyer sur ce que notre cerveau révèle plutôt que sur ce que les gens disent donne à certains l’impression de contourner les préférences conscientes, de contourner l’esprit conscient. Cela me préoccupe moins, car la vérité est qu’il n’y a pas d’inconscient ou de subconscient dans ce sens. Nous avons un esprit, et il est intégré entre toutes sortes d’amorces inconscientes, d’amorces subconscientes, dans notre vie quotidienne, et c’est une technique de marketing plus efficace qui vise généralement à essayer de donner aux gens plus de ce qu’ils veulent.

Je comprends pourquoi les gens ne sont pas à l’aise avec cette technique, et je pense qu’il est possible qu’elle soit utilisée à des fins que nous, en tant que société, finirions par considérer comme mauvaises. Telle qu’elle est utilisée actuellement, je ne pense pas qu’elle viole notre liberté de pensée, je ne pense pas qu’elle interfère avec notre vie privée mentale, même si elle met parfois mal à l’aise compte tenu de la précision des informations et des connaissances qu’elle permet d’acquérir sur le comportement humain.

WENDELL WALLACH : Très bien.

Parlons d’autres applications des neurotechnologies, d’autres environnements et de ce qui se fait déjà. L’une des choses que j’ai trouvées fascinantes dans votre livre, c’est le nombre d’exemples de neurotechnologies déjà utilisées sur le lieu de travail. Parlez-nous-en.

NITA FARAHANY : L’une des choses qui m’ont intéressée lorsque j’ai parlé de The Battle for Your Brain, c’est que beaucoup de gens me disent : « Et si nous pouvions faire X, Y ou Z », et je leur réponds : « Nous le faisons déjà ».

Ils me disent : « Je sais, mais si votre patron pouvait surveiller votre cerveau sur le lieu de travail ? »

« Oui, c’est déjà le cas sur le lieu de travail ».

J’ai voulu axer le livre sur la documentation du plus grand nombre possible d’exemples concrets de la technologie pour aider les gens à comprendre qu’il ne s’agit pas d’un livre de science-fiction. Il ne s’agit pas d’un livre de science-fiction, ni d’un livre sur l’avenir. Il s’agit d’un avenir qui est déjà là, et la question est de savoir quelle échelle il atteindra avant que nous ne fassions quelque chose pour y remédier.

Ce livre est en grande partie un appel à l’action, pour dire : « C’est déjà en train de se produire ». Cela va se produire beaucoup plus rapidement maintenant que ces appareils deviennent multifonctionnels, c’est-à-dire que les capteurs cérébraux sont intégrés dans des appareils de tous les jours tels que les écouteurs, les casques et les montres.

Sur le lieu de travail, ce qui m’a surpris, c’est que cela existe depuis un certain temps. Une société australienne, SmartCap , vend des appareils de suivi EEG qui permettent de suivre l’activité électrique du cerveau depuis plus de dix ans. Plus de 5 000 entreprises dans le monde utilisent la technologie SmartCap, qui comprend des capteurs pour capter l’activité cérébrale, des capteurs secs qui sont placés dans les casques de sécurité, les casquettes de baseball et les chapeaux de chef d’orchestre. Ils l’utilisent pour surveiller les niveaux de fatigue des personnes dans les mines, dans les usines et chez les chauffeurs routiers. Ils ont réalisé des projets pilotes aux USA et dans d’autres pays du monde.

Ils ne sont pas les seuls. Des centaines de milliers de ces appareils sont également utilisés en Asie, où les travailleurs sont tenus de faire surveiller leur activité cérébrale.

Il est important de noter quelle activité cérébrale est surveillée. Il ne s’agit pas d’un monologue intérieur en temps réel décodé par l’employeur. Ce qui est surveillé à l’heure actuelle, c’est l’activité cérébrale de quelques capteurs portés sur le cuir chevelu, qui peuvent détecter des éléments de base tels que le niveau de fatigue, l’attention, l’engagement, la frustration, l’ennui, ce genre d’états cérébraux fondamentaux, mais qui, avec les bons indices et le bon environnement, peuvent également être utilisés pour sonder les cerveaux à la recherche d’informations, de reconnaissance et de signaux préconscients. Des rapports inquiétants ont déjà été publiés en Chine, par exemple, sur ce type de tests de l’activité cérébrale des personnes pour détecter des éléments tels que l’idéologie politique ou l’adhésion au parti de la personne.

Le fait est que cela existe, et je pense que cela va se généraliser. Il existe également des programmes de bien-être cérébral dans le monde entier. Dans de nombreuses entreprises, même usaméricaines, plutôt que d’être utilisés comme un outil de surveillance, des casques neurotechniques ont été remis aux employés dans le cadre du programme de bien-être cérébral afin d’améliorer leur niveau de stress et de leur permettre de méditer et de faire des "pauses cérébrales", ce qui peut s’avérer positif. Je pense que cela peut être une bonne chose - l’ergonomie cognitive, la tentative de concevoir un meilleur lieu de travail.

L’une de mes préoccupations concernant les programmes de bien-être cérébral ou de santé est que, aussi bien intentionnés soient-ils, les données recueillies dans le cadre de ces programmes ne sont pas soumises à la loi HIPAA (Health Insurance Portability and Accountability Act), ce qui signifie que la confidentialité des données dont bénéficierait un employé pour ses dossiers médicaux, que les employeurs ne pourraient pas utiliser ou auxquels ils ne pourraient pas avoir accès, les employeurs peuvent utiliser, avoir accès et utiliser à toutes les fins qu’ils souhaitent les données recueillies dans le cadre des programmes de bien-être, et cela pourrait également inclure les données sur les ondes cérébrales.

WENDELL WALLACH : Pourraient-ils les vendre à un spécialiste du neuromarketing ?

NITA FARAHANY : Oui.

WENDELL WALLACH : Car c’est bien là le problème. Nous entrons dans un domaine où différents types de données sont collectés dans des contextes très différents. Que se passe-t-il si elles sont consolidées ?

NITA FARAHANY : Il y a déjà des données sur le cerveau qui ont été commercialisées. Une société comme Entertech, une entreprise chinoise qui vend un appareil appelé FlowTime, utilisé aux USA, a conclu un accord avec Singularity pour vendre d’énormes ensembles de données sur le cerveau. Je suis sûr qu’il ne s’agit là que d’un exemple parmi tant d’autres de la marchandisation des données. Une grande partie des données que les entreprises de neurotech ont utilisées comme données d’entraînement sont des données qui, après avoir été utilisées dans le cadre de programmes de bien-être, ont pu être récupérées et utilisées, puis modifiées et vendues à des fins ou à des fins d’analyse par des entreprises allant de L’Oréal à IKEA.

WENDELL WALLACH : Le terme “bien-être” est intéressant, et le bien-être peut bien sûr être utilisé pour augmenter la productivité, mais avez-vous rencontré des exemples où le contrôle de ces données est utilisé de manière négative pour augmenter la productivité ou pour faire craindre aux travailleurs qu’ils seront sanctionnés s’ils ne maintiennent pas un certain niveau d’attention, par exemple ?

NITA FARAHANY : En Chine, on signale déjà que des employés font l’objet d’un suivi de leurs paramètres cérébraux. Ces données sont utilisées pour prendre des décisions concernant leur travail, leur emploi et même leur niveau de stabilité au cours de la journée de travail. Si leur niveau émotionnel suggère qu’ils pourraient être perturbateurs, ils sont renvoyés chez eux.

En Chine, les élèves dont les données cérébrales ont été mesurées et surveillées pendant la journée scolaire ont fait état d’un effet de refroidissement, d’une peur d’être punis si leurs mesures cérébrales montrent qu’ils ne sont pas aussi attentifs qu’ils le devraient pendant la journée, et certains d’entre eux ont déclaré avoir été punis par leurs parents, qui consultent les données, ou par leurs enseignants, et craignent que ces données ne soient utilisées par l’État et n’alimentent la société de surveillance plus large que la Chine a mise en place.

En Australie, où la SmartCap a été déployée, dans l’une des mines, les travailleurs étaient représentés par un syndicat, et ils se sont syndiqués contre l’utilisation des dispositifs SmartCap dans leur mine parce qu’ils pensaient que ce serait Big Brother ou une grande entreprise qui regarderait leur cerveau, et cela les mettait profondément mal à l’aise. Ils ont réussi à empêcher l’utilisation de ces appareils sur le lieu de travail, ce qui suggère la même crainte d’une utilisation abusive, car ils étaient représentés par un syndicat qui avait le droit d’examiner et devait accepter l’introduction d’une nouvelle technologie sur le lieu de travail pour qu’elle puisse être utilisée, et ils ont réussi à l’empêcher.

WENDELL WALLACH : Il s’agit principalement du lieu de travail, et vous avez mentionné les étudiants à un moment donné, mais comment les gouvernements s’impliquent-ils dans ce domaine ? Collectent-ils des données biométriques, y compris votre activité cérébrale ?

NITA FARAHANY : Les gouvernements ont déjà commencé à utiliser cette technologie de différentes manières. Parmi les premières utilisations documentées, on peut citer les casques EEG portés sur le cerveau, qui permettent d’interroger les criminels présumés. Il existe un schéma caractéristique dans le cerveau appelé la réponse P300, et cette réponse P300 est un signal préconscient de reconnaissance. Par exemple, si je vous montre une photo de votre femme, votre cerveau enregistre la reconnaissance, que je peux capter dans votre cerveau grâce à la mémoire de reconnaissance.

Cette technologie a été développée aux USA pour tenter d’associer ce signal P300 à des sondes, par exemple en essayant d’examiner un dossier de police et de trouver des éléments dont seul un suspect criminel ou un membre de l’équipe d’enquête aurait connaissance, puis de montrer ces éléments à la personne et de voir si elle signale ou non une mémoire de reconnaissance. Cette technologie n’a pas été beaucoup utilisée aux USA pour toute une série de raisons que nous pourrions évoquer, mais elle a été exportée à l’étranger et de nombreux services de police utilisent encore aujourd’hui une version de cette technologie pour interroger des suspects.

L’accent est également mis sur le développement de la biométrie cérébrale. Il s’agit de signatures neuronales qui tentent d’authentifier une personne. Si vous portez un de ces appareils qui captent l’activité électrique de votre cerveau et que vous chantez la première strophe de votre chanson préférée dans votre tête et que je chante la même chanson dans ma tête, votre activité cérébrale sera différente de la mienne, ce qui nous permettra d’utiliser cette activité comme référence, de l’enregistrer et d’en faire votre mot de passe. Les gouvernements investissent beaucoup dans ce domaine pour déterminer si la biométrie fonctionnelle pourrait devenir une biométrie utilisée pour l’authentification des personnes. Il y a également des investissements importants dans les applications militaires de la technologie, que ce soit pour construire des armées plus fortes ou pour essayer d’utiliser une guerre cognitive plus déconcertante.

WENDELL WALLACH : Parlez-nous de la guerre cognitive. C’est intriguant.

NITA FARAHANY : La guerre cognitive est effrayante, pas seulement intrigante, Wendell.

WENDELL WALLACH : J’ai été intrigué lorsque vous en avez parlé dans le livre, mais oui, j’ai aussi eu peur.

NITA FARAHANY : Il y a quelques années, l’Organisation du traité nord-Atlantique (OTAN) a publié un rapport intitulé “La guerre cognitique”. Il mettait l’accent sur le fait que le “sixième domaine” de la guerre est la guerre pour le cerveau humain, pour l’esprit humain, et que cela se produit de différentes manières. L’une d’entre elles est la guerre de l’information et de la propagande, et nous en voyons beaucoup. Nous l’avons vu avec Cambridge Analytica. Nous l’avons vu avec les tentatives de façonner et d’utiliser des plateformes telles que les médias sociaux, la désinformation et les campagnes de propagande, pour en faire une bataille pour le cerveau.

L’autre domaine est celui des investissements considérables dans les interfaces cerveau-ordinateur ou les dispositifs d’interface neuronale, à la fois pour améliorer les capacités des armées et des soldats, mais aussi pour essayer d’interférer avec les autres. Imaginez un monde dans lequel l’interface neuronale est largement répandue, ce qui est le monde que j’ai décrit et qui, je pense, est en train d’arriver, et où les gens portent leurs oreillettes, leurs écouteurs, et où toute cette activité cérébrale est suivie et également utilisée et perturbée par d’autres pays.

Il ne s’agit pas toujours de dispositifs unidirectionnels. Il peut s’agir d’appareils bidirectionnels, où l’on écrit au cerveau et où l’on lit à partir du cerveau : Vous regardez TikTok, vous portez des écouteurs à détection cérébrale. Non seulement je peux savoir comment vous vous déplacez sur l’écran, mais je capte aussi votre activité cérébrale et vos réactions émotionnelles aux différentes vidéos que vous regardez et je vous en donne plus ou j’essaie de vous amplifier et de vous rendre frustré et en colère.

On peut également s’inquiéter de la possibilité de pirater les informations contenues dans le cerveau des gens. Avec le même type de P300 dont nous avons parlé, les chercheurs ont essayé de déterminer s’il était possible de pirater des informations. Si je porte ces appareils toute la journée sur mon lieu de travail, que je tape mon numéro d’identification personnel (PIN) et que vous le décodez à partir de l’activité cérébrale, il semble que la réponse soit oui. Existe-t-il une sorte de dispositif marche/arrêt qui me permettrait de m’assurer que lorsque je saisis des informations sensibles, celles-ci ne sont pas enregistrées, ou pourriez-vous introduire dans l’environnement de mon écran des sondes subliminales qui sonderaient mon cerveau à la recherche de choses telles que mon numéro d’identification personnel ? Ce sont là autant de possibilités dans le monde de la guerre cognitive.

Je vais vous en dire une autre. Il y a tout un domaine qui préoccupe vraiment les gens - que nous pouvons aborder ou non comme vous le souhaitez - concernant les armes visant à cibler ou à désactiver le cerveau, et je pense que c’est la catégorie la plus effrayante de toutes. Il s’agit des allégations du syndrome de La Havane et des allégations selon lesquelles des pays développent des armes électromagnétiques ou autres pour tenter de cibler et d’éliminer les cerveaux, afin d’éliminer même la capacité de choix des gens.

Qu’en pensez-vous, Wendell ?

WENDELL WALLACH : C’est vraiment effrayant, mais je ne sais plus où j’en suis quand on aborde ce sujet. D’un côté, il y a toutes ces spéculations sur ce qui va arriver ou ce qui pourrait arriver, mais il me semble qu’une partie de ces spéculations est basée sur l’obtention d’un retour d’information plus précis sur ce qui se passe dans votre esprit que ce que nous pouvons faire aujourd’hui, ou dans la mesure où nous pouvons le faire, nous ne pouvons le faire que si vous avez été dans une situation où vous avez revêtu toute la technologie appropriée.

D’un autre côté, il me semble que nous avons affaire ici à des outils assez rudimentaires qui captent des informations de base sur l’activité mentale, mais qui deviennent puissants parce qu’ils sont capables de les combiner avec d’autres activités, comme ce que nous cliquons sur l’écran ou ce que nous achetons sur Amazon pendant que cette activité cérébrale est en cours.

Aidez-moi à comprendre. Sommes-nous encore largement dans le domaine de l’application d’informations cérébrales brutes, ou sommes-nous vraiment en train d’évoluer vers un domaine plus proche de la science-fiction, où des informations plus précises sur votre cerveau sont accessibles sans que vous ayez la volonté d’être, disons, dans un appareil d’IRMf (Imagerie par résonance magnétique fonctionnelle) ?

NITA FARAHANY : Laissez-moi d’abord répondre à votre question. Je vais y répondre en disant qu’il y a eu récemment quelques affaires criminelles dans lesquelles des données Fitbit ont été introduites dans l’affaire criminelle, des données collectées passivement auprès d’une personne qui, par exemple, a déclaré qu’elle dormait à ce moment-là et qu’elle ne pouvait donc pas être le tueur, et dont les données Fitbit ont montré qu’elle dormait en fait à ce moment-là, ou des données Fitbit qui ont montré qu’elle était très active à ce moment-là et qu’elle bougeait au moment où elle disait qu’elle dormait, ce qui contraste avec les informations qu’elle a fournies.

Je dis cela parce que lorsque vous décrivez un monde dans lequel les gens sont volontairement entrés dans une IRMf, c’est différent du monde que j’imagine. Le monde que j’imagine est celui qui est déjà arrivé, où les gens portent des dispositifs multifonctionnels tels que des oreillettes, des écouteurs et des montres dotés de capteurs cérébraux capables de capter l’activité cérébrale.

Jusqu’où pouvons-nous aller dans le décodage ? Ce serait certainement de la science-fiction de dire que l’on peut prendre le monologue intérieur profond d’une personne à l’intérieur de son cerveau, la parole non exprimée, communiquée involontairement, et la décoder avec quelques capteurs dans chaque oreille. C’est impossible. Vous pouvez peut-être faire quelques déductions grossières si une personne surfe sur Amazon et a ces deux oreillettes dans les oreilles, mais vous ne pouvez pas capter une pensée complexe à partir de ces dispositifs.

Il se peut même que vous ne puissiez pas le faire avec l’IRMf. Ce que l’on peut faire avec l’IRMf, c’est ce qu’une personne imagine sur le moment, mais pas le dialogue complet à l’intérieur de son cerveau. La lecture de pensée dans le monde réel ne se produit pas de cette manière avec ces appareils.

WENDELL WALLACH : C’est vrai.

NITA FARAHANY : Mais cela ne veut pas dire qu’il n’y a pas beaucoup d’informations que l’on peut décoder à partir du cerveau. Vous dites que c’est grossier, ou certains disent que c’est grossier, mais nous ne pouvions pas auparavant capter l’engagement, l’ennui, la frustration, le vagabondage de l’esprit, l’attention, les niveaux de fatigue, les nombres simples, les formes et même les visages que vous voyez dans votre cerveau. Il s’agit d’une forme de lecture de l’esprit. La question qui se pose est la suivante : ces informations sont-elles dangereuses ou risquées ? Sont-elles différentes de celles que je peux capter ? Parfois. À l’heure actuelle, l’algorithme et votre navigation sur TikTok peuvent m’en dire plus sur ce qui se passe dans votre esprit que ne le ferait l’un de ces écouteurs à détection cérébrale.

Mais si vous les combinez, ce qui est la réalité, nous ne parlons pas d’activité cérébrale isolée. Nous parlons d’une pièce du puzzle manquant que les entreprises et les gouvernements possèdent sur les gens, à savoir les émotions non exprimées, les sentiments intérieurs et les préjugés non exprimés, non communiqués et non exprimés par des gestes, des mouvements ou quoi que ce soit d’autre. Vous pensez avoir un visage impassible ? Il s’avère que votre visage peut être décodé grâce à vos émotions qui sont révélées par l’activité cérébrale.

Il y a une certaine forme de lecture de l’esprit qui se produit avec ces appareils. Seront-ils de plus en plus précis avec le temps ? Aurons-nous une meilleure résolution et davantage d’informations au fil du temps ? Absolument, mais aujourd’hui, à l’heure actuelle, peuvent-ils lire vos pensées complexes ? Non, et je ne pense pas qu’ils le feront jamais à partir d’un petit capteur dans chaque oreille.

WENDELL WALLACH : Je me souviens avoir discuté il y a dix ans avec Rosalind Picard, la marraine de l’informatique affective, de la mesure dans laquelle nous jugerions acceptable d’avoir des technologies capables de déduire, même à l’aide de ces capteurs, les émotions que nous ressentons à partir des expressions faciales ou d’autres actions. Il me semble que cela ne nous dérange pas que votre ordinateur sache que vous êtes heureux, mais voulons-nous qu’il sache que vous êtes vulnérable, que vous êtes dans ce genre d’état ? Il me semble, d’après ce que vous dites, qu’il serait assez facile de le savoir grâce aux technologies que vous utilisez aujourd’hui, mais à votre insu.

NITA FARAHANY : Oui, je pense que c’est exact. Je pense qu’il sera assez facile de savoir certaines choses que vous ne connaissez même pas, y compris l’état de suggestibilité dans lequel vous vous trouvez, lorsque vous êtes le plus vulnérable, le plus faible, le plus fatigué, lorsque vous êtes le plus susceptible d’appuyer sur la gâchette pour acheter quelque chose que vous ne devriez pas acheter parce que votre détermination est à son plus bas niveau à ce moment-là.

Ce genre d’observations peut être bénéfique à bien des égards. Je suis loin d’être quelqu’un de dystopique en ce qui concerne la technologie, mais ce que je veux que les gens évitent, c’est de rejeter la technologie parce qu’ils pensent qu’elle ne peut pas en lire assez pour nous pousser à agir maintenant. Elle peut déjà en faire plus qu’assez pour que nous nous en préoccupions, et si nous attendons d’avoir une technologie capable de décoder la pensée en pleine résolution, il sera bien trop tard pour faire quoi que ce soit.

Le moment est venu de le faire. L’utilisation de la technologie est plus que suffisamment répandue, les applications et les capacités de ces technologies sont plus que suffisantes pour justifier une action, mais nous ne sommes pas encore assez avancés pour que la technologie soit omniprésente et que nous puissions faire tout ce que nous serons un jour capables de faire avec elle. Je considère que c’est le “sweet spot” [point idéal, zone de frappe] de l’action.

WENDELL WALLACH : Je pense que ce que j’essaie de comprendre ici - et j’espère que nous sommes clairs à ce sujet - c’est qu’à un certain niveau, nous n’entrons pas dans votre cerveau d’une manière qui nous permette de savoir exactement ce que vous pensez. Il s’agit de caractéristiques générales et de la capacité à mettre ces caractéristiques générales en relation avec d’autres activités auxquelles vous vous livrez, comme frapper sur votre clavier ou acheter quelque chose, une activité à laquelle vous pourriez vous livrer sur le ouèbe.

Vous avez utilisé cet exemple, qui m’intrigue, de deviner votre mot de passe. Je me demande combien de recherches ont été menées à ce sujet. A-t-on démontré avec un haut degré de probabilité que l’on peut deviner le mot de passe de quelqu’un avec une combinaison de neurotechnologies ?

NITA FARAHANY: Il n’y a pas eu beaucoup d’études à ce sujet. Il y en a eu quelques-unes. S’il y en a eu d’autres, il ne s’agissait pas d’études évaluées par des pairs, du moins d’après ce que j’ai pu voir.

Il y a deux façons différentes de présenter un problème potentiel. La première est que votre activité cérébrale est surveillée passivement pendant que vous faites des choses telles que saisir votre code PIN sur votre compte en banque sur l’écran de votre ordinateur. Il s’agit d’une représentation neuronale, et cette représentation neuronale peut être décodée et enregistrée, de sorte qu’elle pourrait être interceptée en interceptant votre activité cérébrale pendant que vous saisissez l’information sur l’écran. Ces informations apparaissent sous la forme de petits cercles noirs sur votre écran. Ce ne sont pas des petits cercles noirs qui apparaissent dans votre cerveau. Ce sont les chiffres réels que vous avez l’intention de taper dans votre cerveau. De la même manière que nous pouvons déjà, avec certains appareils, vous permettre de taper sur un clavier virtuel, c’est parce que vous pouvez décoder votre intention de taper “2714” et comprendre ce que c’est et le décoder.

La deuxième expérience, réalisée il y a quelques années, visait à utiliser la mémoire de reconnaissance et l’amorçage subliminal dans un environnement de jeu. Les joueurs qui portaient ces casques à interface neuronale savaient qu’ils faisaient partie d’une expérience de recherche, de sorte qu’il ne s’agissait pas littéralement de voler des informations à leur cerveau, mais ils ne savaient pas que l’amorçage se produisait ; ils savaient simplement qu’ils faisaient partie d’une expérience de recherche. L’idée était de voir s’ils pouvaient ou non faire clignoter des chiffres avec précision et découvrir, grâce aux amorces subliminales, le code PIN et l’adresse postale du destinataire, ce qu’ils ont réussi à faire avec un degré élevé de précision.

Ces résultats doivent être reproduits de très nombreuses fois avec des cerveaux différents, chez des personnes différentes et des sujets différents, afin de déterminer dans quelle mesure il s’agit d’un problème. Ces études ont été réalisées en tant que “preuve de concept” [validation de principe, démonstration de faisabilité] pour aider les gens à comprendre qu’il existe des risques de cybersécurité et de biosécurité liés au décodage d’informations provenant du cerveau, qu’il s’agisse de sonder pour obtenir des informations du cerveau ou des informations sensibles que vous pouvez transmettre, que vous pensez faire en secret et qui peuvent être captées et décodées à partir de l’activité cérébrale que vous communiquez intentionnellement et que vous tapez, l’une étant stockée dans votre cerveau et l’autre exprimée en tapant.

Pour répondre à votre question, suis-je en train de fouiller littéralement dans votre cerveau, Wendell, pour trouver votre code PIN par le biais de l’activité cérébrale ? Non. La question est de savoir si vous pouvez utiliser l’accès à l’activité cérébrale pour obtenir des informations stockées dans le cerveau, ce qui est différent et surtout différent de vos pensées complètes et robustes. Ce n’est pas comme si vous étiez assis là à rêvasser et que je décodais tout ce à quoi vous pensez, mais l’idée que tout ce qui se trouve dans votre cerveau est sûr et qu’il ne s’agit que d’états d’esprit généraux qui peuvent être décodés est également erronée parce que vous pouvez sonder le cerveau pour trouver des éléments d’information spécifiques et même décoder des éléments d’information spécifiques pendant qu’une personne y pense.

Il y a un gouffre, un fossé, entre la lecture de pensée telle que la conçoit le commun des mortels, c’est-à-dire la capacité à décoder les pensées et les images complexes dans votre esprit, mais c’est aussi beaucoup plus avancé qu’on ne le pense en ce sens qu’il ne s’agit pas simplement d’un sens général que j’obtiens de votre cerveau. Je peux en fait - pas moi, mais les chercheurs, les scientifiques et les personnes qui vendent la technologie - décoder des informations à partir de l’activité cérébrale avec une précision croissante.

WENDELL WALLACH : Je pense que c’est probablement ce qu’il est le plus important que les citoyens comprennent aujourd’hui, à savoir que beaucoup de choses qui relèvent de la science-fiction sont vraiment de la science-fiction à ce stade. Ne présumez pas que nous nous mêlons des subtilités de vos pensées.

D’un autre côté, ce qui n’est pas de la science-fiction, ce qui peut être fait, peut sembler superficiel à première vue, mais lorsque vous commencez à regarder les applications, c’est tout sauf superficiel en termes d’application.

NITA FARAHANY : Je pense que c’est un point important, Wendell. Ce que j’essaie de faire dans The Battle for Your Brain, c’est de montrer non seulement ce que nous pouvons faire, mais aussi comment cela est appliqué et mal appliqué, parce que vous pensez que cela n’a pas d’importance si vous connaissez X, Y et Z à partir de mon cerveau, et ensuite je montre comment cela a de l’importance si vous connaissez X, Y et Z à partir de votre cerveau, et comment cela peut être mal appliqué contre vous. Le fait est que la science et la technologie modernes nous donnent déjà des raisons de craindre que, si nous ne mettons pas en place des garanties et des droits appropriés pour les individus, nos cerveaux soient en danger, même s’il est impossible aujourd’hui de lire dans les pensées.

WENDELL WALLACH : Assurons-nous que tout le monde a une idée de l’arc narratif du livre, car je pense que vous avez fait un travail merveilleux en partant d’exemples plutôt standard mais surprenants pour arriver à une appréciation de plus en plus riche de la façon dont les esprits sont peut-être déjà en train d’intervenir d’une manière telle que nous devons mettre en place certaines restrictions, une extension des droits humains. Avant de parler de l’extension proprement dite, vous pourriez peut-être nous présenter ce récit.

NITA FARAHANY : Bien sûr. Je présente le livre de deux façons. La première concerne les dimensions de la traque ou du décodage du cerveau et du piratage ou de la manipulation du cerveau. La première moitié du livre se concentre sur les progrès remarquables qui ont été réalisés dans un certain nombre de contextes différents et sur les moyens par lesquels les individus, les entreprises et les gouvernements peuvent déjà suivre et décoder ce qui se trouve à l’intérieur du cerveau humain. La seconde moitié du livre se concentre sur les façons dont le cerveau peut être modifié, notamment en améliorant le fonctionnement du cerveau, en le ralentissant ou en le modifiant, qu’il soit manipulé ou agressé par d’autres. C’est l’une des façons dont j’essaie d’aborder le sujet.

Ce que je fais vraiment avec ce livre, c’est construire un arc autour du concept du droit à la liberté cognitive. Il est donc organisé de manière à nous aider à comprendre, dans des contextes spécifiques, le droit à la vie privée mentale qui est en danger et qui doit être reconnu, le droit à l’autodétermination sur nos cerveaux et nos expériences mentales et la manière dont nous devons y penser, et enfin le droit à la liberté de pensée. Ces éléments sont les piliers du livre, qui s’appuient sur la reconnaissance de ce droit à la liberté cognitive et, à travers chaque chapitre et des exemples détaillés sur la manière dont les neurotechnologies, mais aussi les neurosciences et d’autres avancées modernes, les algorithmes et la technologie sont utilisés, comment ces trois droits - le droit à la vie privée mentale, à l’autodétermination et à la liberté de pensée - sont fondamentalement en danger et doivent être mis à jour afin de nous permettre d’être habilités par les neurosciences, les neurotechnologies et les technologies modernes, et de ne pas être opprimés ou surveillés par ces dernières.

WENDELL WALLACH : À ma connaissance, aucun de ces droits n’existe encore dans la loi. Nous en parlons, mais je me trompe peut-être.

NITA FARAHANY : Vous n’avez pas tort, mais j’espère que nous aurons tous les deux tort, et voici comment : Je plaide pour la reconnaissance d’un droit à la liberté cognitive, ce qui nécessite une mise à jour des droits humains préexistants. Cela signifie qu’il existe un droit à la vie privée en vertu de la Déclaration universelle des droits de l’homme des Nations unies (DUDH), un droit à l’autodétermination, et même un droit déjà reconnu à l’autodétermination informationnelle, ainsi qu’un droit à la liberté de pensée. Parce que la vie privée, la liberté de pensée et l’autodétermination ont toutes été écrites et interprétées dans un monde où nos cerveaux n’étaient pas transparents pour les autres, elles n’ont pas été écrites d’une manière qui aborde ces questions.

Le désormais ancien rapporteur spécial pour la liberté de pensée, Ahmed Shaheed, a rédigé un excellent rapport en octobre 2021 qu’il a présenté à l’Assemblée générale des Nations unies, plaidant en faveur d’une compréhension actualisée de la liberté de pensée, qui a été interprétée de manière plutôt étroite pour s’appliquer à la liberté de religion, alors qu’elle est rédigée de manière large et qu’elle pourrait et devrait couvrir les progrès des neurotechnologies, de l’intelligence artificielle (IA) et d’autres moyens par lesquels le cerveau peut être piraté et tracé.

C’est également ce que je soutiens, à savoir que le droit à la liberté cognitive en tant que droit général nous incite à actualiser les droits existants. Cela ne nécessite pas la reconnaissance de nouveaux droits. Il s’agit de mettre à jour les commentaires généraux liés à ces droits ou les avis émis par le Comité des droits de l’homme qui supervise les traités mettant en œuvre ces droits, afin d’attirer notre attention sur le fait que “ces droits existent” : « Regardez, ces droits existent. Maintenant qu’ils sont menacés par ces technologies modernes, nous devons actualiser ces droits pour le reconnaître» Le droit relatif aux droits humains évolue, de par sa conception, en fonction de l’évolution de la société et des risques qui pèsent sur les droits humains. Il s’agit d’une évolution naturelle au fur et à mesure que la technologie évolue.

WENDELL WALLACH : Comme vous le savez, l’évolution du droit des droits humains et du droit humanitaire international se heurte à une résistance considérable. Nous n’avons pas besoin d’entrer dans l’aspect guerrier de la question.

NITA FARAHANY : Il y a une résistance à la reconnaissance de nouveaux droits, Wendell.

WENDELL WALLACH : Cela ne sera-t-il pas considéré comme de nouveaux droits ?

NITA FARAHANY : La liberté cognitive consisterait à déclarer, par le biais d’un commentaire général, que le Comité des droits de l’homme écrit qu’il existe un droit à la liberté cognitive implicite dans les droits existants de la Déclaration universelle des droits de l’homme, ce qui serait nouveau. Ce qui ne serait pas nouveau, c’est la mise à jour de chacun de ces trois droits en fonction de la liberté cognitive. Il n’est pas nécessaire que toutes les nations se réunissent pour adopter un nouveau droit. Les organes existants, comme le comité des droits de l’homme qui supervise la mise en œuvre du Pacte international relatif aux droits civils et politiques, ont le pouvoir d’émettre des avis et de rédiger des commentaires généraux qui actualisent notre interprétation et notre compréhension de ces droits, et je pense qu’ils auraient la volonté politique de le faire.

J’oserais dire qu’il s’agit d’une question qui, selon moi, dépasse tous les clivages. Lorsque vous parlez aux gens de la technologie, lorsque vous leur parlez des risques d’une plus grande transparence du cerveau, je me fiche de leur idéologie politique et de leurs antécédents, il y a une rare unanimité et une inquiétude dans la croyance au droit à la liberté cognitive. Je suis peut-être naïvement optimiste, mais je pense que c’est possible.

WENDELL WALLACH : Prenons le pire des scénarios. Vous et moi avons eu beaucoup plus d’interactions avec des universitaires chinois qu’il n’est courant, même parmi nos collègues, et la plupart des universitaires avec lesquels je suis en contact sont favorables aux droits humains, mais nous savons que le gouvernement s’est montré très réticent à l’adoption des droits humains, même si la Chine est signataire de la Déclaration universelle des droits de l’homme, ce que je leur rappelle à chaque fois que je discute avec eux. Leur résistance est une résistance à la définition des droits humains par les nations plus libérales.

NITA FARAHANY : Je pense qu’ils auraient beaucoup, beaucoup de mal à s’opposer au droit de penser librement. Parler librement peut-être, mais le droit de penser librement ? Je pense qu’ils auraient beaucoup de mal à s’y opposer.

Entreprendraient-ils des actions contraires à ce droit ? Viendront-ils violer les normes une fois qu’elles auront été reconnues ? Viendront-ils à l’encontre des lois une fois qu’elles auront été reconnues ? Peut-être. Si vous regardez leurs investissements dans la guerre cognitive, les USA ont pris des sanctions à la fin du mois de décembre 2021 parce que la Chine aurait mis au point des armes contrôlées par le cerveau. Ils n’ont pas caché leur intention de se concentrer sur le cerveau en tant que prochain domaine de combat.

WENDELL WALLACH : Ils n’ont pas été discrets du tout.

NITA FARAHANY : Est-ce que je pense qu’il y aura des acteurs qui violeront ces normes ? Il y en a toujours. Quoi qu’il en soit, quel que soit le nombre de droits humains que nous adoptons, quel que soit le nombre de lois que nous adoptons, il y a des acteurs qui les violent. Je ne pense pas que le résultat soit que nous agissions de manière défaitiste et que nous n’essayions pas de faire de notre mieux pour identifier et reconnaître les droits qui créent à la fois des normes et des protections.

Si l’on considère l’évolution des CRISPR (Courtes répétitions palindromiques groupées et régulièrement espacées), on peut considérer qu’un scientifique chinois malhonnête a agi contrairement aux normes mondiales, en utilisant le CRISPR sur des embryons et en les transférant dans l’utérus d’une femme, ou l’on peut considérer qu’il y a eu une condamnation mondiale rapide et qu’il n’y a pas eu d’autres rapports depuis lors - je dis “rapports” plutôt qu’“actions” - de la même conduite. Je ne considère pas cela comme un échec. J’y vois un succès de la mise en œuvre des normes, lois et réglementations mondiales relatives au progrès de la science et de la technologie.

WENDELL WALLACH : L’une des choses intéressantes pour moi, par exemple, à propos de la Chine, c’est que je constate que le gouvernement est étonnamment réceptif à de nombreuses préoccupations émanant de la communauté universitaire et du public en général, tant qu’elles ne constituent pas des menaces pour le gouvernement lui-même.

Éloignons-nous un instant de la Chine. Je suis préoccupé par le ministère usaméricain de la Défense et par ce qu’il considère comme acceptable en matière de neurotechnologies et par le fait qu’il aimerait améliorer les soldats, ce qui soulève des questions sur les améliorations prévues, sur leur réversibilité et sur le consentement véritablement éclairé. Peut-on parler de consentement éclairé lorsque l’on a affaire à des soldats qui comprennent que la résistance à ce que leurs officiers leur demandent de faire ne sera pas très positive pour leur expérience dans l’armée ? Je me demande si le gouvernement usaméricain, sans parler de l’Union européenne et de l’OTAN, sera prêt à accepter certaines de ces contraintes, en particulier en ce qui concerne les applications militaires.

NITA FARAHANY : Je pense que c’est juste. Il y a toujours des exceptions militaires et des exceptions de sécurité nationale qui sont créées. Les droits et les droits humains sont spécifiques au contexte. Ils sont rarement absolus. La façon dont j’ai décrit la liberté cognitive n’est pas un droit absolu contre toute neurotechnologie abusive par une tierce partie. Comme tous les droits, il s’agit de droits relatifs. L’intimité mentale est un droit relatif. La liberté de pensée est un droit absolu, mais la liberté de pensée est assez limitée dans ce qu’elle protège. Elle protège le noyau de pensées et d’images solides dans votre esprit. L’autodétermination n’est pas absolue. Elle cède le pas à un intérêt sociétal suffisamment fort.

Tout droit est limité par la sécurité nationale, l’armée et d’autres exceptions, mais si nous parlons de l’individu moyen et de sa capacité à disposer de son cerveau et de ses expériences mentales, la reconnaissance d’un droit à la liberté cognitive modifierait les conditions de service. Elle mettrait les règles par défaut en faveur des individus.

Je pense que c’est un bon point de départ. Cela résout-il tous les risques d’utilisation abusive des neurotechnologies et des technologies conçues pour suivre et pirater nos cerveaux ? Non. Mais est-ce mieux que de lever les bras au ciel et de dire : « C’est la dernière frontière de la vie privée et de la liberté. Tant pis ». Non, ce n’est pas non plus la bonne réponse.

Je crois qu’il s’agit là d’une voie prometteuse, mais je pense que nous devons agir dès maintenant. Nous ne pouvons pas attendre la triste histoire de l’opportunité d’agir, de définir et de créer des règles par défaut en faveur des individus et nous avons choisi de ne pas le faire, et maintenant les données sur le cerveau sont commercialisées aussi facilement que nos données financières, nos activités en ligne, et tout ce qui a été utilisé pour quantifier, discriminer et faire des choix sur les gens.

WENDELL WALLACH : Permettez-moi de vous poser une question à ce sujet. Vous et moi connaissons une femme, Wrye Sententia, qui, il y a 20 ans, lorsque je l’ai rencontrée pour la première fois, défendait déjà le droit à la liberté cognitive.

NITA FARAHANY : En effet.

WENDELL WALLACH : Il n’y avait pas qu’elle. À l’époque, il y avait toute une flopée de transhumanistes qui considéraient que toutes sortes de technologies qui n’étaient pas encore arrivées étaient sur le point de voir le jour. En fait, je pense que nombre d’entre eux ont été surpris de constater qu’une décennie s’était écoulée et que très peu de progrès avaient été réalisés par rapport à leurs attentes. Nous ne sommes plus il y a 20 ans. Pourquoi aujourd’hui ?

NITA FARAHANY : J’écris sur ce sujet depuis très longtemps. La première fois que j’ai écrit sur la liberté cognitive, j’ai pensé que j’avais intelligemment trouvé le terme. Je crois que le premier article dans lequel je l’ai écrit était “Incriminating Thoughts” dans la Stanford Law Review. J’ai ensuite découvert les travaux du Center for Cognitive Liberty & Ethics, qui avait développé le concept et avait de grandes idées sur la manière dont le droit devrait s’appliquer et être utilisé. Je pense qu’ils étaient très en avance sur leur temps. Je pense que j’étais en avance sur mon temps lorsque j’ai écrit “Incriminating Thoughts”.

J’ai écrit ma proposition pour ce livre en 2012. Ce n’est pas que je l’ai écrit de 2012 à 2023. C’est que je l’ai mis de côté pendant un certain temps. Je pensais que c’était un sujet qui me fascinait, mais je ne voyais pas encore qu’il s’agissait d’un sujet d’envergure. Je me suis dit qu’il s’agissait de problèmes réels sur lesquels nous devrions travailler, mais que l’appel à l’action n’était pas urgent dans mon esprit.

Puis j’ai entendu la présentation de CTRL-labs en 2018 sur le dispositif qu’ils étaient en train de développer et sur la manière dont ils intégraient les capteurs dans une montre-bracelet. J’ai immédiatement réalisé que cela signifiait bien sûr que cela pouvait être mis dans quelque chose comme une Apple Watch. J’étais comme : Oh, mon Dieu. Ce produit va être racheté en un clin d’œil, et je suis sûr que c’est Apple qui va l’acquérir, et c’est ce qui va permettre à ce produit de se généraliser. Puis Facebook l’a racheté un an plus tard.

C’est à ce moment-là que je me suis dit : « Je suis en train d’écrire ce livre », car le fait que Facebook investisse un demi-milliard de dollars dans un appareil multifonctionnel, que les gens dépassent enfin le facteur de forme et que les grandes entreprises technologiques investissent massivement dans ce domaine, c’est le moment de le faire. C’est à ce moment-là que j’ai commencé à m’intéresser à la rédaction du livre.

Cela faisait des années que j’essayais de développer et de construire ce que le concept de liberté cognitive signifiait pour moi dans des articles antérieurs, mais là, j’ai vraiment plongé en profondeur parce qu’il ne s’agissait pas seulement de ce qui se passait, mais aussi de construire le dossier philosophique et le dossier juridique de la liberté cognitive, un travail très difficile que je n’avais pas entièrement accompli, pour en comprendre tous les contours dans tous ces contextes différents. C’est à ce moment-là que j’ai décidé que cela valait la peine d’investir du temps parce qu’aujourd’hui, alors que la technologie s’est déjà développée à grande échelle - littéralement cette année, de grands appareils multifonctionnels sont lancés par de grandes entreprises - j’ai réalisé que l’appel à l’action était maintenant.

WENDELL WALLACH : L’omniprésence des appareils et le fait que la plupart des consommateurs ne savent même pas ce qu’ils portent lorsqu’ils utilisent ces appareils.

NITA FARAHANY : Cela et un autre élément. Comme vous le savez en tant qu’expert en IA, les algorithmes se sont beaucoup améliorés. Les capteurs se sont améliorés, les appareils multifonctionnels se sont améliorés, mais les données d’entraînement et la puissance des algorithmes pour décoder l’information - de 2012, lorsque j’ai écrit la première proposition de livre, à aujourd’hui, nous sommes dans un monde complètement différent, et cela se produit beaucoup plus rapidement que les gens ne le pensaient. Avec l’IA générative et ce qu’elle va signifier pour la prochaine génération de ces appareils, je ne pense pas que nous ayons le temps d’attendre.

Je pense que nous sommes sur cette courbe d’ascension rapide, alors qu’il y a dix ans, lorsque j’ai rédigé la proposition, il aurait peut-être été beaucoup trop tôt pour lancer un appel à l’action. J’aurais dit : « Il serait bon que nous reconnaissions ce droit au cours de la prochaine décennie, afin qu’il se généralise », mais je ne pense pas que j’aurais pu défendre ce point de vue à l’époque. Si j’avais écrit ce livre en 2012, vous ne m’auriez pas entendu dire : « Il est absolument urgent que nous le fassions aujourd’hui ». Cela aurait été davantage un exercice académique.

WENDELL WALLACH : J’apprécie le fait que non seulement c’est maintenant, mais que vous avez fait le travail de base pour poser le cadre des trajectoires philosophiques et juridiques dans lesquelles nous pouvons mettre en place certains de ces droits et les développer.

Passons à un dernier sujet. Je pense que vous y avez fait allusion en termes de droit à l’autodétermination, mais je crois que vous voyez également un récit positif dans la manière dont ces technologies pour l’individu peuvent être utilisées pour l’autonomisation et l’autodétermination de l’individu. C’est un sujet sur lequel j’ai également écrit ou discuté, mais sous un angle très différent de celui que vous évoquez. Expliquez-nous comment, selon vous, les technologies peuvent être utilisées dans ce contexte.

NITA FARAHANY: Je crois que la liberté cognitive n’est pas seulement un droit de, c’est un droit à. Je pense que ce droit est très puissant lorsqu’il s’agit de la capacité de se connaître soi-même, de connaître son propre cerveau et de changer son propre cerveau.

Ce qui est extraordinaire, alors que nous sommes en 2023, c’est le peu de connaissances que nous avons de notre propre activité cérébrale et de notre santé cérébrale. La plupart des gens peuvent vous donner leur taux de cholestérol, leur rythme cardiaque, leur tension artérielle et leurs habitudes de sommeil. Une grande partie du corps humain a été quantifiée - le nombre de pas effectués par jour - mais la santé, le bien-être et l’activité du cerveau sont une gigantesque boîte noire.

L’idée que les gens puissent disposer de données réelles leur permettant d’observer leur propre cerveau et d’en apprendre davantage sur leurs propres biais, sur les moments où ils se concentrent le mieux. Ils pensent que c’est le matin qu’ils se concentrent le mieux, mais voici des données objectives réelles ; ils ont l’impression d’être lents et léthargiques aujourd’hui - voici des données objectives réelles à ce sujet ; ils sont en mesure de suivre leur développement cognitif au fil du temps ou leur déclin cognitif au fil du temps : Ils peuvent l’utiliser pour méditer plus efficacement ou pour réduire leur niveau de stress ou pour améliorer et accélérer leur activité cérébrale et améliorer leur concentration ou même l’utiliser pour effacer des souvenirs douloureux ou pour travailler sur le syndrome de stress post-traumatique, comme je l’ai fait. Je pense qu’il existe de solides arguments en faveur d’un droit à cela.

Il n’y a rien de plus fondamental dans l’expérience humaine que son propre cerveau et son propre esprit, et le droit d’accéder à ses propres données cérébrales et le droit de les accélérer, de les ralentir ou de les modifier me semblent aussi fondamentaux que possible pour ce que signifie être un être humain. Il ne s’agit pas seulement du droit au libre arbitre, mais du droit à l’autodétermination de notre cerveau et de nos expériences mentales, qui est le droit de, mais aussi le droit à.

WENDELL WALLACH : C’est donc un droit à la connaissance, à l’information, à l’utilisation de ces outils qui vous aident à mieux vous comprendre.

NITA FARAHANY : Oui. Dans quel contexte avez-vous écrit à ce sujet, Wendell ?

WENDELL WALLACH : Pour moi, cela remonte à plusieurs décennies et concerne les pratiques méditatives, la connaissance de soi, l’auto-assistance et l’auto-thérapie. J’ai toujours pensé qu’il s’agissait d’un élément central de notre capacité à fonctionner comme autre chose que des machines soumises à notre conditionnement et à reconnaître lorsque nous sommes soumis à une pression psychologique, interne ou sociale qui nous pousse à agir d’une manière dont nous ne sommes peut-être pas pleinement conscients, que nos actions sont plus ou moins conditionnées, plus ou moins fixées pour nous.

J’ai toujours défendu ce besoin de connaissance de soi, mais il me semble qu’à notre époque, c’est devenu plus qu’une simple voie saine dans notre vie. Ces technologies vous poussent sans cesse à bout. Les lettres de collecte de fonds que vous recevez, les appels téléphoniques frauduleux que vous recevez, vous poussent à bout, et il est très important de ne pas traverser inconsciemment la vie à l’ère des nouvelles technologies. Il devient essentiel que vous ayez suffisamment de connaissance de vous-même pour reconnaître quand on vous pousse à bout. Que vous ayez ou non une connaissance consciente, vous pouvez au moins être subtilement à l’écoute de votre corps lorsqu’il vous dit que quelque chose ne va pas.

NITA FARAHANY: Tout à fait. Cela inclut une version plus pédante, le bouton Twitter qui vous demande « Voulez-vous d’abord lire l’article avant de l’envoyer ? », ce qui incite votre cerveau à penser plus lentement. Cela vous permet de prendre conscience des raccourcis qui viennent d’être faits avec votre cerveau, au lieu de ralentir et d’être plus réfléchi dans votre interaction avec la technologie. Je pense qu’on ne peut pas mieux dire. Il n’a jamais été aussi important que les gens ralentissent et réfléchissent à ce que font les technologies et l’environnement avec lesquels ils interagissent et à la manière dont ils peuvent faire la différence dans cette expérience.

WENDELL WALLACH : Je trouve merveilleux que certaines technologies intègrent cela et disent : « Arrêtez-vous, regardez autour de vous ». Pour ma part, je pense que je me suis conditionné à m’arrêter assez souvent et à réfléchir, donc je ne m’arrête pas toujours lorsque mon Apple Watch me dit que c’est l’heure de la sieste, mais je suis assez reconnaissant qu’au moins certains fabricants aient pris en compte la facilitation de la connaissance de soi, la facilitation de la conscience de soi et de ce qui se passe dans l’instant comme l’une des fonctions qu’ils veulent faciliter pour leurs utilisateurs. J’aimerais que cela soit plus répandu que la collecte de données sur nos boutons et sur la manière dont nous pouvons inconsciemment - je ne pense pas que ce soit notre inconscient - être poussés à l’activité à des fins politiques et de marketing au service de ceux qui nous poussent.

D’autre part, je pense que vous avez non seulement le droit à l’autodétermination et à la non-intervention d’autrui, mais aussi le droit aux données, aux algorithmes qu’ils ont par profil chaque mois pour savoir ce que les spécialistes du marketing pensent que je suis, si je pouvais simplement les consulter afin d’être un peu plus conscient de la façon dont je suis manipulé.

NITA FARAHANY : Je plaide pour un droit à l’accès à l’information. Je pense que ce droit à l’accès à l’information - qui a déjà été reconnu dans la législation internationale sur les droits humains - devrait facilement l’inclure. Il devrait inclure les données. Il devrait inclure la transparence des algorithmes : Qu’est-ce qui est collecté à votre sujet ? Qu’est-ce qui est déduit ? Je pense que nous ferions une énorme différence dans le monde si nous pouvions faire reconnaître cela, Wendell.

WENDELL WALLACH : Nous aurions accompli quelque chose si cela pouvait être mis en place, et heureusement ce n’est pas seulement nous. Heureusement, nous avons toute une communauté de juristes, d’éthiciens de la technologie et d’autres personnes qui reconnaissent maintenant que ces technologies ne peuvent pas être ignorées de façon bénigne.

NITA FARAHANY : Je pense que c’est exact, et c’est également vrai pour les neurotechnologies. Je ne parle pas dans le vide. Il y a tant d’organisations, de chercheurs et d’universitaires importants qui font le dur travail d’élaborer des cadres et des lignes directrices éthiques et qui essaient de nous aider à rendre cette technologie plus puissante et plus utile pour les individus, et cela inclut un grand nombre de technologues eux-mêmes. Un grand nombre d’entreprises sont profondément investies et engagées dans la recherche d’une voie éthique pour l’avenir.

Je pense que c’est encourageant. S’il s’agit d’un appel à l’action, ce n’est pas un appel à l’action qui se produit sans qu’il y ait déjà beaucoup d’élan dans la bonne direction, mais c’est un appel à l’action auquel beaucoup de gens dans le grand public n’ont pas encore adhéré. C’est en partie pour cette raison que j’ai écrit ce livre, je l’espère, d’une manière très accessible, concrète et fondée, afin d’aider même les personnes qui ne participent pas encore au débat, qui ne participent pas encore aux conversations, qui ne participent pas encore à l’élan vers la reconnaissance du droit à la liberté cognitive, à se joindre à la conversation, à comprendre les enjeux et à comprendre ce qui se passe déjà pour que cela soit possible.

WENDELL WALLACH : Je pense que vous y êtes parvenue. Je vous recommande vivement ce livre. Je sais que de nombreux auditeurs de notre podcast recherchent le niveau de compréhension du dilettante pour savoir de quoi parle un livre, mais permettez-moi de vous dire, en tant que personne qui a lu le livre en prépublication, que nous n’avons fait qu’effleurer la surface. Si ce sujet vous intrigue, je vous suggère d’acheter un exemplaire de The Battle for Your Brain. Je pense que vous ne serez pas du tout déçus au fur et à mesure que vous le parcourrez.

Deuxièmement, il s’agit d’un livre qui a apporté une contribution. Les gens ne se souviendront peut-être plus de Nita Farahany dans les années à venir, mais elle a certainement réalisé ici un travail original qui va catalyser d’autres personnes dans le domaine pour qu’elles s’inspirent des conseils qu’elle a donnés et qu’elles travaillent à mettre en place le type de libertés cognitives qu’elle propose pour chacun d’entre nous.

NITA FARAHANY : Merci, Wendell, à la fois pour vos aimables paroles et pour cette conversation riche et délicieuse.

WENDELL WALLACH : Merci beaucoup, Nita, d’avoir partagé votre temps, vos idées et votre expertise avec nous. Il s’agit en effet d’une nouvelle discussion riche et stimulante.

Merci à nos auditeurs de nous avoir écoutés et un merci tout particulier à l’équipe du Carnegie Council pour avoir accueilli et produit ce podcast. Pour obtenir les dernières informations sur l’éthique et les affaires internationales, n’oubliez pas de nous suivre sur les médias sociaux à l’adresse @carnegiecouncil. Vous pouvez également consulter le site carnegiecouncil.org pour d’autres podcasts et articles que nous avons publiés. Je m’appelle Wendell Wallach et j’espère que nous avons mérité le privilège de retenir votre temps d’écoute. Je vous remercie.