المقالات بلغتها الأصلية Originaux Originals Originales

Affichage des articles dont le libellé est Sue Halpern. Afficher tous les articles
Affichage des articles dont le libellé est Sue Halpern. Afficher tous les articles

28/05/2025

SUE HALPERN
Pour l'amour de l'argent : ‘Careless People’,un conte moral sur la réalité de Facebook


Sue Halpern , The New York Review,  29/5/2025
Traduit par Fausto Giudice, Tlaxcala 

Les mémoires accablantes de Sarah Wynn-Williams sur son travail chez Facebook révèlent la cupidité prédatrice des dirigeants de l'entreprise.


 Sarah Wynn-Williams par Hanna Barczyk

Livre recensé :


Careless People: A Cautionary Tale of Power, Greed, and Lost Idealism  

[Jemenfoutistes : un conte moral sur le pouvoir, la cupidité et la perte d'idéalisme]
par Sarah Wynn-Williams
Flatiron, 382 pages, 32,99 $

Début janvier, Mark Zuckerberg, PDG de Meta, a annoncé que l’entreprise mettait fin à la vérification des faits sur ses plateformes de réseaux sociaux, Facebook, Threads et Instagram. La raison, a-t-il déclaré, reprenant les arguments de la droite, était que signaler les discours haineux et les fausses informations constituait une forme de censure. Le programme de vérification des faits de l'entreprise avait été mis en place après l'élection présidentielle usaméricaine de 2016, lorsque Facebook, comme l'entreprise s'appelait alors, avait été vivement critiqué pour avoir laissé la propagande russe faire pencher la balance en faveur de Trump. Il a été annulé peu après que Zuckerberg se fut rendu à Mar-a-Lago après les élections pour rendre hommage à l'homme qui avait menacé de l'emprisonner à vie. (Comme si le fait d'autoriser les mensonges et la haine sur ses plateformes ne suffisait pas, Meta a également versé 25 millions de dollars à Trump pour régler un procès en 2021 dans lequel Trump affirmait que Meta l'avait illégalement exclu de ses plateformes après l'émeute du Capitole du 6 janvier, et Zuckerberg a fait un don d'un million de dollars au fonds d'investiture de Trump).

Il était donc délicieusement ironique que, quelques semaines après l'annonce publique de la décision relative à la vérification des faits, Meta ait saisi la justice pour faire taire Sarah Wynn-Williams, qualifiant les nouvelles mémoires accablantes de l'ancienne employée de Facebook, Careless People: A Cautionary Tale of Power, Greed, and Lost Idealism, de « fausses et diffamatoires ». Un arbitre a reconnu que Wynn-Williams, qui était directrice de la politique mondiale de Facebook lorsqu'elle a quitté l'entreprise en 2017, avait peut-être violé la clause de non-dénigrement de son accord de départ, mais ce fut une victoire à la Pyrrhus pour l'entreprise : bien que Wynn-Williams ait été condamnée à cesser de promouvoir son livre, les actions de Meta se sont avérées être une opération de relations publiques inestimable. Quelques jours après ces manœuvres juridiques, le livre est devenu un best-seller. Wynn-Williams a également été invitée à témoigner devant la sous-commission sénatoriale sur la criminalité et le contre-terrorisme, ce qu'elle a fait le 9 avril, sous la menace d'une amende de 50 000 dollars chaque fois qu'elle ferait un commentaire que Meta considérerait comme dénigrant à l'égard de l'entreprise. Depuis 2021, lorsque Frances Haugen, une autre ancienne employée de Facebook, a divulgué des documents révélant que l'entreprise était consciente des dommages causés par ses produits, la cupidité prédatrice de Zuckerberg, de sa directrice générale de longue date Sheryl Sandberg et de leurs lieutenants n'avait jamais été aussi exposée.

Comme le raconte Wynn-Williams, elle était impatiente de travailler chez Facebook car elle croyait profondément que cela allait changer le monde. C'était en 2009, trois ans seulement après que le site web universitaire très populaire de Zuckerberg eut été ouvert au grand public. « Il semblait évident que la politique allait faire son apparition sur Facebook », écrit-elle, « et quand cela se produirait, quand elle migrerait vers ce nouvel immense lieu de rassemblement, Facebook et les personnes qui le dirigeaient seraient au centre de tout ». À l'époque, Wynn-Williams, avocate néo-zélandaise, travaillait comme diplomate à l'ambassade de Nouvelle-Zélande à Washington, D.C., après plusieurs années passées aux Nations unies, où elle s'était affairée en marge des traités internationaux sur des sujets tels que les organismes génétiquement modifiés, discutant de la place des virgules et des points-virgules.

Il lui a fallu plusieurs tentatives avant que le responsable de la petite équipe politique de Facebook à Washington ne l'engage en 2011 pour aider les dirigeants de l'entreprise à se lancer et à naviguer sur la scène mondiale. Zuckerberg n'était pas intéressé, du moins au début ; Sandberg était plus réceptive, même si elle semblait parfois plus soucieuse de promouvoir ses propres intérêts et son image que ceux de l'entreprise. Dans une anecdote révélatrice, elle a demandé à emmener ses parents à une réunion avec Shinzo Abe, le Premier ministre japonais, et a voulu une photo de lui tenant son livre féministe sur le monde de l'entreprise, Lean In. (Bien que le bureau du Premier ministre ait rejeté la demande de participation de ses parents et insisté pour qu'il n'y ait pas de photo d'Abe tenant le livre, Sandberg a décidé de « détourner » l'événement quand même. Wynn-Williams a mis le livre entre les mains du Premier ministre à la fin de la réunion, puis a pris quelques photos avant que quiconque ne puisse l'en empêcher. Après coup, Sandberg était tellement ravie qu'elle a serré Wynn-Williams dans ses bras pour un « long et profond câlin »).

Il est difficile de dire qui apparaît comme le plus insouciant dans Careless People. Selon Wynn-Williams, Sandberg ment dans un post Facebook en affirmant avoir failli se trouver dans un avion qui s'est écrasé ; elle insiste pour que Wynn-Williams partage son lit lors d'un vol de retour de Davos, puis la « snobe » lorsqu'elle refuse ; elle écrit un livre prétendument féministe, mais « dirige » par l'intimidation, la peur et l'humiliation ;  elle semble peu s'intéresser à la vie réelle des femmes (lorsqu'on lui parle de la Marche des femmes, par exemple, elle ne veut savoir que ce que Melania Trump portait lors de l'investiture de son mari) ; à la suite de l'attaque terroriste à Paris qui a tué 130 personnes, elle considère que le fait que les gouvernements se détournent des questions de confidentialité, qui sont mauvaises pour l'entreprise, pour se concentrer sur la sécurité et la surveillance — qui, en collectant et en stockant des quantités importantes de données personnelles, sont bonnes pour elle — est une victoire pour Facebook ; et est impliquée dans l'embauche d'une société de recherche sur l'opposition pour diffuser des théories antisémites complotistes sur George Soros.

Il y a ensuite Zuckerberg, qui souhaite que Wynn-Williams organise soit une émeute, soit un rassemblement pacifique pour l'accueillir lors d'un voyage en Asie afin qu'il puisse « être entouré de gens ou être « gentiment pris d'assaut » » ; qui, dans un discours prononcé aux Nations unies, déclare que Facebook va apporter Internet dans les camps de réfugiés, alors que l'entreprise n'a aucune intention de le faire ; qui souhaite écraser les médias traditionnels afin que Facebook puisse contrôler l'information ; qui demande à Xi Jinping, le président chinois, de donner un nom à son enfant à naître (Xi refuse) ; qui veut « des listes d'adversaires, qu'il s'agisse d'entreprises, d'individus, d'organisations ou de gouvernements », et de trouver comment « utiliser la plateforme et les outils dont nous disposons pour vaincre ces adversaires » ; qui poursuit en justice des centaines d'Hawaïens de souche pour les forcer à lui vendre leurs terres ; et qui estime que le plus grand président usaméricain était Andrew Jackson parce que, comme le raconte Wynn-Williams, « il était impitoyable, populiste et individualiste, et... il « faisait avancer les choses » », un point de vue qui ignore, par exemple, le fait qu'il ait sanctionné le massacre des Amérindiens ou qu'il ait embrassé l'esclavage. (Jackson est également le président préféré de Trump, à part lui-même. Lorsqu'il est revenu au Bureau ovale, il a réinstallé un portrait de Jackson que Biden avait retiré).

Et puis il y a le candidat surprise dans cette course vers le bas, un politicien véreux et ancien petit ami de Sandberg nommé Joel Kaplan. Selon Wynn-Williams, Kaplan, avocat formé à Harvard et ancien marine qui est arrivé chez Facebook après avoir travaillé pour l'administration Bush, où il était chef de cabinet adjoint, semble prendre plaisir à la harceler sexuellement. Entre autres choses, il reproche à Wynn-Williams d'être « difficile à approcher » pendant son congé maternité, qu'elle a en partie passé dans le coma à cause d'une hémorragie ; il lui demande de lui dire quelle partie de son corps saignait ; il se frotte contre elle lors d'une fête d'entreprise ; et il la pousse à lui expliquer l'allaitement maternel.

« Mes amis qui ont succombé au discours de Sheryl dans Lean In me recommandent vivement d'aller lui faire part de mes préoccupations », écrit Wynn-Williams :

« Je comprends leur point de vue : c'est une question sur laquelle elle a choisi de se positionner de manière très visible. À cette époque, elle est citée dans un article de Bloomberg recommandant une politique de tolérance zéro envers le harcèlement et déclarant : « Je pense que c'est une bonne chose que les gens perdent leur emploi lorsque cela se produit, car je pense que c'est ce qui les dissuadera de recommencer à l'avenir. Et je pense que c'est un défi pour les dirigeants. En tant que dirigeant d'une entreprise, il ne doit y avoir aucune tolérance à cet égard. »

Et pourtant, les dirigeants de Facebook non seulement tolèrent le harcèlement sexuel, mais ils font comme s'il n'existait pas. Peu après avoir déposé plainte, Wynn-Williams a été sommairement licenciée de l'entreprise. Kaplan est aujourd'hui directeur des affaires internationales chez Facebook. (Sandberg a quitté l'entreprise en 2022 et a démissionné du conseil d'administration l'année dernière.)

On peut dire que beaucoup d'entre nous ont eu des patrons abusifs et ont travaillé dans des environnements toxiques, même si ce n'était peut-être pas à un point tel que, lorsqu'une collègue est allongée sur le sol en proie à une crise d'épilepsie (comme le décrit Wynn-Williams), le patron ne fait rien parce qu'il est « trop occupé ». Pourtant, Careless People ne serait qu'un récit cinglant de plus sur les méfaits du capitalisme tardif au travail si les personnes en question n'avaient pas une influence démesurée sur les affaires mondiales. Comme Wynn-Williams l'a correctement deviné, il n'a pas fallu longtemps pour qu'une entreprise dont la mission déclarée était de « connecter le monde » devienne un acteur majeur de la politique et des décisions stratégiques au niveau national et international, mais pas de la manière bienveillante qu'elle imaginait. Au contraire, pendant ses sept années chez Facebook et depuis, la direction de Meta a permis à des politiciens du monde entier d'utiliser ses plateformes pour influencer les élections, a été un vecteur volontaire de désinformation, dont certaines ont incité au génocide, et a docilement obéi aux ordres de gouvernements autoritaires.

Wynn-Williams et Zuckerberg ont eu pour la première fois le sentiment que Facebook pouvait être exploité par les politiciens pour influencer leur destin électoral en 2014, lors d'une réunion avec le président élu d'Indonésie, Joko Widodo, qui se qualifiait lui-même de « président Facebook ». Comme il leur a dit : « Je n'étais pas censé gagner. Je suis charpentier, après tout, mais j'ai pu m'adresser directement aux gens grâce à Facebook ». Wynn-Williams était ravie. Elle était tellement convaincue que l'entreprise était une force positive qu'elle ne voyait pas encore que Facebook était également accessible à des candidats dont les idéologies étaient moins idéalistes que les siennes. Cela est devenu évident moins de deux ans plus tard.

Aujourd'hui, tout le monde connaît l'histoire de la campagne de Trump et de la manière dont il a utilisé Facebook pour remporter sa victoire improbable en 2016. Candidat improbable disposant de moins d'argent que la présidente présumée des USA, Hillary Clinton, Trump a engagé un concepteur web basé à San Antonio, Brad Parscale, pour mener sa campagne numérique. Parscale n'avait aucune expérience politique — il a été engagé parce qu'il était bon marché — mais il connaissait bien Facebook et comprenait que les bonnes publicités ciblant les bonnes personnes avaient le potentiel de les transformer en électeurs de Trump ou de persuader les électeurs potentiels de Clinton de rester chez eux.

Facebook a envoyé une équipe de ses employés à San Antonio pour s'intégrer à la campagne et l'aider à optimiser la plateforme publicitaire de Facebook afin de convaincre les électeurs de voter pour Trump, en particulier ceux qui ne se rendaient généralement pas aux urnes. L'entreprise a fermé les yeux lorsque Parscale a commencé à travailler avec Cambridge Analytica, un cabinet de conseil britannique lié à la fois au provocateur de droite Steve Bannon et à la riche donatrice conservatrice Rebekah Mercer, qui « récoltait » toutes sortes d'informations personnelles auprès de millions d'utilisateurs usaméricains de Facebook qui ne se doutaient de rien. Ces données ont permis à la campagne d'adapter précisément les publicités à ces utilisateurs et, grâce à l'outil « Lookalike Audiences » de Facebook, d'envoyer ces publicités à des centaines de milliers d'électeurs potentiels qui leur ressemblaient. Comme l'écrit Wynn-Williams, Parscale « a en fait inventé une nouvelle façon pour une campagne politique de se frayer un chemin vers la Maison Blanche, en ciblant les électeurs avec des informations erronées, des messages incendiaires et des appels aux dons ». Mais lorsque la victoire surprenante de Trump a été attribuée à Facebook, Zuckerberg a protesté, qualifiant cette idée de « folle ». (Le New York Times a réagi en déclarant que Zuckerberg était « dans le déni ». Sandberg, cependant, a été tellement impressionnée par le travail de Parscale qu'elle a voulu l'embaucher).

La victoire de Trump a alerté les politiciens du monde entier sur le fait que Facebook était un multiplicateur de force électorale, s'ils ne le savaient pas déjà. (L'année précédant la victoire de Trump, le Parti conservateur britannique semblait l'avoir compris, dépensant dix fois plus sur Facebook que le Parti travailliste. Selon la BBC, « l'utilisation intelligente de la publicité Facebook dans les circonscriptions marginales a été l'un des facteurs qui ont contribué à la victoire surprise de David Cameron »). Lors des élections générales usaméricaines de 2020, les démocrates avaient compris le message : au cours des cinq semaines précédant les élections, Joe Biden a dépensé plus que Trump en publicités Facebook ; il a également créé davantage de pages Facebook à partir desquelles lancer des publicités. Quatre ans plus tard, les campagnes de Trump, Biden et Harris ont généré six milliards d'impressions publicitaires sur les plateformes de médias sociaux de Meta. (Une impression signifie qu'une publicité est affichée sur l'écran d'un utilisateur.)

L'influence de Facebook sur les élections ne s'est pas limitée aux USA et au Royaume-Uni. En 2022, le parti d'extrême droite Fratelli d'Italia de Giorgia Meloni, qui a remporté la victoire, a dépensé beaucoup plus que les autres partis politiques sur Facebook, tout comme Viktor Orbán, son parti Fidesz et leurs alliés lors des élections européennes de l'année dernière et des élections hongroises de 2022, qui ont ramené Orbán au pouvoir. (Comme Trump, ils ont bénéficié des tarifs publicitaires de Facebook, car les publicités incendiaires suscitent le plus d'engagement, et l'engagement fait baisser le prix.) Bien que la corrélation ne soit pas nécessairement une causalité, un groupe de recherche en Allemagne a étudié l'effet des publicités Facebook et Instagram sur les élections allemandes de 2021 afin d'évaluer si ces publicités avaient effectivement été décisives. Sa conclusion : « La publicité politique en ligne influence considérablement les résultats des élections et peut même avoir un effet décisif ».

L'autre leçon tirée de la campagne numérique de Trump en 2016 est que mener une opération de collecte de fonds parallèlement à une campagne publicitaire peut générer suffisamment de revenus pour que les deux soient autosuffisantes. Non seulement la première campagne de Trump a été l'un des principaux annonceurs de Facebook à l'échelle mondiale, mais Facebook a également été la plus grande source de financement de la campagne. D'un autre côté, selon Wynn-Williams, Facebook a réalisé des bénéfices records grâce à la campagne de Trump. Cependant, sa valeur pour Zuckerberg, Sandberg et leur équipe allait au-delà des gains financiers : une fois que les politiciens ont compris que Facebook était essentiel à leur succès électoral, l'entreprise a pu obtenir d'eux des politiques favorables. Ou, comme l'a dit Sandberg de manière euphémique, « lorsque les décideurs politiques ont une expérience positive de l'utilisation de Facebook pour leurs campagnes ou leur gouvernance, ils sont plus ouverts à un partenariat avec nous pour traiter des questions politiques ». (C'est l'une des raisons pour lesquelles, aux USA par exemple, il n'existe pas de législation fédérale significative en matière de confidentialité des données, et pourquoi l'article 230 de la loi sur la décence dans les communications, qui dégage les entreprises de toute responsabilité quant au contenu publié sur leurs plateformes,  n'a pas été modifié.)

Selon Wynn-Williams, pendant qu'elle travaillait chez Facebook, l'entreprise a également commencé à investir dans des élections en dehors des USA, montrant aux politiciens comment utiliser la plateforme pour cibler des électeurs spécifiques avec des publicités spécifiques afin de rendre ces politiciens « dépendants de Facebook pour leur pouvoir ». À cette fin, l'entreprise a embauché une « équipe commerciale » politique pour rendre les politiciens accros à la plateforme. Son patron, Kaplan, souhaitait également créer des comités d'action politique (PAC) à travers le monde afin de « canaliser l'argent vers nos principaux alliés à l'étranger, c'est-à-dire nos politiciens les plus influents dans d'autres pays ». Il a semblé surpris lorsqu'elle lui a expliqué que dans la plupart des pays, cela serait considéré comme de la corruption. (Kaplan, bien que responsable des affaires internationales, a également été surpris d'apprendre que Taïwan était une île.)

Le problème lorsqu'on s'implique dans la politique intérieure d'autres pays, c'est que cela fonctionne dans les deux sens. Tout comme Facebook pouvait obtenir des concessions et des faveurs de la part des politiciens, ces derniers pouvaient utiliser Facebook pour poursuivre leurs propres agendas malveillants, parfois avec l'aide tacite ou non de l'entreprise. À la demande des autorités russes, par exemple, l'entreprise a bloqué la page d'un événement organisé en soutien au dissident russe Alexeï Navalny. Lorsque la journaliste philippine Maria Ressa, lauréate du prix Nobel, a alerté Facebook que le nouveau président des Philippines, Rodrigo Duterte, avait utilisé la plateforme pour répandre des mensonges et semer la peur pendant sa campagne électorale, l'entreprise a choisi de ne rien faire. (Duterte a récemment été arrêté par la Cour pénale internationale et est détenu à La Haye pour crimes présumés contre l'humanité. Il est également candidat à la mairie de Davao City, sa ville natale dans le sud des Philippines, et certains analystes estiment qu'il a des chances de gagner.) Plus grave encore, l'entreprise n'a rien fait lorsqu'elle a reçu des preuves irréfutables que la junte birmane utilisait Facebook pour diffuser une propagande haineuse contre les Rohingyas, qui a finalement conduit à un génocide. Selon Wynn-Williams, cela s'explique par le fait que Zuckerberg, Sandberg et Kaplan « s'en fichaient complètement ».

Il semble toutefois probable qu'ils se souciaient, non pas des droits humains, mais de leurs intérêts commerciaux. Comme le raconte Wynn-Williams,

de plus en plus de politiciens demandent explicitement à Facebook d'intervenir... Certains sont moins délicats que d'autres et accompagnent leur demande d'une menace de réglementation si celle-ci est refusée.

Ainsi, lorsque l'« équipe de croissance » de Facebook, que Wynn-Williams qualifie de « cœur battant de l'entreprise », rencontre des politiciens intransigeants, elle envisage de « manipuler » l'algorithme pour leur montrer « un peu d'amour ».

Comme beaucoup d'entreprises, l'objectif de Facebook est la croissance. Mais contrairement à une entreprise qui cherche à trouver de nouveaux marchés pour ses raquettes de tennis ou ses chargeurs de téléphone, Facebook ne commercialise pas de produits physiques. Son activité consiste plutôt à capter l'attention des gens. Plus il y a d'utilisateurs, plus il y a de données personnelles, et les données sont le moteur qui alimente l'activité principale de l'entreprise : la publicité. En 2023, et à nouveau l'année dernière, près de 100 % des revenus de Meta provenaient de la vente d'annonces publicitaires. Le problème avec ce modèle est qu'il nécessite de plus en plus d'utilisateurs – et de plus en plus de données les concernant – pour attirer de nouveaux annonceurs et fidéliser les anciens. Faut-il s'étonner, alors, que l'entreprise ait proposé à ses clients publicitaires d'accéder à des adolescents qui se sentaient inutiles et déprimés ? Comme le souligne Wynn-Williams, « le secteur de la publicité comprend que nous achetons davantage lorsque nous sommes en proie à l'insécurité, et le fait que Facebook sache quand cela se produit et puisse cibler ses publicités lorsque nous sommes dans cet état est considéré comme un atout ».

En 2012, Facebook comptait un milliard d'utilisateurs dans le monde, soit une personne sur sept sur la planète, doublant ainsi sa base d'utilisateurs en seulement deux ans. Bien que Zuckerberg ait célébré cette étape importante dans la presse, lui et son équipe s'inquiétaient en réalité de « manquer de marge de manœuvre ». Pour atteindre le prochain milliard, l'entreprise devait trouver le moyen de s'implanter dans des pays qui avaient été hostiles à Facebook par le passé. Selon Wynn-Williams, un membre anonyme du conseil d'administration de Facebook a suggéré que l'entreprise se rapproche des partis d'extrême droite en Europe, tels que l'AfD en Allemagne et le Front national en France, car c'est là que le pouvoir semblait se déplacer. Mais le Saint Graal pour Facebook était de conquérir le marché chinois, où la plateforme est toujours interdite.

La présentation de Facebook au Parti communiste chinois (PCC) est un modèle du genre sur la manière d'apaiser un régime autoritaire. Par exemple, l'entreprise a promis que Facebook aiderait le gouvernement chinois à promouvoir un « ordre social sûr et sécurisé », une invitation à peine voilée au gouvernement à utiliser Facebook à des fins de surveillance. En outre, elle a stipulé que la présence de Facebook en Chine « créerait un environnement en ligne civilisé, raison pour laquelle nous respectons les lois locales, ainsi qu'harmonieux, raison pour laquelle nous supprimons les contenus offensants ». La société a proposé un partenariat avec une société chinoise de capital-investissement qui serait chargée de créer une équipe de modération du contenu afin de censurer les contenus interdits, de stocker les données chinoises en Chine (où elles seraient accessibles au régime) et d'honorer les demandes du gouvernement visant à lui remettre les données des utilisateurs. Facebook fournirait également des outils de reconnaissance faciale, de marquage de photos et d'autres outils permettant aux autorités chinoises d'examiner les messages privés. L'équipe de Facebook travaillant sur cette proposition comprenait qu'il serait mal vu que leurs concessions aux Chinois soient rendues publiques. Ainsi, en plus de vouloir coordonner avec les autorités chinoises pour contrôler les fuites, ils ont lancé en interne quelques titres de journaux potentiels afin d'anticiper les mauvaises critiques. « La Chine a désormais accès à toutes les données des utilisateurs de Facebook », pouvait-on lire dans l'un d'eux. « Facebook remet les données des citoyens chinois au gouvernement chinois », disait un autre. En d'autres termes, Facebook savait ce qu'il faisait.

Malgré ces concessions, le gouvernement chinois a continué à bloquer Facebook. Cela n'a pas empêché Zuckerberg de tromper le Congrès sur la volonté de l'entreprise de collaborer avec le PCC pour mettre en place des outils de censure, ni de se plier aux exigences du parti en supprimant définitivement la page Facebook d'un dissident de premier plan, puis en demandant au conseiller juridique de Facebook de mentir à ce sujet devant la commission sénatoriale du renseignement. Ne voulant pas être en reste, l'entreprise a trouvé une solution de contournement en lançant deux applications sans licence en Chine par l'intermédiaire d'une société écran sous un autre nom. Facebook a agi ainsi sans en informer ses investisseurs, la Commission fédérale du commerce ou le Congrès. « L'une des plus grandes entreprises cotées en bourse aux USA est totalement indifférente aux règles », écrit Wynn-Williams, et c'est soit un cri du cœur, soit une déclaration de défaite.

On a beaucoup écrit sur la manière dont les régimes autoritaires, les politiciens antidémocratiques et d'autres acteurs pernicieux ont utilisé Facebook pour atteindre des objectifs illibéraux et répressifs. Careless People démontre une fois pour toutes que les plateformes de médias sociaux de Meta n'ont jamais été des vecteurs neutres d'information, mais plutôt le support, et non le contenu, de l'information. La capacité et la volonté de l'entreprise d’« exploiter » l'algorithme pour obtenir ce que veulent les dirigeants de Facebook, ainsi que les transactions intéressées et rapaces de Zuckerberg et Sandberg, qui ont exploité la vie privée des utilisateurs, montrent clairement que leur modèle économique – et leur image publique – reposent sur l'artifice et le mensonge. Wynn-Williams n'a pas tort : ce sont fondamentalement des personnes qui n’en ont rien à cirer, c'est-à-dire qu'elles se moquent éperdument de leur impact sur les autres lorsque cet impact ne leur est pas profitable. À l'instar de Tom et Daisy Buchanan dans Gatsby le Magnifique, Zuckerberg et Sandberg « ont détruit des choses et des êtres, puis se sont réfugiés dans leur argent ou leur immense insouciance ». Mais ce ne sont pas des personnages fictifs, et les choses qu'ils ont détruites – des vies individuelles, des communautés entières et même, dans certains endroits, la démocratie elle-même – ne sont pas non plus imaginaires. Peut-être ne devrions-nous pas être surpris. Zuckerberg nous a fait part de son plan dès le début : « Agir vite et casser les codes ». Et c'est ce qu'il a fait.


Zuckerberg : “Circulez, ya rien à voir” -Adam Zyglis

 

 

03/10/2021

SUE HALPERN
Les coûts humains de l'Intelligence Artificielle

Sue Halpern, The New York Review of Books, 21/10/2021
Traduit par
Fausto Giudice, Tlaxcala 

Sue Halpern est rédactrice au magazine New Yorker et collabore régulièrement à la New York Review of Books. Elle est l'auteure de sept livres, dont les best-sellers "A Dog Walks into a Nursing Home" et "Four Wings and a Prayer", qui a fait l'objet d'une version cinématographique nominée aux Emmy Awards. Elle est chercheuse en résidence et enseignante au Middlebury College dans le Vermont. @suehalpernVT

L'intelligence artificielle ne nous vient pas comme un deus ex machina, mais plutôt par le biais d'un certain nombre de pratiques extractives déshumanisantes, dont la plupart d'entre nous n'ont pas conscience.

'Data Pools', un projet d'usurpation de géolocalisation par Adam Harvey et Anastasia Kubrak qui a relocalisé virtuellement les téléphones des gens dans les piscines des PDG de la Silicon Valley, 2018. Adam Harvey/Anastasia Kubrak

 

Livres recensés :

Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence 

by Kate Crawford

Yale University Press, 327 pp., $28.00

We, the Robots?: Regulating Artificial Intelligence and the Limits of the Law

by Simon Chesterman

Cambridge University Press, 289 pp., $39.99

Futureproof: 9 Rules for Humans in the Age of Automation

by Kevin Roose

Random House, 217 pp., $27.00

The Myth of Artificial Intelligence: Why Computers Can’t Think the Way We Do

by Erik J. Larson

Belknap Press/Harvard University Press, 312 pp., $29.95

En 2015, une cohorte de scientifiques et d'entrepreneurs de renom, dont Stephen Hawking, Elon Musk et Steve Wozniak, ont publié une lettre publique exhortant les technologues qui développent des systèmes d'intelligence artificielle à "rechercher comment tirer parti de ses avantages tout en évitant les pièges potentiels." À cette fin, ont-ils écrit : "Nous recommandons une recherche élargie visant à garantir que les systèmes d'IA de plus en plus performants soient robustes et bénéfiques : nos systèmes d'IA doivent faire ce que nous voulons qu'ils fassent."

Plus de huit mille personnes ont maintenant signé cette lettre. Si la plupart sont des universitaires, les signataires comprennent également des chercheurs de Palantir, la société de surveillance secrète qui aide l'ICE (Agence de police de l’immigration et des frontières) à rafler les immigrants sans papiers, les dirigeants de Vicarious, une société de robotique industrielle qui se vante de réduire pour ses clients de plus de 50 % les heures de travail - c'est-à-dire le travail effectué par des humains - et les fondateurs de Sentient Technologies, qui avaient auparavant développé la technologie de reconnaissance de la langue utilisée par Siri, l'assistant vocal d'Apple, et dont l'entreprise a depuis été intégrée à Cognizant, une société qui a fourni une partie de la main-d'œuvre sous-payée et excessivement stressée chargée de "modérer" le contenu de Facebook.

Musk, quant à lui, ne vise pas seulement les voitures à conduite autonome équipées d'IA. Sa société de puces cérébrales, Neuralink, vise à fusionner le cerveau avec l'intelligence artificielle, non seulement pour développer des applications médicales susceptibles de changer la vie des personnes souffrant de lésions de la moelle épinière et de troubles neurologiques, mais aussi, à terme, pour tout le monde, afin de créer une sorte d'esprit de ruche. L'objectif, selon Musk, est un avenir "contrôlé par la volonté combinée des habitants de la Terre - [puisque] c'est évidemment l'avenir que nous voulons".

Il s'avère donc que le point le plus important à retenir d'une lettre mettant en garde contre les dangers potentiels de l'intelligence artificielle pourrait être son insistance sur le fait que les systèmes d'IA "doivent faire ce que nous voulons qu'ils fassent". Et qu'est-ce que c'est ? Même aujourd'hui, à peine six ans plus tard, la liste est trop longue pour être énumérée. La plupart d'entre nous ont rencontré des robots de service à la clientèle scénarisés et dotés d'une intelligence artificielle, dont le principal objectif semble être d'éviter les conversations avec de véritables humains. Nous avons fait confiance à l'IA pour nous dire quelles émissions de télévision regarder et où dîner. L'IA a aidé des personnes souffrant de lésions cérébrales à faire fonctionner des bras robotisés et à déchiffrer des pensées verbales en mots audibles. L'IA fournit les résultats de nos recherches sur Google et nous propose des publicités basées sur ces recherches. L'IA façonne le goût des hamburgers à base de plantes. L'IA a été utilisée pour surveiller les champs des agriculteurs, calculer des scores de crédit, tuer un scientifique nucléaire iranien, corriger des copies, remplir des ordonnances, diagnostiquer divers types de cancers, rédiger des articles de journaux, acheter et vendre des actions et décider des acteurs à engager dans des films à gros budget afin de maximiser le retour sur investissement. Aujourd'hui, l'IA est aussi présente que l'internet lui-même. Pour reprendre les termes de l'informaticien Andrew Ng, l'intelligence artificielle est "la nouvelle électricité".