Sue Halpern, The New York Review of Books, 21/10/2021
Traduit par Fausto Giudice, Tlaxcala
L'intelligence artificielle ne nous vient pas comme un deus ex machina, mais plutôt par le biais d'un certain nombre de pratiques extractives déshumanisantes, dont la plupart d'entre nous n'ont pas conscience.
'Data Pools', un projet d'usurpation de géolocalisation par Adam Harvey et Anastasia Kubrak qui a relocalisé virtuellement les téléphones des gens dans les piscines des PDG de la Silicon Valley, 2018. Adam Harvey/Anastasia Kubrak
Livres recensés :
Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence
by Kate Crawford
Yale University Press, 327 pp., $28.00
We, the Robots?: Regulating Artificial Intelligence and the Limits of the Law
by Simon Chesterman
Cambridge University Press, 289 pp., $39.99
Futureproof: 9 Rules for Humans in the Age of Automation
by Kevin Roose
Random House, 217 pp., $27.00
The Myth of Artificial Intelligence: Why Computers Can’t Think the Way We Do
by Erik J. Larson
Belknap Press/Harvard University Press, 312 pp., $29.95
En 2015, une cohorte de scientifiques et d'entrepreneurs de renom, dont Stephen Hawking, Elon Musk et Steve Wozniak, ont publié une lettre publique exhortant les technologues qui développent des systèmes d'intelligence artificielle à "rechercher comment tirer parti de ses avantages tout en évitant les pièges potentiels." À cette fin, ont-ils écrit : "Nous recommandons une recherche élargie visant à garantir que les systèmes d'IA de plus en plus performants soient robustes et bénéfiques : nos systèmes d'IA doivent faire ce que nous voulons qu'ils fassent."
Plus de huit mille personnes ont maintenant signé cette lettre. Si la plupart sont des universitaires, les signataires comprennent également des chercheurs de Palantir, la société de surveillance secrète qui aide l'ICE (Agence de police de l’immigration et des frontières) à rafler les immigrants sans papiers, les dirigeants de Vicarious, une société de robotique industrielle qui se vante de réduire pour ses clients de plus de 50 % les heures de travail - c'est-à-dire le travail effectué par des humains - et les fondateurs de Sentient Technologies, qui avaient auparavant développé la technologie de reconnaissance de la langue utilisée par Siri, l'assistant vocal d'Apple, et dont l'entreprise a depuis été intégrée à Cognizant, une société qui a fourni une partie de la main-d'œuvre sous-payée et excessivement stressée chargée de "modérer" le contenu de Facebook.
Musk, quant à lui, ne vise pas seulement les voitures à conduite autonome équipées d'IA. Sa société de puces cérébrales, Neuralink, vise à fusionner le cerveau avec l'intelligence artificielle, non seulement pour développer des applications médicales susceptibles de changer la vie des personnes souffrant de lésions de la moelle épinière et de troubles neurologiques, mais aussi, à terme, pour tout le monde, afin de créer une sorte d'esprit de ruche. L'objectif, selon Musk, est un avenir "contrôlé par la volonté combinée des habitants de la Terre - [puisque] c'est évidemment l'avenir que nous voulons".
Il s'avère donc que le point le plus important à retenir d'une lettre mettant en garde contre les dangers potentiels de l'intelligence artificielle pourrait être son insistance sur le fait que les systèmes d'IA "doivent faire ce que nous voulons qu'ils fassent". Et qu'est-ce que c'est ? Même aujourd'hui, à peine six ans plus tard, la liste est trop longue pour être énumérée. La plupart d'entre nous ont rencontré des robots de service à la clientèle scénarisés et dotés d'une intelligence artificielle, dont le principal objectif semble être d'éviter les conversations avec de véritables humains. Nous avons fait confiance à l'IA pour nous dire quelles émissions de télévision regarder et où dîner. L'IA a aidé des personnes souffrant de lésions cérébrales à faire fonctionner des bras robotisés et à déchiffrer des pensées verbales en mots audibles. L'IA fournit les résultats de nos recherches sur Google et nous propose des publicités basées sur ces recherches. L'IA façonne le goût des hamburgers à base de plantes. L'IA a été utilisée pour surveiller les champs des agriculteurs, calculer des scores de crédit, tuer un scientifique nucléaire iranien, corriger des copies, remplir des ordonnances, diagnostiquer divers types de cancers, rédiger des articles de journaux, acheter et vendre des actions et décider des acteurs à engager dans des films à gros budget afin de maximiser le retour sur investissement. Aujourd'hui, l'IA est aussi présente que l'internet lui-même. Pour reprendre les termes de l'informaticien Andrew Ng, l'intelligence artificielle est "la nouvelle électricité".
