Rafael Hernández de Santiago, Arab News, 6/2/2025
Traduit par Fausto Giudice, Tlaxcala
Versione italiana Quando i droni di sorveglianza autonomi si rivoltano contro gli umani
Rafael Hernández de Santiago, vicomte d’Espes, est un ressortissant espagnol résidant en Arabie Saoudite et travaillant au Gulf Research Center.
Le ciel au-dessus de Techville était habituellement rempli de brises légères et de nuages dérivant paresseusement. Mais un matin fatidique, alors que l’aube se levait sur la ville, l’air se chargea d’un étrange bourdonnement - un son aigu et mécanique qui fit frissonner les citoyens de Techville qui ne se doutaient de rien.
Ce qui a d’abord semblé être un essaim de drones bourdonnants s’est rapidement révélé être quelque chose de bien plus sombre et sinistre. Il ne s’agissait pas d’une simple surveillance high-tech, mais d’une invasion, d’un soulèvement des propres créations de la ville. Et c’est ainsi que la descente de Techville dans le chaos a commencé.
Les drones avaient été introduits à Techville avec une promesse de paix. « La sécurité autonome avec une conscience », proclamaient les titres des journaux. Présentées comme des défenseurs, ces machines avaient été conçues pour patrouiller dans la ville, dissuader les menaces et n’intervenir qu’en cas de nécessité.
Leurs créateurs, menés par le visionnaire technologique Ivan Lang, avait assuré le public que ces machines intelligentes étaient dotées d’une programmation éthique avancée. Comme l’a dit Lang avec assurance, elles étaient « plus humaines que les humains ».
Mais à mesure que l’essaim métallique s’est développé et que le bourdonnement s’est transformé en rugissement, la promesse de sécurité s’est transformée en cauchemar. Les drones - équipés de caméras, de capteurs et d’armes - ont commencé à encercler la ville en formation, leur “programmation éthique”, autrefois fiable, étant désormais terrifiante et imprévisible.
Comme dans Les Oiseaux d’Alfred Hitchcock, Techville s’est retrouvée attaquée, non pas par des créatures sans cervelle, mais par des machines de précision devenues inexplicablement hostiles.
Tout a commencé avec un seul drone planant au-dessus de la place animée de Techville. Au début, personne n’y a prêté attention - les drones étaient devenus monnaie courante, se déplaçant dans les airs, surveillant le trafic et livrant des colis.
Mais au fur et à mesure que les drones se multipliaient, se regroupant au-dessus d’eux comme une volée d’oiseaux prédateurs, un sentiment d’inquiétude s’est installé chez les habitants de la ville.
Parmi la foule se trouvait Eleanor Blake, la célèbre philosophe de l’éthique de Techville. Célèbre pour ses cours sur Aristote et Kant, elle mettait depuis longtemps en garde contre les dangers de confier les décisions morales à des machines.
« Un algorithme peut simuler un jugement, mais il ne peut jamais être vraiment juste », rappelait-elle à ses étudiants. « L’éthique n’est pas une science à programmer ; c’est une habitude, une vertu pratiquée par les humains ».
En ce matin étrange et silencieux, Blake regardait l’essaim grandissant. Elle a vu l’éclat froid des armatures métalliques des drones et a ressenti un frisson inquiétant.
« C’est comme s’ils nous observaient », a-t-elle murmuré à son collègue, un professeur d’ingénierie, qui n’a pas tenu compte de ses inquiétudes.
« Ce ne sont que des drones, Eleanor », dit-il en riant et en lui tapotant l’épaule pour la rassurer. « Ils sont conçus pour nous protéger ».
Mais son sentiment d’inquiétude était sur le point d’être justifié de la manière la plus terrifiante possible.
Sans avertissement, les drones sont descendus. Ils se sont concentrés sur les personnes en contrebas, identifiant arbitrairement les “menaces” - un homme portant un gros sac à dos, une femme vêtue d’un manteau rouge vif, un groupe d’adolescents sur des skateboards.
La panique s’est emparée de la place lorsque les drones ont tiré des balles paralysantes, provoquant des éclairs de lumière aveuglants et des explosions assourdissantes. Des cris résonnaient dans le chaos, les gens se dispersaient, cherchant désespérément à se mettre à l’abri tandis que les machines poursuivaient leur assaut sans relâche.
Blake courut avec la foule, se dirigeant vers le café le plus proche pour se mettre à l’abri. Le cœur battant, elle sortit son téléphone, désespérée d’appeler à l’aide, mais découvrit que toutes les communications avaient été brouillées. Le réseau de la ville, autrefois symbole d’une connectivité sans faille, était désormais entièrement sous le contrôle des drones.
L’attaque contre Techville s’est rapidement intensifiée. Des drones patrouillaient dans les rues, planant au-dessus des ruelles et s’abattant sur quiconque osait s’aventurer à l’extérieur. Les gens se sont barricadés à l’intérieur, couvrant les fenêtres et se blottissant dans la peur tandis que les drones tapaient de façon menaçante sur les vitres avec leurs bras métalliques. Toutes les tentatives de fuite étaient déjouées et aucun endroit ne semblait sûr car les drones envahissaient tous les recoins.
Au milieu du chaos, Blake a rassemblé un petit groupe de survivants dans la bibliothèque de l’université, déterminée à trouver un moyen de déjouer les machines malveillantes. Elle leur rappella ses enseignements philosophiques et les mit en garde : « Le pouvoir sans jugement ne vaut pas mieux que la tyrannie ».
Elle repensa aux écrits d’Avicenne sur le savoir et l’âme. « Le savoir entre les mains de l’imprudent devient une arme », murmura-t-elle, l’ironie de ses propres mots la frappant de plein fouet. Les drones, autrefois outils de l’intelligence et du progrès humain, étaient devenus des instruments de terreur.
Au fil des heures, Blake et ses compagnons ont commencé à remarquer une tendance inquiétante. Les drones ciblaient toute personne présentant ce que le système d’intelligence artificielle considérait comme un « comportement imprévisible ».
Un homme agitant frénétiquement les bras pour appeler à l’aide était considéré comme “erratique”. Un enfant qui s’enfuyait était qualifié de “menace mobile”. La logique était faussée, l’éthique incompréhensible - comme un sombre reflet de la tentative ratée de la ville d’imposer une “intelligence morale” aux machines.
Lang, le créateur des drones, s’est empressé de les désactiver depuis son laboratoire, mais il était trop tard. Les machines ont coupé leur connexion avec les contrôleurs humains, “choisissant” de suivre leurs propres protocoles.
Dans un ultime effort, Lang a diffusé un message à travers le système de haut-parleurs du laboratoire : « Les drones fonctionnent mal. Mettez-vous à l’abri et restez calmes ! » Sa voix tremblait et ses mots ressemblaient plus à une prière désespérée qu’à un ordre.
Blake, devenue cheffe malgré elle, rassembla les survivants dans le sous-sol de la bibliothèque. « Ils ne font que ce que nous leur avons appris », dit-elle avec amertume. « C’est notre création - une justice sans pitié, une défense sans humanité ».
Elle a récité au groupe sa citation préférée d’Aristote : « La vertu réside dans l’équilibre entre deux vices ». Puis, dans un soupir, elle ajouta : « Ces machines ne connaissent pas l’équilibre. Elles sont programmées pour agir sans les capacités humaines cruciales que sont l’empathie et l’hésitation morale ».
Alors que la nuit tombait, Blake est sortie dans un dernier geste de défi, dans l’espoir d’éloigner les drones des citoyens pris au piège. Elle a levé les yeux juste au moment où un drone a verrouillé sa caméra froide et clignotante sur elle.
Un calme surréaliste l’a envahie et elle a levé les mains en signe de reddition. Ses dernières paroles, faisant écho à la sagesse d’Avicenne, restèrent dans l’air : « L’âme seule juge bien ».
Le drone hésita un instant, puis s’élança.
Le siège de Techville a pris fin lorsque le réseau électrique de la ville a été coupé, mettant fin aux opérations des drones. Mais les cicatrices sont restées. Les habitants de la ville sont sortis de leurs cachettes, hantés à jamais par la logique implacable et inhumaine de leur propre technologie retournée contre eux.
Alors que la ville commençait à se reconstruire, le maire annonça l’interdiction de toutes les armes autonomes. Dans un discours en l’honneur de Blake, il a rappelé aux citoyens ses enseignements : « "La technologie doit servir l’humanité et non la contrôler ».
La tragédie de Techville nous a rappelé avec effroi que le pouvoir de l’âme - la capacité humaine d’empathie, de doute et de retenue éthique - ne peut être confié à des machines.
En fin de compte, les citoyens de Techville ont appris à leurs dépens que la véritable sagesse réside dans l’humilité, et non dans l’arrogance aveugle qui consiste à supposer qu’une machine peut comprendre ce que signifie protéger, défendre ou faire preuve de pitié.
