La technologie aveugle: Comment Israël a utilisé l’intelligence artificielle dans les guerres de Gaza et du Liban ?
L’intelligence artificielle (IA) est devenue une présence puissante sur le champ de bataille, jouant des rôles significatifs dans les opérations militaires à travers le monde. Ses applications varient de l’analyse des données de renseignement à la réalisation de frappes ciblées par le biais de drones, en passant par la reconnaissance à l’aide de robots militaires. Cependant, dans ses conflits contre le Hamas et le Hezbollah, Israël a employé l’IA d’une manière nettement différente.
Traditionnellement, ce sont les opérateurs humains qui identifient les cibles militaires à attaquer ou à éliminer, et l’IA est chargée d’exécuter ces missions. Par exemple, un drone peut procéder à l’élimination d’une cible désignée par la direction militaire. Toutefois, lorsque le champ des cibles potentielles s’élargit considérablement, les opérateurs humains peuvent avoir du mal à identifier, évaluer et examiner manuellement toutes ces cibles dans le temps imparti, qui n’est souvent pas à l’avantage des forces combattantes.
À la suite de la désignation par Israël de presque tous les membres du Hamas et du Hezbollah comme cibles, le pays a adopté une stratégie fondée sur la collaboration entre l’humain et l’IA. Dans ce cas, l’IA a pris en charge la responsabilité d’identifier, d’examiner et de suivre les cibles, tandis que les opérateurs humains se concentraient sur l’exécution des frappes par bombardement aérien.
Pour mettre en œuvre cette stratégie de manière efficace, Israël a utilisé plusieurs systèmes d’IA, notamment “Le Gospel”, “Lavender” et “Where’s Daddy ?”. Ces systèmes étaient chargés de l’identification des cibles, tandis que les humains géraient l’exécution des attaques.
Le système “Gospel” identifie les bâtiments soupçonnés d’être utilisés par les membres du Hamas et du Hezbollah. Le système “Lavender” identifie, priorise et suit les cibles humaines. Pendant ce temps, “Where’s Daddy ?” suit ces individus lorsqu’ils se trouvent dans leur foyer familial, les préparant ainsi pour le bombardement.
Selon un rapport publié par le site israélien (+972 Magazine), ces systèmes aident les forces israéliennes à déterminer qui doit être ciblé, avec une intervention humaine minimale dans le processus décisionnel.
Cette analyse mettra en lumière ces trois systèmes en se basant sur les informations disponibles, tout en examinant la stratégie employée par Israël pour parvenir à une intégration entre ces systèmes et ses forces militaires dans les guerres de Gaza et du Liban.
La stratégie « Équipe Humain-Machine »
En 2021, un ouvrage significatif intitulé “L’Équipe Humain-Machine : Comment créer une synergie entre l’intelligence humaine et artificielle qui révolutionnera notre monde” a été publié, rédigé par le général de brigade Y.S., supposé être le commandant de l’unité d’élite des renseignements israéliens (8200). Le livre traite d’une machine révolutionnaire capable de traiter de vastes quantités de données rapidement, générant des milliers de cibles potentielles pour des frappes militaires avec une rapidité et une précision exceptionnelles. Cela dépasse les défis auxquels font face les opérateurs humains lors de l’identification des cibles et la prise de décisions critiques en temps de guerre.
La machine décrite dans ce livre n’est pas un avenir lointain ; elle a déjà été déployée dans le conflit de Gaza. Plusieurs rapports israéliens et occidentaux ont indiqué qu’Israël avait utilisé divers systèmes d’IA en intégration significative avec ses forces militaires pour identifier des cibles militaires, qu’elles soient humaines ou structurelles, en vue d’une destruction automatisée.
Ce processus implique des systèmes pilotés par l’IA qui analysent de grandes quantités de données pour déterminer des cibles à détruire ou à éliminer et émettre des décisions automatisées basées sur des informations mises à jour en temps réel. Une telle technologie accélère considérablement le processus d’identification et de frappe des cibles, fonctionnant comme une “chaîne de production de cibles”. Elle répond également à la problématique des “goulots d’étranglement humains”, comme l’a décrit l’auteur du livre, concernant l’identification des cibles et la prise de décisions rapides nécessaires pour autoriser leur destruction ; elle sert essentiellement de ligne de production à grande échelle pour les cibles désignées à l’élimination.
Pour réaliser efficacement cette stratégie, Israël a créé en 2019 une nouvelle unité de renseignement militaire au sein de la Direction du renseignement militaire, classée secrète, dénommée “Unité Cible”. Cette unité a été déterminante dans la réponse d’Israël à l’attaque du Hamas le 7 octobre 2023, en utilisant des technologies d’IA. Elle a permis une identification rapide des cibles requises et a envoyé des recommandations d’engagement aux forces militaires via une application intelligente connue sous le nom de “Pilier de feu”, utilisée par les responsables des opérations militaires.
L’efficacité de cette stratégie est évidente dans le nombre de frappes aériennes quotidiennes et de cibles atteintes par les forces israéliennes, dépassant les attaques sur plus d’un millier de cibles par jour, en plus d’innombrables assassinats de leaders militaires de manière ciblée. Ce niveau d’opération nécessitait un effort significatif de la part des agences de renseignement, mais à elles seules, ces agences étaient insuffisantes pour atteindre un nombre aussi vaste de cibles dans un délai très court avec un tel degré de précision, à moins d’être soutenues par une stratégie globale intégrant l’effort humain avec l’intelligence artificielle pour travailler en synergie complète entre l’homme et la machine.
“Gospel” : un système de ciblage des bâtiments et structures
Le 2 novembre 2023, une brève déclaration sur le site web de l’armée israélienne a souligné l’utilisation du système “Gospel” dans la guerre contre la bande de Gaza pour la génération rapide de cibles. La fonction principale de “Gospel” est d’identifier automatiquement les cibles potentielles de frappes militaires, en particulier les bâtiments et les structures pouvant avoir un usage militaire. Il est conçu pour aider l’armée israélienne à automatiser le processus d’identification des cibles et la prise de décision, réduisant ainsi le besoin d’intervention humaine.
Bien que les informations détaillées sur le fonctionnement de “Gospel” soient rares, ces systèmes analysent typiquement des images satellites, des séquences de drones et de caméras de surveillance, des communications interceptées, ainsi que des informations dérivées de la surveillance des mouvements et des comportements d’individus et de grands groupes, en plus des données de renseignement. Toutes ces données sont introduites dans le système, qui établit ensuite des relations entre les informations afin d’identifier les bâtiments utilisés par des agents du Hamas ou d’autres cibles militaires potentielles.
“Gospel” utilise plusieurs indicateurs pour localiser ces zones, tels que des bâtiments avec des fortifications supplémentaires, des renforcements en béton, ou d’autres fréquemment visités par de grands groupes ou ayant subi des modifications structurelles par rapport aux images plus anciennes. Le système s’appuie également sur l’analyse d’images multispectrales pour identifier les types de matériaux utilisés dans les fortifications et distinguer les terrains naturels des structures artificielles, comme les ouvertures de tunnels ou les tranchées dissimulées sous la surface. De plus, il analyse les mouvements logistiques dans des sites potentiels pour identifier une activité militaire, comme le transfert d’armes ou d’équipements lourds, ce qui signale généralement des préparatifs pour des opérations militaires ou la présence d’une installation militaire.
Le système “Gospel” intègre des données provenant de diverses sources, y compris des images satellites, des radars, des capteurs thermiques et d’autres renseignements tels que des rapports de terrain ou des communications. Cela permet en fin de compte de bâtir une image précise des emplacements et des activités du Hamas.
“Gospel” a joué un rôle critique dans l’établissement des listes d’objectifs ciblés pour Israël. Aviv Kochavi, ancien chef de l’armée israélienne, a déclaré que “lorsque cette machine a été activée pendant la guerre de 11 jours d’Israël contre le Hamas en mai 2021, elle a produit 100 cibles par jour, alors qu’auparavant, nous générions 50 cibles par an à Gaza. Maintenant, cette machine produit 100 cibles en une seule journée.”
Selon le site officiel de l’armée israélienne, le système “Gospel” a été développé par l’unité de renseignement 8200, connue pour la création de technologies intelligentes et cybernétiques. Cette unité a contribué à cibler le programme nucléaire iranien en 2009 par le biais du ver “Stuxnet”. “Gospel” est relativement moderne, ayant été mentionné pour la première fois sur le site officiel en 2020 comme l’un des projets à avoir reçu le prix d’innovation de l’armée israélienne.
“Lavender” : un système de ciblage individuel
Le système “Lavender” a joué un rôle significatif dans l’établissement d’une base de données de cibles humaines associées au Hamas, entraînant une escalade sans précédent des bombardements des Palestiniens, en particulier lors des phases initiales de la guerre actuelle. Ce système est conçu pour identifier tous les individus suspects au sein des ailes militaires du Hamas et du Jihad islamique, y compris les membres de bas rang, en tant que cibles directes pour des frappes aériennes.
Le système est alimenté par des données sur les membres actuels du Hamas et est formé sur ces informations en analysant les comportements et les modèles individuels afin d’apprendre leurs caractéristiques générales, visant à extrapoler ces traits à d’autres individus potentiels. Le système effectue ensuite des recherches parmi les données de surveillance concernant presque chaque individu à Gaza, y compris les images, les contacts téléphoniques et d’autres informations, pour évaluer la probabilité qu’une personne soit armée. Des facteurs tels que le fait d’être membre d’un groupe WhatsApp avec un militant connu, de changer fréquemment de téléphone portable ou d’adresses sont pris en compte. Les Palestiniens sont ensuite classés en fonction de leur similitude avec les militants, et tout individu identifié avec des caractéristiques compromettantes devient une cible pour une élimination, avec une intervention humaine minimale, selon un rapport d’enquête de +972 Magazine.
Au cours des premières semaines de la guerre de Gaza, “Lavender” a identifié environ 37,000 Palestiniens comme des militants suspects pouvant être des cibles pour des frappes aériennes. Cela a été réalisé en analysant des informations collectées sur la plupart des 2,3 millions de résidents de la bande de Gaza grâce à un système de surveillance de masse, classant la probabilité que chaque individu soit actif dans l’aile militaire du Hamas ou du Jihad islamique selon un indice allant de 1 à 100, qui indique leur probabilité d’être armés ou membres du Hamas.
Si “Lavender” détermine qu’un individu est armé au sein du Hamas, il devient une cible de bombardement sans aucune vérification indépendante de la raison pour laquelle le système a sélectionné ces cibles ou d’examen des données de renseignement préliminaires sur lesquelles il s’est appuyé. Par exemple, le magazine a rapporté, citant des soldats qui ont travaillé sur ce système, que “Lavender” identifie parfois à tort des individus comme cibles simplement parce que leurs schémas de communication ressemblent à ceux des opérateurs du Hamas ou du Jihad islamique, y compris des policiers, des travailleurs de la défense civile, des proches de militants et des résidents qui partagent un nom ou un prénom avec un militant, ou des personnes à Gaza utilisant un appareil qui appartenait précédemment à un membre du Hamas. De plus, le fait que le système soit formé sur leurs profils de communication a rendu “Lavender” plus enclin à sélectionner par erreur des civils lorsqu’il applique ses algorithmes à la population générale ; une erreur courante se produit lorsqu’un membre du Hamas prête son téléphone à son fils, son frère aîné ou un autre homme, entraînant le bombardement de cet individu dans sa maison avec sa famille.
“Where is My Father ?” : un système de ciblage à domicile
Le système “Where is My Father ?” représente la troisième phase de ciblage. Ce système a été spécifiquement conçu pour suivre des individus ciblés et exécuter des frappes aériennes lorsqu’ils entrent dans leur domicile familial, plutôt que lors d’activités militaires. D’un point de vue renseignement, la probabilité de toucher ces individus chez eux est considérablement plus élevée que dans des zones militaires, qui sont souvent fortifiées. De plus, cette méthode entraîne le ciblage de familles entières plutôt que d’un simple opérateur du Hamas, augmentant ainsi encore le nombre de victimes civiles.
Chaque personne à Gaza possède un domicile personnel qui peut lui être associé, permettant aux systèmes de surveillance de l’armée israélienne d’associer facilement et automatiquement des individus à leur résidence familiale. Des programmes ont été développés pour suivre des milliers d’individus en temps réel, et lorsque le moment est identifié pour le retour des cibles chez elles, une alerte automatique est envoyée au responsable du ciblage, qui effectue alors le bombardement de la maison et de tous ceux qui s’y trouvent. Par conséquent, la combinaison des systèmes “Lavender” et “Where is My Father ?” a donné lieu à des résultats mortels.
Erreurs fatales
Ces technologies ont rendu le processus de mise à mort plus automatisé et dévastateur, sans aucune distinction entre cibles civiles et militaires. Les soldats reçoivent une liste de cibles générée par l’ordinateur sans nécessairement connaître la base sur laquelle ces cibles ont été sélectionnées. Les recommandations de cette machine sont-elles réellement précises, ou contiennent-elles une marge d’erreur ? Tous ceux qui sont identifiés par elle sont-ils parfaitement les éléments requis, ou présentent-ils des niveaux de confiance plus bas qui ont été négligés dans le désir de cibler quiconque associé au Hamas ? De plus, qu’en est-il des problèmes liés à la qualité des données utilisées pour former le système, aux biais algorithmiques ou aux erreurs d’évaluation du niveau de menace ?
Toutes ces erreurs sont très probables lorsqu’il s’agit de systèmes intelligents. Si leur fonction principale est de tuer, cela augmente la probabilité de frapper des cibles erronées ou indésirables. L’utilisation d’une puissance destructrice qui est disproportionnée par rapport à la taille de la cible peut parfois entraîner un très grand nombre de victimes involontaires. Ainsi, ces machines deviennent aveugles plutôt qu’intelligentes ; leur objectif est une destruction complète plutôt qu’une sélection précise des cibles. Le résultat a été un bilan alarmant, dépassant 41 000 décès rien qu’à Gaza.
