Dans les domaines de la santé et de la sécurité, les évolutions et performances liées à l’intelligence artificielle sont certainement à encourager. Mais dans bien d’autres domaines, cette forme d’intelligence peut rapidement conduire à des dérives dangereuses que l’homme lui-même ne sera peut-être plus capable de freiner. C’est le cas de la sphère militaire où l’utilisation de la technologie par des groupes terroristes ou par des dictateurs est devenue monnaie courante. Face à cette évolution, environ 1 000 éminents chercheurs et experts en robotique et intelligence artificielle (IA) ont publié lundi 27 juillet une lettre ouverte appelant l’ONU à interdire les armes offensives autonomes, mieux connues sous le nom de “killer robots” ou “robots-tueurs”.
Quand il n’y a plus d’humanité
Cette lettre a été rendue publique à Buenos Aires, où se tient jusqu’au 31 juillet la Conférence internationale sur l’intelligence artificielle (IJCAI). Dans une interview accordée à l’AFP, l’un des signataires, l’expert britannique Toby Walsh, met en garde contre l’utilisation mal intentionnée de la technologie et l’absence de raisonnement et de sentiments humains dans les processus qui régissent les robots. “La différence entre les armes autonomes et les drones que nous avons vus en Irak et ailleurs c’est qu’il n’y a pas d’humain dans le processus (de décision). Un drone, vous avez derrière un soldat américain quelque part, parfois aux États-Unis, qui le guide avec un joystick, qui prend la décision de tuer quelqu’un ou pas. Là, nous avons un ordinateur ayant le pouvoir de vie ou de mort”, fait remarquer le scientifique anglais.
Dans la lettre ouverte, il est en effet précisé qu’à ce stade, les robots-tueurs sont capables “de sélectionner et de combattre des cibles sans intervention humaine”. Un comportement qui, selon M. Walsh, peut révolutionner, pour le pire et dans un futur dangereusement proche, la manière dont les hommes se font la guerre. Il y a d’abord eu l’invention de l’arme à feu, rappelle l’expert. Ensuite, l’arme nucléaire est considérée comme la seconde révolution en matière d’armement. L’IA et les robots-tueurs constituent une troisième révolution qu’il faut arrêter, sinon encadrer, rapidement. “La plupart des pays disposent de cette technologie”, confie l’expert membre de l’Association pour le développement de l’intelligence artificielle (AAAI), citant entre autres les États-Unis et la Chine. “C’est une technologie qui est connue et il faut éviter qu’elle tombe entre les mains de terroristes ou de groupes armés.”
Une législation à à adopter d’urgence
Toby Walsh encourage l’ONU à légiférer le plus rapidement possible car les éventuelles dérives militaires que peut engendrer l’IA sont à nos portes. “Nous soutenons la demande d’interdiction pour éviter une course à l’armement”, martèle-t-il. “Il y a des arguments légaux, éthiques, politiques et techniques. Ce ne sont pas des décisions faciles à prendre, elles requièrent de l’éthique, mais il faut une législation pour l’encadrer.”
Il dénonce également la faille quant à la responsabilité légale de cette arme. “Il n’y a pas de cadre légal en place” qui permette de juger le responsable dans le cas où l’armement tue une personne innocente. “Est-ce le fabricant ? Est-ce le programmateur ? Celui qui a allumé la machine ?”, s’interroge le scientifique britannique. Les signataires exhortent l’ONU à passer à l’action. Ils plaident pour l’interdiction des armes autonomes offensives pour que davantage de sécurité soit assurée pour chacun d’entre nous.
Parmi le millier de scientifiques ayant signé la lettre ouverte adressée à l’ONU, on retrouve notamment le PDG de SpaceX et Tesla, Elon Musk, le physicien Stephen Hawking, le co-fondateur d’Apple Steve Wozniak, le co-fondateur de Skype Jaan Talinn et le linguiste et activiste Noam Chomsky.
