L’automatisation de la guerre nucléaire par l’IA, c’est ce qui inquiète les experts. Beaucoup dénoncent la course à l’intégration de la technologie dans tous les niveaux de décision militaire.
Comme le rapporte Politico, il y a deux scénarios qui préoccupent les spécialistes. Soit l’IA a tout de suite le pouvoir de lancer des armes nucléaires, soit les humains responsables seront si dépendants de ses conseils qu’ils les suivront aveuglément.
Le problème est d’autant plus préoccupant que nous ne comprenons toujours pas le fonctionnement de l’IA. Les simulations de guerre montrent une tendance troublante : ’IA escalade toujours les conflits à des niveaux apocalyptiques que les humains auraient tempérés.
"C’est presque comme si l’IA comprenait l’escalade mais pas la désescalade", explique Jacquelyn Schneider de Stanford, directrice de l’initiative de simulation de guerre et de crise Hoover de l’université. "Nous ne savons pas vraiment pourquoi c’est le cas."
Alors forcément, beaucoup s’inquiètent, notamment le "parrain de l’IA". Rappelons aussi que l’administration Trump pousse au maximum l’intégration de l’IA dans de nombreuses couches gouvernementales. Le président des États-Unis supprime aussi les réglementations de sécurité autour de cette technologie.
Jon Wolfsthal, directeur du risque global à la Fédération des scientifiques américains, pointe du doigt l’absence de garde-fous : "Il n’y a aucune directive permanente, autant que nous puissions le dire, à l’intérieur du Pentagone sur si et comment l’IA ne devrait pas être intégrée dans le commandement, le contrôle nucléaire et les communications."
Pour le moment, le Pentagone précise que l’humain reste toujours au centre de la décision. "L’administration soutient la nécessité de maintenir le contrôle humain sur les armes nucléaires", déclare un haut responsable. Mais les experts craignent que cet engagement disparaisse petit à petit face à des adversaires comme la Russie et la Chine qui ajoutent de l’IA dans leur propre structure de commandement militaire.
Pire, les spécialistes redoutent que le Pentagone déclenche par erreur un conflit nucléaire parce que leur IA leur aura dit que c’était inévitable.
Malheureusement, la démocratisation de l’IA nous a mis sur une pente glissante. Les scénarios présentés par les experts rappellent les films de science-fiction les plus pessimistes. La course vers l’automatisation militaire par l’IA pose des questions sur ce que pourrait être la guerre de demain et les conséquences nucléaires catastrophiques pour l’humanité.
