L'un des thèmes les plus glaçants abordés lors du Dialogue est la confirmation que les armes autonomes opérant sans supervision humaine significative ne relèvent pas de la théorie. Elles sont présentes sur les champs de bataille actuels. Si le Dialogue Shangri-La a porté ce message au cœur des sessions sur la défense, le ministre des Affaires étrangères de Singapour, le Dr Vivian Balakrishnan, a fait écho à la même alerte lors d'un débat connexe au Conseil de sécurité de l'ONU sur l'IA et la paix internationale. Il a déclaré sans détour que les armes létales autonomes ne sont « plus potentielles », soulignant que dans les guerres chaudes en cours, « la vérité, c'est qu'à cause de l'urgence à identifier de multiples cibles et à les traiter, les doigts humains, aujourd'hui encore, ne sont souvent pas sur la gâchette. Nous avons dû externaliser cela aux systèmes d'IA » .
Le danger, tel que présenté lors du sommet, est double. Au niveau tactique, des systèmes autonomes prenant des décisions de vie ou de mort sans contrôle humain peuvent produire des résultats imprévisibles sur des champs de bataille en évolution rapide. Au niveau stratégique, le retrait du jugement humain des décisions de frappe crée un risque d'escalade irréversible, où les machines transforment des escarmouches en conflits majeurs avant que les humains ne puissent intervenir . Cette préoccupation s'est directement liée aux craintes plus larges d'escalade nucléaire qui ont dominé le sommet.
Le ministre sud-coréen de la Défense, Ahn Gyu-baek, a profité du sommet pour positionner Séoul comme un acteur majeur de la défense dopée à l'IA, détaillant un ambitieux concept d'« armée intelligente » fondé sur des systèmes à base d'IA, des défenses anti-drones et des plateformes autonomes . Une vision qui va bien au-delà des slogans, portée par un effort national pour intégrer l'IA à tous les niveaux de ses forces armées :
La Corée du Sud a également pris un rôle de leader diplomatique en accueillant à Séoul un sommet international visant à élaborer un « plan directeur pour une utilisation responsable de l'IA dans le domaine militaire ». Plus de 90 pays, dont les États-Unis et la Chine, y ont participé. Toutefois, le cadre qui en résultera devrait être non contraignant, et le nombre de nations qui adopteront finalement un ensemble minimal de garde-fous reste incertain .
L'évaluation la plus alarmante n'était pas directement liée à l'IA, mais la capacité de cette dernière à précipiter un conflit vers le nucléaire était au cœur de l'avertissement le plus sévère de l'IISS. Une étude dédiée, publiée pendant le Dialogue, a conclu que tout conflit militaire entre les États-Unis et la Chine autour de Taïwan comporterait un risque d'escalade nucléaire rapide. L'analyse montre que les deux camps lanceraient probablement des opérations massives ciblant les centres de commandement, de contrôle et de communication de l'adversaire, créant une pression déstabilisatrice pour monter aux extrêmes avant de perdre la capacité de se coordonner .
L'IISS a averti sans ambages qu'un affrontement conventionnel pour Taïwan pourrait « rapidement dégénérer en crise nucléaire » et que le monde est « à l'aube d'une nouvelle course aux armements nucléaires », avec l'Asie-Pacifique en son épicentre . Cet avertissement a été repris au Dialogue par le secrétaire américain à la Défense, Pete Hegseth, qui a prévenu qu'une attaque chinoise contre Taïwan « pourrait être imminente », tout en réaffirmant la posture de dissuasion américaine
. Pékin a répliqué par de vives mises en garde, les représentants chinois étant, selon des sources, « furieux » de cette présentation
. La dimension nucléaire est également intrinsèquement liée à l'IA : l'intégration de systèmes autonomes aux arsenaux nucléaires signifie que les cadres traditionnels de contrôle des armements sont dépassés, sans qu'aucune méthode de contrôle établie ne les remplace
.
Le sommet a dressé un tableau d'une urgence sans précédent. Le principal enseignement est que l'IA n'est plus une préoccupation pour les guerres futures : elle redéfinit activement la chronologie des conflits, retire le jugement humain des décisions létales et érode le pare-feu entre escalade conventionnelle et nucléaire. La course à « l'armée intelligente » de la Corée du Sud montre comment des puissances moyennes se précipitent pour intégrer l'IA avant même que des cadres de gouvernance existent. Parallèlement, l'étude sur le risque nucléaire taïwanais souligne que le principal point chaud de la région porte en lui une dynamique d'escalade qu'aucune structure de contrôle des armements existante n'est conçue pour gérer.
Pour les spécialistes de la défense comme pour le grand public, le Dialogue a délivré un message clair : l'IA dans la guerre dépasse à la fois la gouvernance et la doctrine stratégique, et le moment d'établir des limites a déjà été dépassé.