Selon quatre sources citées par CNN, puis relayées par le quotidien algérien El Bilad, un rapport de renseignement américain assisté par un chatbot a presque conduit l’armée des États-Unis à intercepter un navire chinois au Moyen-Orient. L’outil avait interprété à tort une cargaison comme des composants liés à un programme d’armes nucléaires.
Au printemps, dans le contexte de la guerre avec l’Iran décrit par ces sources, des militaires préparaient l’opération. Selon deux sources citées par CNN, des personnels armés devaient monter à bord du navire et des avions militaires américains étaient déjà en vol. Des responsables ont arrêté le projet après une nouvelle vérification des informations.
L’erreur militaire ne pardonne rien.
Une cargaison mal interprétée, une opération préparée
Selon le récit publié par CNN, un analyste rattaché au commandement américain des opérations spéciales a interrogé un chatbot au sujet de renseignements liés à la liste de chargement du navire. Les données initiales provenaient du commandement américain des opérations spéciales dans le Pacifique, dont le siège se trouve à Hawaï.
Le système a combiné des informations issues de sources ouvertes avec des données confidentielles recueillies par le gouvernement américain. Il a ensuite tiré une conclusion erronée sur la nature des marchandises transportées. CNN n’a pas pu déterminer quelle cargaison avait été mal interprétée.
Du renseignement au rapport officiel
L’outil n’a pas servi uniquement à l’analyse. L’analyste l’a aussi utilisé pour formuler les résultats dans un document présenté comme un rapport de renseignement officiel. Le texte a circulé dans les institutions concernées, puis des mesures opérationnelles ont été préparées à partir de son contenu.
Une vérification ultérieure a montré que le document reposait sur l’interprétation fautive du chatbot. L’opération a été interrompue avant l’abordage. L’un des responsables cités par CNN a qualifié le rapport de complètement erroné et estimé qu’il avait failli déclencher une guerre, compte tenu des tensions entre Washington et Pékin.
Le type de système utilisé reste inconnu. Les informations citées par CNN ne permettent pas de savoir s’il s’agissait d’un service commercial accessible au public ou d’un outil développé pour l’administration américaine. Un ancien haut responsable américain, cité par la chaîne, affirme que les outils internes sont souvent des versions de logiciels commerciaux auxquelles des améliorations limitées ont été apportées.
Avant toute action opérationnelle, le dossier doit conserver la donnée d’origine, le degré d’incertitude et la validation d’un second analyste. Une formulation fluide ne suffit pas à établir un fait.
Washington accélère, le contrôle reste dispersé
Cette affaire intervient alors que les institutions militaires et de renseignement américaines étendent l’usage de l’intelligence artificielle. Les outils sont utilisés ou testés pour trier de grandes quantités de données, aider à l’identification de cibles, gérer des budgets, organiser la logistique et suivre les chaînes d’approvisionnement.
En janvier, le secrétaire américain à la Défense Pete Hegseth a présenté une « stratégie d’accélération de l’intelligence artificielle ». Le plan vise à multiplier les expérimentations, à réduire les blocages administratifs et à concentrer les investissements. La stratégie prévoit aussi une diffusion plus large des outils auprès de millions de personnels civils et militaires, avec différents niveaux de classification.
Le déploiement reste largement décentralisé. Plusieurs administrations utilisent des systèmes différents, soumis à des exigences variables en matière de sécurité et de contrôle. Selon des responsables cités par CNN, les États-Unis ne disposent pas encore d’un ensemble unique de normes pour vérifier l’exactitude des résultats produits par ces outils.
Ce morcellement crée des écarts entre les logiciels. Deux systèmes peuvent traiter une même information avec des niveaux différents de fiabilité, de traçabilité et de contrôle. Le risque ne tient donc pas uniquement à l’erreur technique : il dépend aussi de la place accordée au résultat dans la chaîne de commandement.
Quand le rapport va plus vite que la vérification
Les spécialistes parlent d’« hallucination » lorsque l’intelligence artificielle produit une information fausse, mais formulée avec assez d’assurance pour sembler crédible. Dans cet épisode, l’erreur a franchi plusieurs étapes : interprétation de données, rédaction administrative, circulation du rapport et préparation d’une action.
Des responsables du renseignement ont averti que l’accélération de ces outils pouvait pousser les analystes à rédiger et à transmettre leurs rapports plus vite. Cette pression réduit le temps consacré à la comparaison des sources et à la contestation d’une première hypothèse. Certaines sources estiment que les analystes les plus jeunes pourraient utiliser plus volontiers ces systèmes, parce qu’ils sont davantage habitués aux outils numériques.
Avant une interception, un mouvement de troupes ou une désignation de cible, le dossier doit distinguer les données observées de l’interprétation automatisée, faire l’objet d’une vérification indépendante et recevoir une validation humaine explicite.
L’épisode pose une question opérationnelle : qui arrête la procédure lorsqu’une réponse automatisée paraît certaine, mais reste invérifiée?
La validation humaine doit arrêter l’erreur.
