Analyse · Intelligence artificielle · Cellule de crise

Intelligence artificielle en cellule de crise : fixer les règles avant l’urgence

Les outils d’intelligence artificielle générative peuvent synthétiser un flux d’informations, préparer un projet de communiqué ou proposer des scénarios en quelques secondes. Pour une cellule de crise, ce gain de temps est réel. Sans règles d’usage, il peut aussi faire entrer une information fausse dans le processus de décision, avec l’apparence d’un fait établi.

La question doit donc être tranchée avant l’urgence : quels usages autoriser, avec quelles données, sous quel contrôle et avec quelle traçabilité ?

Illustration générée par intelligence artificielle

Un cas documenté : la police des West Midlands et Copilot

La police des West Midlands prépare le match de Ligue Europa du 6 novembre 2025 entre Aston Villa et le Maccabi Tel-Aviv. Dès le 8 octobre, elle recommande au groupe consultatif de sécurité réuni par la ville de Birmingham de réexaminer la présence des supporters visiteurs. Invitée à mieux justifier cette position, elle transmet le 10 octobre des affirmations contestables sur les violences d’Amsterdam de novembre 2024, dont une partie provient d’une recherche par IA.

Le 16 octobre 2025, le groupe décide d’exclure les supporters du Maccabi. Il se réunit à nouveau le 24 octobre pour réexaminer la situation. Le document remis par la police à cette occasion, daté du 23 octobre, développe longuement sa version des événements d’Amsterdam. Il mentionne aussi un match entre le Maccabi et West Ham qui n’a jamais eu lieu, ainsi que des affirmations fausses, en partie produites par IA, sur le comportement des supporters.

Devant la commission des affaires intérieures de la Chambre des communes, le chef de la police, Craig Guildford, attribue d’abord cette erreur à une collecte de données sur les réseaux sociaux, le 1er décembre. Le 6 janvier 2026, il affirme que ses services n’utilisent pas l’IA. Il écrit ensuite à la commission pour confirmer que la référence au match fictif provenait de Microsoft Copilot.

Le 14 janvier, l’inspection de la police conclut que la recommandation d’interdiction a été influencée par un biais de confirmation. Craig Guildford prend sa retraite le 16 janvier, alors que la ministre de l’Intérieur a déclaré ne plus avoir confiance en lui. Le 19 janvier, l’organisme indépendant de contrôle de la police ouvre une enquête sur la conduite des personnes impliquées.

Dans son rapport du 22 février 2026, la commission indique que les éléments recueillis suggèrent un usage non autorisé de Copilot, qui n’avait pas été signalé initialement au chef de la police ni à son adjoint. Elle conclut qu’il n’a pas délibérément trompé les parlementaires, mais elle lui reproche de ne pas avoir vérifié les faits avant son audition. Elle relève aussi que la police n’a pas conservé de notes contemporaines sur des points centraux de sa décision, et que les notes manuscrites prises lors d’un échange avec la police néerlandaise ont été détruites.

Pour une cellule de crise, le dossier montre une chaîne de défaillances : des contenus générés non vérifiés, une argumentation construite pour soutenir une option, une hiérarchie mal informée et des traces insuffisantes pour reconstituer l’origine des erreurs.

Cinq dérives à anticiper

Le biais d’automatisation. Un texte clair et structuré inspire confiance. Le modèle peut pourtant inventer un fait, une citation ou une référence : c’est ce que l’on appelle une hallucination. Sous pression, une réponse plausible risque d’être acceptée sans contrôle.

Le biais de confirmation. Lorsqu’une option se dessine, l’équipe tend à chercher les éléments qui la confortent. Une demande centrée sur les arguments favorables à une option peut conduire l’outil à renforcer cette orientation, voire à produire des faits inexistants. À Birmingham, la commission estime que les éléments ont été retenus de façon partiale pour justifier l’interdiction. Des contenus générés ont alimenté cette argumentation.

La perte de traçabilité. Lorsque l’usage de l’IA n’est pas consigné, la cellule risque de ne plus distinguer les faits vérifiés, les hypothèses et les contenus générés. Une erreur devient alors difficile à retrouver, à corriger et à expliquer.

La surcharge d’information. Des dizaines de scénarios ou de pages de synthèse peuvent saturer l’équipe, masquer les informations décisives et retarder l’arbitrage. Toute demande à l’outil doit répondre à une question opérationnelle précise, avec un format limité.

L’exposition de données sensibles. Saisir une main courante, une liste de personnes ou une configuration technique dans un service externe transmet ces informations à son fournisseur. Une divulgation non autorisée de données personnelles peut constituer une violation de données. Lorsqu’elle présente un risque pour les droits et libertés des personnes, le responsable de traitement doit la notifier à la CNIL dans les meilleurs délais et, si possible, au plus tard 72 heures après en avoir pris connaissance. En cas de dépassement, il doit justifier le retard dans sa notification.

Des usages utiles, à condition de pouvoir les contrôler

L’IA générative peut aider à synthétiser une veille médiatique, préparer un premier jet de communiqué, organiser des questions-réponses pour le porte-parole ou reformuler une note technique pour des destinataires non spécialistes.

Ces usages supposent un périmètre défini : des documents identifiés, une consigne précise et une personne capable de contrôler le résultat. Une synthèse doit pouvoir être rapprochée de ses sources, un projet de communiqué doit reposer sur des faits validés, et un scénario doit rester présenté comme une hypothèse. Tant que ces contrôles n’ont pas été faits, le résultat reste un brouillon.

Six règles à fixer à froid

Définir les responsabilités. Le directeur de crise conserve l’arbitrage. Chaque production a un responsable identifié, chargé de son contrôle et de sa validation selon le circuit prévu. Cette exigence vaut aussi pour les notes internes qui orientent une décision.
Autoriser des outils et des usages précis. Une charte courte indique les services et comptes utilisables, les tâches permises et les données exclues. Elle est établie avec les responsables de la sécurité, des données personnelles et des métiers concernés.
Vérifier les faits dans les sources d’origine. Pour chaque document susceptible d’éclairer une décision, une personne compétente contrôle les affirmations déterminantes. Toute référence fournie par l’IA est ouverte et vérifiée. Un élément qui ne peut pas être confirmé est signalé comme incertain ou retiré.
Séparer l’analyse de la justification. Avant l’arbitrage, la cellule recherche et examine les éléments qui contredisent l’option envisagée. La rédaction de l’explication d’une décision vient ensuite, à partir des faits validés. Tout élément nouveau proposé par l’outil doit être vérifié avant d’être intégré au dossier, et peut conduire à réexaminer la décision.
Conserver une trace exploitable. Chaque utilisateur enregistre son échange avec l’outil dans un espace sécurisé. La personne chargée de la main courante consigne la référence de cet échange, le document concerné et l’identité du validateur. Cette conservation respecte les règles de confidentialité et de durée de conservation de l’organisation.
S’entraîner et prévoir l’indisponibilité. Les exercices intègrent ces usages : une réponse erronée, une source inexistante, une contradiction avec une information de terrain. Ils vérifient aussi que la cellule sait poursuivre son travail sans l’outil.

Dans le dossier de Birmingham, des informations fausses, dont certaines produites par IA, ont alimenté une argumentation orientée en faveur de l’interdiction. Les vérifications insuffisantes et la mauvaise circulation de l’information ont laissé ces erreurs se propager. Pour une cellule de crise, les procédures doivent préciser qui contrôle les faits, qui valide leur utilisation et comment retrouver les éléments ayant fondé une décision.

Votre cellule de crise a-t-elle fixé ses règles d’usage de l’IA ?

Altaïr Conseil accompagne les organisations pour structurer leur cellule de crise et entraîner leurs équipes par des exercices de crise.

Faire le point sur votre dispositif

Assistance opérationnelle 24h/24 : +33 (0)1 47 33 03 12