Aller au contenu

Cercle IA .com · Réseau

Cercle IA

Fiche-mémo gratuite

Une règle par mois : six lettres sur la sécurité de l'assistant IA

Une fiche-mémo de quelques pages qui rassemble six numéros d'une lettre d'information : chacun pose une seule règle de sécurité de l'assistant IA (compte à part, lecture seule, validation humaine, document extérieur, vérification, rappel au numéro connu), sa source, le geste du mois et la question à poser à ses pairs.

Pour les dirigeants de TPE et PME qui utilisent un assistant IA, ou s'apprêtent à le brancher à leur messagerie et à leurs documents, et qui aiment comparer leurs pratiques avec d'autres dirigeants

Ce que vous y trouverez

  • Six règles, de la création du compte de l'assistant au rappel d'un fournisseur qui change de RIB.
  • Pour chaque règle, ce qu'en disent l'ANSSI, OWASP, la spécification MCP ou Cybermalveillance.gouv.fr.
  • Un geste concret par numéro, à faire dans votre entreprise.
  • Une question par numéro, à soumettre à vos pairs.
  • Huit questions de contrôle pour savoir où vous en êtes.

Présentation

  • Ce que l'assistant apporte. Il lit, trie, résume et rédige à votre place. Branché à votre messagerie ou à vos dossiers, il peut aussi agir.
  • Le risque qu'il ouvre. Un compte mal protégé, des droits trop larges, un mail piégé ou une réponse fausse reprise telle quelle : l'erreur se propage à la vitesse de l'outil.
  • Ce que contient la fiche. Six numéros d'une lettre, une règle chacun : l'objet, l'aperçu, la règle, sa source, le geste du mois et la question à poser à vos pairs.

Donnez à l'assistant un compte à part

Numéro 1. Cybermalveillance.gouv.fr conseille aux professionnels de séparer « strictement » leurs usages IA personnels et professionnels, et de n'utiliser que le service d'IA souscrit par l'employeur. Séparer, c'est éviter que le piratage d'un accès personnel nuise à l'entreprise.

  • Objet. « Le compte de votre assistant est-il le vôtre ? »
  • Aperçu. Un accès personnel n'a rien à faire dans vos dossiers.
  • La règle. L'assistant travaille avec un compte professionnel, à part, protégé par un mot de passe qui ne sert nulle part ailleurs et par la double authentification.
  • Le geste du mois. Listez les comptes d'IA que votre équipe utilise pour le travail, et signalez ceux qui sont personnels.
  • La question à vos pairs. « Chez vous, qui sait quels comptes d'IA servent au travail ? »
  • Pour aller plus loin. La fiche « Le registre des usages d'IA de l'équipe », sur collabor-ia.fr.

Commencez en lecture seule

Numéro 2. L'ANSSI recommande de revoir les droits d'accès d'un outil d'IA dès son activation, pour vérifier que les droits par défaut ne sont pas « trop laxistes ou trop ouverts par conception ». OWASP décrit un assistant qui résume les mails mais peut aussi en envoyer : un accès en lecture seule figure parmi les parades qu'il cite.

  • Objet. « Lire, c'est déjà beaucoup »
  • Aperçu. Avant d'écrire, l'assistant fait ses preuves en lisant.
  • La règle. Un assistant branché à vos outils commence en lecture seule ; on n'ouvre l'écriture qu'à un dossier précis, pour un besoin précis.
  • Le geste du mois. Ouvrez la page des autorisations d'un outil d'IA branché et retirez ce qui ne sert pas : Cybermalveillance.gouv.fr conseille de limiter ces autorisations « au strict nécessaire ».
  • La question à vos pairs. « Avez-vous déjà relu ce que votre assistant a le droit de faire ? »
  • Pour aller plus loin. La fiche « Donner à une IA l'accès à vos données : le moindre accès en pratique », sur nl-q.com.

Ne laissez rien partir sans un humain

Numéro 3. La spécification du protocole MCP, qui relie un assistant à des outils, indique qu'il devrait toujours y avoir un humain capable de refuser l'appel d'un outil. L'ANSSI recommande qu'un système d'IA ne puisse pas exécuter de manière automatisée des actions critiques, comme des « transactions bancaires » ou la « production de contenu public ».

1. L'assistant prépare : brouillon, réponse, virement

2. Vous relisez : destinataire, montant, ton

3. Vous envoyez : le bouton reste à vous

  • Objet. « Le bouton “envoyer” reste à vous »
  • Aperçu. L'assistant prépare, vous décidez.
  • La règle. Aucun mail, aucun règlement, aucune publication ne part sans qu'une personne l'ait relu et validé.
  • Le geste du mois. Cherchez dans vos outils toute option d'envoi ou d'action automatique et désactivez-la : OWASP cite l'exemple d'un utilisateur qui relit et clique lui-même sur « envoyer » pour chaque mail rédigé.
  • La question à vos pairs. « Qu'avez-vous laissé votre assistant faire seul, et l'avez-vous regretté ? »
  • Pour aller plus loin. La fiche « Ce que l'assistant fait seul, ce qu'il vous demande », sur collabor-ia.fr.

Traitez un document extérieur comme une donnée, pas comme une consigne

Numéro 4. OWASP décrit l'injection indirecte : un site ou un fichier contient des instructions qui modifient le comportement de l'assistant quand il le lit, parfois sans être visibles à l'œil. L'ANSSI recommande de limiter, voire de proscrire, les actions automatiques déclenchées à partir de « données issues d'Internet ou de mails ».

  • Objet. « Ce mail parle à votre assistant »
  • Aperçu. Un texte reçu peut contenir des ordres cachés.
  • La règle. Ce qui vient de l'extérieur (mail, PDF, page web) est une matière à traiter, jamais un ordre à suivre.
  • Le geste du mois. Repérez les tâches où l'assistant agit après avoir lu un mail reçu, et ajoutez une validation humaine avant l'action.
  • La question à vos pairs. « Collez-vous des documents reçus dans votre assistant ? Lesquels ? »
  • Pour aller plus loin. La fiche « Les consignes cachées dans un document », sur promptum.fr.

Vérifiez avant de reprendre

Numéro 5. Cybermalveillance.gouv.fr rappelle qu'un résultat affirmé de manière convaincante peut s'avérer « partiellement erroné ou inventé » : c'est l'hallucination. OWASP nomme le travers inverse, la confiance excessive, qui fait entrer une erreur dans une décision.

  • Objet. « Juste, ou seulement bien dit ? »
  • Aperçu. Une réponse sûre d'elle n'est pas une réponse vérifiée.
  • La règle. Rien de ce que produit l'assistant n'entre dans un devis, un courrier ou une décision sans avoir été vérifié à la source.
  • Le geste du mois. Sur la prochaine réponse que vous reprenez, contrôlez chaque chiffre, chaque nom et chaque référence auprès d'une source que vous connaissez.
  • La question à vos pairs. « Quelle erreur de l'IA avez-vous rattrapée de justesse ? »
  • Pour aller plus loin. La fiche « Vérifier ce que l'IA produit : la grille et les consignes », sur promptum.fr.

Rappelez au numéro que vous connaissez

Numéro 6. Un assistant qui résume votre boîte de réception peut écrire « le fournisseur change de RIB » comme un simple fait. Le résumé ne vérifie rien. Cybermalveillance.gouv.fr est clair : pour un RIB jamais utilisé reçu par message, appelez le créancier « sur son numéro habituel ».

  • Objet. « Votre assistant a lu un nouveau RIB »
  • Aperçu. Un résumé n'est pas une vérification.
  • La règle. Tout changement de coordonnées bancaires, même résumé par l'assistant, se confirme par un appel au numéro que vous aviez déjà.
  • Le geste du mois. Écrivez cette règle en une ligne et affichez-la près du poste où l'on saisit les virements.
  • La question à vos pairs. « Qui, chez vous, rappelle un fournisseur qui change de RIB ? »
  • Pour aller plus loin. La fiche « Faux RIB à l'heure de l'IA : un cas imaginé, pas à pas », sur cercle-ia.com.

Comment savoir si c'est en place

Huit questions fermées. Chaque « non » renvoie à un numéro de la lettre.

  • Savez-vous quels comptes d'IA servent au travail dans votre entreprise ?
  • Chacun de ces comptes est-il professionnel, avec un mot de passe unique et la double authentification ?
  • Avez-vous relu les autorisations de chaque outil d'IA branché à vos données ?
  • Un nouvel accès commence-t-il en lecture seule ?
  • Chaque envoi, règlement ou publication préparé par l'assistant est-il validé par une personne ?
  • Aucune action ne se déclenche-t-elle seule à la lecture d'un mail reçu ?
  • Un chiffre ou une référence de l'assistant est-il vérifié avant d'être repris ?
  • Un nouveau RIB est-il toujours confirmé au numéro habituel, même s'il a été lu par l'assistant ?

Sources et portée

Toutes les sources ont été ouvertes le 19/11/2026. Les citations entre guillemets en sont tirées ; celles d'OWASP et de la spécification MCP sont traduites de l'anglais.

  • ANSSI, Recommandations de sécurité pour un système d'IA générative, ANSSI-PA-102, 29/04/2024 : R9, R27, R34, R35. messervices.cyber.gouv.fr/documents-guides/Recommandations_de_s%C3%A9curit%C3%A9_pour_un_syst%C3%A8me_d_IA_g%C3%A9n%C3%A9rative.pdf
  • OWASP, LLM01:2025 Prompt Injection. genai.owasp.org/llmrisk/llm01-prompt-injection/
  • OWASP, LLM06:2025 Excessive Agency. genai.owasp.org/llmrisk/llm062025-excessive-agency/
  • OWASP, LLM09:2025 Misinformation. genai.owasp.org/llmrisk/llm092025-misinformation/
  • Spécification MCP 2026-07-28, Tools. modelcontextprotocol.io/specification/2026-07-28/server/tools
  • Cybermalveillance.gouv.fr, Utiliser l'IA, conseils pour les particuliers et les professionnels. cybermalveillance.gouv.fr/tous-nos-contenus/bonnes-pratiques/utiliser-ia-conseils-pour-les-particuliers-et-les-professionnels
  • Cybermalveillance.gouv.fr, fiche réflexe Fraude au virement ou faux RIB. cybermalveillance.gouv.fr/tous-nos-contenus/fiches-reflexes/que-faire-en-cas-de-fraude-au-virement-ou-au-faux-rib
  • Cybermalveillance.gouv.fr, Mots de passe et 10 mesures essentielles (mesure 9). cybermalveillance.gouv.fr/tous-nos-contenus/bonnes-pratiques/mots-de-passe ; cybermalveillance.gouv.fr/tous-nos-contenus/bonnes-pratiques/10-mesures-essentielles-assurer-securite-numerique

Portée : « une règle par mois » est le nom de la série, pas un rythme recommandé par une source. Les six numéros sont des textes ; aucun n'est envoyé. Les questions aux pairs sont des sujets d'échange proposés, pas des réponses recueillies. Ni conseil juridique ni audit de sécurité ; aucun produit nommé.

Votre prochaine étape

Venez avec la règle qui vous pose le plus question, et celle que vous aimeriez soumettre à d'autres dirigeants : on regarde ensemble par où commencer.

Pour conserver cette fiche-mémo en PDF, utilisez « Imprimer », puis « Enregistrer au format PDF » dans votre navigateur.