Déployer un agent d’IA en sécurité dans une PME

Pourquoi la sécurité d’un agent est un sujet à part

Un chatbot qui se trompe produit une mauvaise réponse. Un agent qui se trompe peut envoyer un e-mail, modifier une fiche client ou supprimer un fichier. Dès qu’un agent utilise des outils, il faut raisonner comme pour tout nouvel utilisateur du système d’information : qui est-il, à quoi a-t-il accès, que peut-il faire, et comment le contrôle-t-on ?

Les pratiques ci-dessous sont celles de l’exploitation informatique courante (droits, journaux, sauvegardes, plan de retour arrière), appliquées aux agents.

1. Donner le minimum de droits

• Créez un compte dédié à l’agent, distinct d’un compte humain, pour pouvoir le suivre et le révoquer.
• Commencez en lecture seule. N’ouvrez l’écriture que sur ce qui est indispensable.
• Limitez les données accessibles : un agent de relance de factures n’a pas besoin des dossiers RH.

2. Cloisonner l’environnement

• Faites tourner l’agent dans un environnement séparé de la production sensible (machine, conteneur ou compte dédié).
• Restreignez ses accès réseau aux services dont il a besoin.
• Ne lui donnez pas un accès large à internet si la tâche ne l’exige pas.

3. Placer des validations humaines

Classez les actions par niveau de risque. Lire ou résumer peut être automatique. Envoyer, payer, supprimer, publier doivent demander l’accord d’une personne, avec un récapitulatif clair de ce qui va être fait. C’est le principe de la démonstration du site : l’agent prépare, l’humain approuve.

4. Protéger les secrets

• Ne mettez jamais de mots de passe ou de clés d’API dans les consignes données au modèle ni dans le code partagé.
• Stockez-les dans des variables d’environnement ou un coffre dédié, avec des droits restreints.
• Prévoyez leur renouvellement et leur révocation immédiate en cas de doute.

5. Journaliser et pouvoir expliquer

Conservez un journal : qui a demandé quoi, quels outils l’agent a appelés, avec quels paramètres, quel résultat, qui a validé. En cas d’erreur ou de litige, c’est ce qui permet de comprendre et de corriger. Protégez ce journal, car il peut contenir des données personnelles.

6. Se méfier des contenus piégés

Un agent lit des e-mails, des pages web, des documents. Ces contenus peuvent contenir des instructions cachées destinées à détourner l’agent (injection de consignes). Réflexes utiles :

• Traitez tout contenu externe comme une donnée, jamais comme une instruction fiable.
• Réduisez les outils disponibles : moins un agent peut faire, moins un détournement est dangereux.
• Exigez une validation humaine avant toute action déclenchée à partir d’un contenu externe.

Cette vigilance s’applique aussi aux serveurs et outils connectés via le protocole MCP : n’installez que des sources de confiance.

7. Maîtriser les données et la confidentialité

• N’envoyez au modèle que les données nécessaires à la tâche.
• Choisissez en connaissance de cause entre un modèle hébergé par un fournisseur et un modèle ouvert exécuté en local, selon la sensibilité des données.
• Si des données personnelles sont concernées, vérifiez le cadre RGPD : finalité, sous-traitants, durée de conservation. Faites valider ce point par la personne compétente dans votre structure.
• Dans un RAG, respectez les droits d’accès aux documents : l’agent ne doit pas faire ressortir ce que l’utilisateur n’a pas le droit de lire.

8. Prévoir les pannes et les dérapages

• Sauvegardes des données que l’agent peut modifier, et possibilité de revenir en arrière.
• Coupe-circuit : un moyen simple et rapide d’arrêter l’agent.
• Plafonds de coût, de nombre d’actions et de durée, pour éviter qu’un agent mal cadré enchaîne des opérations inutiles.
• Supervision : alertes sur les erreurs répétées ou les comportements inhabituels.

9. Tester avant d’ouvrir

Commencez par un pilote sur un petit périmètre, avec quelques utilisateurs. Préparez un jeu de cas représentatifs, dont des cas difficiles ou piégés, et comparez les résultats à ce qu’un humain aurait fait. Mesurez le temps gagné et les erreurs avant d’élargir.

Checklist avant la mise en production

• Compte dédié, droits minimaux, lecture seule par défaut.
• Environnement cloisonné et accès réseau limités.
• Validation humaine avant toute action sensible.
• Secrets hors des consignes, stockés de façon sécurisée.
• Journal des actions, protégé.
• Protection contre les contenus piégés.
• Données minimisées, cadre RGPD vérifié.
• Sauvegardes, coupe-circuit, plafonds, supervision.
• Pilote réalisé et résultats mesurés.

Questions fréquentes