Sécuriser et gouverner un agent IA en production

Objectifs

• traduire le périmètre écrit d’un agent (données accessibles, outils autorisés, actions interdites, cas d’escalade) en contrôles techniques : permissions, listes d’autorisation, cloisonnement des accès
• tester un agent contre les attaques qui lui sont propres (injection d’instructions directe et par documents, extraction de données, détournement d’outils) et corriger les failles constatées
• journaliser chaque action de l’agent de façon exploitable (qui, quoi, quand, sur quelles données, avec quel résultat), avec une durée de conservation définie
• mettre en place la validation humaine sur les actions irréversibles, les garde-fous d’entrée et de sortie, les limites de débit et de coût, et un arrêt d’urgence
• rédiger le plan de réponse à un incident impliquant un agent (réponse erronée diffusée, fuite, dérive de comportement) et l’exécuter lors d’un exercice

Public

Développeurs et ingénieurs IA ayant suivi AGT-301 ou exploitant un agent en production, ingénieurs sécurité, DevOps, équipes techniques qui reprennent un agent conçu par un prestataire.

Prérequis

Avoir suivi AGT-301 ou maintenir un agent en production, et programmer en Python. Vérifié par un test de positionnement. Prérequis techniques : un ordinateur portable par participant, 16 Go de mémoire recommandés, avec Python 3, Docker, Git et un éditeur de code installés avant le premier jour (procédure fournie à la convocation) ; agent de formation volontairement vulnérable, environnement cloud, clés d’API et outils de trace fournis par Yolea, crédits inclus ; en distanciel, connexion stable de 10 Mbit/s minimum, micro et caméra ; agent du participant accepté pour les ateliers s’il est déployable dans l’environnement de formation.

Programme

• 25 % d’apports, 75 % d’ateliers
• Alternance attaque et défense sur l’agent de formation, chaque faille exploitée puis corrigée
• Construction du journal d’actions et du tableau de supervision
• Exercice d’incident chronométré le second après-midi
• Cas pratiques inspirés de situations d’entreprise (agent commercial WhatsApp accédant au catalogue et aux commandes, agent de pré-instruction de dossiers)
• Outils du millésime : LangGraph ou Pydantic AI, MCP avec permissions, LangSmith pour les traces, garde-fous d’entrée et de sortie
• Supports remis : dépôt de référence, batterie de tests d’attaque réutilisable, gabarit de périmètre technique, modèle de journal, plan de réponse à incident, glossaire
• Plan d’action personnel
• Point de suivi à trois semaines

Format

Présentiel recommandé, hybride possible ; intra-entreprise sur votre agent ou inter-entreprises ; 8 à 12 participants ; 14 heures, 2 jours consécutifs de 7 h ; en distanciel, 4 séquences de 3 h 30 sur deux semaines.

Évaluation

En amont, test de positionnement. En cours, quiz de contrôle et revue de configuration. En fin, challenge de mise en situation (sécuriser un agent imposé contre une batterie d’attaques inconnue, journaliser et traiter un incident simulé, évalué sur grille), évaluation à chaud, attestation nominative de fin de formation. À trois semaines, point de suivi.

Le dernier exercice est un plan d’action : trois tâches réelles que vous repartez outiller.