Sécurité des agents IA
Les applications qui mettent un LLM dans la boucle ont leurs propres failles : injection de consignes, abus d'outils, fuite de données. C'est un axe récent de SIFNOS, abordé depuis la pratique du développement.
Cette page fait l'état des lieux : ce qui existe, ce qui est en préparation.
Outil d'analyse d'agents conversationnels
Un outil qui éprouve des bots et des agents. Pas encore publié.
Recherche de vulnérabilités
Les premières recherches passeront par la divulgation coordonnée : les mainteneurs sont prévenus et leur correctif est attendu avant publication.
Programmes de bug bounty
Compte ouvert sur une plateforme de bug bounty ; premiers rapports à venir.
Formation
Autoformation à la sécurité des agents IA : lectures, exercices sur plateformes d'entraînement, constitution d'un vocabulaire et d'une méthode.
Les publications paraîtront sur la page Recherche. Pour signaler une faille dans ce site, voir les mentions légales.