Digital Trust PractitionersAssociation of Digital Trust Practitioners · TrustPractitioners.org
FR
AdhérerAdhérer

Page traduite et vérifiée automatiquement. La version anglaise fait foi. Certaines parties restent en anglais le temps que leur traduction soit vérifiée. Voir en anglais · Signaler une erreur de traduction

AIG-300Gouvernance de l’IA

Sécuriser les applications LLM

L’injection de prompt finira par réussir : concevez en conséquence. Modélisez les menaces d’une application LLM et mettez en place des contrôles qui tiennent même lorsque le modèle est trompé.

10 leçons Environ 3 heures 4 ALC Certificat à l'issue de la formation

Vous prépare à : AAISM · SecurityX · AWS Certified AI Practitioner

Ce que vous saurez faire

  • Modéliser les menaces d’une application LLM, y compris chaque source de texte et chaque sortie
  • Concevoir de sorte qu’une injection de prompt réussie ne puisse pas causer beaucoup de dégâts
  • Protéger les données sensibles dans les prompts, la recherche documentaire et les journaux
  • Maîtriser le traitement des sorties, l’usage des outils et les coûts, puis les tester et les surveiller
Vous repartez avec

Un dossier de conception de la sécurité d’une application LLM

Contenu. Les frontières de confiance avec chaque source de texte et chaque destination de sortie, une ligne par menace applicable avec son contrôle de conception, sa détection, son cas de test, son responsable et son risque résiduel, l’inventaire des modèles, la règle de changement et le plan de mise à l’arrêt.

Vous le construisez leçon après leçon, à partir de votre propre organisation, et vous le remettez pour obtenir votre certificat. Il vous appartient : gardez-le et adaptez-le.

Public

Ingénieurs en sécurité applicative, architectes et développeurs qui construisent des solutions à base de LLM.

Au programme

  1. Partie 1D'où vient l'exigence 18 min
  2. Partie 2Comment les petites équipes et les grandes entreprises y répondent 16 min
  3. Partie 3Modéliser les menaces d’une application LLM 22 min
  4. Partie 4Injection de prompt : concevoir en partant du principe qu’elle réussira 24 min
  5. Partie 5Données sensibles, recherche documentaire et prompts 22 min
  6. Partie 6Sorties, outils et coûts 22 min
  7. Partie 7Chaîne d’approvisionnement, tests et surveillance 22 min
  8. Partie 8Atelier pratique : petite équipe au choix 22 min
  9. Partie 9Atelier pratique : grande organisation au choix 24 min
  10. Partie 10Finaliser et soumettre votre livrable 20 min

Adapté à votre taille

L'exigence est la même partout. La façon d'y répondre dépend des personnes dont vous disposez. Vous choisissez l'atelier qui correspond à votre organisation.

Petite équipe ou jeune entrepriseUn modèle hébergé et une couche de recherche documentaire, donc une conception restreinte (recherche filtrée selon les autorisations, aucun outil, sortie en texte brut) et un petit fichier d’attaques exécuté à chaque changement.
Grande organisationDe nombreuses applications, de nombreux modèles et agents, donc un classement par niveau, une passerelle de modèles, des contrôles partagés pour les équipes de développement, du red teaming et des versions de modèles figées.

Comment obtenir le certificat

Remettez votre livrable final, noté selon une grille publiée, et réussissez un court quiz de mise en situation. Votre certificat est versé dans votre portefeuille et peut être vérifié par tous dans le registre public.

Prêt à constituer un dossier de conception de la sécurité d’une application LLM ?10 leçons, environ 3 heures. Commencez quand vous êtes prêt.
Adhérer et s'inscrire