Retour au cours

Utilisation des LLM : Prompts, Cas d'Usage, Limites

Objectifs

  • Maîtriser les bases du “Prompt Engineering” pour interagir efficacement avec un LLM.
  • Identifier les principaux cas d’usage des LLM dans le monde réel.
  • Comprendre les limites actuelles des LLM, notamment les hallucinations et les biais.

1. Prompt Engineering : L’Art de Poser les Bonnes Questions

Le prompt est l’instruction ou la question que vous donnez au LLM. La qualité de la réponse du modèle dépend énormément de la qualité du prompt. Le “Prompt Engineering” est la discipline qui consiste à concevoir des prompts efficaces.

Principes Clés d’un Bon Prompt :

  1. Clarté et Spécificité : Soyez précis sur ce que vous attendez. Évitez l’ambiguïté.

    • Mauvais : “Écris quelque chose sur les chats.”
    • Bon : “Rédige un court paragraphe de 100 mots sur les avantages d’adopter un chat pour les personnes âgées, en adoptant un ton chaleureux.”

  2. Rôle (Persona) : Demandez au modèle d’adopter une personnalité.

    • “Agis comme un expert en marketing digital et propose-moi 5 titres accrocheurs pour un article sur la productivité.”

  3. Contexte : Fournissez toutes les informations nécessaires au modèle pour générer une réponse pertinente.

    • “Voici un résumé de notre réunion d’équipe. Peux-tu en extraire les 3 points d’action principaux et les assigner à John, Sarah et Mark ?”

  4. Format de Sortie : Spécifiez le format désiré (liste, JSON, paragraphe, tableau).

    • “Génère une liste de 5 idées de dîners végétariens, formatée en JSON avec les clés ‘plat’ et ‘ingrédients_principaux’.”

Techniques de Prompting :

  • Zero-shot learning : Le modèle répond sans aucun exemple préalable, uniquement basé sur le prompt.
  • Few-shot learning : Vous fournissez quelques exemples dans le prompt pour guider le modèle. Très efficace pour des tâches complexes.
    • Prompt : 
      Traduis le texte en français :
Anglais: "Hello"
Français: "Bonjour"
Anglais: "Thank you"
Français: "Merci"
Anglais: "Goodbye"
Français:

Réponse générée

Utilisateur

Prompt

Modèle de Langage (LLM)

Utilisateur

2. Cas d’Usage Fréquents des LLM

Les applications des LLM sont vastes et continuent d’évoluer :

  • Génération de Texte : Rédaction d’emails, articles de blog, descriptions de produits, histoires créatives, code informatique.
  • Résumé : Condenser de longs documents, articles ou conversations.
  • Traduction : Traduire du texte entre différentes langues.
  • Réponse à des Questions (Q&A) : Extraire des informations de documents, créer des chatbots intelligents.
  • Analyse de Sentiment : Déterminer le ton émotionnel d’un texte (positif, négatif, neutre).
  • Classification : Catégoriser du texte (ex: spam/non-spam, type de plainte client).
  • Extraction d’informations : Identifier des entités nommées (personnes, lieux, dates) dans un texte non structuré.
  • Brainstorming et Idéation : Générer de nouvelles idées à partir d’un concept donné.

3. Limites Actuelles des LLM

Malgré leurs performances impressionnantes, les LLM ne sont pas parfaits et présentent des limitations importantes :

  1. Hallucinations : Les modèles peuvent générer des informations fausses mais présentées avec assurance, sans qu’elles soient basées sur leurs données d’entraînement ou le contexte fourni. C’est leur plus grande faiblesse.
  2. Biais : Ils peuvent reproduire et amplifier les biais présents dans les données sur lesquelles ils ont été entraînés (stéréotypes, préjugés, informations erronées).
  3. Manque de Compréhension du Monde Réel : Les LLM n’ont pas de conscience, d’expériences physiques ou d’intelligence générale. Leur “connaissance” est purement statistique et linguistique.
  4. Contexte Limité (Context Window) : Les modèles ne peuvent traiter qu’une quantité limitée de texte à la fois (le “contexte”). Pour des documents très longs, ils peuvent “oublier” des informations au début de la conversation.
  5. Sécurité et Éthique : Risques de désinformation, de génération de contenu nuisible ou d’attaques par “prompt injection”.

Bonnes pratiques

  • Itérer sur les prompts : Si la première réponse n’est pas bonne, modifiez votre prompt, ne réessayez pas juste le même.
  • Combiner les LLM avec d’autres outils : Pour les faits, les LLM sont souvent meilleurs lorsqu’ils sont “augmentés” par des bases de données ou des moteurs de recherche (RAG - Retrieval Augmented Generation).

Pièges courants

  • Croire que le modèle “sait” : Le modèle “génère” du texte, il ne “connaît” pas la vérité.
  • Utiliser des informations sensibles : Ne soumettez jamais d’informations confidentielles à un LLM public, car vos données peuvent être utilisées pour son entraînement.
  • Ne pas valider les sorties : Surtout pour les informations factuelles ou critiques.

Exercices

  1. Prompt créatif :

    • Demandez à un LLM d’écrire une petite histoire (50 mots) où un écureuil tente de devenir astronaute.
    • Modifiez le prompt pour demander la même histoire, mais cette fois-ci du point de vue de l’écureuil et avec un ton humoristique.

  2. Extraction d’informations :

    • Copiez le texte d’un article de Wikipédia sur un sujet qui vous intéresse.
    • Demandez au LLM de résumer l’article en 3 phrases.
    • Ensuite, demandez-lui d’extraire les 3 dates les plus importantes mentionnées dans l’article.

  3. Détection d’hallucinations :

    • Demandez au LLM de vous donner les sources de 3 études scientifiques récentes prouvant l’existence du Yéti.
    • Vérifiez si les sources citées sont réelles. (Le modèle devrait probablement halluciner des titres et des auteurs).

Sujets abordés