LLM : c'est quoi un grand modèle de langage, expliqué sans jargon

Qu'est-ce qu'un grand modèle de langage ?

LLM est l'abréviation de l'anglais « large language model », grand modèle de langage. C'est un programme d'intelligence artificielle, un réseau de neurones de très grande taille, entraîné sur des volumes considérables de textes : livres, sites web, documentation, code. Pendant cet entraînement, il apprend les régularités de la langue : la grammaire, le vocabulaire, les enchaînements d'idées, les façons de raisonner qui apparaissent dans les textes.

Les assistants que vous utilisez reposent tous sur des LLM : Claude d'Anthropic, GPT chez OpenAI, Gemini chez Google, ou les modèles de l'entreprise française Mistral AI. L'assistant est l'interface ; le modèle est le moteur. Pour découvrir les modèles de Claude en particulier, lisez notre guide sur Claude d'Anthropic.

Comment un LLM fonctionne-t-il ?

Le principe de base est étonnamment simple : à partir d'un texte, le modèle calcule quelle suite est la plus probable, morceau par morceau. Ces morceaux s'appellent des tokens ; ce sont souvent des fragments de mots. En répétant l'opération des milliers de fois, il produit une réponse complète. Ce qui paraît être un raisonnement est le résultat de cette prédiction, affinée par des étapes d'entraînement supplémentaires qui apprennent au modèle à suivre des instructions, à être utile et à refuser certaines demandes.

Les modèles récents peuvent aussi « réfléchir » avant de répondre : ils produisent un raisonnement intermédiaire qui améliore les résultats sur les problèmes complexes. Ils lisent souvent des images et des documents, et peuvent utiliser des outils, comme une recherche web ou un logiciel connecté, ce qui en fait la base des agents IA.

Qu'est-ce que la fenêtre de contexte ?

La fenêtre de contexte est la quantité de texte qu'un modèle peut prendre en compte en une fois : votre consigne, la conversation, les documents fournis et sa réponse. Elle se mesure en tokens. Plus elle est grande, plus on peut confier au modèle des dossiers volumineux. À titre d'exemple, la documentation d'Anthropic indique une fenêtre de 1 million de tokens pour ses modèles les plus récents, soit plusieurs centaines de milliers de mots.

Cette mémoire est temporaire : le modèle n'apprend pas de vos conversations au sens où un collègue retiendrait une information. Chaque nouvelle conversation repart de zéro, sauf si l'outil propose une fonction de mémoire ou des projets qui réinjectent automatiquement vos documents. Pour travailler sur de très grandes bases documentaires, on utilise une technique appelée RAG, présentée dans notre article dédié.

Quelles sont les limites des LLM ?

• Les hallucinations : un LLM peut inventer un chiffre, une référence ou une citation plausible mais fausse.
• La date de connaissance : le modèle ignore ce qui s'est passé après son entraînement, sauf s'il utilise une recherche web.
• Le calcul : sans outil, il peut se tromper sur des opérations précises.
• Les biais : il reproduit certains biais présents dans ses données d'entraînement.
• La confidentialité : ce que vous lui envoyez transite par le fournisseur, selon les conditions de votre offre.

Ces limites n'empêchent pas un usage professionnel ; elles imposent une méthode. Nous détaillons comment réduire les erreurs dans notre article sur les hallucinations de l'IA.

Qu'est-ce que les LLM changent pour une entreprise ?

Les LLM excellent sur les tâches de langage, qui représentent une grande partie du travail de bureau : lire, écrire, résumer, classer, extraire, traduire, reformuler. Un compte rendu, une réponse client, une fiche produit, une synthèse de contrat peuvent être préparés en quelques secondes, puis relus. Ils ouvrent aussi de nouveaux usages : interroger ses documents en langage naturel, automatiser le traitement des e-mails, construire des assistants spécialisés.

L'erreur la plus fréquente consiste à attendre d'un LLM qu'il sache tout, sans lui fournir le contexte de l'entreprise. Les meilleurs résultats viennent de modèles alimentés avec vos documents, vos règles et vos exemples. C'est le cœur de notre accompagnement en intégration de l'IA, et le sujet de nos articles sur les prompts et sur l'IA générative.

Questions fréquentes

Sources

• Anthropic : présentation des modèles Claude (fenêtre de contexte)(nouvel onglet)
• CNIL : intelligence artificielle(nouvel onglet)
• Mistral AI(nouvel onglet)

Cet article a une visée informative et ne constitue pas un conseil juridique.