Comment choisir un LLM pour votre entreprise

Pour choisir un LLM pour votre entreprise, partez de la tâche, pas du modèle. Définissez ce que le modèle doit faire et à quoi ressemble un bon résultat, fixez vos contraintes (protection des données, budget, rapidité, intégration), retenez quelques candidats, testez-les tous sur les mêmes cas réels et comparez qualité, coût par tâche et temps de réponse dans une grille. Le meilleur choix est le modèle le moins cher et le plus rapide qui atteint de façon fiable votre niveau de qualité, à des conditions acceptables. Comme modèles et prix changent souvent, conservez votre jeu de test et relancez-le quand le marché bouge.

Ce guide propose une méthode reproductible. Il ne classe volontairement aucun modèle : une telle liste serait vite périmée. Vérifiez directement auprès des fournisseurs les gammes, capacités et prix actuels.

Étape 1 : définir précisément la tâche

« Il nous faut de l'IA » n'est pas un besoin. Notez :

• La tâche : par exemple « rédiger des réponses aux e-mails clients sur les commandes et les retours » ou « extraire des champs des factures fournisseurs ».
• Les entrées : ce que reçoit le modèle (messages courts, longs documents, images, tableaux).
• Les sorties : texte libre, données structurées, code, décisions.
• Les langues : celles des entrées et des sorties.
• Le volume : requêtes par jour ou par mois, et pics.
• Qui voit le résultat : équipes internes, clients, public.
• Le risque : ce qui se passe si le résultat est faux.

Chaque tâche favorise des modèles différents. Une étape de classification à fort volume demande un modèle rapide et peu coûteux. L'analyse de longs contrats exige une grande fenêtre de contexte et un bon raisonnement. Beaucoup d'applications utilisent plusieurs modèles selon les étapes.

Étape 2 : fixer vos critères

Critère	Questions à poser
Qualité	Atteint-il le niveau voulu sur nos cas de test ? Comment gère-t-il les cas difficiles et inhabituels ?
Respect des consignes	Suit-il de façon fiable les règles de format et les contraintes ?
Ancrage	S'en tient-il aux sources fournies et reconnaît-il quand une information manque ?
Fenêtre de contexte	Gère-t-il nos entrées les plus longues avec de la place pour les instructions et la sortie ?
Langues	Quelle qualité dans chaque langue dont nous avons besoin ?
Modalités	Avons-nous besoin d'images, de documents, d'audio ?
Sortie structurée	Prend-il en charge des schémas ou un JSON fiable ?
Utilisation d'outils	Peut-il appeler des fonctions ou des outils si nécessaire ?
Rapidité	Délai avant le premier token et temps de réponse total pour nos tailles d'entrée
Coût	Coût par tâche à nos volumes de tokens, options de cache et de traitement par lots comprises
Conditions sur les données	Conservation, usage des entrées pour l'entraînement, localisation, certifications, conditions contractuelles
Disponibilité	Limites de débit, engagements de disponibilité, disponibilité régionale
Écosystème	SDK, documentation, intégration à nos plateformes existantes
Pérennité	Fréquence des retraits de modèles et délai de préavis

Pondérez les critères selon votre tâche. Pour un outil interne de synthèse, qualité et coût peuvent primer. Pour un assistant client traitant des données personnelles, les conditions sur les données et l'ancrage peuvent être décisifs.

Étape 3 : choisir le mode de déploiement

Option	Ce que cela signifie	Avantages	Inconvénients
Modèle propriétaire via l'API du fournisseur	Modèle hébergé par son développeur	Démarrage rapide, capacités élevées, aucune infrastructure	Dépendance à un fournisseur, données traitées hors de votre environnement selon ses conditions
Modèle propriétaire via une plateforme cloud	Modèles identiques ou proches proposés par un grand fournisseur cloud	S'intègre aux contrats cloud existants, options d'hébergement régional	Disponibilité et fonctionnalités des modèles parfois différentes
Modèle open-weight hébergé par un tiers	Modèle librement disponible exploité par un hébergeur	Plus de choix et de portabilité	Qualité d'hébergement et conditions variables
Modèle open-weight auto-hébergé	Vous exploitez le modèle sur votre propre infrastructure	Contrôle maximal des données et de la personnalisation	Exige matériel, expertise, maintenance et sécurité

Pour la plupart des PME et ETI, démarrer avec une API est le choix pragmatique. Reconsidérez l'auto-hébergement si les exigences sur les données, le volume ou la personnalisation justifient l'effort.

Étape 4 : constituer un jeu de test

Le jeu de test est l'atout le plus précieux du choix de modèle. Il permet de comparer équitablement les candidats et de réévaluer rapidement plus tard.

• Rassemblez 30 à 100 cas réels, anonymisés si nécessaire.
• Reproduisez la répartition attendue : surtout des cas typiques, plus des cas difficiles, des cas limites et des cas à refuser ou escalader.
• Notez le résultat attendu ou les critères qu'une bonne réponse doit remplir.
• Définissez la notation : par exemple réussite/échec par critère, ou une échelle de 1 à 5 avec des descriptions claires.
• Gardez-le confidentiel et stable, pour que les résultats restent comparables dans le temps.

Pour les tâches à réponse unique, comme l'extraction ou la classification, la notation peut être automatisée. Pour la rédaction, utilisez une grille et faites noter un échantillon par des personnes, idéalement sans savoir quel modèle a produit quelle réponse.

Étape 5 : présélectionner et tester

Retenez trois à cinq candidats de différentes gammes de prix : au moins un petit modèle peu coûteux, un modèle intermédiaire et un modèle haut de gamme. Ensuite :

1. Utilisez la même structure de prompt pour tous, en l'adaptant seulement là où la documentation d'un fournisseur recommande un format précis. Un prompt système bien conçu rend la comparaison plus équitable.
2. Passez tout le jeu de test sur chaque candidat.
3. Notez les scores de qualité, la consommation de tokens et les temps de réponse.
4. Lisez les échecs. Deux modèles de même moyenne peuvent échouer très différemment, et un type d'échec peut être inacceptable pour vous.

Ne choisissez pas sur la seule base des benchmarks publics. Ils mesurent des capacités générales sur des tâches standard, pas votre tâche avec vos données et votre prompt.

Étape 6 : calculer le coût par tâche

Le prix par million de tokens n'est pas le coût par tâche. Un modèle moins cher qui exige des prompts plus longs, plus de relances ou plus de corrections humaines peut coûter plus cher au total.

Pour chaque candidat, calculez :

• la moyenne des tokens d'entrée et de sortie par tâche d'après vos tests,
• le coût par tâche aux prix actuels,
• le coût mensuel à votre volume attendu,
• l'effort de relecture humaine qu'implique son taux d'erreur.

Le calculateur de coût d'API LLM compare trois scénarios de prix côte à côte, et notre article sur la tarification des API LLM détaille les facteurs qui modifient le calcul, comme le cache et les remises sur le traitement par lots. Pour le business case complet, temps de relecture compris, utilisez le calculateur de ROI de l'automatisation IA.

Étape 7 : vérifier les conditions juridiques et sur les données

Avant de décider, examinez pour chaque fournisseur :

• si les entrées et sorties sont conservées, combien de temps et dans quel but,
• si vos données peuvent servir à entraîner des modèles, et comment vous y opposer le cas échéant,
• où les données sont traitées et stockées,
• les accords de traitement des données et les certifications de sécurité,
• les conditions de propriété et d'usage des résultats,
• les restrictions d'usage susceptibles de toucher votre cas d'usage.

Si vous opérez dans l'UE et que le cas d'usage pourrait relever d'une catégorie réglementée par l'AI Act, prenez-le en compte tôt. L'article sur les niveaux de risque de l'AI Act explique les catégories. Impliquez votre DPO ou votre conseil juridique pour tout ce qui touche aux données personnelles.

Étape 8 : décider avec une grille d'évaluation

Une grille pondérée simple rend la décision transparente :

Critère	Poids	Modèle A	Modèle B	Modèle C
Qualité sur le jeu de test	35 %	4	5	3
Coût par tâche	25 %	4	2	5
Rapidité	10 %	4	3	5
Conditions sur les données	20 %	4	4	3
Intégration et écosystème	10 %	3	4	4
Score pondéré		3,9	3,75	3,8

Les chiffres sont illustratifs. Ici, les scores sont proches, ce qui est fréquent. Dans ce cas, regardez l'analyse des échecs et les critères éliminatoires pour vous, et envisagez un routage : le modèle le moins cher pour la plupart des cas, le plus performant pour les cas difficiles.

Éviter la dépendance

• Isolez l'appel au modèle dans votre code pour changer de fournisseur avec un effort limité.
• Gardez prompts et jeux de test portables, sans dépendre des fonctions propriétaires d'une plateforme sauf bénéfice évident.
• Journalisez entrées, sorties et nombres de tokens dans vos propres systèmes, dans le respect de vos règles sur les données.
• Surveillez les annonces de retrait. Les fournisseurs retirent des versions de modèles ; planifiez les migrations et retestez.

Les erreurs fréquentes

• Choisir par défaut le modèle le plus connu. Il peut être plus puissant et plus cher que nécessaire.
• Tester avec une poignée d'exemples choisis à la main. Les résultats ne refléteront pas l'usage réel.
• Comparer le prix par token au lieu du coût par tâche.
• Ignorer les conditions sur les données jusqu'après le développement.
• Changer prompts et modèles en même temps, sans pouvoir dire quel changement a compté.
• Ne jamais réévaluer. Le marché évolue vite ; votre jeu de test vous permet d'en profiter.

En résumé

Définissez la tâche, fixez des critères pondérés, constituez un jeu de test réaliste, testez un petit éventail de candidats, comparez coût par tâche et conditions sur les données, puis décidez avec une grille. Conservez le jeu de test et relancez-le à l'arrivée de nouveaux modèles ou prix. Si le coût pèse lourd, poursuivez avec notre article pour réduire les coûts d'API LLM, et si vous cherchez comment donner au modèle accès aux connaissances de l'entreprise, lisez RAG ou fine-tuning.