Petit ou grand modèle d'IA : affectez le modèle à la tâche, pas l'inverse

Beaucoup de PME envoient toutes leurs tâches au modèle d'IA le plus puissant du marché, par réflexe de prudence. Résultat : elles paient un profil de directeur pour trier du courrier. Choisir entre un petit ou grand modèle d'IA n'est pas une question technique réservée aux développeurs. C'est une décision d'affectation, exactement comme vous affectez un profil à un poste. Voici la méthode pour la prendre tâche par tâche, avec des preuves plutôt qu'avec des impressions.

Petit ou grand modèle d'IA : quelle différence concrète ?

Choisir entre un petit ou grand modèle d'IA revient à arbitrer entre trois grandeurs : la capacité de raisonnement, la vitesse et le coût. Les définitions tiennent en deux phrases.

• Un grand modèle raisonne mieux sur des tâches ouvertes et ambiguës : il gère les consignes floues, les cas inédits, les arbitrages entre plusieurs contraintes et les longs enchaînements d'étapes.
• Un petit modèle est plus rapide et beaucoup moins cher sur des tâches cadrées et répétitives : classer, extraire, reformuler, router, résumer selon un gabarit fixe.

L'écart de coût entre les deux ne se compte pas en pourcentages mais en multiples. C'est un ordre de grandeur, pas un tarif : selon les fournisseurs et les générations, le rapport varie, mais il reste en général assez large pour changer l'économie d'un processus dès que le volume monte.

Le point que beaucoup de dirigeants ignorent : sur une tâche bien cadrée, un petit modèle n'est pas un grand modèle au rabais. Il produit souvent un résultat équivalent, plus vite. La différence de qualité n'apparaît que lorsque la tâche demande du jugement. Si vous en êtes encore à choisir l'outil lui-même, commencez par notre méthode pour choisir un assistant IA en entreprise ; la question du modèle vient juste après.

Pourquoi ne pas tout envoyer au modèle le plus puissant ?

Parce que vous payez trois fois une capacité dont la tâche n'a pas besoin.

1. Vous payez en argent. Trier des emails entrants, étiqueter des tickets ou extraire un montant d'une facture avec un modèle haut de gamme, c'est facturer du raisonnement à une tâche qui n'en demande pas. Sur quelques dizaines de requêtes, personne ne le voit. Sur un flux quotidien, la ligne de dépense devient visible.
2. Vous payez en temps. Un grand modèle répond en général plus lentement. Dans une automatisation qui enchaîne plusieurs appels, ou dans un outil utilisé en direct par vos équipes, cette latence s'additionne et dégrade l'usage.
3. Vous payez en rigueur. Tant que le modèle le plus puissant absorbe tout, personne ne se demande ce que la tâche exige vraiment. La consigne reste vague, les critères de qualité ne sont jamais écrits, et le jour où la facture pose question, vous n'avez aucun élément pour arbitrer.

Le bon réflexe est celui que vous appliquez déjà en recrutement : vous ne confiez pas la saisie des notes de frais à votre directeur financier, et vous ne confiez pas la négociation d'un contrat cadre à un stagiaire. Chaque poste a un niveau d'exigence. Chaque tâche IA aussi.

Quels critères pour choisir entre un petit et un grand modèle ?

Commencez par lister toutes les tâches IA déjà en place dans l'entreprise : celles de vos automatisations, celles de vos outils métiers, celles que vos équipes lancent à la main. Puis classez chacune selon trois critères.

• L'ambiguïté. La tâche a-t-elle une bonne réponse identifiable, ou demande-t-elle une interprétation ? Dire si un email est une demande de devis ou une réclamation est peu ambigu. Rédiger une réponse à un client mécontent dont le dossier comporte plusieurs échanges contradictoires l'est beaucoup plus.
• Le coût d'une erreur. Que se passe-t-il si la sortie est fausse ? Un email mal classé se corrige en quelques secondes. Une clause mal résumée dans un contrat ou un montant erroné envoyé à un client coûte bien davantage.
• Le volume. Combien de fois par jour la tâche tourne-t-elle ? Plus le volume est élevé, plus l'écart de coût entre les deux modèles pèse, et plus la vitesse compte.

La règle de lecture est simple :

• Faible ambiguïté, erreur peu coûteuse, volume élevé : petit modèle, sans hésiter. C'est le cas du tri, de l'extraction, de l'étiquetage, du routage.
• Forte ambiguïté, erreur coûteuse, volume faible : grand modèle. Analyse d'un appel d'offres, synthèse stratégique, arbitrage entre plusieurs options.
• Entre les deux : ne décidez pas à l'intuition. Testez.

Pour une PME, ce classement se fait le plus souvent en une demi-journée. Il a un effet secondaire utile : il vous oblige à écrire noir sur blanc ce que chaque tâche doit produire, ce que beaucoup d'équipes n'ont jamais fait.

Comment tester un petit modèle sur vos propres cas ?

Le principe : commencez toujours par le petit modèle, et faites-lui passer un examen sur vos données réelles. Pas sur des exemples inventés, pas sur ceux de la documentation du fournisseur.

1. Constituez un jeu d'exemples réels. Prenez quelques dizaines de cas tirés de votre activité, dont des cas faciles, des cas moyens et les cas tordus que vos équipes connaissent bien. Anonymisez ce qui doit l'être.
2. Écrivez la réponse attendue pour chacun. C'est l'étape que tout le monde veut sauter et celle qui donne toute sa valeur au test. Sans réponse de référence, vous jugez au ressenti.
3. Fixez le seuil d'acceptation avant de lancer. Quel taux de bonnes réponses est suffisant pour cette tâche, compte tenu du coût d'une erreur ? Décidez-le à froid, pas après avoir vu les résultats.
4. Faites tourner le petit modèle avec la même consigne que celle prévue en production, puis comptez.
5. Lisez les erreurs une par une. Une erreur due à une consigne imprécise se corrige en réécrivant la consigne. Une erreur de raisonnement, elle, signale la limite du modèle.

Cette dernière distinction est décisive. Dans notre pratique, une bonne partie des échecs attribués au modèle viennent en réalité d'une consigne floue ou d'un exemple manquant. Corrigez la consigne, relancez le test, puis seulement concluez. La méthode complète de mesure est détaillée dans notre guide pour évaluer la qualité des sorties IA.

Quand faut-il monter en gamme vers un grand modèle ?

Une seule condition justifie de monter en gamme : la qualité mesurée du petit modèle reste sous votre seuil après que vous avez amélioré la consigne. Pas avant. Pas parce que le grand modèle rassure, ni parce qu'un classement public le place en tête.

Trois signaux montrent que la tâche dépasse réellement un petit modèle :

• les erreurs se concentrent sur les cas qui demandent de croiser plusieurs informations ou de trancher entre des consignes en tension ;
• la sortie est correcte sur la forme mais passe à côté de l'intention, par exemple un résumé fidèle qui oublie le seul point qui comptait ;
• la qualité chute dès que l'entrée s'allonge ou sort du format habituel.

Quand vous montez en gamme, refaites passer exactement le même jeu d'exemples au grand modèle. Vous obtenez alors une comparaison chiffrée : le gain de qualité d'un côté, le surcoût de l'autre. C'est cette comparaison qui permet de décider, et de défendre la décision devant votre direction financière. Elle alimente directement le calcul présenté dans notre article sur la mesure du ROI de l'IA en entreprise.

Il arrive que le gain de qualité soit réel mais ne vaille pas son prix, parce qu'une relecture humaine rapide sur les cas douteux coûte moins cher. C'est une réponse parfaitement valable.

Comment combiner petit et grand modèle dans un même processus ?

Le choix est rarement binaire. La configuration la plus rentable consiste souvent à faire travailler les deux, chacun à son poste : le petit modèle trie et extrait, le grand modèle tranche les cas difficiles.

Prenons le traitement des demandes entrantes d'une PME de services. Le petit modèle lit chaque message, identifie le type de demande, extrait les informations utiles et signale les cas où il manque d'éléments pour conclure. Les demandes simples, majoritaires dans la plupart des flux, sont traitées directement. Seules celles qui sont ambiguës, sensibles ou hors cadre remontent au grand modèle, ou à une personne.

Pour que ce montage fonctionne, trois règles :

• Définissez les critères d'escalade par écrit. Par exemple : client stratégique, montant au-dessus d'un seuil, mention d'un litige, information manquante. Le petit modèle applique une règle, il n'improvise pas.
• Mesurez la part des cas escaladés. Si presque tout remonte, vos critères sont trop larges ou la tâche n'est pas adaptée à ce découpage.
• Contrôlez par échantillon ce qui n'est pas escaladé. Le risque d'un tel montage n'est pas le cas difficile bien identifié, c'est le cas difficile que le petit modèle a cru facile.

Ce découpage a un autre avantage : il rend le processus plus robuste, parce que chaque étape a un rôle étroit et vérifiable. C'est le même principe que nous détaillons pour fiabiliser les sorties IA en production.

Quel piège éviter quand on compare des modèles d'IA ?

Le piège le plus fréquent tient en une phrase : juger un modèle sur une démonstration au lieu de le juger sur ses propres cas.

Une démonstration est conçue pour impressionner. Les exemples sont choisis, les consignes sont rodées, les données sont propres. Vos factures scannées de travers, vos emails de clients rédigés à la hâte et votre vocabulaire métier n'y figurent pas. Un modèle brillant en démonstration peut être moyen chez vous, et un petit modèle jugé limité peut suffire largement à votre tâche réelle.

Le piège fonctionne dans les deux sens. Il pousse à surpayer un grand modèle parce que sa démonstration a marqué les esprits. Il pousse aussi à écarter un petit modèle après deux essais ratés avec une consigne improvisée. Dans les deux cas, la décision repose sur une impression. Votre jeu d'exemples réels est le seul juge légitime.

Dernier point : ce choix n'est pas définitif. Les modèles évoluent vite, et les petits modèles d'une génération rattrapent souvent les grands de la génération précédente sur les tâches courantes. Une tâche qui exigeait hier le haut de gamme peut aujourd'hui tourner sur un modèle léger. Prévoyez une revue à intervalle fixe, par exemple chaque trimestre ou à chaque sortie majeure chez votre fournisseur : vous refaites passer votre jeu d'exemples, vous comparez, vous réaffectez. Comme le jeu existe déjà, l'exercice est rapide.

C'est la logique que nous appliquons avec les entreprises que nous accompagnons, plus de 280 depuis 2012 : un système d'IA rentable n'est pas celui qui utilise le meilleur modèle, c'est celui qui sait pourquoi il utilise chaque modèle.

À retenir. Affectez un modèle à une tâche comme vous affectez un profil à un poste. Listez vos tâches IA, classez-les selon l'ambiguïté, le coût d'une erreur et le volume, testez le petit modèle d'abord sur vos cas réels, et ne montez en gamme que si la qualité mesurée ne suffit pas. Puis revoyez ce choix régulièrement. La croissance ne se hacke pas. Elle se construit.