Combien coûte vraiment une IA générative interne ?

La comparaison est presque toujours mal posée. D'un côté, un abonnement à quelques euros par utilisateur et par mois. De l'autre, un serveur GPU dont le prix fait sursauter. Mais ces deux chiffres ne se comparent pas directement : l'un croît avec vos effectifs, l'autre pas. Décomposons les postes réels, puis le point où les deux courbes se croisent.

Précision de méthode avant de commencer : cet article donne une structure de calcul, pas une grille tarifaire. Les montants dépendent trop du contexte : nombre d'utilisateurs, volume documentaire, exigences de disponibilité, hébergement, pour qu'un prix affiché ait le moindre sens. Ce qui est transposable, en revanche, c'est la liste des postes à ne pas oublier et la logique qui fait basculer l'arbitrage.

Les cinq postes de coût réels

Un projet d'IA générative interne se décompose en cinq lignes, et l'expérience montre que les trois dernières sont systématiquement sous-estimées dans les premiers chiffrages.

Poste	Nature	Ce qui le fait varier
Calcul GPU	Achat ou location	Taille du modèle, nombre d'utilisateurs simultanés, longueur de contexte
Hébergement	Récurrent	Salle interne ou datacentre, électricité, refroidissement, redondance
Licences logicielles	Récurrent	Nulles si la pile est open source, c'est le poste qui disparaît
Exploitation	Récurrent	Supervision, sauvegardes, mises à jour de modèles, support utilisateurs
Accompagnement	Ponctuel puis récurrent	Formation, cas d'usage, conduite du changement, gouvernance

Le calcul GPU

C'est le seul poste réellement calculable à l'avance, et c'est heureux : il dépend de la taille du modèle, de la quantification retenue, de la longueur de contexte et du nombre de requêtes simultanées. C'est exactement ce que fait notre calculateur de VRAM. Point important : il faut dimensionner sur la concurrence réelle, pas sur l'effectif total. Sur un déploiement de plusieurs centaines d'agents, seuls quelques-uns interrogent le modèle à la même seconde.

L'exploitation, le poste oublié

Un serveur d'inférence n'est pas un logiciel qu'on installe et qu'on oublie. Il faut le superviser, sauvegarder l'index documentaire, appliquer les correctifs, faire évoluer le modèle quand une meilleure version sort, gérer les comptes et répondre aux utilisateurs. Sur trois ans, ce poste pèse souvent autant que le matériel.

C'est précisément ce qui distingue une infrastructure « installée » d'une infrastructure « opérée ». Un chiffrage qui ne fait pas apparaître cette ligne est un chiffrage incomplet, la charge existera de toute façon, elle sera simplement supportée par votre DSI sans avoir été budgétée.

L'accompagnement

Une IA que personne n'utilise coûte exactement son prix d'achat pour un bénéfice nul. Le déterminant du retour sur investissement n'est pas la performance du modèle mais le taux d'adoption : identifier les cas d'usage par métier, former, outiller, mesurer. C'est l'objet de notre audit d'automatisation par département, qui traduit les processus existants en heures potentiellement libérées.

Le point de bascule

La différence de nature entre les deux modèles est la clé de l'arbitrage :

• Une licence par utilisateur est un coût linéaire : doubler le nombre d'agents équipés double la facture, indéfiniment.
• Une infrastructure interne est un coût par palier : le même serveur sert 50 ou 300 utilisateurs, jusqu'au moment où il faut ajouter une carte.

Le point de bascule s'écrit donc simplement :

seuil = coût annuel complet de l'infrastructure ÷ (prix par utilisateur et par mois × 12)

Au-delà de ce nombre d'utilisateurs, l'infrastructure interne devient moins chère, et l'écart se creuse ensuite à chaque nouvel utilisateur, puisqu'il est gratuit. En dessous, l'abonnement reste plus rationnel : c'est une réponse honnête, et elle vaut pour beaucoup de petites structures.

Deux nuances qui déplacent ce seuil, toujours dans le même sens :

• Le palier est large. Sur notre déploiement chez Annemasse, un seul GPU sert 340 utilisateurs, et nous avons validé plus de 200 utilisateurs simultanés en production. La mutualisation est le vrai levier économique de l'IA interne.
• L'infrastructure sert plusieurs usages. Le même serveur héberge l'assistant conversationnel, la recherche documentaire, la synthèse de comptes rendus, l'aide à la rédaction. En modèle par licence, chaque nouvel usage se paie souvent en supplément.

Notre simulateur de retour sur investissement pose ce calcul avec vos propres hypothèses : temps gagné, coût d'infrastructure, risque de données évité et économies de conformité.

Trois erreurs de calcul fréquentes

1. Comparer un achat à un abonnement

Mettre en regard le prix d'achat d'un serveur et une facture mensuelle fausse mécaniquement la comparaison. Il faut ramener les deux à la même unité : un coût annuel complet sur une durée d'amortissement explicite, trois ans est une convention raisonnable pour du matériel GPU, cinq ans si l'usage est stable.

2. Dimensionner sur le pic absolu

Prévoir l'infrastructure pour le cas où tous les agents interrogeraient l'IA simultanément conduit à surdimensionner d'un facteur considérable. Le dimensionnement se fait sur la charge réellement observée aux heures pleines, avec une marge, pas sur un scénario théorique.

Dans le même esprit, une IA interne n'a aucune raison de consommer la nuit et le week-end. Nos déploiements intègrent une extinction programmée des GPU en dehors des heures ouvrées : sur une plage 8h–18h en semaine, environ deux tiers du temps machine ne sont pas facturés, ni la consommation électrique associée.

3. Oublier le coût de ne rien faire

C'est l'erreur la plus coûteuse, parce qu'elle est invisible dans le tableur. En l'absence d'outil interne, les agents utilisent déjà des IA grand public depuis leur navigateur, avec des documents de travail. Ce n'est pas une hypothèse : c'est l'observation que nous faisons dans la quasi-totalité des organisations rencontrées.

Ce coût-là ne se lit pas sur une facture mais sur une exposition : données qui sortent du périmètre, absence de traçabilité, et un risque de sanction que le RGPD et le règlement européen sur l'IA rendent concret. La méthode que nous employons pour le chiffrer est publiée sur notre page méthode de calcul du risque évité, et l'analyse réglementaire complète est sur nos pages IA & RGPD et AI Act.

La réversibilité est aussi un argument économique

Un dernier poste n'apparaît jamais dans les comparatifs : le coût de sortie. Une solution propriétaire dont les données, les index et les historiques de conversation vivent chez l'éditeur crée une dépendance qui se paie au renouvellement du contrat, c'est le moment où le prix par utilisateur augmente.

Une pile open source et open weight, hébergée chez vous, supprime cette asymétrie : les modèles sont interchangeables, l'index vous appartient, et changer de prestataire ne signifie pas repartir de zéro. Cette liberté n'a pas de ligne dans le budget de la première année. Elle en a une dans celui de la quatrième.

Ce qu'il faut retenir

Le bon réflexe n'est pas de demander « combien ça coûte » mais « à partir de combien d'utilisateurs et sur quelle durée ». Une IA interne est un investissement à palier qui devient de plus en plus avantageux à mesure qu'il est utilisé, l'inverse exact d'un abonnement par siège. Et pour la majorité des organisations de plus de cent agents, le seuil est franchi bien plus tôt qu'on ne l'imagine.