L'IA générative souveraine
Pourquoi le RUN d'un LLM auto-hébergé est structurellement insoutenable
Analyse à destination des Directions des Systèmes d'Information
Il est tentant, pour un DSI soucieux de l'isolation de ses systèmes critiques, d'envisager l'hébergement en propre le ou les LLMs utiles aux développeurs ou à l'exploitation de son entreprise. Nous envisagerons ici l'utilisation de DeepSeek V4 Pro (MoE, Think, 1.6T params, 49B activés, 1M contexte). Les promesses sont séduisantes : contrôle total des données, indépendance vis-à-vis des fournisseurs d'API, personnalisation illimitée. Mais derrière l'attrait du bare-metal se cache une réalité opérationnelle que peu d'organisations sont prêtes à affronter. Décryptage.
Le vrai coût du RUN
Un modèle de 1,6 trillion de paramètres exige environ 20 GPU NVIDIA H100 en quantification INT4 pour fonctionner. En location cloud, le ticket d'entrée avoisine les 30 K€ mensuels, soit 360 K€ annuels pour la seule puissance de calcul. Mais ce chiffre est un trompe l'œil.
Il faut y ajouter le coût humain. Le déploiement et la supervision d'un cluster d'inférence de cette envergure nécessitent au minimum 1,5 à 2 ETP d'ingénieurs MLOps spécialisés, soit 150 à 200 K€ annuels chargés en France. La gestion des mises à jour de modèle, l'optimisation du serving (vLLM, SGLang, TensorRT-LLM), le monitoring de la latence, la gestion du KV-cache et les reconfigurations lors de montées en charge ne s'improvisent pas.
Ajoutons la couche réseau, la sécurité périmétrique, les licences logicielles, le stockage NVMe pour les checkpoints et le backup. Le TCO réel se situe entre 550 et 650 K€ par an — pour une seule instance, sans redondance.
Un SPOF architectural par conception
Voici le point le plus critique : le modèle est distribué sur 20 GPU en tensor parallelism. Si un seul GPU défaille, l'intégralité du service tombe. Il n'existe pas de mode dégradé. Il n'y a pas de failover partiel. Un cluster de 20 GPU offre, mécaniquement, 20 fois plus de surface de panne qu'un serveur classique.
Pour atteindre un SLA de 99,9 % standard minimum pour un service de production enterprise, il faut doubler l'infrastructure : un second cluster en standby chaud, soit 60 K€/mois de location GPU et un TCO annuel dépassant le million d'euros. À ce stade, la question n'est plus technique mais stratégique : est-ce que le service rendu justifie un tel investissement ?
L'obsolescence programmée comme frontière
Le rythme d'itération des modèles de fondation s'accélère de manière exponentielle. DeepSeek V3 est sorti début 2025, V4 quelques mois plus tard. Chaque nouvelle génération rend la précédente significativement moins performante. Un DSI qui s'engage sur 3 ans de location GPU pour un modèle donné investit dans un actif dont la valeur utile décroît de moitié tous les 6 à 12 mois.
En cas d'achat de matériel (option bare-metal en propre, ~300 à 400 K€ pour 8 H100), le risque d'obsolescence se transforme en piège comptable : une immobilisation sur 3 à 5 ans pour du matériel dont la pertinence technologique ne dépassera probablement pas 18 mois.
Rationalisme économique VS instinct de contrôle
Face à ces constats, l'utilisation d'APIs managées, qu'elles soient celles de DeepSeek, d'OpenAI, d'Anthropic ou d'acteurs européens émergents, présente un profil radicalement différent.
En termes de volume, 30 K€ mensuels d'API DeepSeek représentent environ 8 à 10 millions de requêtes par mois, soit 5 à 10 fois le volume atteignable en self-hosted. L'élasticité est native : pas de provisioning, pas de sur-dimensionnement préventif, pas de GPU inutilisé à 3 heures du matin.
En termes de SLA, les grands fournisseurs d'API garantissent des uptimes de 99,9 % à 99,95 % avec failover automatique, load balancing mondial, et support 24/7. Un niveau de résilience qu'aucune organisation ne peut reproduire en interne à budget équivalent.
En termes de maintenance, le coût marginal est nul : pas de patching, pas de migration de modèle, pas de gestion de versions CUDA. Quand DeepSeek V5 sortira, le passage se fera par un changement de paramètre dans un appel API.
Comment mitiger les risques du modèle par API
Soyons lucides : le modèle API n'est pas exempt de risques.
La souveraineté des données est la préoccupation première. Les prompts et réponses transitent par des serveurs tiers, potentiellement hors juridiction européenne. Pour les données sensibles (santé, défense, données personnelles au sens RGPD), c'est un obstacle réel. Toutefois, la parade existe : certains fournisseurs proposent des déploiements dédiés en région EU (Scaleway AI, Azure OpenAI en France, OVHcloud AI Endpoints), et le chiffrement de bout en bout combiné à des clauses contractuelles (DPA, SCCs) réduit considérablement l'exposition juridique.
La dépendance fournisseur (vendor lock-in) est le second risque. Mais l'écosystème actuel est structurellement concurrentiel : les APIs sont largement compatibles entre fournisseurs (format OpenAI devenu standard de facto), et la migration d'un provider à l'autre se mesure en heures, pas en mois. Le lock-in d'une infrastructure GPU auto-gérée est, paradoxalement, bien plus contraignant.
La variabilité tarifaire est le troisième risque. Les prix des APIs peuvent évoluer. Mais ils n'ont fait que baisser depuis 2023, de manière spectaculaire (division par 10 à 100 selon les modèles). La tendance lourde du marché joue en faveur du consommateur d'API, pas de l'opérateur d'infrastructure.
Arbitrage : la grille de décision du DSI
| Critère | Self-hosted | API managée |
|---|---|---|
| Coût prévisible | Fixe mais élevé | Variable mais optimisable |
| Souveraineté | Totale | Partielle (mitigable) |
| Résilience | Fragile (SPOF) | Industrielle |
| Agilité modèle | Faible (migration lourde) | Immédiate |
| Scalabilité | Plafonnée | Élastique |
| Charge opérationnelle | Lourde (2+ ETP) | Quasi nulle |
| Risque d'obsolescence | Élevé | Nul |
L'auto-hébergement d'un LLM de classe trillion n'est rationnel que pour un nombre restreint d'organisations : celles qui combinent un impératif réglementaire strict de localisation des données, un volume d'inférence massif et constant justifiant l'amortissement, et une équipe MLOps mature déjà en place.
Pour toutes les autres (c'est-à-dire l'immense majorité des entreprises) le modèle API reste, en 2026, le choix le plus soutenable, le plus résilient et le plus économiquement rationnel. Le rôle du DSI n'est pas de posséder l'infrastructure de l'IA, mais de garantir que l'IA serve la stratégie de l'entreprise avec le meilleur ratio valeur/risque. À ce jour, ce ratio penche résolument du côté de l'API.
