Le choix entre déploiement de LLM sur site et IA cloud n'est pas un débat technologique. C'est une décision de gestion des risques. L'écart de qualité de modèle entre les API cloud de pointe et les modèles à poids ouverts s'exécutant sur site s'est considérablement réduit ces deux dernières années. Ce qui ne s'est pas réduit, c'est l'écart de gouvernance : quand vous envoyez des données à une API cloud, vous ne contrôlez pas pleinement ce qu'il en advient, qui peut y accéder ou si les conditions d'utilisation changeront.
Pour la plupart des organisations, cet écart est tolérable. Pour certaines (notamment dans les secteurs réglementés, les secteurs adjacents au gouvernement et les marchés à fortes exigences de localisation des données), il ne l'est pas. Cet article fournit un cadre pratique pour prendre la décision.
Ce que l'IA cloud signifie réellement pour vos données
Lorsque vous appelez une API LLM cloud, votre prompt voyage de votre système vers l'infrastructure du fournisseur, est traité sur son matériel et une réponse est renvoyée. Les fournisseurs diffèrent significativement dans leur traitement de ces données : certains utilisent les prompts pour entraîner de futurs modèles par défaut (vous devez vous désinscrire), certains proposent des paliers entreprise avec des garanties explicites de non-entraînement et certains fournissent une infrastructure dédiée où vos données ne touchent jamais de systèmes partagés.
Comprendre les termes spécifiques du palier d'API que vous utilisez n'est pas optionnel avant de déployer l'IA dans le moindre workflow manipulant des informations sensibles. « Accord entreprise » n'est pas synonyme de « vos données sont isolées ».
La question la plus difficile est juridictionnelle. Les data centers cloud opèrent sous les lois du pays où ils sont situés et sous les lois du pays où le fournisseur est constitué. Si vos données transitent par une infrastructure dans une juridiction aux lois d'accès gouvernemental étendues — et la plupart des grandes régions cloud le sont — il existe des scénarios où vos données confidentielles pourraient être légalement consultées par un tiers à votre insu. Ce n'est pas un risque théorique en santé, services juridiques ou contrats gouvernementaux. C'est une réalité opérationnelle documentée.
L'écart de performance se réduit plus vite qu'on ne le pense
Il y a deux ans, déployer sur site impliquait un net compromis sur les capacités : les modèles open-weight qui tournaient sur du matériel raisonnable restaient nettement en retrait des modèles cloud de pointe.
Ce n'est plus le cas. Des familles de modèles open-weight comme Qwen, DeepSeek, Llama, Mistral et gpt-oss d'OpenAI, quantifiées et servies avec vLLM ou SGLang sur un seul nœud multi-GPU, gèrent désormais bien la plupart des tâches NLP en entreprise : analyse documentaire, classification, synthèse, extraction et pipelines RAG. Les modèles cloud de pointe restent devant sur le raisonnement le plus complexe, le code et les tâches agentiques de longue durée, mais pour la majorité des cas d'automatisation en entreprise, l'écart n'est plus décisif.
Les coûts matériels ont eux aussi évolué. Un serveur d'inférence sur site bien configuré atteint le seuil de rentabilité face aux API cloud dès que l'usage est soutenu et volumineux, généralement à partir de plusieurs centaines de millions de tokens par mois, selon le modèle et le matériel. Au-delà, le coût marginal de chaque requête supplémentaire est proche de zéro. Pour le traitement documentaire à fort volume (un cas d'usage courant), l'économie penche désormais clairement vers le sur site.
L'endroit où tourne votre IA n'est pas un débat technologique. C'est une décision de gestion des risques.
Les quatre vrais facteurs de décision
Sensibilité des données
Si la moindre donnée du workflow est soumise à HIPAA, GDPR, à des mandats de résidence des données, au secret professionnel avocat-client, à une classification de sécurité nationale ou à des contraintes similaires, le déploiement sur site est la réponse par défaut. La question n'est pas de savoir si vous pouvez obtenir d'un fournisseur qu'il signe un accord de traitement des données. Vous le pouvez généralement. La question est de savoir si vous pouvez garantir que ces données ne touchent jamais une infrastructure hors de votre contrôle. Seul un déploiement sur site offre cette garantie.
Volume et coût
À faibles volumes (cas d'usage exploratoires, petites équipes, usage peu fréquent), les API cloud sont le choix rationnel. La charge opérationnelle de maintenir une infrastructure d'inférence sur site n'est pas justifiée par les économies réalisées à cette échelle. À mesure que le volume dépasse le seuil de rentabilité (généralement 50 000 à 100 000 tokens/jour), l'économie bascule. À l'échelle entreprise (millions de tokens par jour), le sur site est la seule architecture rationnelle en coût.
Environnement réglementaire
Les organisations en santé, services financiers, défense, gouvernement et services juridiques opèrent généralement sous des cadres réglementaires exigeant un contrôle démontrable sur les données. L'IA cloud peut être rendue conforme avec un échafaudage contractuel suffisant, mais le sur site est structurellement conforme : vous n'avez pas besoin de compter sur le respect des engagements du fournisseur.
Exemples concrets : le PDPL des EAU impose la résidence des données pour les données personnelles des résidents émiratis. Le DPDP Act indien impose des exigences similaires. L'AI Act européen imposera des exigences de gouvernance supplémentaires aux systèmes d'IA à haut risque. Ces exigences ne disparaîtront pas.
Profondeur de personnalisation
Les API cloud offrent une personnalisation limitée : prompts système, génération augmentée par récupération et fine-tuning sur certaines plateformes. Le déploiement sur site vous donne le contrôle complet des poids du modèle, permettant le fine-tuning à chaque couche, l'injection de vocabulaire spécifique au domaine et des modifications architecturales impossibles à travers une frontière d'API.
Si votre cas d'usage exige une adaptation profonde au domaine (terminologie médicale, logique de processus propriétaire, structure documentaire interne), le sur site est aussi le meilleur choix d'un pur point de vue capacitaire, et pas seulement de gouvernance.
L'approche hybride
La plupart des architectures IA d'entreprise matures finissent hybrides : déploiement sur site pour les charges sensibles, à fort volume ou très personnalisées, avec des API cloud disponibles pour les cas d'usage non sensibles, exploratoires ou à demande ponctuelle.
Le défi architectural est le routage. Vous avez besoin d'une couche de politique qui classifie les requêtes entrantes selon leur sensibilité et les route vers l'endpoint d'inférence approprié — interne ou externe — automatiquement, de manière cohérente et auditable. C'est en partie ce que CloudFusion™ adresse pour les déploiements multi-cloud.
La question de la dépendance fournisseur
Les fournisseurs d'IA cloud ont modifié leurs tarifs, déprécié des modèles, changé leurs conditions d'utilisation et, dans certains cas, quitté des marchés sans long préavis. Bâtir des processus métier critiques sur une API fournisseur revient à accepter cette dépendance.
Le déploiement sur site inverse la dépendance : vous possédez les poids du modèle, vous contrôlez l'infrastructure et une décision fournisseur n'affecte pas vos opérations. Le compromis est que vous portez la charge de maintenance : matériel, mises à jour des modèles, correctifs de sécurité et tuning de performance deviennent votre responsabilité.
Prendre la décision
Trois questions trancheront la décision pour la plupart des organisations :
1. Une quelconque donnée de ce workflow est-elle soumise à une restriction réglementaire ou contractuelle interdisant de quitter votre infrastructure ? Si oui : sur site.
2. Quel est le volume quotidien de tokens projeté en déploiement complet ? À fort volume soutenu (plusieurs centaines de millions de tokens par mois), le sur site est économiquement favorable. À faible volume ou en usage irrégulier, le cloud est plus simple et plus rentable.
3. Dans quelle mesure votre avantage concurrentiel dépend-il d'un comportement de modèle unique à votre organisation ? Des exigences de personnalisation profonde favorisent le sur site. Les tâches NLP standards favorisent le cloud.
Si l'une de ces questions pointe vers le sur site, traitez-la comme une exigence architecturale ferme, et non comme une préférence. Le coût d'ingénierie pour adapter un déploiement de niveau conformité à un système initialement conçu pour des API cloud est substantiellement plus élevé que celui d'une architecture correcte dès le départ.
Déploiement sur site
Nous déployons des LLM sur site à l'intérieur de votre infrastructure, y compris le profilage de quantisation, la mise en place du serveur d'inférence, la passerelle API et le monitoring. Aucune donnée ne quitte votre réseau.