Coût d'Inférence

Le coût d'inférence désigne les dépenses financières encourues lors de l'exploitation d'un modèle de langage IA. Contrairement aux coûts d'entraînement (ponctuels, très élevés), les coûts d'inférence s'accumulent continuellement et représentent le principal facteur de coût IA dans les opérations courantes. Les coûts d'inférence sont facturés en prix par token. En 2026 : GPT-4o environ 2–5 $/M tokens d'entrée ; Claude Sonnet à 3 $/M entrée, 15 $/M sortie ; modèles abordables comme Haiku ou Gemini Flash 0,25–1 $/M tokens. Les tokens de sortie coûtent plus cher que les tokens d'entrée, donc les systèmes rentables optimisent la longueur des sorties. Les coûts d'inférence ont chuté de plus de 100× depuis 2023 — les performances équivalentes GPT-4 coûtent maintenant ~1% de leur prix de 2023. Cette tendance se poursuit avec les déploiements Blackwell et Vera Rubin. Stratégies d'optimisation clés : routage des modèles (modèles bon marché pour les tâches simples), inférence batch (remise 50–75%), optimisation des prompts (demander des sorties plus courtes), mise en cache des requêtes fréquentes.