--- type: "BlogPosting" title: "Votre premier setup LLM local en un week-end" description: "De « j'ai un ordinateur » à « mon endpoint tourne » : évaluer le matériel, choisir la pile, brancher un cas d'usage, mesurer soi-même — avec des recettes pour chaque palier." resource: "https://www.contextstudios.ai/fr/blog/votre-premier-setup-llm-local-en-un-week-end" language: "fr" tags: ["Local AI", "Self-Hosting", "LLM", "Benchmark", "Hardware"] generated: by: "process:contextstudios-md/1" at: "2026-10-05T05:33:58.874Z" status: "stable" --- # Votre premier setup LLM local en un week-end Published: 2026-10-01 Tags: Local AI, Self-Hosting, LLM, Benchmark, Hardware ![Votre premier setup LLM local en un week-end](https://wary-platypus-754.convex.cloud/api/storage/738c9c6a-d353-40c3-aa10-81c8d32479fb) Vous voulez faire tourner un LLM en local — sans cloud, sans abonnement, sans fuite de données. Le chemin n'a jamais été aussi simple qu'en 2026, mais le nombre de décisions (matériel, modèle, quantification, moteur) est déroutant. Cet article vous mène en un week-end de « j'ai un ordinateur » à « mon endpoint LLM tourne » — avec des recettes concrètes de notre base pour chaque palier matériel. ## Étape 1 (samedi matin) : évaluer son matériel honnêtement Vous n'avez pas besoin de matériel neuf pour commencer — mais de la bonne attente envers ce que vous avez déjà : - **16 Go de RAM (portable) :** Qwen3.8-27B en quant 4-bit (~19 Go, c'est trop — prenez le quant Q3 ou un 8B–14B). Qualité de chat de niveau desktop, sans miracle. - **24 Go de VRAM (RTX 3090/4090) :** la classe du point d'équilibre. Qwen3.6 35B-A3B entre en INT4 et est rapide. - **32 Go (RTX 5090) :** Qwen3.6 35B-A3B NVFP4 à ~250 tok/s — l'expérience mono-GPU la plus rapide sous 5 000 €. - **64–128 Go (Mac / DGX Spark) :** c'est ici que commencent les « vrais » modèles : Qwen3.8-Flash-Next (MLX 4-bit : 112 Go) ou GLM-5.3-Flash en quant 3-bit. Règle empirique : poids du modèle + 20 % de marge pour le contexte doivent tenir en mémoire. Au-delà, cela signifie quantifier plus finement ou prendre un modèle plus petit. ## Étape 2 (samedi après-midi) : choisir la pile logicielle La pile la plus simple pour démarrer : 1. **Installer Ollama ou LM Studio** — les deux tournent sur Mac et Linux/Windows, les deux parlent le format OpenAI. 2. **Tirer un modèle :** `ollama pull qwen3.8:27b` (vérifiez la taille !) — ou choisissez-le dans la recherche de LM Studio. 3. **Tester :** ouvrez la fenêtre de chat, posez trois fois le même prompt. La vitesse de réponse est fluide ? Bien. Elle saccade ? Descendez la quantification d'un cran. Pour tout ce qui dépasse (tool calling, opération agentique, endpoints personnalisés), vous voudrez plus tard vLLM ou llama.cpp — mais pas le premier jour. ## Étape 3 (dimanche matin) : brancher un vrai cas d'usage Un modèle local sans branchement reste un jouet. Les branchements utiles les plus simples : - **Assistant de code :** pointez Continue ou un endpoint compatible OpenAI de votre éditeur vers `http://localhost:11434`. - **Résumés de documents :** mettez Open WebUI devant, téléversez des PDF, faites résumer en local. - **Agents :** tout framework d'agents qui parle le format OpenAI peut utiliser votre endpoint local — changez l'URL de base, c'est fait. Une partie de notre propre pile de production (pipeline blog, analyses) passe aussi par des endpoints locaux — le chemin de « tester en local » à « produire en local » est plus court qu'on ne croit. ## Étape 4 (dimanche après-midi) : la mesure qui vous appartient Avant de croire un benchmark quelconque du net, mesurez vous-même : ``` prompt = votre prompt de travail réel (pas « count to 300 ») 3 exécutions, prenez la médiane notez les tok/s de decode ET le temps jusqu'au premier token ``` Exactement ces deux chiffres — decode et TTFT — décident si votre usage est fluide. Tout le reste est conditionnel. Et si votre chiffre est bien en dessous de la valeur de recette de la base : vérifiez la limite de puissance de votre GPU (les portables bridant !), comparez les versions du moteur, regardez les réglages du cache KV. ## Les erreurs de débutant les plus fréquentes 1. **Choisir le plus grand modèle qui « tient tout juste »** — avec 2 % de marge, chaque longue conversation échange du contexte contre de la qualité. Mieux vaut un cran plus petit avec 30 % d'air. 2. **Projeter les benchmarks d'autres machines sur la vôtre** — votre limite thermique, votre limite électrique, votre version de moteur. 3. **Attendre du tool calling sans support du moteur** — tous les moteurs ne parsent pas les appels d'outils ; les notes des recettes le disent. 4. **Régler sans mesurer** — mesurez d'abord, ajustez ensuite. Sinon vous optimisez la sensation, pas le système. ## Et ensuite Quand votre endpoint tourne, l'étape naturelle suivante : adoptez une recette de notre [base Local AI](/fr/local-ai) pour votre palier matériel — des recettes de 1× RTX 3090 à 4× DGX Spark y sont listées avec mesures, détails de quantification et liens vers les dépôts d'origine. Copiez les flags de service, comparez avec votre mesure, et vous exploitez le même setup que les auteurs de la communauté. ## Questions fréquentes **Faut-il absolument un GPU ?** Non — un Mac avec assez de mémoire unifiée ou même un bon portable suffit pour démarrer (Qwen3.8-27B Q3, modèles 8B–14B). Le GPU devient important quand la vitesse ou l'opération agentique avec tool calls entre en jeu. **Ollama ou LM Studio ?** Pour le premier jour, peu importe — les deux fonctionnent. LM Studio a la meilleure GUI, Ollama le CLI plus léger et meilleur en script. Qui voudra plus tard produire avec vLLM/llama.cpp changera de toute façon ; le passage coûte un après-midi. **Quel modèle est le meilleur point d'entrée ?** Qwen3.8-27B (Apache 2.0, multimodal, 4-bit ~19 Go) est l'entrée standard 2026 — leader de sa classe, partout supporté. Pour GPU 24 Go : Qwen3.6 35B-A3B. Pour la toute première prise en main : un modèle 8B, juste pour voir la boucle. **Combien d'espace disque faut-il ?** Comptez 1,5 à 2× la taille du téléchargement par modèle (cache de téléchargement + poids décompressés). Un modèle 27B en 4-bit : ~19 Go de poids, prévoyez 50 Go. Pour expérimenter avec plusieurs modèles : 1 To de NVMe est l'ordre de grandeur confortable. **Puis-je plus tard passer à un matériel plus gros ?** Oui — c'est tout l'intérêt des poids ouverts : le même modèle, les mêmes quants tournent au palier suivant — juste plus vite. Vos prompts, votre setup et votre méthodologie de mesure vous suivent. C'est pourquoi il vaut la peine de mesurer proprement dès le début. ## Sources - [Local AI — Context Studios (base de recettes pour chaque palier matériel)](https://www.contextstudios.ai/fr/local-ai) - [LLMCheck — state of open-source local LLMs, septembre 2026 (choix de modèles par palier de RAM)](https://llmcheck.net/blog/state-of-open-source-local-llms-september-2026) - [weschera — Qwen3.8-27B oMLX sur Mac Studio M4 Max (53,3 tok/s)](https://www.contextstudios.ai/local-ai) - [club3090 — Qwen3.6 35B-A3B NVFP4 sur 1× RTX 5090 (251,8 tok/s)](https://github.com/noonghunna/club-3090/blob/master/BENCHMARKS.md) - [MiaAI-Lab — Qwen3.8-Flash-Next sur 1× DGX Spark (48,7 tok/s, NVFP4)](https://github.com/MiaAI-Lab) - [OpenBMB — MiniCPM5-2B (modèle d'entrée, Apache 2.0, GGUF/MLX)](https://huggingface.co/openbmb/MiniCPM5-2B) ## Related - [Developpement LLM](https://www.contextstudios.ai/fr/developpement-llm.md) - [Developpement IA](https://www.contextstudios.ai/fr/developpement-ia.md) - [Integration LLM](https://www.contextstudios.ai/fr/integration-llm.md) - [Conseil en IA](https://www.contextstudios.ai/fr/conseil-ia.md)