Faire tourner une IA en local, c’est exécuter un modèle de langage directement sur ta machine : tes données ne quittent jamais ton ordinateur, tu ne paies aucun abonnement, et ça marche sans internet. En octobre 2026, un ordinateur avec 16 Go de mémoire fait tourner Gemma 4 de Google ou gpt-oss d’OpenAI en une commande, avec Ollama ou LM Studio. Reste à savoir si c’est le bon choix pour ton usage : ce guide répond aux deux questions.

Mise à jour du 12 octobre 2026 : modèles et tailles relevés dans la bibliothèque Ollama, nouveautés d’Ollama 0.40 et de LM Studio Bionic, Claude Code branché sur un modèle local, et 2 nouvelles questions dans la FAQ.

Ce qui a changé pour l’IA locale en 2026

Trois mouvements ont rendu le local beaucoup plus simple cette année :

• Des modèles ouverts qui tiennent sur un portable. Gemma 4 de Google se décline de E2B, pensé pour les appareils légers, à 31B pour les stations de travail, et gpt-oss-20b d’OpenAI tient dans 16 Go de mémoire. Le 14 juillet, PrismML, une startup issue de Caltech, a même compressé Qwen3.6-27B en 1 bit avec Bonsai 27B : 3,9 Go au lieu de 54, pour environ 90 % des capacités d’origine, et environ 11 tokens par seconde sur un iPhone 17 Pro Max.

• Des outils plus rapides sur Mac. Depuis la version 0.40, sortie début octobre 2026, Ollama fait tourner par défaut les modèles compatibles sur MLX, le moteur d’Apple pensé pour la mémoire unifiée des puces Apple Silicon.

• Des agents qui tournent en local. Ollama lance Claude Code, OpenCode ou OpenClaw sur un modèle local en une commande, et LM Studio a sorti Bionic, un agent qui crée des documents, code et transcrit ta voix en local.

L’IA locale est donc devenue une option sérieuse pour beaucoup de tâches. Elle ne couvre pas tout pour autant : voyons ce qu’elle apporte et ce qu’elle ne fait pas.

Ce que l’IA locale t’apporte vraiment

Quatre avantages concrets, sans marketing :

• Confidentialité totale. Tes prompts, tes documents, tes données clients ne quittent jamais ta machine. Pour un avocat, un médecin, un comptable ou n’importe qui manipule des données sensibles, c’est l’argument décisif. Aucune condition d’utilisation à lire, aucun fournisseur à croire sur parole.

• Coût marginal zéro. Une fois le matériel payé, tu génères autant de texte que tu veux. Pas d’abonnement, pas de quota, pas de compteur de tokens qui tourne.

• Fonctionnement hors ligne. Dans un train, en avion, dans une zone blanche : ton IA tourne. C’est aussi une assurance contre les pannes des fournisseurs cloud.

• Contrôle complet. Le modèle ne change pas sous tes pieds. Pas de mise à jour surprise qui casse tes workflows, pas de filtre qui évolue, pas de produit déprécié du jour au lendemain.

Le matériel : ce qu’il te faut vraiment

La règle qui simplifie tout : la taille du modèle que tu peux faire tourner dépend de ta mémoire (RAM unifiée sur Mac, VRAM sur PC avec GPU NVIDIA). Voici les ordres de grandeur en 2026 :

• 8 Go : petits modèles comme Gemma 4 E2B (4,6 à 7,5 Go selon la version). Suffisant pour du résumé, de la reformulation, des questions simples.

• 16 Go : le vrai point d’entrée sérieux. Gemma 4 E4B, la version par défaut (6,6 à 9,5 Go), ou Gemma 4 12B (7,7 à 8 Go), qui lisent aussi les images. gpt-oss-20b (14 Go) passe, mais en laissant peu de marge. C’est un portable normal.

• 32 Go : Gemma 4 26B, un modèle à experts qui n’active que 4 milliards de paramètres à la fois (16 à 19 Go), Gemma 4 31B (19 à 20 Go), ou Qwen3.6 et Qwen3.8 en 27B (18 à 19 Go), très bons en code.

• 64 Go et plus : gpt-oss-120b (65 Go), le grand modèle ouvert d’OpenAI, sur un Mac bien doté en mémoire.

Les tailles sont celles de la bibliothèque Ollama au 12 octobre 2026. Prévois quelques Go en plus pour le contexte, surtout sur les longs documents.

Un point que personne ne dit assez : les Mac Apple Silicon sont devenus la plateforme reine de l’IA locale grâce à la mémoire unifiée. Un Mac mini avec 16 Go de mémoire fait tourner des modèles qui demandaient une grosse carte graphique il y a deux ans.

Les outils : par où commencer

Ollama, le standard de fait

Ollama est l’outil que tout le monde a fini par adopter. Installation en deux minutes, puis une commande dans le terminal :

ollama run gemma4

C’est tout. Le modèle se télécharge (la version E4B par défaut), et tu discutes avec dans ton terminal. Ollama expose aussi une API compatible OpenAI en local, ce qui veut dire que n’importe quelle app conçue pour ChatGPT peut pointer vers ton modèle local à la place. Et pour faire travailler un agent sur ta machine sans rien envoyer dehors, une commande suffit : ollama launch claude --model gemma4 ouvre Claude Code branché sur Gemma 4. Ollama est open source, sous licence MIT.

LM Studio, pour ceux qui veulent une interface

Si le terminal te rebute, LM Studio offre la même chose avec une vraie interface graphique : catalogue de modèles avec indication de compatibilité avec ton matériel, chat intégré, réglages visuels. C’est le choix le plus confortable pour découvrir. LM Studio propose aussi Bionic, une application d’agent séparée qui crée et modifie des documents, code et transcrit ta voix en temps réel, le tout sur ta machine.

Jan, l’alternative 100 % hors ligne

Jan se positionne comme un ChatGPT complet qui tourne entièrement sur ta machine, avec une bibliothèque de modèles intégrée. Open source, multiplateforme, zéro donnée qui sort.

Quels modèles choisir en 2026

Le paysage des modèles ouverts a explosé. Les valeurs sûres au 12 octobre 2026, avec les tailles de la bibliothèque Ollama :

Le réflexe à prendre : ne choisis pas le modèle le plus gros que ta machine supporte, choisis le plus petit qui fait ton travail correctement. Un 12B rapide que tu utilises tous les jours bat un 70B qui rame et que tu abandonnes au bout d’une semaine.

Le test honnête : 30 minutes chrono

Voici le protocole que je recommande avant d’investir quoi que ce soit :

1. Installe Ollama (gratuit, 5 minutes)

2. Lance le modèle adapté à ta RAM (voir le barème plus haut)

3. Donne-lui trois tâches réelles de ta semaine : un email à rédiger, un document à résumer, une question de ton métier

4. Compare froidement avec ce que te donne ton IA cloud habituelle

Ce test te dit en 30 minutes si le local couvre TES usages. Pas ceux d’un benchmark, les tiens.

Ce que le local ne fait pas (et il faut le dire)

Ici, transparence complète sur nos propres choix. Chez Kryve, un Mac mini tourne 24h/24 avec un agent qui publie des articles, prépare des briefs et gère des workflows entiers. Et cet agent ne tourne PAS sur un modèle local. Il tourne sur un modèle frontier via API. Pourquoi ?

• L’écart de capacités reste réel. Un modèle local de 2026 écrit correctement, résume bien, répond juste. Mais sur les tâches d’agent (enchaîner 40 étapes, utiliser des outils, se corriger en cours de route), les modèles frontier comme Claude Fable 5.1 ou GPT-6.1 Sol gardent une avance nette. Les compressions agressives le confirment d’ailleurs : les benchmarks de PrismML montrent que les builds classiques sous 4 bits s’effondrent précisément sur les tâches agentiques.

• La vitesse compte. 11 tokens par seconde sur téléphone, c’est un exploit technique, mais c’est lent à l’usage. Ton confort de travail en dépend.

• Un agent a besoin du monde extérieur. Recherche web, accès à tes outils, contexte long : le local progresse, mais l’écosystème d’outils reste centré sur le cloud. On a détaillé ça dans notre guide des serveurs MCP indispensables.

La bonne grille de lecture combine les deux : local pour ce qui est sensible, répétitif et simple, cloud pour ce qui demande le maximum d’intelligence. Les deux coexistent très bien, et si tu veux comprendre ce qu’un vrai agent change au quotidien, commence par comprendre ce qu’est un agent IA.

Trois cas d’usage où le local gagne aujourd’hui

1. Le tri de documents confidentiels. Contrats, dossiers médicaux, données RH : un Gemma 4 12B local résume et classe sans qu’aucun octet ne sorte de la machine.

2. La reformulation et la rédaction de masse. Réponses types, variations de textes, nettoyage de données : des tâches simples, en volume, où le coût par requête du cloud finit par se voir. Le local les absorbe gratuitement. Si ton budget est le point de départ, on a aussi listé les meilleures options d’agent IA gratuit.

3. Le prototypage d’applications IA. Tu développes une app qui appelle un LLM ? Développe contre ton Ollama local (API compatible OpenAI), et branche le cloud seulement en production. Zéro coût pendant toute la phase de dev, comparé à ce que coûtent les outils cloud.

Les erreurs fréquentes

• Télécharger un modèle trop gros. S’il ne tient pas en mémoire, il va “swapper” et tourner à 1 token par seconde. Respecte le barème RAM.

• Juger l’IA locale sur un vieux modèle. Si ton dernier essai date de 2024, tout a changé. Les modèles MoE de 2026 n’ont rien à voir.

• Ignorer la quantisation. Le même modèle existe en plusieurs niveaux de compression. Le Q4 est le standard équilibré ; en dessous, vérifie sur tes propres tâches que la qualité tient.

• Vouloir tout remplacer d’un coup. Le local se gagne usage par usage, pas en jetant ton abonnement cloud le premier jour.

FAQ

Est-ce que faire tourner une IA en local est légal ?

Oui, totalement. Les modèles open weight comme Gemma, Qwen ou Bonsai sont publiés sous licences permissives (souvent Apache 2.0) qui autorisent l’usage personnel et commercial. Vérifie juste la licence du modèle précis : certaines (NVIDIA, Kimi) ont des restrictions commerciales.

Quelle est la config minimale pour commencer ?

N’importe quelle machine avec 8 Go de RAM fait tourner un 7B quantisé. Mais l’expérience devient vraiment bonne à partir de 16 Go, le seuil qui débloque Gemma 4 12B et gpt-oss-20b.

Quel modèle local choisir en 2026 ?

Avec 16 Go de mémoire, commence par Gemma 4 (E4B ou 12B). Avec 32 Go, passe à Gemma 4 26B ou 31B, ou à Qwen3.8 27B si tu codes. Teste 2 ou 3 modèles sur tes vraies tâches avant d’en garder un.

Peut-on utiliser Claude Code avec un modèle local ?

Oui. Ollama lance Claude Code sur un modèle local avec ollama launch claude --model gemma4. Les résultats restent en dessous des modèles d’Anthropic sur les longues tâches d’agent, mais rien ne quitte ta machine. Pour comparer les agents de code eux-mêmes, lis Codex vs Claude Code.

Une IA locale peut-elle remplacer ChatGPT ou Claude ?

Pour la conversation, le résumé et la rédaction courante : oui, de plus en plus. Pour les tâches d’agent complexes, la recherche web et le raisonnement de pointe : pas encore. En 2026, le combo gagnant reste les deux.

C’est quoi la différence entre open source et open weight ?

Open weight signifie que les poids du modèle sont téléchargeables et utilisables, mais pas forcément que les données et le code d’entraînement sont publics. La plupart des modèles “open source” de 2026 sont en réalité open weight. Pour l’usage local, ça ne change rien en pratique. Côté agents, le logiciel qui fait travailler le modèle, on a classé les agents IA open source avec leurs licences vérifiées

La suite logique

Faire tourner un modèle en local, c’est la partie visible. La vraie transformation arrive quand tu construis autour : des agents qui utilisent le bon modèle pour la bonne tâche, tes données, tes outils. C’est exactement ce qu’on apprend à construire dans Kryve, du premier modèle installé jusqu’à la couche de travail IA complète.

Avant de partir

Si cet article t’a donné envie de construire au lieu de juste lire : j’ai condensé le démarrage en un guide d’une soirée. Ton premier agent qui produit du travail réel, étape par étape, sans code. Gratuit, contre ton email. Tu recevras aussi Kryve Weekly quand elle sortira : le condensé hebdo de ce qui compte en IA, sans le bruit.

Recevoir le guide

Un email pour te l’envoyer. Pas de spam, désinscription en un clic.

Continuer avec

• Les 8 serveurs MCP qui rendent ton agent vraiment utile

• Automatiser ses emails avec l’IA : la méthode fiable