Octopi / Guides / IA en local sur Mac
Guide
Comment faire tourner un modèle d’IA en local sur votre Mac
Oui, c’est possible : un Mac équipé d’une puce Apple Silicon peut faire tourner un modèle d’IA performant entièrement sur la machine, sans frais par message. Voici ce qu’il vous faut, combien de mémoire demande chaque taille de modèle, et deux façons de tout installer : à la main avec l’outil gratuit Ollama, ou avec une app qui s’en charge pour vous.
Remarque : l’interface d’Octopi est en anglais.
Pourquoi faire tourner un modèle d’IA en local ?
Un modèle local est un grand modèle de langage (LLM) qui fonctionne sur votre propre ordinateur plutôt que sur les serveurs d’une entreprise. Vous le téléchargez une fois, et chaque réponse est calculée sur votre Mac.
Vos mots restent sur votre Mac
Ce que vous demandez et collez est traité sur votre propre ordinateur. Aucun fournisseur d’IA ne le reçoit ni ne le conserve selon ses propres conditions.
Pas de frais par message
Le logiciel et de nombreux modèles se téléchargent gratuitement, et utiliser un modèle stocké sur votre Mac ne coûte rien de plus.
Le modèle de votre choix
Vous choisissez le modèle, sa taille et le moment des mises à jour — ou vous en gardez plusieurs pour les comparer.
Personne ne le modifie dans votre dos
Un modèle stocké sur votre Mac continue de fonctionner de la même façon, même si un fournisseur change ses prix, ses conditions ou sa gamme.
Les limites, en toute honnêteté. Les modèles locaux sont plus petits que les plus grands modèles cloud : ils sont donc moins à l’aise avec le raisonnement complexe en plusieurs étapes et les connaissances pointues. La puce et la mémoire de votre Mac limitent la vitesse et la taille du modèle, et un modèle ne peut rien rechercher si l’app qui l’entoure ne le fait pas pour lui. Comparez les deux approches dans IA locale ou IA cloud, ou découvrez ce que recouvre l’IA souveraine pour les organisations.
De quoi avez-vous besoin pour faire tourner un LLM en local sur Mac ?
Un Mac à puce M
N’importe quel Mac doté d’une puce Apple M1 ou d’une puce plus récente de la série M. Pour vérifier, choisissez le menu Pomme ▸ À propos de ce Mac : la puce et la mémoire y sont indiquées.
Pourquoi ces Mac s’y prêtent bien
Le processeur et la puce graphique partagent une même réserve de mémoire, si bien que la puce graphique peut utiliser directement un modèle chargé. La contrepartie : le modèle doit tenir en mémoire à côté de tout ce que vous avez ouvert.
Peu adaptés
Les Mac Intel n’ont pas de mémoire unifiée : les outils d’IA locale y font donc généralement tourner les modèles sur le seul processeur — beaucoup plus lentement. Certaines apps, dont Octopi, ne prennent en charge que les Mac Apple Silicon.
De la place pour le téléchargement
Chaque modèle représente un gros téléchargement — d’environ 2 Go pour un petit modèle à 20 Go ou plus pour un grand —, plus un peu d’espace libre en réserve.
Combien de RAM pour un LLM local ?
C’est la mémoire qui compte le plus. La taille d’un modèle se mesure en paramètres (« 7B » signifie environ sept milliards), et plus un modèle est gros, plus il demande de mémoire. Voici des repères approximatifs pour les versions 4 bits que la plupart des gens utilisent :
| Mémoire de votre Mac | Taille de modèle qui tient à l’aise | Téléchargement, environ (4 bits) | Exemples de modèles |
|---|---|---|---|
| 8 Go | Environ 3B | Environ 2 Go | Qwen2.5 3B, Llama 3.2 3B |
| 16 Go | 7B–8B | Environ 4,5–5 Go | Qwen2.5 7B, Llama 3.1 8B, Mistral 7B |
| 32 Go | Environ 14B | Environ 9 Go | Qwen2.5 14B |
| 64 Go ou plus | Environ 32B et au-delà | Environ 20 Go pour un 32B ; 40 Go ou plus pour un 70B | Qwen2.5 32B ; modèles de la classe 70B comme Llama 3.1 70B sur les Mac les mieux dotés en mémoire |
Un repère approximatif, pas une garantie. Gardez de la marge : macOS et vos autres apps ont aussi besoin de mémoire, et une longue conversation ou un long document en consomme davantage. Votre Mac se situe entre deux lignes ? Fiez-vous à celle qui a le moins de mémoire.
Qu’est-ce que la quantification ?
Un modèle est avant tout une immense liste de nombres appelés poids. La quantification stocke chaque poids sur moins de bits — souvent 4 —, si bien que le fichier ne pèse plus qu’une fraction de sa taille d’origine et tient dans la mémoire d’un ordinateur portable. Le prix à payer est une perte de qualité modérée, en général un bon compromis sur votre propre machine. Des mentions comme « 4 bits » ou « Q4 » signalent ces versions, et les téléchargements standard d’Ollama sont généralement déjà en 4 bits.
Option 1 : le faire vous-même avec Ollama (tutoriel)
Ollama est un outil gratuit et open source qui télécharge des modèles et les fait tourner sur votre Mac, depuis le Terminal ou pour les apps qui s’y connectent.
Installer Ollama
Téléchargez Ollama pour macOS sur ollama.com, déplacez-le dans votre dossier Applications et ouvrez-le. Il tourne en arrière-plan, avec une icône dans la barre des menus, et ajoute la commande ollama au Terminal.
Lancer un modèle
Ouvrez le Terminal et tapez ollama run qwen2.5:7b. La première fois, la commande télécharge le modèle — environ 4,7 Go — puis ouvre une invite de discussion. Les fois suivantes, le modèle démarre à partir de la copie sur votre disque.
Discuter, puis faire le ménage
Tapez une question et appuyez sur Entrée ; la réponse s’affiche au fur et à mesure qu’elle est rédigée. Tapez /bye pour quitter. Les commandes ci-dessous permettent de lister, d’ajouter et de supprimer des modèles.
| Commande | Ce qu’elle fait |
|---|---|
ollama run qwen2.5:7b | Télécharge le modèle si nécessaire, puis lance une discussion dans le Terminal |
ollama pull llama3.1:8b | Télécharge un modèle sans lancer de discussion |
ollama list | Liste les modèles présents sur votre Mac et leur taille |
ollama ps | Indique quels modèles sont chargés en mémoire en ce moment |
ollama rm qwen2.5:7b | Supprime un modèle et libère son espace disque |
/bye | Quitte la discussion |
Les noms de modèles viennent de la bibliothèque d’ollama.com. La partie après les deux-points indique en général la taille, par exemple qwen2.5:3b ou qwen2.5:14b.
Ollama n’est pas la seule solution. LM Studio est une application de bureau à interface graphique, où l’on trouve, télécharge et interroge des modèles en quelques clics. llama.cpp est un moteur open source qui fait tourner des modèles en ligne de commande ; c’est aussi de lui que vient le format de modèle GGUF qu’utilisent de nombreux outils locaux. Choisissez l’interface qui vous convient.
Notre app · un exemple
Option 2 : laisser une app s’en charger (comment fait Octopi)
Si vous préférez éviter le Terminal, une app peut se charger de l’installation. Octopi en est un exemple : cette app Mac gratuite, qui publie ce guide, transforme des tâches rédigées en anglais courant en feuilles de calcul terminées, et son chat fait tourner un modèle open-weight sur votre Mac via Ollama.
Utilise Ollama, ou l’installe
Si Ollama tourne déjà sur votre Mac, Octopi l’utilise. Sinon, il peut installer une version d’Ollama figée et vérifiée par somme de contrôle, qu’il arrête quand vous quittez Octopi.
Un modèle à la mesure de votre mémoire
La fenêtre « Models » propose quatre tailles de Qwen (ci-dessous), ainsi que Llama 3.1, Mistral, Gemma 2 et tout modèle déjà présent dans votre Ollama. Les prompts d’Octopi sont optimisés pour Qwen, le modèle par défaut.
Documents, web et CRM
Joignez un fichier PDF, Word, RTF ou texte (lu sur votre Mac, jamais envoyé en ligne), ou demandez à Octopi de chercher sur le web ou dans Salesforce, HubSpot ou Pipedrive. La conversation n’est pas enregistrée.
En ligne pour ce que vous demandez
Octopi se connecte pour les recherches que vous demandez, le téléchargement unique du modèle, la vérification des mises à jour, ainsi que les statistiques d’utilisation et les rapports d’erreur (activés par défaut ; désactivables dans Settings ▸ Privacy).
| Taille dans Octopi | Modèle | Téléchargement | Conseillé pour |
|---|---|---|---|
| Light | qwen2.5:3b-instruct | ~1,9 Go | Moins de 12 Go de mémoire |
| Balanced | qwen2.5:7b-instruct | ~4,7 Go | Par défaut à partir de 12 Go |
| Newest | qwen3.5:9b | ~6,6 Go | À partir de 16 Go ; nettement plus lent |
| Advanced | qwen2.5:14b-instruct | ~9,0 Go | Demande environ 32 Go |
Passer d’un modèle d’Octopi à un autre supprime celui qu’il remplace. Le chat refuse les modèles qu’Ollama exécute dans son propre cloud.
Gratuit, sans compte, macOS 13 ou plus récent sur Apple Silicon. Pour aller plus loin : discuter avec des modèles d’IA open source sur votre Mac (en anglais).
Conseils et dépannage
La première réponse est plus lente
Le modèle doit d’abord se charger en mémoire : la première réponse après le démarrage — ou après une pause, s’il a été déchargé entre-temps — prend donc plus de temps.
Si votre Mac se met à ramer
Un modèle qui ne tient pas en mémoire oblige macOS à basculer de la mémoire sur le disque (swap). Fermez les apps gourmandes en mémoire ; si le Moniteur d’activité ▸ Mémoire indique toujours une pression de la mémoire jaune ou rouge, choisissez une taille plus petite.
Laissez Ollama gérer les fichiers
Ollama range les modèles dans son propre dossier (par défaut, un dossier caché .ollama dans votre dossier personnel). Utilisez ollama rm plutôt que de supprimer les fichiers à la main.
Vérifiez qu’un modèle est bien local
La bibliothèque d’Ollama référence aussi des modèles qui tournent sur les serveurs d’Ollama, et non sur votre Mac. Si la confidentialité est votre priorité, choisissez ceux qui se téléchargent et tournent en local.
Quel modèle local choisir ?
Commencez par un modèle instruct (adapté au dialogue) reconnu, dans la taille que permet votre mémoire, essayez-le sur de vraies tâches, puis montez ou descendez d’une taille.
| Votre besoin principal | Commencez par | Pourquoi |
|---|---|---|
| Discussion générale et rédaction | Un modèle instruct de 7–8B : Qwen2.5 7B, Llama 3.1 8B, Mistral 7B ou Gemma 2 9B | Des réponses solides dans la plupart des cas ; tient sur un Mac de 16 Go |
| Questions sur de longs documents | Le plus gros modèle que permet votre mémoire | Un long texte demande plus de mémoire, et les gros modèles suivent généralement mieux les détails |
| Données structurées : tableaux, champs, JSON | Un modèle instruct de 7B ou plus | Les petits modèles s’écartent plus souvent d’un format ; testez d’abord sur vos propres exemples |
| Tirer le meilleur d’un Mac de 8 Go | Un modèle 3B | Suffisant pour des questions courtes et des brouillons rapides |
Vérifiez la licence. Les licences diffèrent même au sein d’une famille : Qwen2.5 7B et 14B ainsi que Mistral 7B sont sous Apache 2.0, tandis que Qwen2.5 3B relève de la Qwen Research License, qui n’autorise qu’un usage de recherche ou d’évaluation. Llama 3.1 de Meta a sa propre licence communautaire, assortie de conditions ; Gemma de Google relève des Gemma Terms of Use. Lisez la fiche du modèle (model card) et la licence du modèle et de la taille exacts que vous utilisez. Pour en savoir plus : IA open source ou open-weight. Ces informations sont générales et ne constituent pas un conseil juridique.
Questions fréquentes
Peut-on faire tourner un LLM local sur un Mac avec 8 Go de mémoire ?
Oui, un petit. Un modèle d’environ 3B paramètres (à peu près 2 Go à télécharger) tient en mémoire et gère les questions courtes et les brouillons rapides. Fermez d’abord les apps gourmandes en mémoire, et attendez-vous à des réponses plus faibles sur les tâches complexes.
Ollama est-il gratuit ?
Oui. Ollama est un logiciel gratuit et open source qui fait tourner des modèles sur votre propre ordinateur. De nombreux modèles se téléchargent aussi gratuitement, mais chacun a sa propre licence.
Un modèle d’IA local fonctionne-t-il sans Internet ?
Le modèle lui-même, oui : une fois téléchargé, un outil comme Ollama le fait tourner sans connexion. Le téléchargement nécessite Internet, et les apps construites autour d’un modèle peuvent se connecter pour des fonctions comme la recherche web.
Un modèle local vaut-il un assistant IA dans le cloud ?
Pas pour tout. Les plus grands modèles cloud sont plus forts en raisonnement complexe et sur les questions pointues. Un bon modèle local gère les questions du quotidien, la rédaction et les résumés, garde vos mots sur votre Mac et ne coûte rien par message.
Comment supprimer un modèle pour libérer de l’espace disque ?
Avec Ollama, lancez ollama list pour voir vos modèles et leur taille, puis ollama rm suivi du nom du modèle — par exemple, ollama rm qwen2.5:7b.
À lire aussi
Un modèle local sur votre Mac, installé pour vous
Octopi utilise ou installe Ollama, vous suggère une taille de modèle adaptée à votre Mac et vous donne un chat qui tourne dessus — gratuit, sans compte, le cloud restant purement facultatif.
Télécharger Octopi gratuitement