Octopi / Guides / IA locale ou IA cloud
Guide
IA locale ou IA cloud : confidentialité, coût et qualité comparés
La réponse courte : l’IA locale fait tourner le modèle sur votre propre appareil. Vos données restent chez vous et chaque utilisation ne coûte rien de plus — mais votre matériel limite ce dont le modèle est capable. L’IA dans le cloud tourne sur les serveurs d’un fournisseur : vous accédez aux modèles les plus puissants, vous payez à l’usage, et ce que vous envoyez part chez ce fournisseur, qui le traite selon ses conditions. Beaucoup d’équipes combinent les deux.
Remarque : l’interface d’Octopi est en anglais.
Que signifient « IA locale » et « IA dans le cloud » ?
La différence tient à l’endroit où tourne le modèle — le programme qui lit votre requête (le « prompt ») et rédige la réponse. On parle aussi d’IA embarquée (« on-device »), ou d’IA auto-hébergée quand elle tourne sur votre propre serveur.
Sur du matériel que vous contrôlez
Les poids du modèle sont téléchargés une fois, puis tournent sur votre ordinateur portable, votre ordinateur de bureau ou un serveur que vous gérez vous-même. Des moteurs comme Ollama, LM Studio et llama.cpp téléchargent et font tourner des modèles open-weight.
Sur les serveurs d’un fournisseur
Votre requête part par Internet vers une entreprise qui fait tourner le modèle dans ses centres de données et vous renvoie la réponse — via un assistant IA dans le cloud, une API ou une fonction intégrée à un autre produit.
« Local » indique où tourne le modèle, pas si l’application se connecte à Internet : un outil doté d’un modèle local peut tout de même faire des recherches sur le web pour vous. Et un modèle installé sur votre propre serveur compte aussi comme local — les données restent sur une infrastructure que vous contrôlez.
IA locale vs IA cloud : le comparatif
| Critère | IA locale | IA cloud |
|---|---|---|
| Confidentialité | Requêtes et documents sont traités sur votre appareil ; aucun fournisseur d’IA ne les reçoit | Ce que vous envoyez est traité par le fournisseur selon ses conditions et sa politique de conservation |
| Où vont les données | Elles restent sur votre appareil ou votre propre serveur | Par Internet vers les serveurs du fournisseur, parfois dans un autre pays |
| Modèle de coût | Pas de frais à l’usage ; vous payez le matériel et son électricité | Paiement à l’usage ou par abonnement ; le coût augmente avec le volume |
| Capacités sur les tâches difficiles | Limitées par ce qui tient en mémoire ; les petits modèles sont moins bons en raisonnement complexe | Les modèles les plus puissants disponibles, sans limite matérielle de votre côté |
| Vitesse | Dépend de votre puce et de la taille du modèle | Dépend du fournisseur, du modèle et de votre connexion |
| Mise en place | Installer un moteur et télécharger un modèle de quelques gigaoctets | Créer un compte ou obtenir une clé API ; rien à installer |
| Fonctionne sans Internet | Le modèle oui, une fois téléchargé ; les tâches web exigent toujours une connexion | Non — chaque requête nécessite une connexion |
| Formalités de conformité | Plus légères : aucun sous-traitant tiers pour l’étape du modèle ; vos propres obligations demeurent | Au titre du RGPD, un accord de sous-traitance est nécessaire avec un fournisseur qui traite des données personnelles pour votre compte, et les transferts hors de l’EEE obéissent à leurs propres règles |
| Modèle et version | Vous choisissez le modèle et gardez exactement cette version jusqu’à ce que vous en changiez | Le fournisseur décide quels modèles et quelles versions il propose, et pour combien de temps |
| Dépendance à un fournisseur | Faible : modèles open-weight et moteurs sont interchangeables | Plus forte quand votre façon de travailler dépend de l’API et des fonctions d’un seul fournisseur |
Aucune des deux colonnes ne l’emporte partout : tout dépend des données, de la tâche et de la fréquence à laquelle vous l’exécutez.
Quand l’IA locale est-elle le meilleur choix ?
Données clients, RH ou contractuelles
Si les données ne doivent pas quitter votre organisation, avec un modèle local, aucun fournisseur d’IA ne les reçoit. Au regard du RGPD, cette étape n’implique alors aucun sous-traitant tiers — vos propres obligations, comme disposer d’une base légale et minimiser les données, s’appliquent toutefois toujours.
La même tâche, de nombreuses fois par jour
Classer des e-mails, étiqueter des fiches, résumer des notes : l’addition grimpe vite quand chaque appel est payant. En local, la centième exécution coûte autant que la première.
La rédaction au quotidien
Pour des premiers jets, des reformulations et des résumés de textes ordinaires, un bon petit modèle open-weight suffit souvent.
Extraire des faits d’un texte
Transformer une page en champs — la ville d’une entreprise, le poste d’une personne, une date — est une tâche ciblée qu’un modèle local peut bien gérer, surtout quand chaque réponse est vérifiée par rapport à sa source.
Un budget qui ne bouge pas
Pas de compteur d’usage, pas de facture surprise quand un projet prend de l’ampleur. Votre coût, c’est la machine que vous possédez déjà.
Des règles sur le lieu de traitement des données
Certaines organisations doivent maintenir le traitement dans une juridiction donnée. D’autres préfèrent un traitement hors des États-Unis ou auto-hébergé, en raison de lois comme le CLOUD Act américain (2018), qui permet aux autorités américaines d’exiger des fournisseurs établis aux États-Unis qu’ils communiquent les données qu’ils contrôlent, y compris celles stockées à l’étranger. Faire tourner le modèle vous-même règle la question du lieu où se déroule cette étape.
Pour aller plus loin : Qu’est-ce que l’IA souveraine ? et utiliser l’IA avec des données clients sous le RGPD. Ces informations sont générales et ne constituent pas un conseil juridique.
Quand l’IA dans le cloud est-elle le meilleur choix ?
Des problèmes qui exigent le modèle le plus puissant
Analyses en plusieurs étapes, code délicat, questions où un petit modèle perd le fil : c’est là que les plus grands modèles cloud font la différence.
Découper un gros travail en étapes
Transformer une demande vague en un plan long et fiable est exigeant ; un modèle plus grand fait en général moins d’erreurs. Et un plan peut souvent être établi à partir de la seule description de la tâche, sans les données.
Une machine sans assez de mémoire
Un modèle doit tenir en mémoire à côté de vos autres applications. En gros, un modèle de 7 à 8 milliards de paramètres (7–8B) quantifié en 4 bits demande 4,5 à 5 Go, et un modèle de 70B, 40 Go ou plus. Sans cette marge, le cloud est l’option réaliste.
Quelques fois par mois
Si vous utilisez rarement l’IA, payer à l’usage peut coûter moins cher que d’acheter une machine avec assez de mémoire — et il n’y a rien à installer.
Utiliser le cloud pour un travail sensible n’est pas une erreur en soi ; cela suppose de lire les conditions du fournisseur et, pour les données personnelles, de signer les bons accords. Faites simplement ce choix en connaissance de cause. Pour le matériel et la taille des modèles, voir comment faire tourner un modèle d’IA en local sur votre Mac.
L’approche hybride : le local par défaut, le cloud à bon escient
Beaucoup d’équipes ne choisissent pas de camp. Elles utilisent un modèle local pour le volume quotidien et tout ce qui est sensible, et ne font appel à un modèle cloud que pour des tâches précises où il apporte un vrai plus — en envoyant le moins possible, par exemple une description de la tâche plutôt que les fiches elles-mêmes.
Si vous évaluez un outil qui combine les deux, vérifiez trois points :
Activation fonction par fonction
Chaque fonction cloud reste désactivée jusqu’à ce que vous l’activiez, séparément. Un interrupteur unique qui envoie tout n’est pas un vrai choix.
Il dit ce qui est envoyé
Avant que vous donniez votre accord, l’outil vous indique précisément quelles données partent chez le fournisseur — et lesquelles n’y partent jamais.
Il a une solution de repli
Si le cloud est indisponible ou le budget épuisé, le travail continue en local et l’outil vous le dit, au lieu d’échouer ou de s’arrêter sans prévenir.
Comment choisir : cinq questions
Posez-les tâche par tâche : la réponse change souvent d’une tâche à l’autre.
| Question | Plutôt local | Plutôt cloud |
|---|---|---|
| 1. Serait-ce un problème que ces données quittent votre appareil ? | Oui — données personnelles, confidentielles ou réglementées | Non — informations publiques ou déjà partagées |
| 2. La tâche est-elle difficile ? | Rédiger, résumer, classer, extraire | Raisonnement difficile en plusieurs étapes, ou plans longs et complexes |
| 3. À quelle fréquence l’exécuterez-vous ? | Tous les jours, ou par gros lots | De temps en temps |
| 4. Votre matériel a-t-il de la marge ? | De la mémoire disponible pour le modèle et vos applications (sur les Mac Apple Silicon, le CPU et le GPU se partagent une même réserve de mémoire unifiée, ce qui convient bien aux modèles locaux) | Peu de mémoire libre, ou une machine ancienne |
| 5. Des règles ou des contrats imposent-ils où les données peuvent être traitées ? | Oui — gardez-les sur votre appareil ou votre propre serveur | Non — mais vérifiez quand même les conditions du fournisseur |
Des réponses mitigées sont normales, et plaident généralement pour une approche hybride : le local pour le volume sensible, le cloud pour les étapes les plus difficiles.
Un exemple
Où se situe Octopi
Octopi, l’application macOS gratuite dont parle ce site, est un exemple de cette approche hybride. Elle transforme une tâche décrite en une simple phrase en un tableur terminé : elle recherche entreprises, personnes et faits dans un vrai navigateur et inscrit chaque valeur dans votre feuille de calcul, avec une source cliquable.
Un modèle open-weight sur votre Mac
Le modèle tourne sur votre Mac via Ollama. Le modèle par défaut, Qwen2.5-7B-Instruct, est publié sous licence Apache 2.0 ; Llama 3.1, Mistral et Gemma 2 sont aussi proposés, avec des licences qui varient.
Claude peut planifier votre tâche
Si vous l’activez, Claude reçoit la phrase de votre tâche et les noms de vos colonnes — pas vos lignes.
Claude peut lire des pages publiques
Si vous l’activez, Claude lit pour vous des pages web publiques, chargées dans un navigateur headless privé, déconnecté de tout compte.
Votre CRM et les sites où vous êtes connecté
Votre CRM (Salesforce, HubSpot ou Pipedrive) et tout site auquel vous êtes connecté sont toujours traités sur votre Mac.
Chaque option Claude reste désactivée jusqu’à ce que vous l’activiez, avec son propre écran de consentement. Vous payez avec votre propre clé Anthropic (0 $ facturé par Octopi) ou avec des crédits Octopi (en anglais). Si Claude est indisponible ou si vos crédits sont épuisés, Octopi continue avec le modèle local et vous le signale.
Ce n’est pas une application hors ligne : Octopi se connecte à Internet pour chercher et lire les pages que vous demandez, utiliser les CRM auxquels vous êtes connecté, télécharger le modèle une fois et vérifier les mises à jour. Les statistiques d’utilisation et les rapports d’erreur expurgés sont activés par défaut ; vous pouvez les désactiver dans Settings ▸ Privacy. Le détail complet (en anglais) : Sovereign AI on your Mac.
Questions fréquentes
L’IA locale est-elle confidentielle ?
Plus confidentielle pour l’étape du modèle : vos requêtes et vos documents sont traités sur votre propre appareil, donc aucun fournisseur d’IA ne les reçoit. Mais la confidentialité dépend aussi de ce que l’application envoie par ailleurs — données d’utilisation, recherches web, fichiers synchronisés —, vérifiez donc aussi ce point.
Un LLM local est-il aussi bon qu’un assistant IA dans le cloud ?
Pour les brouillons, les résumés, la classification et l’extraction, un bon petit modèle suffit souvent. Pour le raisonnement le plus difficile et la planification longue et complexe, les plus grands modèles cloud sont plus forts, et un modèle local est limité par la mémoire de votre machine.
L’IA locale est-elle gratuite ?
Il n’y a pas de frais à l’usage, et Ollama comme de nombreux modèles open-weight se téléchargent gratuitement. Vous payez quand même le matériel, et la licence de chaque modèle fixe ce que vous avez le droit d’en faire — consultez la fiche du modèle (« model card ») pour le modèle et la taille exacts que vous utilisez.
Quels sont les avantages et inconvénients d’une IA auto-hébergée ?
Avantages : vos données restent sur une infrastructure que vous contrôlez, pas de frais à l’usage, et vous gardez la version de modèle que vous avez choisie. Inconvénients : vous fournissez et entretenez le matériel, sa mémoire limite les modèles que vous pouvez faire tourner, et les modèles les plus performants sont proposés sous forme de services cloud.
Un modèle local suffit-il à être conforme au RGPD ?
Pas à lui seul. Traiter les données sur votre propre appareil signifie qu’aucun sous-traitant tiers n’intervient pour cette étape, mais vos propres obligations — une base légale, la minimisation des données, la limitation des finalités — s’appliquent toujours. Ces informations sont générales et ne constituent pas un conseil juridique.
Octopi utilise-t-il une IA locale ou une IA cloud ?
Une IA locale par défaut : un modèle open-weight tourne sur votre Mac via Ollama. Claude est facultatif, pour la planification et/ou la lecture de pages publiques, chaque option restant désactivée jusqu’à ce que vous l’activiez via son propre écran de consentement. Si Claude est indisponible, Octopi continue avec le modèle local et vous le signale.
À lire aussi
Essayez l’IA en local d’abord, sur votre Mac
Téléchargez Octopi : un modèle open-weight sur votre Mac par défaut, Claude restant strictement facultatif. Gratuit, sans compte.
Télécharger Octopi gratuitement