COMPRENDRE. CHOISIR. PROFITER.MOINS DE BRUIT. PLUS DE REPÈRES.
AI & LLM/Décryptage

IA locale ou cloud : choisir sans se tromper de question

Confidentialité, matériel, entretien et coût complet : une grille pour choisir entre une IA locale et un service hébergé.

LA RÉPONSE UTILE

Choisissez le lieu d’exécution en fonction de vos données, de vos tâches et de votre capacité à maintenir l’outil. Le local apporte du contrôle ; un service hébergé peut alléger l’installation. Aucun des deux n’est automatiquement meilleur.

  • Commencez par une tâche réelle et un résultat attendu.
  • Distinguez exécution locale, recherche web et fonctions hébergées.
  • Comparez le temps de vérification autant que le prix affiché.

Ce que vous voulez vraiment déléguer

« Quelle est la meilleure IA ? » est une question trop large pour guider un achat. Réécrire un courriel, retrouver une information dans des documents et produire du code n’exigent pas le même outil. Écrivez d’abord une tâche répétitive, son niveau de confidentialité et la manière dont vous jugerez le résultat.

Prenez un exemple concret : transformer vos notes de réunion en une liste d’actions. Le résultat attendu n’est pas un texte élégant. C’est une liste qui distingue les décisions, les responsables et les échéances sans inventer ce qui manque. Cette définition rend la comparaison utile.

Local ne veut pas toujours dire isolé

Un outil peut exécuter un modèle sur votre ordinateur tout en proposant des fonctions connectées. La documentation d’Ollama distingue notamment l’exécution locale de ses fonctions cloud et de recherche web, et décrit un mode local uniquement. Il faut donc examiner les fonctions activées, pas seulement le nom du logiciel.

Pour votre essai, cartographiez simplement le trajet des données : document d’origine, application, modèle, éventuel service externe et destination du résultat. Cette petite carte est souvent plus éclairante qu’un long argumentaire commercial.

Quatre critères à mettre sur la table

Utilisez cette grille comme un guide de discussion, pas comme un classement universel.

CritèreExécution localeService hébergé
Contrôle des donnéesVérifier les fonctions connectées et les accès au posteLire les conditions de traitement de l’offre choisie
MatérielVérifier la compatibilité du modèle et les ressources disponiblesVérifier les appareils, navigateurs et accès requis
ExploitationPrévoir installation, mises à jour et dépannageExaminer disponibilité, limites et dépendance au fournisseur
Coût completInclure matériel éventuel et temps de maintenanceInclure abonnement ou usage et travail de vérification

Un essai utile avant de s’engager

Sélectionnez cinq cas représentatifs et conservez une réponse de référence rédigée sans l’outil. Faites passer exactement les mêmes cas aux options envisagées. Notez les erreurs, les corrections nécessaires, le temps total et les tâches impossibles. Ces cinq cas constituent un essai exploratoire, pas une mesure scientifique de performance.

Évitez d’utiliser des données personnelles ou professionnelles sensibles pour une simple démonstration. Des exemples synthétiques suffisent pour vérifier le format de sortie et repérer les limites les plus évidentes. Une validation de confidentialité distincte reste nécessaire pour les usages réels.

Trois situations, trois points de départ

Vous travaillez surtout sur des textes non sensibles et vous voulez éviter de gérer une installation : notre point de départ serait un service hébergé, essayé sur un petit périmètre. Vous manipulez des documents qui ne doivent pas quitter le poste : examinez une exécution locale et les fonctions réellement connectées, avec la personne responsable de vos données. Vous expérimentez sans besoin précis : commencez avec le matériel existant, pas avec une nouvelle carte graphique.

Ce ne sont pas trois verdicts définitifs. Dans chaque situation, gardez une porte de sortie. Exporter les résultats dans un format ordinaire, conserver vos consignes et éviter les automatismes opaques simplifient un changement d’outil. Le critère que nous ajouterions à presque toutes les démonstrations est celui-ci : que reste-t-il de votre travail lorsque vous arrêtez le service ?

Le calcul de coût que nous ferions à votre place

Posez sur une même période quatre lignes : achat éventuellement nécessaire, abonnement ou consommation, installation et relecture. Le coût initial nul n’efface pas le temps passé à faire fonctionner l’outil. À l’inverse, posséder déjà une machine adaptée change complètement le point de départ. Ne lui attribuez pas le prix d’une machine neuve dans un seul scénario et zéro dans l’autre.

Ajoutez une colonne « résultat exploitable ». Une réponse obtenue en dix secondes mais corrigée pendant dix minutes n’est pas un gain de dix secondes : c’est un travail de dix minutes et dix secondes. Cet exemple est une règle de calcul, pas une mesure de modèle. Pour documenter vos essais, utilisez notre grille de choix d’un outil IA.

Le premier essai : petit, réversible, documenté

Notre proposition : choisissez une seule tâche et donnez-vous une semaine d’usage ordinaire. Pas une semaine à chercher le prompt parfait ; une semaine à noter les réussites, les ratés et les situations où vous avez renoncé à l’outil. Gardez les informations sensibles en dehors de ce premier essai.

À la fin, écrivez une phrase de décision : « Je garde cette solution pour cette tâche, sous ces conditions. » Si vous ne pouvez pas finir la phrase, l’achat peut attendre. Le bon choix n’a pas besoin d’être universel : il doit être défendable pour votre usage.

Notre règle de décision

Gardez l’option la plus simple qui respecte vos contraintes et dont le résultat reste vérifiable. Un outil performant mais trop lourd à maintenir peut être un mauvais choix ; un service pratique qui ne convient pas à vos données l’est aussi.

Avant de payer pour une longue durée ou d’acheter une machine, documentez les cas où l’outil échoue. C’est précisément cette liste qui vous permet de décider avec lucidité.

Une dernière question ?

Une IA locale fonctionne-t-elle forcément sans Internet ?

Cela dépend du logiciel, du modèle installé et des fonctions activées. Vérifiez notamment la recherche web et les fonctions cloud avant de conclure que les données restent sur le poste.