Le Labo
Quel modèle d'IA locale votre machine peut faire tourner
La seule contrainte qui décide, c'est la mémoire. Donnez la vôtre, l'outil vous dit quelle taille de modèle tient chez vous.
Il répond en gigaoctets et pas en noms de modèles : les noms changent tous les mois, la mémoire dont vous disposez, non.
Labo Calculateur d'IA locale
Détecté sur votre machine
- Système lecture…
- Coeurs logiques lecture…
- Carte graphique lecture…
Place disponible pour le modèle
—
Aucune de ces informations ne quitte votre navigateur : le calcul se fait sur votre machine, rien n'est envoyé ni conservé.
Pourquoi il ne vous donne pas de nom de modèle
Parce qu'il serait faux dans trois mois. Le modèle recommandé aujourd'hui sera remplacé avant l'hiver, alors que la règle, elle, ne bouge pas : un modèle quantifié occupe à peu près la taille de son fichier, plus une marge. Une fois que vous savez combien de gigaoctets vous avez devant vous, vous choisissez vous-même, sur n'importe quel catalogue, et vous ne dépendez de personne.
Ce qu'il ne peut pas deviner
La mémoire d'une carte graphique n'est exposée par aucune interface de programmation, dans aucun navigateur. Et la mémoire vive annoncée par le navigateur est plafonnée à 8 gigaoctets par la norme, quelle que soit la machine. L'outil affiche donc ce qu'il a pu lire, dit d'où ça vient, et vous laisse corriger. Il préfère vous poser une question plutôt que vous donner une réponse fausse.
Pour la suite (Ollama ou LM Studio, quel modèle pour quel usage, ce que ça donne vraiment), c'est dans notre guide : Installer une IA en local .
$ man outil
› De quoi dépend le modèle d'IA que ma machine peut faire tourner ?
De la mémoire, et presque uniquement d'elle. Un modèle quantifié occupe à peu près la taille de son fichier, plus une marge. Le processeur et la marque de la carte décident de la vitesse, pas de la possibilité.
› Pourquoi l'outil ne donne-t-il pas de nom de modèle ?
Parce qu'il serait faux dans trois mois : le modèle recommandé aujourd'hui sera remplacé avant l'hiver. La règle en gigaoctets, elle, ne bouge pas. Une fois que vous savez combien vous avez devant vous, vous choisissez vous-même sur n'importe quel catalogue.
› Pourquoi doit-il me demander ma mémoire au lieu de la lire ?
La mémoire d'une carte graphique n'est exposée par aucune interface de programmation, dans aucun navigateur, et la mémoire vive annoncée par le navigateur est plafonnée à 8 gigaoctets par la norme. L'outil affiche donc ce qu'il a pu lire, dit d'où ça vient, et vous laisse corriger.
$ grep -l outil ./articles
Cet outil est posé dans cet article, à l'endroit où la question se pose :