AnythingLLM
Assistant IA privé tout-en-un et plateforme RAG pour documents et bases de connaissances
Introduction
AnythingLLM est une plateforme d''IA privée tout-en-un supportant RAG, agents et espaces de travail multi-utilisateurs. Son fournisseur LLM Generic OpenAI permet de se connecter à n''importe quel endpoint compatible OpenAI — y compris TokenMix — pour utiliser Claude, GPT-5 ou Qwen sans quitter votre infrastructure privée. Vous configurerez également un Embedder Generic OpenAI pour que AnythingLLM puisse indexer vos documents pour la RAG.
Prérequis
Auto-hébergez AnythingLLM avec Docker :
docker pull mintplexlabs/anythingllm
docker run -d -p 3001:3001 \
-v anythingllm_storage:/app/server/storage \
--name anythingllm \
mintplexlabs/anythingllm
Accédez à AnythingLLM sur http://localhost:3001 et complétez l''assistant de configuration.
Vous avez aussi besoin d''une clé API TokenMix : tokenmix.ai → Console → API Keys.
Étapes de configuration
Étape 1 — Ouvrir les paramètres LLM
Dans AnythingLLM, cliquez sur l''icône Paramètres (engrenage, en bas à gauche) → AI Providers → LLM.
Étape 2 — Sélectionner Generic OpenAI comme fournisseur LLM
Dans la liste des fournisseurs, choisissez Generic OpenAI.
Étape 3 — Remplir les informations de connexion LLM
| Champ | Valeur |
|---|---|
| Base URL | https://api.tokenmix.ai/v1 |
| API Key | Votre clé TokenMix (sk-tm-…) |
| Model Name | ex. claude-sonnet-4.6 |
| Fenêtre de contexte | Selon le modèle (200000 pour Claude Sonnet) |
Cliquez sur Enregistrer les modifications.
Étape 4 — Configurer le fournisseur Embedding
Toujours dans Paramètres → AI Providers, cliquez sur Embedder.
Sélectionnez Generic OpenAI comme embedder, puis renseignez :
| Champ | Valeur |
|---|---|
| Base URL | https://api.tokenmix.ai/v1 |
| API Key | Votre clé TokenMix (sk-tm-…) |
| Model Name | ex. text-embedding-3-large |
Cliquez sur Enregistrer les modifications.
Étape 5 — Créer un espace de travail et importer des documents
Revenez à l''écran principal, créez un nouveau Workspace et importez vos documents (PDF, Word, TXT, etc.). AnythingLLM les indexera avec le modèle d''embedding configuré à l''étape 4.
Une fois l''indexation terminée, dialoguez avec vos documents via le LLM configuré à l''étape 3.
Vérification
Envoyez un message dans votre workspace. Une réponse valide faisant référence au contenu de vos documents confirme que LLM et embedder fonctionnent bien via TokenMix.
Vérifiez dans Console TokenMix → Utilisation que les requêtes de chat et d''embedding sont bien enregistrées.
FAQ
Q : Après la sauvegarde, AnythingLLM affiche "Impossible de se connecter au fournisseur LLM".
R : Vérifiez que la Base URL est exactement https://api.tokenmix.ai/v1 (sans slash final) et que la clé commence par sk-tm-. Confirmez aussi que votre solde TokenMix est positif.
Q : Quels modèles d''embedding TokenMix propose-t-il ?
R : Rendez-vous sur tokenmix.ai → Modèles, filtrez par type Embedding, et copiez le short_id (ex. text-embedding-3-large) dans le champ Model Name de l''Embedder. Le modèle d''embedding doit être différent du modèle de chat.
Q : Puis-je utiliser un modèle LLM différent par workspace ? R : Le paramètre LLM global s''applique à tous les workspaces par défaut. AnythingLLM Pro/Cloud offre des remplacements par workspace ; dans la version open-source, modifiez le paramètre global pour changer de modèle.