AnythingLLM
ドキュメントとナレッジベースに対応したオールインワンのプライベート AI アシスタント・RAG プラットフォーム
はじめに
AnythingLLM はプライベート AI アシスタントプラットフォームで、RAG・エージェント・マルチユーザーワークスペースをサポートします。Generic OpenAI LLM プロバイダーで任意の OpenAI 互換エンドポイント（TokenMix を含む）に接続でき、プライベートインフラを離れることなく Claude・GPT-5・Qwen を利用できます。RAG のためのドキュメントインデックス用に Generic OpenAI Embedder も設定します。
前提条件
Docker で AnythingLLM をセルフホストします：
docker pull mintplexlabs/anythingllm
docker run -d -p 3001:3001 \
-v anythingllm_storage:/app/server/storage \
--name anythingllm \
mintplexlabs/anythingllm
http://localhost:3001 にアクセスしてオンボーディングウィザードを完了します。
TokenMix の API キーも必要です。tokenmix.ai → コンソール → API Keys で作成してください。
セットアップ手順
ステップ 1 — LLM 設定を開く
AnythingLLM の左下にある 設定（歯車アイコン）→ AI プロバイダー → LLM をクリックします。
ステップ 2 — LLM プロバイダーとして Generic OpenAI を選択
プロバイダー一覧から Generic OpenAI を選択します。
ステップ 3 — LLM 接続情報を入力
| フィールド | 値 |
|---|---|
| Base URL | https://api.tokenmix.ai/v1 |
| API キー | TokenMix キー（sk-tm-…） |
| Model Name | 例：claude-sonnet-4.6 |
| トークンコンテキストウィンドウ | モデルに応じて設定（Claude Sonnet は 200000） |
変更を保存 をクリックします。
ステップ 4 — Embedding プロバイダーを設定
引き続き 設定 → AI プロバイダー で Embedder をクリックします。
Embedder として Generic OpenAI を選択し、以下を入力します：
| フィールド | 値 |
|---|---|
| Base URL | https://api.tokenmix.ai/v1 |
| API キー | TokenMix キー（sk-tm-…） |
| Model Name | 例：text-embedding-3-large |
変更を保存 をクリックします。
ステップ 5 — ワークスペースを作成してドキュメントをアップロード
メイン画面に戻り、新しい ワークスペース を作成してドキュメント（PDF・Word・TXT など）をアップロードします。AnythingLLM はステップ 4 で設定した Embedding モデルでインデックスを作成します。
インデックス作成後、ステップ 3 で設定した LLM でドキュメントと対話できます。
動作確認
ワークスペースでメッセージを送信し、ドキュメントの内容を参照した応答が返ってきたら、LLM と Embedder の両方が TokenMix 経由で正常に動作しています。
TokenMix コンソール → 利用履歴 でチャットとエンベディングの両リクエストが記録されているか確認できます。
よくある質問
Q: 保存後に「LLM プロバイダーに接続できない」と表示される。
A: Base URL が正確に https://api.tokenmix.ai/v1（末尾スラッシュなし）であること、API キーが sk-tm- で始まることを確認してください。TokenMix アカウントの残高も確認してください。
Q: TokenMix はどの Embedding モデルを提供していますか？
A: tokenmix.ai → モデル で Embedding タイプでフィルタリングし、short_id（例：text-embedding-3-large）を Embedder の Model Name フィールドに入力します。Embedding モデルはチャットモデルとは別に設定します。
Q: ワークスペースごとに異なる LLM モデルを使えますか？ A: デフォルトではグローバル LLM 設定がすべてのワークスペースに適用されます。AnythingLLM Pro/Cloud ではワークスペース単位のモデルオーバーライドが可能です；オープンソース版ではグローバル設定を変更してモデルを切り替えます。