Dify
워크플로우, RAG, 에이전트를 갖춘 오픈소스 LLM 앱 개발 플랫폼
소개
Dify는 비주얼 LLM 앱 개발 플랫폼입니다. TokenMix의 OpenAI 호환 엔드포인트에 연결하면 Dify의 워크플로우, 챗봇, RAG 파이프라인에서 Claude, GPT-5, DeepSeek, Qwen 등 TokenMix가 지원하는 모든 모델을 사용할 수 있습니다.
사전 조건
Dify 셀프호스트 인스턴스가 필요합니다. Docker Compose로 빠르게 시작할 수 있습니다:
git clone https://github.com/langgenius/dify.git
cd dify/docker
cp .env.example .env
docker compose up -d
브라우저에서 http://localhost에 접속하여 첫 실행 시 관리자 계정을 생성합니다.
TokenMix API 키도 필요합니다. tokenmix.ai → 콘솔 → API Keys에서 새 키를 생성하세요.
설정 단계
1단계 — 모델 공급자 설정 열기
Dify 워크스페이스에서 우측 상단 아바타 클릭 → 설정 → 모델 공급자.
2단계 — OpenAI-API 호환 공급자 추가
OpenAI-API-compatible을 찾아 모델 추가를 클릭합니다.
3단계 — 연결 정보 입력
| 필드 | 값 |
|---|---|
| API 엔드포인트 URL | https://api.tokenmix.ai/v1 |
| API 키 | TokenMix 키(sk-tm-…) |
| 모델 이름 | 예: claude-sonnet-4.6 |
| 모델 유형 | LLM |
| 완성 모드 | Chat |
| 컨텍스트 길이 | 모델에 따라 설정(Claude Sonnet은 200000) |
저장을 클릭하면 Dify가 자동으로 자격 증명을 검증합니다.
4단계 — Embedding 모델 추가(RAG 필수)
2~3단계를 반복하되 모델 유형을 Text Embedding으로 변경하고, TokenMix가 지원하는 임베딩 모델 이름을 입력합니다(모델 목록 페이지에서 type=embedding으로 필터링, 예: text-embedding-3-large).
5단계 — 워크플로우 또는 챗봇에서 사용
앱을 생성하거나 열고, 모델 선택기에서 추가한 모델을 선택합니다. 요청은 TokenMix를 통해 라우팅됩니다.
검증
Dify의 "디버그 및 미리보기" 패널에서 메시지를 전송하여 정상 응답이 오면 연동 성공입니다.
TokenMix 콘솔 → 사용 기록에서 요청이 기록되었는지도 확인하세요.
자주 묻는 질문
Q: 모델 추가 후 "할당량 초과" 또는 "유효하지 않은 API 키" 오류가 뜹니다. A: 설정 → 모델 공급자에서 키를 재확인하고 다시 붙여넣으세요(앞뒤 공백 주의). TokenMix 잔액도 확인하세요.
Q: TokenMix에서 지원하는 Embedding 모델은 무엇인가요?
A: tokenmix.ai → 모델에서 Embedding 유형으로 필터링하세요. text-embedding-3-large, text-embedding-3-small이 일반적입니다. 페이지에 표시된 short_id를 모델 이름으로 사용하세요.
Q: 여러 모델(Claude + GPT-5 등)을 동시에 추가할 수 있나요?
A: 가능합니다. 각 모델마다 "모델 추가" 단계를 반복하세요. base_url과 API 키는 공통이며, 모델 이름과 컨텍스트 길이만 변경합니다.