FastGPT

FastGPT

OpenAI 호환 모델이라면 무엇이든 돌아가는 오픈소스 AI 지식베이스 및 고객 지원 플랫폼.

FastGPT란

FastGPT는 AI 지식베이스, 고객 지원 봇, 시각적 AI 워크플로를 만드는 오픈소스 플랫폼입니다. 문서를 올리면 그 내용을 바탕으로 질문에 답합니다. 모델 채널을 TokenMix로 향하게 하면 Claude, GPT, DeepSeek 위에서 돌릴 수 있습니다. 공식 cloud가 있어 직접 호스팅하지 않아도 됩니다.

시작하기 전에

TokenMix 연결하기

FastGPT는 모델 채널(channel)을 통해 모델에 접근합니다. 반드시 맞춰야 할 한 가지: 채널의 Proxy address(프록시 주소)에는 맨 도메인만 넣습니다. 여기에 /v1을 붙이지 마세요. FastGPT가 뒤쪽 경로를 알아서 붙이기 때문입니다.

  1. FastGPT 대시보드에서 모델 공급자 또는 channel(채널) 설정을 열고 새 channel을 추가합니다.
  2. Type(유형): OpenAI를 선택합니다.
  3. Proxy address(프록시 주소, 즉 Base URL 칸): https://api.tokenmix.ai 를 입력하고 /v1은 붙이지 않습니다.
  4. API Key: 자신의 sk-tm- 키를 붙여넣습니다.
  5. Models(모델): 쓰려는 TokenMix 모델 id를 입력합니다. 예: claude-sonnet-4.6.
  6. 저장하고 channel 테스트를 실행한 뒤, Model Config(모델 설정)에서 해당 모델들을 활성화합니다.

작동 확인

간단한 앱이나 지식베이스를 만들고, 자신의 TokenMix 모델 하나를 골라 질문해 봅니다. 그럴듯한 답이 오면 FastGPT가 TokenMix에 연결된 것입니다. 사용 금액은 TokenMix Console에서 확인할 수 있습니다.

자주 묻는 질문

테스트가 실패하거나 404가 돌아올 때: Proxy address(프록시 주소)는 반드시 맨 도메인인 https://api.tokenmix.ai 여야 하며 /v1을 붙이지 않습니다. FastGPT가 나머지 경로를 붙이기 때문입니다. 만약 구버전 OneAPI 층을 거치게 한다면, 그쪽 OPENAI_BASE_URL에는 오히려 /v1이 필요합니다.

Cloud냐 직접 호스팅이냐: cloud.fastgpt.io의 공식 cloud는 설치 없이 바로 쓸 수 있습니다. Docker로 직접 호스팅하는 것은 선택 사항입니다.

어떤 모델을 고를까: 지식베이스 답변에는 Claude Sonnet 4.6, DeepSeek V4 Pro, GPT-5.4가 무난한 출발점입니다.