직접 관리하는 팀 액세스
역할을 지정해 팀원을 초대하고, API 키를 교체하고, 회사 활동을 검토하세요. 초대 링크는 만료되며, 초대받은 인증된 이메일 주소가 필요합니다.
한눈에 보는 LLMPods
LLMPods는 오픈 모델 추론을 위한 리전 GPU 인프라를 제공합니다. 모델, 워크로드, 데이터 요구 사항에 맞춰 배포 용량을 선택하세요.
- 운영자
- Disket Teknoloji Limited Sirketi · 이스탄불/튀르키예
- 현재 컴퓨팅 위치
- 이스탄불 / 튀르키예
- 모델 계열
- Llama · Qwen · DeepSeek · Mistral
- 계획된 리전, 현재 이용 불가
- 프랑크푸르트 / 독일 · 캐나다
모델, 배포 옵션, 요금 살펴보기
프로덕션 추론을 위한 워크스페이스
튀르키예에 있는 LLMPods 소유 GPU 인프라에서 팀 액세스, 프로젝트 한도, 요청 단위 사용량을 관리하세요.
프로젝트 예산 및 한도
프로젝트별 월 예산, 요청 속도 제한, 출력 토큰 한도를 설정하세요. 요청은 추론 전에 예상 비용을 예약하며, 최종 요금은 검증된 토큰 측정값을 기준으로 합니다.
사용량은 추적하고, 콘텐츠는 비공개로
프로젝트, 상태, 요청 ID로 요청을 필터링하세요. 지연 시간, 토큰, 비용을 살펴본 뒤 CSV로 내보낼 수 있습니다. 요청 기록에는 프롬프트와 응답 내용이 아닌 메타데이터가 담깁니다.
고객의 시장에 맞춘 설계
AI가 더 가까운 곳에서 실행됩니다.
지연 시간, 데이터 위치, 청구 통화는 모두 인프라에 관한 결정입니다. 나중에 고려할 사항이 아니라 배포의 일부로 다루세요.
체감할 수 있는 지연 시간.
네트워크 경로가 짧을수록 채팅 응답이 더 빨리 시작될 수 있습니다. 튀르키예 기반 컴퓨팅은 현지 워크로드를 가까이에 둡니다. 다만 첫 토큰 시간은 여전히 모델 크기, 대기열, 프롬프트 길이에 따라 달라집니다.
애플리케이션에서 첫 토큰, P50, P95를 측정하세요.
KVKK 관련 노출 범위를 파악하세요.
프롬프트, 출력, 로그, 지원 데이터가 어디로 이동하는지 파악하세요. 튀르키예에서 모델 워크로드를 처리하면 국외 이전을 줄이는 데 도움이 될 수 있지만, 적법한 처리, 보존, 접근 통제는 여전히 필수입니다.
로컬 호스팅만으로 KVKK 준수가 성립하지는 않습니다.
모든 결제에 투명한 환율.
LLMPods는 사용량 요금을 USD로 책정합니다. 카드 결제는 결제 시점의 튀르키예 공화국 중앙은행(TCMB) USD 외환 매도 환율을 적용하여 TRY로 이루어지므로, 같은 워크로드라도 TRY 금액은 환율에 따라 달라집니다.
환율과 TRY 금액은 결제 전에 표시되고 결제와 함께 기록됩니다. 청구서는 TRY로 발행되며 적용된 환율이 기재됩니다.
현재는 튀르키예. 추가 리전 계획 중.
현재 컴퓨팅은 튀르키예에서 호스팅됩니다. 프랑크푸르트와 캐나다는 계획된 위치이며, 현재 이용 가능한 배포 리전이 아닙니다.
- 운영 중
이스탄불 / 튀르키예
현재 컴퓨팅 위치 · TR-IST-01
- 계획됨
프랑크푸르트 / 독일
계획됨 · 출시일 미발표
- 계획됨
캐나다
계획됨 · 출시일 미발표
첫 배포 전에 묻는 질문.
모델은 어디에서 실행되나요?
현재 컴퓨팅은 튀르키예에 있습니다. 프랑크푸르트와 캐나다는 계획 단계이며, 다른 시장의 요청은 GPU를 옮기지 않고 튀르키예에서 처리할 수 있습니다.
로컬 컴퓨팅이 항상 더 빠른가요?
네트워크 경로가 짧으면 전송 지연을 줄일 수 있지만, 첫 토큰 시간은 모델, 대기열, 입력 크기에도 좌우됩니다. 실제 사용자의 위치에서 같은 모델과 프롬프트로 비교해 보세요.
튀르키예에서 호스팅하면 자동으로 KVKK를 준수하게 되나요?
아닙니다. 처리 근거, 고지, 보존, 접근, 그리고 연동이나 지원을 통한 모든 이전을 여전히 평가해야 합니다. 리전 컴퓨팅은 그 평가의 한 부분입니다.
결제할 때 어떤 환율이 적용되나요?
가격은 USD로 책정됩니다. 카드로 결제하면 TRY 금액은 해당 시점의 TCMB USD 외환 매도 환율로 계산되며, 해당 결제 세션 동안 고정됩니다. 따라서 같은 사용량이라도 TRY 비용은 환율에 따라 달라지며, 부가세는 별도로 표시됩니다.
01/시스템
API가 들어가고,
토큰이 나옵니다.
모든 요청은 동일한 일곱 개 계층을 거칩니다. 각 계층이 수행한 작업을 보고하므로 경로가 블랙박스로 남지 않습니다.
01
애플리케이션
요청7F39A21
메서드POST
02
LLMPods API
인증OK
스키마OPENAI
03
리전 라우터
리전TR-IST
라우팅자동
04
모델 스케줄러
모델QWEN
대기열0
05
Compute Pod
POD018
상태활성
06
GPU
클래스PRO 6000
할당예약됨
07
토큰 스트림
상태스트리밍
첫 토큰데모 24ms
계층 03 개발자 제어
계층 02 시스템 인텔리전스
계층 01 물리 컴퓨팅
계층 03 개발자
예시 텔레메트리 · 데모 데이터
02/개발자 경험
엔드포인트를 바꾸세요.
스택은 그대로 두세요.
LLMPods는 OpenAI 스키마를 따릅니다. 기존 SDK가 새 base URL을 가리키도록 설정하고 주변 코드는 그대로 유지하세요.
llmpods.com/panel/v1
1from openai import OpenAI
2import os
3
4client = OpenAI(
5 base_url="https://llmpods.com/panel/v1",한 줄 마이그레이션 →
6 api_key=os.environ["LLMPODS_API_KEY"],
7)
8
9stream = client.chat.completions.create(
10 model="llama-70b-instruct",
11 messages=[{"role": "user", "content": "Hello, Pod."}],
12 stream=True,
13)
14
15for chunk in stream:
16 print(chunk.choices[0].delta.content or "", end="")
- 01OpenAI 호환 스키마
- 02스트리밍 응답
- 03도구 호출
- 04임베딩
- 05익숙한 SDK 지원
- 06개발자 중심 마이그레이션
03/Pod
모든 워크로드에
맞는 Pod.
하나의 런타임에서 네 가지 배포 토폴로지를 제공합니다. 차이는 머신을 얼마만큼 단독으로 사용하느냐에 있습니다.
토폴로지 01
Shared Pod
탄력적인 추론용.
- 사용량 기반
- 오토스케일링
- 관리형 인프라
- 공유 GPU 풀
토폴로지 02
Performance Pod
예측 가능한 프로덕션 워크로드용.
- 예약 용량
- 우선순위 스케줄링
- 일관된 성능
- 예측 가능한 가용성
토폴로지 03
Dedicated Pod
격리된 워크로드용.
- 전용 GPU
- 커스텀 모델
- 프라이빗 엔드포인트
- 격리된 리소스
토폴로지 04
Enterprise Pod
전략적 인프라 요구 사항용.
- 멀티 GPU
- 전용 클러스터
- 프라이빗 네트워킹
- 리전 제어
- SLA
- 맞춤형 아키텍처
04/확장
용량이 트래픽을 따라갑니다.
피크 트래픽에 맞춰 인프라를 프로비저닝하는 대신 수요에 따라 용량을 조정하세요.
유입 트래픽
- 요청 / 초
- 120
- 활성 Pod
- 1
- GPU 사용률
- 58%
- 대기열
- 0
- 토큰 / 초
- 9.6K
라우터 · TR-IST-01
기준 · Pod 1개
001
활성
002
대기
003
대기
004
대기
005
대기
006
대기
007
대기
008
대기
009
대기
010
대기
011
대기
012
대기
013
대기
014
대기
015
대기
016
대기
활성
웜
대기
예시 시뮬레이션
홈 1 끝 · 히어로 및 시스템
다음 — 05 / 모델 →