직접 관리하는 팀 액세스
역할을 지정해 팀원을 초대하고, API 키를 교체하고, 회사 활동을 검토하세요. 초대 링크는 만료되며, 초대받은 인증된 이메일 주소가 필요합니다.
17/서비스
LLM 추론
및 GPU 서비스.
OpenAI 호환 API를 통한 관리형 추론, 전용 GPU 대여, 엔터프라이즈 용량. 하나의 플랫폼, 세 가지 실행 방식.
Llama
Qwen
DeepSeek
Mistral모델 계열 상표는 각 소유자를 나타냅니다. 이용 가능 여부는 배포에 따라 다르며, 제휴나 보증을 의미하지 않습니다.
OpenAI 호환 REST API
코드 한 줄로 마이그레이션하는 드롭인 대체
스트리밍 응답 및 함수 호출
임베딩, 리랭킹, 음성 텍스트 변환
예약 용량 옵션을 갖춘 오토스케일링
USD 요금, TRY 결제, e-Fatura 지원
01
관리형 추론
하나의 API로 제공되는 오픈 웨이트 모델을 토큰 단위로 결제하세요.
Shared Pod · Performance Pod포함 사항
- OpenAI 호환 REST API
- 배포별 모델 계열
- 스트리밍
- 함수 및 도구 호출
- 임베딩, 리랭킹, 음성 텍스트 변환
최저
배포 계획하기 →
$0.12 – $2.50
100만 토큰당 · 컨텍스트별
02
GPU 대여
파인튜닝과 커스텀 서빙을 위한 전용 GPU.
Performance Pod · Dedicated Pod포함 사항
- 전용 Blackwell 또는 Ampere GPU
- 파인튜닝
- 커스텀 모델 서빙
- 프라이빗 엔드포인트
최저
용량 요청 →
$0.79 – $2.50
GPU 시간당
03
엔터프라이즈
맞춤형 연간 계약에 따른 예약 용량.
Enterprise Pod포함 사항
- 전용 용량
- 계약에 따른 SLA
- KVKK 문서
- TCMB 환율 기준 TRY 청구서
청구
엔터프라이즈 살펴보기 →
연간 계약
맞춤형 용량 및 조건18/모델 계열
오픈 모델,
바로 호출할 수 있습니다.
오픈 웨이트 모델 계열, 튀르키예어 튜닝 모델, 검색 및 음성용 유틸리티 모델 중에서 선택하세요. 필요하면 직접 파인튜닝한 모델을 가져올 수 있습니다.
Llama
- 3.3 70B Instruct
- 3.1 8B Instruct
- Guard 3 8B
Qwen
- 2.5 72B Instruct
- 2.5 Coder 32B
- 2.5 7B Instruct
DeepSeek
- R1 Distill 70B
- R1 Distill 32B
Mistral
- Large
- Mixtral 8x7B Instruct
- 7B Instruct
튀르키예어
- 튜닝된 채팅 모델
- 임베딩 모델
- 커스텀 파인튜닝 모델
유틸리티
- 텍스트 임베딩
- 리랭킹
- 음성 텍스트 변환
19/예시 플랜 및 요금
사용량을 계획하세요.
용량을 산정하세요.
예시 요금 및 한도이며 현재 제공 조건이 아닙니다. 최종 모델 가용성, 가격, 용량, 보존 기간, SLA는 배포 계약에서 정해집니다.
체험판
- 무료 토큰 100만 개
- 초당 요청 5건
- SLA 없음
Starter
- 종량제
- 초당 요청 20건
- 공유 풀
Growth
- 월 최소 $500
- 요금 20% 할인
- 초당 요청 100건
- 계약에 따른 SLA
100만 토큰당 USD
컨텍스트StarterGrowth
4K$0.15$0.12
8K$0.25$0.20
32K$1.00$0.80
128K—$2.50
예시 요금 및 한도이며 현재 제공 조건이 아닙니다. 최종 모델 가용성, 가격, 용량, 보존 기간, SLA는 배포 계약에서 정해집니다.
프로덕션 추론을 위한 워크스페이스
튀르키예에 있는 LLMPods 소유 GPU 인프라에서 팀 액세스, 프로젝트 한도, 요청 단위 사용량을 관리하세요.
프로젝트 예산 및 한도
프로젝트별 월 예산, 요청 속도 제한, 출력 토큰 한도를 설정하세요. 요청은 추론 전에 예상 비용을 예약하며, 최종 요금은 검증된 토큰 측정값을 기준으로 합니다.
사용량은 추적하고, 콘텐츠는 비공개로
프로젝트, 상태, 요청 ID로 요청을 필터링하세요. 지연 시간, 토큰, 비용을 살펴본 뒤 CSV로 내보낼 수 있습니다. 요청 기록에는 프롬프트와 응답 내용이 아닌 메타데이터가 담깁니다.
워크로드에 필요한 용량을 선택하세요.
API로 시작하기
프로토타입, 어시스턴트, 변동이 큰 트래픽에 적합합니다. 관리형 추론으로 시작한 뒤, 용량을 예약하기 전에 사용량을 측정하세요.
꾸준한 수요에는 예약
기준치가 파악된 프로덕션 트래픽에 적합합니다. 자체 지연 시간 목표를 기준으로 예약 용량과 스케줄링을 협의하세요.
민감한 워크로드는 격리
커스텀 가중치나 더 엄격한 경계가 필요한 경우에 적합합니다. 전용 리소스, 프라이빗 엔드포인트, 데이터 처리 조건을 배포 계약에서 정의하세요.
LLM 추론 제공업체를 평가하는 방법
전체 응답 경로를 측정하세요
사용자가 있는 지역에서 같은 모델, 프롬프트 길이, 출력 한도로 테스트하세요. 예상 동시 요청 수에서 첫 토큰까지의 시간, 전체 응답 시간, p95 지연 시간을 기록하세요. 네트워크 근접성만으로는 모델 처리량을 예측할 수 없습니다.
모든 데이터 이전을 파악하세요
프롬프트, 출력, 로그, 백업, 지원 접근을 문서화하세요. 누가 이를 처리하는지, 어디에 저장되는지, 얼마 동안 보존되는지 확인하세요. 튀르키예 호스팅은 KVKK 평가의 한 요소이며 준수를 보장하지 않습니다.
같은 워크로드 기준으로 비용을 비교하세요
예상 트래픽, 유휴 용량, 스토리지, 운영 작업을 반영해 토큰 기반 비용과 GPU 시간 비용을 비교하세요. 계약하기 전에 청구 통화, 세금, 환율 연동 여부를 확인하세요.
첫 배포 준비하기
대표 프롬프트 세트, 대상 리전, 예상 분당 요청 수, 최대 동시 요청 수, 컨텍스트/출력 한도를 준비하세요. 민감한 데이터와 보존 요구 사항을 파악하세요. 용량과 상업 조건에 합의하기 전에 모델 탐색기와 요금 가이드로 범위를 정의하세요.
21/성능과 신뢰
데이터가 있는 곳에서
빠르게.
지연 시간과 처리량은 모델, 입력, 부하에 따라 달라집니다. 실제 워크로드로 테스트해 보세요. 가용성 목표와 보상 조치는 서비스 계약에서 정의됩니다.
TTFT첫 토큰까지의 시간실제 워크로드로 측정하세요
TPS초당 토큰실제 워크로드로 측정하세요
SLA계약에 따른 SLA
KVKK에 따른 처리 및 국외 이전 평가
허용되는 데이터 사용 범위를 계약에서 정의하세요
프롬프트, 출력, 로그의 보존 기간 확인
데이터 처리 역할 및 책임 합의
관할권별 리전 맞춤 법률 계약
회사, 개인정보 보호 및 약관
22/커버리지
실제 GPU,
실제 위치.
현재 모든 GPU는 튀르키예에서 운영됩니다. 다른 지역은 네트워크를 통해 제공되며, 새로운 거점이 계획되어 있습니다.
운영 중
튀르키예
1.3 TB+ GPU 메모리를 갖춘 RTX PRO 6000 Blackwell 클러스터. KVKK를 고려한 데이터 레지던시, USD 요금, TRY 결제.
네트워크 제공
MENA 및 유럽
튀르키예에서 네트워크를 통해 제공됩니다. 모든 GPU는 튀르키예에 있습니다.
계획됨
프랑크푸르트 · 캐나다
현재 컴퓨팅은 튀르키예에서 호스팅됩니다. 프랑크푸르트와 캐나다는 계획된 위치이며, 현재 이용 가능한 배포 리전이 아닙니다.
첫 배포 전에 묻는 질문.
모델은 어디에서 실행되나요?
현재 컴퓨팅은 튀르키예에 있습니다. 프랑크푸르트와 캐나다는 계획 단계이며, 다른 시장의 요청은 GPU를 옮기지 않고 튀르키예에서 처리할 수 있습니다.
로컬 컴퓨팅이 항상 더 빠른가요?
네트워크 경로가 짧으면 전송 지연을 줄일 수 있지만, 첫 토큰 시간은 모델, 대기열, 입력 크기에도 좌우됩니다. 실제 사용자의 위치에서 같은 모델과 프롬프트로 비교해 보세요.
튀르키예에서 호스팅하면 자동으로 KVKK를 준수하게 되나요?
아닙니다. 처리 근거, 고지, 보존, 접근, 그리고 연동이나 지원을 통한 모든 이전을 여전히 평가해야 합니다. 리전 컴퓨팅은 그 평가의 한 부분입니다.
결제할 때 어떤 환율이 적용되나요?
가격은 USD로 책정됩니다. 카드로 결제하면 TRY 금액은 해당 시점의 TCMB USD 외환 매도 환율로 계산되며, 해당 결제 세션 동안 고정됩니다. 따라서 같은 사용량이라도 TRY 비용은 환율에 따라 달라지며, 부가세는 별도로 표시됩니다.
첫 배포를
준비하세요.
대표 프롬프트 세트, 대상 리전, 예상 분당 요청 수, 최대 동시 요청 수, 컨텍스트/출력 한도를 준비하세요. 민감한 데이터와 보존 요구 사항을 파악하세요. 용량과 상업 조건에 합의하기 전에 모델 탐색기와 요금 가이드로 범위를 정의하세요.
튀르키예 이스탄불 · OpenAI 호환 · KVKK 고려
← 요금
예시 요금 및 한도이며 현재 제공 조건이 아닙니다. 최종 모델 가용성, 가격, 용량, 보존 기간, SLA는 배포 계약에서 정해집니다.