05/모델

LLM 추론을 위한
오픈 모델.

오픈 웨이트, 임베딩, 리랭킹, 음성 모델을 하나의 API로 제공합니다. 카탈로그로 충분하지 않다면 자체 가중치를 가져오세요.

MetaLlama
QwenQwen
DeepSeekDeepSeek
MistralMistral

모델 계열 상표는 각 소유자를 나타냅니다. 이용 가능 여부는 배포에 따라 다르며, 제휴나 보증을 의미하지 않습니다.

모델계열작업컨텍스트배포리전가용성
Llama
채팅
128K
공유 · 퍼포먼스 · 전용
TR-IST
요청 시
배포하기 → API →
Llama
채팅
128K
공유 · 퍼포먼스
TR-IST
요청 시
배포하기 → API →
Llama
안전 · 모더레이션
128K
공유 · 퍼포먼스
TR-IST
요청 시
배포하기 → API →
Qwen
채팅 · 튀르키예어
128K
공유 · 퍼포먼스 · 전용
TR-IST
요청 시
배포하기 → API →
Qwen
코딩
128K
공유 · 퍼포먼스 · 전용
TR-IST
요청 시
배포하기 → API →
Qwen
채팅
128K
공유 · 퍼포먼스
TR-IST
요청 시
배포하기 → API →
DeepSeek
추론형
128K
공유 · 퍼포먼스 · 전용
TR-IST
요청 시
배포하기 → API →
DeepSeek
추론형
128K
공유 · 퍼포먼스 · 전용
TR-IST
요청 시
배포하기 → API →
Mistral
채팅
128K
퍼포먼스 · 전용
TR-IST
요청 시
배포하기 → API →
Mistral
채팅
32K
공유 · 퍼포먼스
TR-IST
요청 시
배포하기 → API →
Mistral
채팅
32K
공유
TR-IST
요청 시
배포하기 → API →
튀르키예어
채팅 · 튀르키예어
모델별
공유 · 퍼포먼스 · 전용
TR-IST
요청 시
배포하기 → API →
유틸리티
임베딩 · 튀르키예어
모델별
공유 · 퍼포먼스
TR-IST
요청 시
배포하기 → API →
유틸리티
리랭킹
모델별
공유 · 퍼포먼스
TR-IST
요청 시
배포하기 → API →
유틸리티
음성 · 튀르키예어
오디오
공유 · 퍼포먼스
TR-IST
요청 시
배포하기 → API →
커스텀
커스텀
모델별
전용 · 엔터프라이즈
선택 가능
요청 시
배포하기 → API →
16 / 16 모델 예시 모델 카탈로그입니다. 출시 전에 배포 버전, API 식별자, 컨텍스트 한도, 가용성을 확인하세요.

오픈 모델 선택 방법

작업과 평가 데이터에서 출발한 뒤 모델과 배포를 선택하세요. 파라미터 수, 컨텍스트 길이, 호스팅 위치는 각기 다른 제약 조건을 나타내며, 어느 것도 그 자체로 품질 점수가 아닙니다.

작업 및 언어 품질

대표적인 튀르키예어 및 영어 프롬프트, 도메인 용어, 인용, 구조화된 출력을 테스트하세요. 고정된 평가 세트로 답변, 코딩 결과, 추출 정확도를 비교하세요. 모델 계열 이름만으로 적합성이 결정되지는 않습니다.

컨텍스트와 GPU 메모리

컨텍스트에는 입력 토큰과 생성된 토큰이 모두 포함됩니다. 긴 프롬프트와 동시 요청은 모델 가중치와 함께 KV 캐시 메모리를 늘립니다. 모델 카드의 최대값을 보장된 용량으로 여기지 말고, 배포된 컨텍스트 한도, 정밀도, 동시성을 확인하세요.

라이선스 및 배포 적합성

오픈 웨이트라고 해서 상업적 권리가 모두 같은 것은 아닙니다. 각 모델의 라이선스, 허용 사용 조건, 파인튜닝 허용 여부를 검토하세요. 프로덕션 트래픽을 연동하기 전에 API 식별자, 도구 지원, 배포 가용성을 확인하세요.

06/하드웨어

모든 Pod 아래에는
실제 컴퓨팅이 있습니다.

LLMPods는 다른 회사의 API를 재판매하지 않습니다. 모든 Pod는 런타임부터 섀시까지 이어지는 물리적 스택이며, 각 계층을 직접 확인할 수 있습니다.

Compute Pod · 분해도
Pod 런타임 스택
RTX PRO 6000 Blackwell
가속기 · 사양서 01
아키텍처Blackwell
VRAM96 GB GDDR7
배포공유 · 퍼포먼스 · 전용
리전TR-IST-01
예약예약 용량
가용성운영 중 · 1.3 TB+ 풀링 GPU 메모리
Blackwell · 전용
가속기 · 사양서 02
아키텍처Blackwell
VRAM클래스별
배포GPU 대여 · 파인튜닝 · 커스텀 서빙
리전TR-IST-01
예약$0.79 – $2.50 / GPU 시간
가용성요청 시
Ampere · 전용
가속기 · 사양서 03
아키텍처Ampere
VRAM클래스별
배포GPU 대여 · 파인튜닝 · 커스텀 서빙
리전TR-IST-01
예약$0.79 – $2.50 / GPU 시간
가용성요청 시
엔터프라이즈 클러스터
가속기 · 사양서 04
아키텍처맞춤형
VRAM맞춤형
배포전용 클러스터 · 프라이빗 네트워킹
리전선택 가능
예약계약에 따른 SLA
가용성맞춤 계약
예시 요금 및 한도이며 현재 제공 조건이 아닙니다. 최종 모델 가용성, 가격, 용량, 보존 기간, SLA는 배포 계약에서 정해집니다. 용량 요청 →
07/리전

거리는
인프라입니다.

튀르키예에는 물리 인프라가 있습니다. 다른 리전은 네트워크를 통해 제공되며 운영 중, 네트워크 제공, 계획됨으로 구분해 표시합니다.

리전상태데이터 레지던시청구네트워크

예시 리전 구조 · 출시 전에 상태, 레지던시, 청구를 확인하세요

리전 네트워크TR-IST-01 · 운영 중
TR-IST-01 유럽 MENA [계획됨]
운영 중 · 호스팅 네트워크 제공 · 라우팅 계획됨

튀르키예의 물리 인프라: 1.3 TB+ GPU 메모리를 갖춘 RTX PRO 6000 Blackwell 클러스터. KVKK를 고려한 데이터 레지던시, USD 요금과 TRY 결제, e-Fatura 지원이 적용됩니다.

현재는 튀르키예. 추가 리전 계획 중.

현재 컴퓨팅은 튀르키예에서 호스팅됩니다. 프랑크푸르트와 캐나다는 계획된 위치이며, 현재 이용 가능한 배포 리전이 아닙니다.

  1. 운영 중

    이스탄불 / 튀르키예

    현재 컴퓨팅 위치 · TR-IST-01

  2. 계획됨

    프랑크푸르트 / 독일

    계획됨 · 출시일 미발표

  3. 계획됨

    캐나다

    계획됨 · 출시일 미발표

08/제어

내 워크로드.
내 경계.

Dedicated Pod는 고객이 소유한 경로를 제외한 모든 경로에서 차단할 수 있습니다.

  • 리전 내 처리요청이 처리될 위치를 선택하세요.
  • 무보존 옵션배포별 보존 설정.
  • 전용 인프라다른 테넌트와 공유하지 않는 GPU 용량.
  • 프라이빗 엔드포인트공용 경로를 거치지 않고 Pod에 접근하세요.
공용 인터넷
공유 풀
다른 테넌트
내 네트워크 · 프라이빗 엔드포인트

경계 활성 · 외부 경로 차단됨

  • 고객 데이터 제어무엇을 기록하고 보관할지 고객이 결정합니다.
  • 허용되는 데이터 사용 범위를 계약에서 정의하세요프롬프트와 출력은 고객의 소유로 유지됩니다.
  • 맞춤형 엔터프라이즈 계약요구 사항에 맞춰 작성하는 계약 조건.
  • KVKK를 고려한 인프라KVKK 의무에 맞춘 배포 옵션.

로컬 호스팅만으로 KVKK 준수가 성립하지는 않습니다.

●/요청 트레이스 · 라이브 데모

내 요청은 어디로 가나요?

요청을 보내고 스택을 통과하는 과정을 지켜보세요. 각 단계는 타임스탬프, 소요 시간, 상태를 보고합니다.

요청7F39A21
첫 토큰데모 24ms
합계데모 932ms

데모 데이터

단계세부 정보타임스탬프소요 시간상태
게이트웨이 llmpods.com/panel · auth ok T+000ms 6ms 완료
리전 TR-IST-01 선택됨 T+006ms 5ms 완료
라우터 경로 할당됨 · 자동 T+011ms 3ms 완료
모델 qwen-coder · 로드됨 T+014ms 4ms 완료
Pod POD-018 준비됨 T+018ms 3ms 완료
GPU PRO 6000 · 할당 유지 T+021ms 3ms 완료
생성 첫 토큰 · 스트리밍 T+024ms 908ms 완료
응답 스트림 종료 · 200 OK T+932ms 1ms 완료