개요

최근 24시간 · 프로덕션

요청1.84M전일 대비 +8.2%

토큰412M입력 118M · 출력 294M

P95 첫 토큰684msP50 212 ms

활성 Pod8/ 12웜 2 · 대기 2

GPU 사용률67%

분당 요청 수 현재 · 976 요청/분

데모 데이터

리전 상태

TR-IST-01
이스탄불정상

유럽
TR-IST-01에서 제공네트워크 제공

MENA
TR-IST-01에서 제공네트워크 제공

추가 리전
용량 계획계획됨

Pod

Pod모델GPU상태부하

POD-018Llama 70BPRO 6000활성

POD-024Qwen CoderPRO 6000웜

POD-031커스텀PRO 6000전용

POD-007DeepSeekPRO 6000대기

POD-012WhisperPRO 6000대기

POD-009Llama 70BPRO 6000활성

최근 요청

REQ/7F39A21Llama 70B1,284 tok24 ms200

REQ/7F39A1EQwen Coder640 tok31 ms200

REQ/7F39A18임베딩212 tok9 ms200

REQ/7F39A12Llama 70B2,031 tok27 ms200

REQ/7F39A0B커스텀388 tok22 ms200

REQ/7F39A05Whisper96 tok48 ms200

모델별 토큰

Llama 70B218M

Qwen Coder104M

임베딩61M

기타29M

LLMPods 콘솔 · 디자인 미리 보기 홈페이지로 돌아가기 →