Übersicht

Letzte 24 Stunden · Produktion

Anfragen1.84M+8,2 % ggü. Vortag

Tokens412MEingabe 118 Mio. · Ausgabe 294 Mio.

P95 erstes Token684msP50 212 ms

Aktive Pods8/ 122 warm · 2 Standby

GPU-Auslastung67%

Anfragen pro Minute Jetzt · 976 Anfr./min

Demonstrationsdaten

Regionsstatus

TR-IST-01
IstanbulBetriebsbereit

Europa
Bedient aus TR-IST-01Bedient

MENA
Bedient aus TR-IST-01Bedient

Weitere Region
KapazitätsplanungGeplant

Pods

PodModellGPUStatusLast

POD-018Llama 70BPRO 6000AKTIV

POD-024Qwen CoderPRO 6000WARM

POD-031IndividuellPRO 6000DEDIZIERT

POD-007DeepSeekPRO 6000STANDBY

POD-012WhisperPRO 6000STANDBY

POD-009Llama 70BPRO 6000AKTIV

Letzte Anfragen

REQ/7F39A21Llama 70B1,284 tok24 ms200

REQ/7F39A1EQwen Coder640 tok31 ms200

REQ/7F39A18Embedding212 tok9 ms200

REQ/7F39A12Llama 70B2,031 tok27 ms200

REQ/7F39A0BIndividuell388 tok22 ms200

REQ/7F39A05Whisper96 tok48 ms200

Tokens nach Modell

Llama 70B218M

Qwen Coder104M

Embedding61M

Sonstige29M

LLMPods-Konsole · Designvorschau Zurück zur Startseite →