Панель управления / Консоль Демонстрационные данные · это не рабочий аккаунт
LLMPods / Рабочая среда / TR-IST-01
Все системы работают ⌘K

Обзор

Последние 24 часа · Рабочая среда
Запросы1.84M+8.2% к предыдущему дню
Токены412Mвход 118M · выход 294M
Первый токен P95684msP50 212 ms
Активные Pod8/ 122 прогрето · 2 в ожидании
Загрузка GPU67%
Запросов в минуту Сейчас · 976 запр/мин
1.8k1.1k0.4k -24h-18h-12h-6hсейчас Демонстрационные данные
Состояние регионов
TR-IST-01
СтамбулРаботает
Европа
Обслуживается из TR-IST-01Served
MENA
Обслуживается из TR-IST-01Served
Дополнительный регион
Планирование ёмкостиPlanned
Pods
PodМодельGPUСтатусНагрузка
POD-018Llama 70BPRO 6000АКТИВНЫЙ
POD-024Qwen CoderPRO 6000ПРОГРЕТЫЙ
POD-031ПользовательскийPRO 6000ВЫДЕЛЕННЫЙ
POD-007DeepSeekPRO 6000РЕЗЕРВ
POD-012WhisperPRO 6000РЕЗЕРВ
POD-009Llama 70BPRO 6000АКТИВНЫЙ
Последние запросы
REQ/7F39A21Llama 70B1,284 tok24 ms200
REQ/7F39A1EQwen Coder640 tok31 ms200
REQ/7F39A18Эмбеддинг212 tok9 ms200
REQ/7F39A12Llama 70B2,031 tok27 ms200
REQ/7F39A0BПользовательский388 tok22 ms200
REQ/7F39A05Whisper96 tok48 ms200
Токены по моделям
Llama 70B218M
Qwen Coder104M
Эмбеддинг61M
Другое29M
Консоль LLMPods · дизайн-превью На главную →