05/Модели

Открытые модели
для LLM-инференса.

Open-weight, эмбеддинг-, реранкинг- и речевые модели за одним API. Если каталога мало, приносите свои веса.

MetaLlama
QwenQwen
DeepSeekDeepSeek
MistralMistral

Знаки семейств моделей обозначают их владельцев. Доступность зависит от развёртывания; партнёрство или одобрение не подразумеваются.

МодельСемействоЗадачаКонтекстРазвёртываниеРегионДоступность
Llama
Чат
128K
Общий · Производительный · Выделенный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Llama
Чат
128K
Общий · Производительный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Llama
Безопасность · Модерация
128K
Общий · Производительный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Qwen
Чат · Турецкий
128K
Общий · Производительный · Выделенный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Qwen
Программирование
128K
Общий · Производительный · Выделенный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Qwen
Чат
128K
Общий · Производительный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
DeepSeek
Рассуждение
128K
Общий · Производительный · Выделенный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
DeepSeek
Рассуждение
128K
Общий · Производительный · Выделенный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Mistral
Чат
128K
Производительный · Выделенный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Mistral
Чат
32K
Общий · Производительный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Mistral
Чат
32K
Общий
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Турецкий
Чат · Турецкий
Зависит от модели
Общий · Производительный · Выделенный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Вспомогательный
Эмбеддинг · Турецкий
Зависит от модели
Общий · Производительный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Вспомогательный
Реранкинг
Зависит от модели
Общий · Производительный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Вспомогательный
Речь · Турецкий
Аудио
Общий · Производительный
TR-IST
ПО ЗАПРОСУ
Развернуть → API →
Пользовательский
Пользовательский
Зависит от модели
Выделенный · Корпоративный
На ваш выбор
ПО ЗАПРОСУ
Развернуть → API →
16 из 16 моделей Пример каталога моделей. До запуска уточните версию, API-идентификатор, контекст и доступность.

Как выбрать открытую модель

Начните с задачи и тестовых данных, затем выбирайте модель и размещение. Число параметров, длина контекста и регион отражают разные ограничения; сами по себе они не оценивают качество.

Качество задачи и языка

Проверяйте турецкие и английские запросы, терминологию, ссылки и структурированный вывод. Сравнивайте ответы, код или точность извлечения на фиксированном наборе. Название семейства не определяет пригодность.

Контекст и память GPU

Контекст включает входные и выходные токены. Длинные запросы и параллельность увеличивают KV-кэш помимо весов. Уточняйте реальные лимиты, точность и параллельность; максимум в карточке модели не гарантирует ресурсы.

Лицензия и размещение

Открытые веса не означают одинаковые коммерческие права. Проверьте лицензию, условия использования и право дообучения. До запуска уточните API-идентификаторы, инструменты и доступность размещения.

06/Железо

Под каждым Pod —
реальные вычисления.

LLMPods не перепродаёт чужой API. Каждый Pod — физический стек от runtime до шасси, и каждый слой можно проверить.

Вычислительный Pod · разнесённый вид
Стек Pod Runtime
RTX PRO 6000 Blackwell
Ускоритель · Спецификация 01
АрхитектураBlackwell
VRAM96 GB GDDR7
РазвёртываниеОбщий · Производительный · Выделенный
РегионTR-IST-01
РезервированиеРезервная ёмкость
ДоступностьLive · 1.3 TB+ объединённой памяти GPU
Blackwell · выделенный
Ускоритель · Спецификация 02
АрхитектураBlackwell
VRAMПо классу
РазвёртываниеАренда GPU · дообучение · свой serving
РегионTR-IST-01
Резервирование$0.79 – $2.50 / GPU-час
ДоступностьПо запросу
Ampere · выделенный
Ускоритель · Спецификация 03
АрхитектураAmpere
VRAMПо классу
РазвёртываниеАренда GPU · дообучение · свой serving
РегионTR-IST-01
Резервирование$0.79 – $2.50 / GPU-час
ДоступностьПо запросу
Корпоративный кластер
Ускоритель · Спецификация 04
АрхитектураИндивидуально
VRAMИндивидуально
РазвёртываниеВыделенный кластер · приватная сеть
РегионНа ваш выбор
РезервированиеSLA по договору
ДоступностьИндивидуальное соглашение
Цены и лимиты приведены для примера, а не как действующее предложение. Доступность моделей, цена, ресурсы, хранение и SLA определяются договором. Запросить ёмкость →
07/Регионы

Расстояние —
инфраструктура.

Турция — физическая инфраструктура. Остальные регионы обслуживаются по сети и помечены так: live, served или planned.

РегионСтатусЛокализация данныхБиллингСеть

Иллюстративная региональная структура · перед запуском уточните статусы, локализацию и биллинг

Региональная сетьTR-IST-01 · работает
TR-IST-01 ЕВРОПА MENA [ПЛАНИРУЕТСЯ]
Live · на своих мощностях Served · по маршруту Planned

Физическая инфраструктура в Турции: кластеры RTX PRO 6000 Blackwell с более чем 1,3 ТБ памяти GPU. Размещение данных с учётом KVKK, счета в TRY и поддержка e-Fatura.

Сегодня — Турция. Новые регионы планируются.

Вычисления сегодня размещены в Турции. Франкфурт и Канада — планируемые площадки, пока недоступные для развёртывания.

  1. Live

    Стамбул / Турция

    Текущая площадка · TR-IST-01

  2. Planned

    Франкфурт / Германия

    Планируется · дата запуска не объявлена

  3. Planned

    Канада

    Планируется · дата запуска не объявлена

08/Контроль

Ваша нагрузка.
Ваша граница.

Dedicated Pod можно отрезать от всех маршрутов, кроме вашего.

  • Региональная обработкаВыбирайте, где обрабатываются запросы.
  • Zero-retentionНастройки хранения для каждого развёртывания.
  • Выделенная инфраструктураЁмкость GPU не делится с другими клиентами.
  • Приватные эндпоинтыДоступ к Pod в обход публичной сети.
Публичный интернет
Общий пул
Другие клиенты
Ваша сеть · приватный эндпоинт

Граница активна · внешние маршруты закрыты

  • Контроль над данными клиентаВы решаете, что логировать и хранить.
  • Определяйте использование данных в договореВаши промпты и ответы остаются вашими.
  • Индивидуальные корпоративные соглашенияУсловия под ваши требования.
  • Инфраструктура с учётом KVKKВарианты развёртывания под обязательства KVKK.

Местное размещение само по себе не обеспечивает соответствие KVKK.

●/Трассировка запроса · живое демо

Куда идёт мой запрос?

Отправьте запрос и проследите его путь по стеку. Каждый этап показывает метку времени, длительность и состояние.

ЗАПРОС7F39A21
ПЕРВЫЙ ТОКЕНДЕМО 24 ms
ИТОГОДЕМО 932ms

Демонстрационные данные

ЭтапДеталиМетка времениДлительностьСтатус
Шлюз api.llmpods.com · аутентификация успешна T+000ms 6ms ЗАВЕРШЕНО
Регион Выбран TR-IST-01 T+006ms 5ms ЗАВЕРШЕНО
Маршрутизатор маршрут назначен · автоматически T+011ms 3ms ЗАВЕРШЕНО
Модель qwen-coder · загружен T+014ms 4ms ЗАВЕРШЕНО
Pod POD-018 готов T+018ms 3ms ЗАВЕРШЕНО
GPU PRO 6000 · ресурсы выделены T+021ms 3ms ЗАВЕРШЕНО
Генерация первый токен · поток T+024ms 908ms ЗАВЕРШЕНО
Ответ поток закрыт · 200 OK T+932ms 1ms ЗАВЕРШЕНО