17/Serviços

Inferência de LLM
e serviços de GPU.

Inferência gerenciada por meio de uma API compatível com OpenAI, aluguel de GPU dedicada e capacidade corporativa. Uma plataforma, três formas de executar.

MetaLlama
QwenQwen
DeepSeekDeepSeek
MistralMistral

As marcas das famílias de modelos identificam seus respectivos proprietários. A disponibilidade depende da sua implantação; nenhuma parceria ou endosso está implícito.

API REST compatível com OpenAI
Substituição direta com migração de uma linha
Respostas em streaming e chamada de funções
Embeddings, reranking e fala para texto
Escalonamento automático com opções de capacidade reservada
Preços em USD, pagamento em TRY e e-Fatura
01

Inferência gerenciada

Pague por token para usar modelos de pesos abertos por trás de uma única API.

Shared Pod · Performance Pod
Inclui
  • API REST compatível com OpenAI
  • Famílias de modelos por implantação
  • Streaming
  • Chamada de funções e ferramentas
  • Embeddings, reranking, fala para texto
A partir de
$0.12 – $2.50
por 1M de tokens · conforme o contexto
Planejar implantação →
02

Aluguel de GPU

GPUs dedicadas para ajuste fino e serving personalizado.

Performance Pod · Dedicated Pod
Inclui
  • GPUs Blackwell ou Ampere dedicadas
  • Ajuste fino
  • Serving de modelos personalizados
  • Endpoint privado
A partir de
$0.79 – $2.50
por hora de GPU
Solicitar capacidade →
03

Enterprise

Capacidade reservada sob contrato anual personalizado.

Enterprise Pod
Inclui
  • Capacidade dedicada
  • SLA conforme contrato
  • Documentação KVKK
  • Fatura em TRY pela taxa do TCMB
Faturamento
Contrato anual
Capacidade e termos personalizados
Explorar Enterprise →
18/Famílias de modelos

Modelos abertos,
prontos para chamar.

Escolha entre famílias de pesos abertos, modelos ajustados para turco e modelos utilitários para recuperação e fala. Traga seu próprio modelo com ajuste fino quando precisar.

Llama

  • 3.3 70B Instruct
  • 3.1 8B Instruct
  • Guard 3 8B

Qwen

  • 2.5 72B Instruct
  • 2.5 Coder 32B
  • 2.5 7B Instruct

DeepSeek

  • R1 Distill 70B
  • R1 Distill 32B

Mistral

  • Large
  • Mixtral 8x7B Instruct
  • 7B Instruct

Turco

  • Modelos de chat ajustados
  • Modelos de embedding
  • Ajustes finos personalizados

Utilitários

  • Embeddings de texto
  • Reranking
  • Fala para texto
Abrir o explorador de modelos →
19/Planos e tarifas ilustrativos

Planeje seu uso.
Dimensione sua capacidade.

Tarifas e limites ilustrativos, não uma oferta vigente. A disponibilidade final dos modelos, o preço, a capacidade, a retenção e o SLA são definidos no seu contrato de implantação.

Teste

  • 1M de tokens gratuitos
  • 5 requisições por segundo
  • Sem SLA

Starter

  • Pagamento por uso
  • 20 requisições por segundo
  • Pool compartilhado

Growth

  • Mínimo de $500 por mês
  • 20% de desconto nas tarifas
  • 100 requisições por segundo
  • SLA conforme contrato
USD por 1M de tokens
ContextoStarterGrowth
4K$0.15$0.12
8K$0.25$0.20
32K$1.00$0.80
128K—$2.50

Tarifas e limites ilustrativos, não uma oferta vigente. A disponibilidade final dos modelos, o preço, a capacidade, a retenção e o SLA são definidos no seu contrato de implantação.

Um espaço de trabalho para inferência em produção

Gerencie o acesso da equipe, os limites de projeto e o uso por requisição em infraestrutura de GPU de propriedade do LLMPods na Turquia.

Acesso da equipe sob seu controle

Convide colegas com funções definidas, rotacione chaves de API e revise a atividade da empresa. Os links de convite expiram e exigem o endereço de e-mail convidado e verificado.

Limites de gastos e de taxa por projeto

Defina limites de gastos mensais por projeto e limites de taxa de requisições e de tokens de saída. As requisições reservam o custo estimado antes da inferência; as cobranças finais usam medições de tokens verificadas.

Rastreie o uso, mantenha o conteúdo privado

Filtre requisições por projeto, status ou ID da requisição. Inspecione latência, tokens e custo e exporte em CSV. Os registros de requisições contêm metadados, e não o conteúdo dos prompts e das respostas.

Abrir painel do cliente →

Escolha a capacidade de que sua carga de trabalho precisa.

01

Comece com uma API

Para protótipos, assistentes e tráfego variável: comece com inferência gerenciada e meça o uso antes de reservar capacidade.

02

Reserve para demanda estável

Para tráfego de produção com uma linha de base conhecida: discuta capacidade reservada e agendamento com base nas suas próprias metas de latência.

03

Isole cargas de trabalho sensíveis

Para pesos personalizados ou perímetros mais rígidos: defina recursos dedicados, endpoints privados e termos de tratamento de dados no contrato de implantação.

Como avaliar um provedor de inferência de LLM

01

Meça o caminho completo da resposta

Teste o mesmo modelo, tamanho de prompt e limite de saída a partir da região dos seus usuários. Registre o tempo até o primeiro token, o tempo total de resposta e a latência p95 na concorrência esperada. A proximidade de rede, por si só, não prevê a vazão do modelo.

02

Mapeie cada transferência de dados

Documente prompts, saídas, logs, backups e o acesso do suporte. Pergunte quais partes os processam, onde são armazenados e por quanto tempo são retidos. Hospedar na Turquia é um dos fatores de uma avaliação de KVKK, não uma garantia de conformidade.

03

Compare o custo para a mesma carga de trabalho

Compare custos baseados em tokens e em horas de GPU considerando o tráfego esperado, a capacidade ociosa, o armazenamento e o trabalho operacional. Confirme a moeda de faturamento, os impostos e qualquer indexação cambial antes de assumir um compromisso.

Compare o modelo operacional. →

Prepare sua primeira implantação

Traga um conjunto representativo de prompts, a região de destino, as requisições por minuto esperadas, o pico de concorrência e os limites de contexto/saída. Identifique dados sensíveis e requisitos de retenção. Use o explorador de modelos e o guia de preços para definir o escopo antes de chegar a um acordo sobre capacidade e termos comerciais.

21/Desempenho e confiança

Rápido onde
seus dados estão.

A latência e a vazão dependem do modelo, da entrada e da carga. Teste-as com sua carga de trabalho; as metas de disponibilidade e as compensações são definidas no contrato de serviço.

TTFTTempo até o primeiro tokenMeça com sua carga de trabalho
TPSTokens por segundoMeça com sua carga de trabalho
SLASLA conforme contrato
Avalie o tratamento de dados sob a KVKK e as transferências internacionais
Defina no seu contrato o uso permitido dos dados
Confirme a retenção de prompts, saídas e logs
Combine os papéis e as responsabilidades no tratamento de dados
Acordos jurídicos específicos por região, conforme a jurisdição
Empresa, privacidade e termos
22/Cobertura

GPUs reais,
localização real.

Hoje, todas as GPUs operam na Turquia. Outros territórios são atendidos pela rede, e novos locais estão planejados.

Em operação

Turquia

Clusters RTX PRO 6000 Blackwell com 1,3 TB+ de memória de GPU. Residência de dados orientada à KVKK, preços em USD e pagamento em TRY.

Atendida

MENA e Europa

Atendidas pela rede a partir da Turquia. Todas as GPUs permanecem na Turquia.

Planejada

Frankfurt · Canadá

Hoje, a computação está hospedada na Turquia. Frankfurt e Canadá são locais planejados, não regiões de implantação disponíveis atualmente.

Perguntas antes da sua primeira implantação.

Onde meu modelo é executado?

A computação atual está na Turquia. Frankfurt e Canadá estão planejados; requisições de outros mercados podem ser atendidas a partir da Turquia sem mover as GPUs.

A computação local é sempre mais rápida?

Uma rota de rede mais curta pode reduzir o atraso de transporte, mas o tempo até o primeiro token também depende do modelo, da fila e do tamanho da entrada. Compare o mesmo modelo e prompt a partir da localização real dos seus usuários.

Hospedar na Turquia significa automaticamente estar em conformidade com a KVKK?

Não. Você ainda precisa avaliar as bases legais do tratamento, os avisos, a retenção, o acesso e quaisquer transferências por meio de integrações ou do suporte. A computação regional é uma parte dessa avaliação.

Qual taxa de câmbio se aplica quando eu pago?

Os preços são em USD. Quando você paga com cartão, o valor em TRY é calculado pela taxa de câmbio de venda de divisas do TCMB para o USD, vigente naquele momento, e fica fixado para essa sessão de pagamento. Por isso, o custo em TRY do mesmo uso varia com o câmbio; o IVA é exibido separadamente.

Empresa, privacidade e termos →

Prepare sua
primeira implantação.

Traga um conjunto representativo de prompts, a região de destino, as requisições por minuto esperadas, o pico de concorrência e os limites de contexto/saída. Identifique dados sensíveis e requisitos de retenção. Use o explorador de modelos e o guia de preços para definir o escopo antes de chegar a um acordo sobre capacidade e termos comerciais.

Planejar implantação → Explorar Enterprise
Istambul, Turquia · Compatível com OpenAI · Orientado à KVKK
← Preços Tarifas e limites ilustrativos, não uma oferta vigente. A disponibilidade final dos modelos, o preço, a capacidade, a retenção e o SLA são definidos no seu contrato de implantação.