Acesso da equipe sob seu controle
Convide colegas com funções definidas, rotacione chaves de API e revise a atividade da empresa. Os links de convite expiram e exigem o endereço de e-mail convidado e verificado.
O LLMPods em resumo
O LLMPods oferece infraestrutura de GPU regional para inferência com modelos abertos. Escolha a capacidade de implantação de acordo com seu modelo, sua carga de trabalho e seus requisitos de dados.
- Operador
- Disket Teknoloji Limited Sirketi · Istambul/Turquia
- Local de computação atual
- Istambul / Turquia
- Famílias de modelos
- Llama · Qwen · DeepSeek · Mistral
- Regiões planejadas; não disponíveis hoje
- Frankfurt / Alemanha · Canadá
Explore modelos, opções de implantação e preços
Um espaço de trabalho para inferência em produção
Gerencie o acesso da equipe, os limites de projeto e o uso por requisição em infraestrutura de GPU de propriedade do LLMPods na Turquia.
Limites de gastos e de taxa por projeto
Defina limites de gastos mensais por projeto e limites de taxa de requisições e de tokens de saída. As requisições reservam o custo estimado antes da inferência; as cobranças finais usam medições de tokens verificadas.
Rastreie o uso, mantenha o conteúdo privado
Filtre requisições por projeto, status ou ID da requisição. Inspecione latência, tokens e custo e exporte em CSV. Os registros de requisições contêm metadados, e não o conteúdo dos prompts e das respostas.
Pensado para o seu mercado
Sua IA roda mais perto de casa.
Latência, localização dos dados e moeda da fatura são decisões de infraestrutura. Faça delas parte da sua implantação, não algo para depois.
Latência que você sente.
Caminhos de rede mais curtos podem ajudar uma resposta de chat a começar mais cedo. A computação sediada na Turquia mantém as cargas de trabalho locais por perto; o tamanho do modelo, o enfileiramento e o tamanho do prompt continuam influenciando o tempo até o primeiro token.
Meça o primeiro token, P50 e P95 a partir da sua aplicação.
Conheça sua exposição à KVKK.
Saiba por onde trafegam prompts, saídas, logs e dados de suporte. Processar cargas de trabalho de modelos na Turquia pode ajudar a limitar transferências internacionais, mas o tratamento lícito, a retenção e os controles de acesso continuam essenciais.
A hospedagem local, por si só, não estabelece a conformidade com a KVKK.
Câmbio transparente em cada pagamento.
A LLMPods precifica o uso em USD. Os pagamentos com cartão são cobrados em TRY pela taxa de câmbio de venda de divisas do Banco Central da República da Turquia (TCMB) para o USD, vigente no momento do pagamento; por isso, o valor em TRY da mesma carga de trabalho varia com o câmbio.
A taxa de câmbio e o valor em TRY são exibidos antes de você pagar e registrados junto com o pagamento; as faturas são emitidas em TRY e informam a taxa aplicada.
Turquia hoje. Mais regiões planejadas.
Hoje, a computação está hospedada na Turquia. Frankfurt e Canadá são locais planejados, não regiões de implantação disponíveis atualmente.
- Em operação
Istambul / Turquia
Local de computação atual · TR-IST-01
- Planejada
Frankfurt / Alemanha
Planejado · sem data de lançamento anunciada
- Planejada
Canadá
Planejado · sem data de lançamento anunciada
Perguntas antes da sua primeira implantação.
Onde meu modelo é executado?
A computação atual está na Turquia. Frankfurt e Canadá estão planejados; requisições de outros mercados podem ser atendidas a partir da Turquia sem mover as GPUs.
A computação local é sempre mais rápida?
Uma rota de rede mais curta pode reduzir o atraso de transporte, mas o tempo até o primeiro token também depende do modelo, da fila e do tamanho da entrada. Compare o mesmo modelo e prompt a partir da localização real dos seus usuários.
Hospedar na Turquia significa automaticamente estar em conformidade com a KVKK?
Não. Você ainda precisa avaliar as bases legais do tratamento, os avisos, a retenção, o acesso e quaisquer transferências por meio de integrações ou do suporte. A computação regional é uma parte dessa avaliação.
Qual taxa de câmbio se aplica quando eu pago?
Os preços são em USD. Quando você paga com cartão, o valor em TRY é calculado pela taxa de câmbio de venda de divisas do TCMB para o USD, vigente naquele momento, e fica fixado para essa sessão de pagamento. Por isso, o custo em TRY do mesmo uso varia com o câmbio; o IVA é exibido separadamente.
01/Sistema
API na entrada.
Tokens na saída.
Cada requisição atravessa as mesmas sete camadas. Cada camada informa o que fez, então o caminho nunca é uma caixa-preta.
01
Aplicação
REQUISIÇÃO7F39A21
MÉTODOPOST
02
API do LLMPods
AUTENTICAÇÃOOK
ESQUEMAOPENAI
03
Roteador regional
REGIÃOTR-IST
ROTEAMENTOAUTOMÁTICO
04
Agendador de modelos
MODELOQWEN
FILA0
05
Compute Pod
POD018
ESTADOATIVO
06
GPU
CLASSEPRO 6000
ALOCAÇÃORESERVADO
07
Fluxo de tokens
STATUSSTREAMING
PRIMEIRO TOKENDEMO 24ms
CAMADA 03 Controle do desenvolvedor
CAMADA 02 Inteligência do sistema
CAMADA 01 Computação física
CAMADA 03 Desenvolvedor
Telemetria ilustrativa · dados de demonstração
02/Experiência do desenvolvedor
Troque o endpoint.
Mantenha sua stack.
O LLMPods fala o esquema da OpenAI. Aponte seu SDK atual para uma nova URL base e mantenha o código ao redor.
llmpods.com/panel/v1
1from openai import OpenAI
2import os
3
4client = OpenAI(
5 base_url="https://llmpods.com/panel/v1",MIGRAÇÃO DE UMA LINHA →
6 api_key=os.environ["LLMPODS_API_KEY"],
7)
8
9stream = client.chat.completions.create(
10 model="llama-70b-instruct",
11 messages=[{"role": "user", "content": "Hello, Pod."}],
12 stream=True,
13)
14
15for chunk in stream:
16 print(chunk.choices[0].delta.content or "", end="")
- 01Esquema compatível com OpenAI
- 02Respostas em streaming
- 03Chamada de ferramentas
- 04Embeddings
- 05Suporte a SDKs conhecidos
- 06Migração pensada para desenvolvedores
03/Pods
Um Pod para
cada carga de trabalho.
Quatro topologias de implantação em um único runtime. A diferença entre elas é quanto da máquina pertence a você.
Topologia 01
Shared Pod
Para inferência elástica.
- Cobrança por uso
- Escalonamento automático
- Infraestrutura gerenciada
- Pool de GPUs compartilhado
Topologia 02
Performance Pod
Para cargas de trabalho de produção previsíveis.
- Capacidade reservada
- Agendamento prioritário
- Desempenho consistente
- Disponibilidade previsível
Topologia 03
Dedicated Pod
Para cargas de trabalho isoladas.
- GPU dedicada
- Modelos personalizados
- Endpoint privado
- Recursos isolados
Topologia 04
Enterprise Pod
Para requisitos estratégicos de infraestrutura.
- Multi-GPU
- Cluster dedicado
- Rede privada
- Controle regional
- SLA
- Arquitetura personalizada
04/Escala
A capacidade acompanha o tráfego.
Escale a capacidade conforme a demanda, em vez de provisionar infraestrutura para o pico de tráfego.
Tráfego de entrada
- Requisições / s
- 120
- Pods ativos
- 1
- Utilização de GPU
- 58%
- Fila
- 0
- Tokens / s
- 9.6K
Roteador · TR-IST-01
Linha de base · 1 Pod
001
ATIVO
002
EM ESPERA
003
EM ESPERA
004
EM ESPERA
005
EM ESPERA
006
EM ESPERA
007
EM ESPERA
008
EM ESPERA
009
EM ESPERA
010
EM ESPERA
011
EM ESPERA
012
EM ESPERA
013
EM ESPERA
014
EM ESPERA
015
EM ESPERA
016
EM ESPERA
Ativo
Aquecido
Em espera
Simulação ilustrativa
Fim da Home 1 · Hero e sistema
Próximo — 05 / Modelos →