05/Modelos

Modelos abertos
para inferência de LLM.

Modelos de pesos abertos, de embeddings, de reranking e de fala por trás de uma única API. Traga seus próprios pesos quando o catálogo não for suficiente.

MetaLlama
QwenQwen
DeepSeekDeepSeek
MistralMistral

As marcas das famílias de modelos identificam seus respectivos proprietários. A disponibilidade depende da sua implantação; nenhuma parceria ou endosso está implícito.

ModeloFamíliaTarefaContextoImplantaçãoRegiãoDisponibilidade
Llama
Chat
128K
Compartilhado · Desempenho · Dedicado
TR-IST
SOB CONSULTA
Implantar → API →
Llama
Chat
128K
Compartilhado · Desempenho
TR-IST
SOB CONSULTA
Implantar → API →
Llama
Segurança · Moderação
128K
Compartilhado · Desempenho
TR-IST
SOB CONSULTA
Implantar → API →
Qwen
Chat · Turco
128K
Compartilhado · Desempenho · Dedicado
TR-IST
SOB CONSULTA
Implantar → API →
Qwen
Programação
128K
Compartilhado · Desempenho · Dedicado
TR-IST
SOB CONSULTA
Implantar → API →
Qwen
Chat
128K
Compartilhado · Desempenho
TR-IST
SOB CONSULTA
Implantar → API →
DeepSeek
Raciocínio
128K
Compartilhado · Desempenho · Dedicado
TR-IST
SOB CONSULTA
Implantar → API →
DeepSeek
Raciocínio
128K
Compartilhado · Desempenho · Dedicado
TR-IST
SOB CONSULTA
Implantar → API →
Mistral
Chat
128K
Desempenho · Dedicado
TR-IST
SOB CONSULTA
Implantar → API →
Mistral
Chat
32K
Compartilhado · Desempenho
TR-IST
SOB CONSULTA
Implantar → API →
Mistral
Chat
32K
Compartilhado
TR-IST
SOB CONSULTA
Implantar → API →
Turco
Chat · Turco
Por modelo
Compartilhado · Desempenho · Dedicado
TR-IST
SOB CONSULTA
Implantar → API →
Utilitários
Embedding · Turco
Por modelo
Compartilhado · Desempenho
TR-IST
SOB CONSULTA
Implantar → API →
Utilitários
Reranking
Por modelo
Compartilhado · Desempenho
TR-IST
SOB CONSULTA
Implantar → API →
Utilitários
Fala · Turco
Áudio
Compartilhado · Desempenho
TR-IST
SOB CONSULTA
Implantar → API →
Personalizado
Personalizado
Por modelo
Dedicado · Enterprise
À sua escolha
SOB CONSULTA
Implantar → API →
16 de 16 modelos Catálogo de modelos ilustrativo. Confirme a versão implantada, o identificador da API, o limite de contexto e a disponibilidade antes do lançamento.

Como escolher um modelo aberto

Comece pela tarefa e pelos seus dados de avaliação; depois, selecione um modelo e uma implantação. Número de parâmetros, tamanho de contexto e local de hospedagem descrevem restrições diferentes; nenhum deles é, por si só, uma medida de qualidade.

Qualidade por tarefa e idioma

Teste prompts representativos em turco e inglês, terminologia do domínio, citações e saídas estruturadas. Use um conjunto de avaliação fixo para comparar respostas, resultados de código ou precisão de extração. O nome da família, por si só, não determina a adequação.

Contexto e memória de GPU

O contexto inclui os tokens de entrada e os gerados. Prompts longos e requisições simultâneas aumentam a memória do KV cache, além dos pesos do modelo. Confirme o limite de contexto, a precisão e a concorrência da implantação, em vez de tratar o máximo indicado no model card como capacidade garantida.

Licença e adequação à implantação

Pesos abertos não significam direitos comerciais idênticos. Revise a licença específica do modelo, os termos de uso aceitável e as permissões de ajuste fino. Confirme os identificadores da API, o suporte a ferramentas e a disponibilidade da implantação antes de integrar tráfego de produção.

06/Hardware

Sob cada Pod:
computação real.

O LLMPods não revende a API de outra empresa. Cada Pod é uma stack física, do runtime ao chassi, e cada camada pode ser inspecionada.

Compute Pod · vista explodida
Stack do Pod Runtime
RTX PRO 6000 Blackwell
Acelerador · Ficha técnica 01
ArquiteturaBlackwell
VRAM96 GB GDDR7
ImplantaçãoCompartilhado · Desempenho · Dedicado
RegiãoTR-IST-01
ReservaCapacidade reservada
DisponibilidadeEm operação · 1,3 TB+ de memória de GPU em pool
Blackwell · dedicada
Acelerador · Ficha técnica 02
ArquiteturaBlackwell
VRAMPor classe
ImplantaçãoAluguel de GPU · ajuste fino · serving personalizado
RegiãoTR-IST-01
Reserva$0.79 – $2.50 / hora de GPU
DisponibilidadeSob consulta
Ampere · dedicada
Acelerador · Ficha técnica 03
ArquiteturaAmpere
VRAMPor classe
ImplantaçãoAluguel de GPU · ajuste fino · serving personalizado
RegiãoTR-IST-01
Reserva$0.79 – $2.50 / hora de GPU
DisponibilidadeSob consulta
Cluster corporativo
Acelerador · Ficha técnica 04
ArquiteturaPersonalizado
VRAMPersonalizado
ImplantaçãoCluster dedicado · rede privada
RegiãoÀ sua escolha
ReservaSLA conforme contrato
DisponibilidadeContrato personalizado
Tarifas e limites ilustrativos, não uma oferta vigente. A disponibilidade final dos modelos, o preço, a capacidade, a retenção e o SLA são definidos no seu contrato de implantação. Solicitar capacidade →
07/Regiões

A distância é
infraestrutura.

A Turquia é infraestrutura física. As demais regiões são atendidas pela rede e identificadas dessa forma: em operação, atendida ou planejada.

RegiãoStatusResidência de dadosFaturamentoRede

Estrutura regional ilustrativa · confirme status, residência e faturamento antes do lançamento

Rede regionalTR-IST-01 · em operação
TR-IST-01 EUROPA MENA [PLANEJADO]
Em operação · hospedada Atendida · roteada Planejada

Infraestrutura física na Turquia: clusters RTX PRO 6000 Blackwell com 1,3 TB+ de memória de GPU. Aplicam-se residência de dados orientada à KVKK, preços em USD com pagamento em TRY e suporte a e-Fatura.

Turquia hoje. Mais regiões planejadas.

Hoje, a computação está hospedada na Turquia. Frankfurt e Canadá são locais planejados, não regiões de implantação disponíveis atualmente.

  1. Em operação

    Istambul / Turquia

    Local de computação atual · TR-IST-01

  2. Planejada

    Frankfurt / Alemanha

    Planejado · sem data de lançamento anunciada

  3. Planejada

    Canadá

    Planejado · sem data de lançamento anunciada

08/Controle

Sua carga de trabalho.
Seu perímetro.

Um Dedicated Pod pode ser isolado de todas as rotas, exceto a que pertence a você.

  • Processamento regionalEscolha onde as requisições são processadas.
  • Opções de retenção zeroConfigurações de retenção por implantação.
  • Infraestrutura dedicadaCapacidade de GPU não compartilhada com outros clientes.
  • Endpoints privadosAcesse seu Pod sem passar pelo caminho público.
Internet pública
Pool compartilhado
Outros clientes
Sua rede · endpoint privado

Perímetro ativo · rotas externas fechadas

  • Controles de dados do clienteVocê decide o que é registrado e mantido.
  • Defina no seu contrato o uso permitido dos dadosSeus prompts e saídas continuam sendo seus.
  • Contratos corporativos personalizadosTermos redigidos de acordo com seus requisitos.
  • Infraestrutura orientada à KVKKOpções de implantação alinhadas às obrigações da KVKK.

A hospedagem local, por si só, não estabelece a conformidade com a KVKK.

●/Rastreamento da requisição · demonstração ao vivo

Para onde vai minha requisição?

Envie uma requisição e acompanhe enquanto ela atravessa a stack. Cada etapa informa um carimbo de data/hora, uma duração e um status.

REQUISIÇÃO7F39A21
PRIMEIRO TOKENDEMO 24ms
TOTALDEMO 932ms

Dados de demonstração

EtapaDetalheData/horaDuraçãoStatus
Gateway llmpods.com/panel · auth ok T+000ms 6ms CONCLUÍDO
Região TR-IST-01 selecionada T+006ms 5ms CONCLUÍDO
Roteador rota atribuída · automática T+011ms 3ms CONCLUÍDO
Modelo qwen-coder · carregado T+014ms 4ms CONCLUÍDO
Pod POD-018 pronto T+018ms 3ms CONCLUÍDO
GPU PRO 6000 · alocação mantida T+021ms 3ms CONCLUÍDO
Geração primeiro token · streaming T+024ms 908ms CONCLUÍDO
Resposta stream encerrado · 200 OK T+932ms 1ms CONCLUÍDO