05/Modèles

Des modèles ouverts
pour l'inférence LLM.

Modèles à poids ouverts, d'embedding, de reranking et de reconnaissance vocale derrière une seule API. Apportez vos propres poids quand le catalogue ne suffit pas.

MetaLlama
QwenQwen
DeepSeekDeepSeek
MistralMistral

Les marques des familles de modèles identifient leurs propriétaires respectifs. La disponibilité dépend de votre déploiement ; aucun partenariat ni soutien n'est sous-entendu.

ModèleFamilleTâcheContexteDéploiementRégionDisponibilité
Llama
Chat
128K
Partagé · Performance · Dédié
TR-IST
SUR DEMANDE
Déployer → API →
Llama
Chat
128K
Partagé · Performance
TR-IST
SUR DEMANDE
Déployer → API →
Llama
Sécurité · Modération
128K
Partagé · Performance
TR-IST
SUR DEMANDE
Déployer → API →
Qwen
Chat · Turc
128K
Partagé · Performance · Dédié
TR-IST
SUR DEMANDE
Déployer → API →
Qwen
Programmation
128K
Partagé · Performance · Dédié
TR-IST
SUR DEMANDE
Déployer → API →
Qwen
Chat
128K
Partagé · Performance
TR-IST
SUR DEMANDE
Déployer → API →
DeepSeek
Raisonnement
128K
Partagé · Performance · Dédié
TR-IST
SUR DEMANDE
Déployer → API →
DeepSeek
Raisonnement
128K
Partagé · Performance · Dédié
TR-IST
SUR DEMANDE
Déployer → API →
Mistral
Chat
128K
Performance · Dédié
TR-IST
SUR DEMANDE
Déployer → API →
Mistral
Chat
32K
Partagé · Performance
TR-IST
SUR DEMANDE
Déployer → API →
Mistral
Chat
32K
Partagé
TR-IST
SUR DEMANDE
Déployer → API →
Turc
Chat · Turc
Par modèle
Partagé · Performance · Dédié
TR-IST
SUR DEMANDE
Déployer → API →
Utilitaire
Embedding · Turc
Par modèle
Partagé · Performance
TR-IST
SUR DEMANDE
Déployer → API →
Utilitaire
Reranking
Par modèle
Partagé · Performance
TR-IST
SUR DEMANDE
Déployer → API →
Utilitaire
Parole · Turc
Audio
Partagé · Performance
TR-IST
SUR DEMANDE
Déployer → API →
Personnalisé
Personnalisé
Par modèle
Dédié · Entreprise
Au choix
SUR DEMANDE
Déployer → API →
16 sur 16 modèles Catalogue de modèles illustratif. Vérifiez la version déployée, l'identifiant API, la limite de contexte et la disponibilité avant le lancement.

Comment choisir un modèle ouvert

Partez de la tâche et de vos données d'évaluation, puis choisissez un modèle et un déploiement. Le nombre de paramètres, la longueur de contexte et le lieu d'hébergement décrivent des contraintes différentes ; aucun n'est en soi un indicateur de qualité.

Qualité selon la tâche et la langue

Testez des prompts représentatifs en turc et en anglais, la terminologie de votre domaine, les citations et les sorties structurées. Utilisez un jeu d'évaluation fixe pour comparer les réponses, les résultats de code ou la précision d'extraction. Le nom d'une famille ne suffit pas à déterminer son adéquation.

Contexte et mémoire GPU

Le contexte comprend les tokens d'entrée et les tokens générés. Les prompts longs et les requêtes simultanées augmentent la mémoire du cache KV, en plus des poids du modèle. Vérifiez la limite de contexte déployée, la précision et la concurrence plutôt que de considérer le maximum indiqué dans la fiche du modèle comme une capacité garantie.

Licence et adéquation au déploiement

Poids ouverts ne signifie pas droits commerciaux identiques. Examinez la licence propre à chaque modèle, les conditions d'utilisation acceptable et les autorisations de fine-tuning. Vérifiez les identifiants API, la prise en charge des outils et la disponibilité du déploiement avant d'intégrer du trafic de production.

06/Matériel

Sous chaque Pod :
une vraie puissance de calcul.

LLMPods ne revend pas l'API de quelqu'un d'autre. Chaque Pod est une pile physique, du runtime au châssis, et chaque couche peut être inspectée.

Compute Pod · vue éclatée
Pile Pod Runtime
RTX PRO 6000 Blackwell
Accélérateur · Fiche technique 01
ArchitectureBlackwell
VRAM96 GB GDDR7
DéploiementPartagé · Performance · Dédié
RégionTR-IST-01
RéservationCapacité réservée
DisponibilitéEn service · plus de 1,3 To de mémoire GPU mutualisée
Blackwell · dédié
Accélérateur · Fiche technique 02
ArchitectureBlackwell
VRAMPar classe
DéploiementLocation de GPU · fine-tuning · serving personnalisé
RégionTR-IST-01
Réservation$0.79 – $2.50 / heure GPU
DisponibilitéSur demande
Ampere · dédié
Accélérateur · Fiche technique 03
ArchitectureAmpere
VRAMPar classe
DéploiementLocation de GPU · fine-tuning · serving personnalisé
RégionTR-IST-01
Réservation$0.79 – $2.50 / heure GPU
DisponibilitéSur demande
Cluster entreprise
Accélérateur · Fiche technique 04
ArchitectureSur mesure
VRAMSur mesure
DéploiementCluster dédié · réseau privé
RégionAu choix
RéservationSLA selon contrat
DisponibilitéContrat sur mesure
Tarifs et limites indicatifs, il ne s'agit pas d'une offre en vigueur. La disponibilité finale des modèles, le prix, la capacité, la rétention et le SLA sont définis dans votre contrat de déploiement. Demander de la capacité →
07/Régions

La distance, c'est
de l'infrastructure.

En Turquie, l'infrastructure est physique. Les autres régions sont desservies via le réseau et signalées comme telles : en service, desservie ou prévue.

RégionÉtatRésidence des donnéesFacturationRéseau

Structure régionale illustrative · confirmez les états, la résidence des données et la facturation avant le lancement

Réseau régionalTR-IST-01 · en service
TR-IST-01 EUROPE MENA [PRÉVU]
En service · hébergé Desservi · routé Prévu

Infrastructure physique en Turquie : clusters RTX PRO 6000 Blackwell avec plus de 1,3 To de mémoire GPU. La résidence des données orientée KVKK, les prix en USD avec paiement en TRY et la prise en charge d'e-Fatura s'appliquent.

La Turquie aujourd'hui. D'autres régions prévues.

Aujourd'hui, la puissance de calcul est hébergée en Turquie. Francfort et le Canada sont des emplacements prévus, et non des régions de déploiement actuellement disponibles.

  1. En service

    Istanbul / Turquie

    Emplacement de calcul actuel · TR-IST-01

  2. Prévu

    Francfort / Allemagne

    Prévu · aucune date de lancement annoncée

  3. Prévu

    Canada

    Prévu · aucune date de lancement annoncée

08/Contrôle

Votre charge de travail.
Votre périmètre.

Un Dedicated Pod peut être coupé de toutes les routes, sauf celle qui vous appartient.

  • Traitement régionalChoisissez où les requêtes sont traitées.
  • Options sans rétentionParamètres de rétention par déploiement.
  • Infrastructure dédiéeCapacité GPU non partagée avec d'autres clients.
  • Endpoints privésAccédez à votre Pod sans passer par le réseau public.
Internet public
Pool partagé
Autres clients
Votre réseau · endpoint privé

Périmètre actif · routes externes fermées

  • Contrôle des données clientVous décidez de ce qui est journalisé et conservé.
  • Définissez l'usage autorisé des données dans votre contratVos prompts et vos résultats restent les vôtres.
  • Contrats entreprise sur mesureDes conditions rédigées selon vos exigences.
  • Infrastructure orientée KVKKOptions de déploiement alignées sur les obligations KVKK.

L'hébergement local ne suffit pas à lui seul à établir la conformité KVKK.

●/Trace de requête · démo en direct

Où va ma requête ?

Envoyez une requête et suivez son parcours à travers la pile. Chaque étape indique un horodatage, une durée et un état.

REQUÊTE7F39A21
PREMIER TOKENDÉMO 24 ms
TOTALDÉMO 932ms

Données de démonstration

ÉtapeDétailHorodatageDuréeÉtat
Passerelle llmpods.com/panel · auth ok T+000ms 6ms TERMINÉ
Région TR-IST-01 sélectionnée T+006ms 5ms TERMINÉ
Routeur route attribuée · auto T+011ms 3ms TERMINÉ
Modèle qwen-coder · chargé T+014ms 4ms TERMINÉ
Pod POD-018 prêt T+018ms 3ms TERMINÉ
GPU PRO 6000 · allocation maintenue T+021ms 3ms TERMINÉ
Génération premier token · streaming T+024ms 908ms TERMINÉ
Réponse flux fermé · 200 OK T+932ms 1ms TERMINÉ