Un accès d'équipe sous votre contrôle
Invitez des collègues avec des rôles définis, renouvelez les clés API et consultez l'activité de l'entreprise. Les liens d'invitation expirent et exigent l'adresse e-mail invitée, vérifiée.
LLMPods en bref
LLMPods fournit une infrastructure GPU régionale pour l'inférence de modèles ouverts. Choisissez la capacité de déploiement en fonction de votre modèle, de votre charge de travail et de vos exigences en matière de données.
- Exploitant
- Disket Teknoloji Limited Sirketi · Istanbul/Turquie
- Emplacement de calcul actuel
- Istanbul / Turquie
- Familles de modèles
- Llama · Qwen · DeepSeek · Mistral
- Régions prévues ; non disponibles aujourd'hui
- Francfort / Allemagne · Canada
Découvrez les modèles, les options de déploiement et les tarifs
Un espace de travail pour l'inférence en production
Gérez l'accès de l'équipe, les limites des projets et l'utilisation requête par requête sur une infrastructure GPU détenue par LLMPods en Turquie.
Budgets et limites par projet
Définissez des budgets mensuels par projet ainsi que des limites de débit de requêtes et de tokens de sortie. Les requêtes réservent le coût estimé avant l'inférence ; les montants finaux reposent sur des mesures de tokens vérifiées.
Tracez l'utilisation, gardez le contenu privé
Filtrez les requêtes par projet, statut ou ID de requête. Examinez la latence, les tokens et le coût, puis exportez au format CSV. Les enregistrements de requêtes contiennent des métadonnées, et non le contenu des prompts et des réponses.
Pensé pour votre marché
Votre IA tourne plus près de chez vous.
La latence, la localisation des données et la devise de facturation sont des décisions d'infrastructure. Intégrez-les à votre déploiement plutôt que d'y penser après coup.
Une latence qui se ressent.
Des chemins réseau plus courts peuvent aider une réponse de chat à démarrer plus tôt. Une puissance de calcul basée en Turquie garde les charges de travail locales à proximité ; la taille du modèle, la mise en file d'attente et la longueur du prompt influencent toujours le délai avant le premier token.
Mesurez le premier token, la P50 et la P95 depuis votre application.
Connaissez votre exposition à la KVKK.
Sachez où circulent les prompts, les résultats, les journaux et les données d'assistance. Traiter les charges de travail de modèles en Turquie peut aider à limiter les transferts transfrontaliers, mais la licéité du traitement, la rétention et les contrôles d'accès restent essentiels.
L'hébergement local ne suffit pas à lui seul à établir la conformité KVKK.
Un taux de change transparent à chaque paiement.
LLMPods tarifie l'utilisation en USD. Les paiements par carte s'effectuent en TRY au cours vendeur des devises de la Banque centrale de la République de Turquie (TCMB) pour l'USD, en vigueur au moment du paiement ; le montant en TRY d'une même charge de travail évolue donc avec le taux de change.
Le taux de change et le montant en TRY sont affichés avant le paiement et enregistrés avec celui-ci ; les factures sont émises en TRY et indiquent le taux appliqué.
La Turquie aujourd'hui. D'autres régions prévues.
Aujourd'hui, la puissance de calcul est hébergée en Turquie. Francfort et le Canada sont des emplacements prévus, et non des régions de déploiement actuellement disponibles.
- En service
Istanbul / Turquie
Emplacement de calcul actuel · TR-IST-01
- Prévu
Francfort / Allemagne
Prévu · aucune date de lancement annoncée
- Prévu
Canada
Prévu · aucune date de lancement annoncée
Questions avant votre premier déploiement.
Où mon modèle s'exécute-t-il ?
La puissance de calcul actuelle se trouve en Turquie. Francfort et le Canada sont prévus ; les requêtes provenant d'autres marchés peuvent être servies depuis la Turquie sans déplacer les GPU.
Le calcul local est-il toujours plus rapide ?
Un trajet réseau plus court peut réduire le délai de transport, mais le délai avant le premier token dépend aussi du modèle, de la file d'attente et de la taille des entrées. Comparez le même modèle et le même prompt depuis l'emplacement réel de vos utilisateurs.
Un hébergement en Turquie signifie-t-il automatiquement la conformité KVKK ?
Non. Vous devez toujours évaluer les fondements juridiques du traitement, les mentions d'information, la rétention, les accès et tout transfert via des intégrations ou l'assistance. Le calcul régional est un élément de cette évaluation.
Quel taux de change s'applique lorsque je paie ?
Les prix sont exprimés en USD. Lorsque vous payez par carte, le montant en TRY est calculé au cours vendeur des devises de la TCMB pour l'USD, en vigueur à ce moment-là, puis figé pour cette session de paiement. Le coût en TRY d'une même utilisation varie donc avec le taux de change ; la TVA est affichée séparément.
01/Système
API en entrée.
Tokens en sortie.
Chaque requête traverse les sept mêmes couches. Chaque couche rend compte de ce qu'elle a fait : le chemin n'est jamais une boîte noire.
01
Application
REQUÊTE7F39A21
MÉTHODEPOST
02
API LLMPods
AUTHENTIFICATIONOK
SCHÉMAOPENAI
03
Routeur régional
RÉGIONTR-IST
ROUTAGEAUTO
04
Ordonnanceur de modèles
MODÈLEQWEN
FILE D'ATTENTE0
05
Compute Pod
POD018
ÉTATACTIF
06
GPU
CLASSEPRO 6000
ALLOCATIONRÉSERVÉ
07
Flux de tokens
STATUTSTREAMING
PREMIER TOKENDÉMO 24 ms
COUCHE 03 Contrôle développeur
COUCHE 02 Intelligence système
COUCHE 01 Calcul physique
COUCHE 03 Développeur
Télémétrie illustrative · données de démonstration
02/Expérience développeur
Changez d'endpoint.
Gardez votre stack.
LLMPods parle le schéma OpenAI. Pointez votre SDK existant vers une nouvelle URL de base et conservez le code qui l'entoure.
llmpods.com/panel/v1
1from openai import OpenAI
2import os
3
4client = OpenAI(
5 base_url="https://llmpods.com/panel/v1",MIGRATION EN UNE LIGNE →
6 api_key=os.environ["LLMPODS_API_KEY"],
7)
8
9stream = client.chat.completions.create(
10 model="llama-70b-instruct",
11 messages=[{"role": "user", "content": "Hello, Pod."}],
12 stream=True,
13)
14
15for chunk in stream:
16 print(chunk.choices[0].delta.content or "", end="")
- 01Schéma compatible OpenAI
- 02Réponses en streaming
- 03Appel d'outils
- 04Embeddings
- 05Prise en charge des SDK habituels
- 06Migration pensée pour les développeurs
03/Pods
Un Pod pour
chaque charge de travail.
Quatre topologies de déploiement sur un même runtime. Ce qui les distingue : la part de la machine qui vous revient.
Topologie 01
Shared Pod
Pour l'inférence élastique.
- Facturation à l'usage
- Mise à l'échelle automatique
- Infrastructure gérée
- Pool de GPU partagé
Topologie 02
Performance Pod
Pour les charges de travail de production prévisibles.
- Capacité réservée
- Ordonnancement prioritaire
- Performances constantes
- Disponibilité prévisible
Topologie 03
Dedicated Pod
Pour les charges de travail isolées.
- GPU dédié
- Modèles personnalisés
- Endpoint privé
- Ressources isolées
Topologie 04
Enterprise Pod
Pour les besoins d'infrastructure stratégiques.
- Multi-GPU
- Cluster dédié
- Réseau privé
- Contrôle régional
- SLA
- Architecture sur mesure
04/Mise à l'échelle
La capacité suit le trafic.
Adaptez la capacité à la demande au lieu de dimensionner l'infrastructure pour les pics de trafic.
Trafic entrant
- Requêtes / s
- 120
- Pods actifs
- 1
- Utilisation GPU
- 58%
- File d'attente
- 0
- Tokens / s
- 9.6K
Routeur · TR-IST-01
Niveau de base · 1 Pod
001
ACTIF
002
EN VEILLE
003
EN VEILLE
004
EN VEILLE
005
EN VEILLE
006
EN VEILLE
007
EN VEILLE
008
EN VEILLE
009
EN VEILLE
010
EN VEILLE
011
EN VEILLE
012
EN VEILLE
013
EN VEILLE
014
EN VEILLE
015
EN VEILLE
016
EN VEILLE
Actif
Préchauffé
En veille
Simulation illustrative
Fin de l'accueil 1 · Hero et système
Suivant — 05 / Modèles →