由您掌控的团队访问权限
按指定角色邀请团队成员、轮换 API 密钥并查看公司活动记录。邀请链接会过期，且必须使用受邀且已验证的电子邮件地址。
LLMPods 概览
LLMPods 为开放模型推理提供区域 GPU 基础设施。请根据您的模型、工作负载和数据要求选择部署容量。
- 运营方
- Disket Teknoloji Limited Sirketi · 伊斯坦布尔/土耳其
- 当前算力所在地
- 伊斯坦布尔 / 土耳其
- 模型系列
- Llama · Qwen · DeepSeek · Mistral
- 计划中的区域；目前尚不可用
- 法兰克福 / 德国 · 加拿大
浏览模型、部署选项和价格
面向生产推理的工作空间
在 LLMPods 自有的土耳其 GPU 基础设施上，管理团队访问权限、项目限额和请求级用量。
项目预算与限额
设置项目月度预算、请求速率限制和输出 Token 限制。请求在推理前会预留预估费用；最终费用按经核验的 Token 计量结算。
追踪用量，同时保护内容隐私
按项目、状态或请求 ID 筛选请求。查看延迟、Token 和成本，并导出 CSV。请求记录仅包含元数据，不包含提示词和响应内容。
围绕您的市场打造
您的 AI，在离您更近的地方运行。
延迟、数据存放位置和发票币种都是基础设施层面的决策。请在部署之初就将其纳入考虑，而不是事后补救。
延迟差异，切身可感。
更短的网络路径有助于对话响应更早开始。位于土耳其的算力让本地工作负载就近运行；但模型大小、排队情况和提示词长度仍会影响首个 Token 的时间。
请从您的应用侧测量首个 Token、P50 和 P95。
了解您的 KVKK 风险敞口。
了解提示词、输出、日志和支持数据会流向何处。在土耳其处理模型工作负载有助于限制跨境传输，但合法处理、数据保留和访问控制依然必不可少。
仅在本地托管，并不等于符合 KVKK。
每笔支付，汇率透明。
LLMPods 的用量以 USD 计价。银行卡支付以 TRY 扣款，汇率采用支付时适用的土耳其共和国中央银行（TCMB）USD 现汇卖出价，因此同样工作负载的 TRY 金额会随汇率变动。
汇率和 TRY 金额会在支付前显示，并随该笔支付一并记录；发票以 TRY 开具，并注明所用汇率。
目前在土耳其，更多区域正在计划中。
目前算力托管在土耳其。法兰克福和加拿大为计划中的地点，目前尚不是可用的部署区域。
- 已上线
伊斯坦布尔 / 土耳其
当前算力所在地 · TR-IST-01
- 计划中
法兰克福 / 德国
计划中 · 尚未公布上线日期
- 计划中
加拿大
计划中 · 尚未公布上线日期
首次部署前的常见问题。
我的模型在哪里运行？
当前算力位于土耳其。法兰克福和加拿大正在计划中；来自其他市场的请求可以由土耳其提供服务，无需迁移 GPU。
本地算力总是更快吗？
更短的网络路由可以减少传输延迟，但首个 Token 的时间还取决于模型、队列和输入大小。请从您实际用户所在的位置，用相同的模型和提示词进行比较。
在土耳其托管是否就自动符合 KVKK？
不是。您仍需评估处理依据、告知义务、数据保留、访问权限，以及通过集成或支持渠道发生的任何数据传输。区域算力只是该评估的一部分。
支付时适用哪个汇率？
价格以 USD 计价。使用银行卡支付时，TRY 金额按当时适用的 TCMB USD 现汇卖出价计算，并在该支付会话内保持固定。因此，相同用量的 TRY 费用会随汇率变化；增值税单独列示。
01/系统
API 进。
Token 出。
每个请求都会经过相同的七层。每一层都会报告自己做了什么，因此请求路径绝不是黑盒。
01
应用
请求7F39A21
方法POST
02
LLMPods API
鉴权OK
接口格式OPENAI
03
区域路由器
区域TR-IST
路由自动
04
模型调度器
模型QWEN
队列0
05
Compute Pod
POD018
状态活跃
06
GPU
类别PRO 6000
分配预留
07
Token 流
状态流式传输
首个 Token演示 24ms
层 03 开发者控制
层 02 系统智能
层 01 物理算力
层 03 开发者
示意遥测 · 演示数据
02/开发者体验
只换端点，
技术栈不变。
LLMPods 采用 OpenAI 的接口格式。将现有 SDK 指向新的 base URL，其余代码保持不变。
llmpods.com/panel/v1
1from openai import OpenAI
2import os
3
4client = OpenAI(
5 base_url="https://llmpods.com/panel/v1",一行代码迁移 →
6 api_key=os.environ["LLMPODS_API_KEY"],
7)
8
9stream = client.chat.completions.create(
10 model="llama-70b-instruct",
11 messages=[{"role": "user", "content": "Hello, Pod."}],
12 stream=True,
13)
14
15for chunk in stream:
16 print(chunk.choices[0].delta.content or "", end="")
- 01兼容 OpenAI 的接口格式
- 02流式响应
- 03工具调用
- 04嵌入
- 05支持常用 SDK
- 06以开发者为先的迁移
03/Pod
每种工作负载
都有对应的 Pod。
同一运行时上的四种部署拓扑。它们的区别在于，机器有多少归您独享。
拓扑 01
Shared Pod
适用于弹性推理。
- 按用量计费
- 自动扩缩容
- 托管基础设施
- 共享 GPU 池
拓扑 02
Performance Pod
适用于可预测的生产工作负载。
- 预留容量
- 优先调度
- 性能稳定
- 可用性可预期
拓扑 03
Dedicated Pod
适用于需要隔离的工作负载。
- 专用 GPU
- 自定义模型
- 私有端点
- 隔离资源
拓扑 04
Enterprise Pod
适用于战略性基础设施需求。
- 多 GPU
- 专用集群
- 私有网络
- 区域控制
- SLA
- 定制架构
04/扩展
容量随流量而动。
按实际需求扩缩容量，而不是按峰值流量预置基础设施。
入站流量
- 请求数 / 秒
- 120
- 活跃 Pod
- 1
- GPU 利用率
- 58%
- 队列
- 0
- Token / 秒
- 9.6K
路由器 · TR-IST-01
基线 · 1 个 Pod
001
活跃
002
待机
003
待机
004
待机
005
待机
006
待机
007
待机
008
待机
009
待机
010
待机
011
待机
012
待机
013
待机
014
待机
015
待机
016
待机
活跃
预热
待机
示意模拟
首页 1 结束 · 首屏与系统
下一节 — 05 / 模型 →