任务与语言质量
测试有代表性的土耳其语和英语提示词、领域术语、引用和结构化输出。使用固定的评估集来比较回答、编码结果或抽取准确率。仅凭模型系列名称无法判断是否适用。
05/模型
开放模型
用于 LLM 推理。
开放权重模型、嵌入模型、重排序模型和语音模型，统一通过一个 API 提供。目录无法满足需求时，可使用您自己的权重。
Llama
Qwen
DeepSeek
Mistral模型系列的标识归其各自所有者所有。可用性取决于您的部署；不代表任何合作或背书关系。
模型系列任务上下文部署区域可用性
16 / 16 个模型
示意模型目录。上线前请确认部署版本、API 标识符、上下文上限和可用性。
如何选择开放模型
先从任务和您的评估数据入手，再选择模型和部署方式。参数量、上下文长度和托管位置描述的是不同的约束条件；任何一项本身都不代表质量评分。
上下文与 GPU 显存
上下文包括输入 Token 和生成的 Token。除模型权重外，长提示词和并发请求还会增加 KV 缓存占用的显存。请确认实际部署的上下文上限、精度和并发数，而不要把模型卡上的最大值当作有保证的容量。
许可与部署适配
开放权重并不意味着享有相同的商业权利。请查阅具体模型的许可证、可接受使用条款和微调权限。在接入生产流量之前，请确认 API 标识符、工具支持和部署可用性。
06/硬件
每个 Pod 之下，
都是真实算力。
LLMPods 不转售他人的 API。每个 Pod 都是一套物理堆栈，从运行时到机箱，每一层都可查看。
01
02
03
04
05
06
07
08
Pod 运行时堆栈
RTX PRO 6000 Blackwell
加速器 · 规格表 01
架构Blackwell
VRAM96 GB GDDR7
部署共享 · 性能型 · 专用
区域TR-IST-01
预留预留容量
可用性已上线 · 1.3 TB+ 池化 GPU 显存
Blackwell · 专用
加速器 · 规格表 02
架构Blackwell
VRAM按类别
部署GPU 租用 · 微调 · 自定义模型服务
区域TR-IST-01
预留$0.79 – $2.50 / GPU 小时
可用性按需提供
Ampere · 专用
加速器 · 规格表 03
架构Ampere
VRAM按类别
部署GPU 租用 · 微调 · 自定义模型服务
区域TR-IST-01
预留$0.79 – $2.50 / GPU 小时
可用性按需提供
企业集群
加速器 · 规格表 04
架构定制
VRAM定制
部署专用集群 · 私有网络
区域由您选择
预留SLA 按协议约定
可用性定制协议
价格和限制仅为示例，并非现行报价。最终的模型可用性、价格、容量、数据保留期和 SLA 以您的部署协议为准。
申请容量 →
07/区域
距离本身
就是基础设施。
土耳其是物理基础设施所在地。其他区域通过网络提供服务，并如实标注为：已上线、网络服务或计划中。
区域状态数据驻留计费网络
示意区域结构 · 上线前请确认状态、数据驻留和计费方式
区域网络TR-IST-01 · 已上线
已上线 · 本地托管
网络服务 · 路由转发
计划中
土耳其的物理基础设施：RTX PRO 6000 Blackwell 集群，GPU 显存 1.3 TB+。适用面向 KVKK 的数据驻留、USD 计价与 TRY 支付以及 e-Fatura 支持。
目前在土耳其，更多区域正在计划中。
目前算力托管在土耳其。法兰克福和加拿大为计划中的地点，目前尚不是可用的部署区域。
- 已上线
伊斯坦布尔 / 土耳其
当前算力所在地 · TR-IST-01
- 计划中
法兰克福 / 德国
计划中 · 尚未公布上线日期
- 计划中
加拿大
计划中 · 尚未公布上线日期
08/控制
您的工作负载，
您的边界。
Dedicated Pod 可以切断除您自有路由之外的所有路由。
- 区域内处理选择请求的处理位置。
- 零保留选项可按部署分别设置数据保留策略。
- 专用基础设施GPU 容量不与其他租户共享。
- 私有端点无需经过公网即可访问您的 Pod。
公网
共享池
其他租户
您的网络 · 私有端点
POD-031
TR-IST-01
POD / 031
自定义
PRO 6000 · 私有
专用41%
边界已启用 · 外部路由已关闭
- 客户数据控制记录和保留哪些内容，由您决定。
- 在协议中约定允许的数据用途您的提示词和输出始终归您所有。
- 定制企业协议条款围绕您的需求制定。
- 面向 KVKK 的基础设施部署选项与 KVKK 规定的义务相契合。
仅在本地托管，并不等于符合 KVKK。
●/请求追踪 · 实时演示
我的请求去了哪里？
发送一个请求，观察它穿过整个堆栈。每个阶段都会报告时间戳、耗时和状态。
请求7F39A21
首个 Token演示 24ms
总计演示 932ms
演示数据
阶段详情时间戳耗时状态
网关
llmpods.com/panel · auth ok
T+000ms
6ms
完成
区域
已选择 TR-IST-01
T+006ms
5ms
完成
路由器
已分配路由 · 自动
T+011ms
3ms
完成
模型
qwen-coder · 已加载
T+014ms
4ms
完成
Pod
POD-018 就绪
T+018ms
3ms
完成
GPU
PRO 6000 · 已保留分配
T+021ms
3ms
完成
生成
首个 Token · 流式传输
T+024ms
908ms
完成
响应
流已关闭 · 200 OK
T+932ms
1ms
完成