17/服务

LLM 推理
与 GPU 服务。

通过兼容 OpenAI 的 API 提供托管推理,另有专用 GPU 租用和企业级容量。一个平台,三种运行方式。

MetaLlama
QwenQwen
DeepSeekDeepSeek
MistralMistral

模型系列的标识归其各自所有者所有。可用性取决于您的部署;不代表任何合作或背书关系。

兼容 OpenAI 的 REST API
可直接替换,只需改一行即可迁移
流式响应与函数调用
嵌入、重排序和语音转文字
自动扩缩容,可选预留容量
USD 计价、TRY 支付,支持 e-Fatura
01

托管推理

通过一个 API 使用开放权重模型,按 Token 付费。

Shared Pod · Performance Pod
包含
  • 兼容 OpenAI 的 REST API
  • 模型系列视部署而定
  • 流式传输
  • 函数与工具调用
  • 嵌入、重排序、语音转文字
起价
$0.12 – $2.50
每 100 万 Token · 按上下文
规划部署 →
02

GPU 租用

用于微调和自定义模型服务的专用 GPU。

Performance Pod · Dedicated Pod
包含
  • 专用 Blackwell 或 Ampere GPU
  • 微调
  • 自定义模型服务
  • 私有端点
起价
$0.79 – $2.50
每 GPU 小时
申请容量 →
03

企业版

根据定制年度合同提供预留容量。

Enterprise Pod
包含
  • 专用容量
  • SLA 按协议约定
  • KVKK 文档
  • 按 TCMB 汇率开具 TRY 发票
计费
年度合同
定制容量与条款
了解企业版 →
18/模型系列

开放模型,
随时可调用。

可选择开放权重模型系列、针对土耳其语调优的模型,以及用于检索和语音的工具类模型。如有需要,也可使用您自己的微调模型。

Llama

  • 3.3 70B Instruct
  • 3.1 8B Instruct
  • Guard 3 8B

Qwen

  • 2.5 72B Instruct
  • 2.5 Coder 32B
  • 2.5 7B Instruct

DeepSeek

  • R1 Distill 70B
  • R1 Distill 32B

Mistral

  • Large
  • Mixtral 8x7B Instruct
  • 7B Instruct

土耳其语

  • 调优的对话模型
  • 嵌入模型
  • 自定义微调模型

工具类

  • 文本嵌入
  • 重排序
  • 语音转文字
打开模型浏览器 →
19/示意方案与费率

规划用量,
确定容量。

价格和限制仅为示例,并非现行报价。最终的模型可用性、价格、容量、数据保留期和 SLA 以您的部署协议为准。

试用

  • 100 万免费 Token
  • 每秒 5 个请求
  • 无 SLA

Starter

  • 按量付费
  • 每秒 20 个请求
  • 共享池

Growth

  • 每月最低消费 $500
  • 费率优惠 20%
  • 每秒 100 个请求
  • SLA 按协议约定
美元 / 每 100 万 Token
上下文StarterGrowth
4K$0.15$0.12
8K$0.25$0.20
32K$1.00$0.80
128K—$2.50

价格和限制仅为示例,并非现行报价。最终的模型可用性、价格、容量、数据保留期和 SLA 以您的部署协议为准。

面向生产推理的工作空间

在 LLMPods 自有的土耳其 GPU 基础设施上,管理团队访问权限、项目限额和请求级用量。

由您掌控的团队访问权限

按指定角色邀请团队成员、轮换 API 密钥并查看公司活动记录。邀请链接会过期,且必须使用受邀且已验证的电子邮件地址。

项目预算与限额

设置项目月度预算、请求速率限制和输出 Token 限制。请求在推理前会预留预估费用;最终费用按经核验的 Token 计量结算。

追踪用量,同时保护内容隐私

按项目、状态或请求 ID 筛选请求。查看延迟、Token 和成本,并导出 CSV。请求记录仅包含元数据,不包含提示词和响应内容。

打开客户面板 →

选择您的工作负载所需的容量。

01

从 API 起步

适用于原型、助手和波动流量:先使用托管推理,在预留容量之前先测量用量。

02

为稳定需求预留容量

适用于基线已知的生产流量:结合您自己的延迟目标,商讨预留容量和调度方案。

03

隔离敏感工作负载

适用于自定义权重或更严格的边界要求:在部署协议中明确专用资源、私有端点和数据处理条款。

如何评估 LLM 推理提供商

01

测量完整的响应路径

从您用户所在的区域,使用相同的模型、提示词长度和输出上限进行测试。在预期并发下记录首个 Token 时间、总响应时间和 p95 延迟。仅凭网络距离近,无法预测模型吞吐量。

02

梳理每一次数据传输

记录提示词、输出、日志、备份和支持访问情况。了解哪些主体会处理这些数据、存储在哪里以及保留多久。在土耳其托管只是 KVKK 评估的考量因素之一,并非合规保证。

03

在相同工作负载下比较成本

结合预期流量、闲置容量、存储和运维工作,比较按 Token 计费与按 GPU 小时计费的成本。在做出承诺之前,请确认计费币种、税费以及任何汇率挂钩条款。

比较运营模式。 →

准备您的首次部署

请准备一组有代表性的提示词,并明确目标区域、预期每分钟请求数、峰值并发以及上下文/输出上限。识别敏感数据和保留要求。在商定容量和商务条款之前,先借助模型浏览器和价格指南确定范围。

21/性能与可信

数据在哪里,
速度就在哪里。

延迟和吞吐量取决于模型、输入和负载。请用您的工作负载进行测试;可用性目标和补救措施以服务协议为准。

TTFT首个 Token 耗时以您的工作负载实测
TPS每秒 Token 数以您的工作负载实测
SLASLA 按协议约定
评估 KVKK 下的数据处理与跨境传输
在协议中约定允许的数据用途
确认提示词、输出和日志的保留期限
约定数据处理中的角色与责任
按司法管辖区签订的区域专属法律协议
公司、隐私与条款
22/覆盖范围

真实的 GPU,
真实的位置。

目前所有 GPU 均在土耳其运行。其他地区通过网络提供服务,新站点正在规划中。

已上线

土耳其

RTX PRO 6000 Blackwell 集群,GPU 显存 1.3 TB+。面向 KVKK 的数据驻留、USD 计价与 TRY 支付。

网络服务

中东北非和欧洲

从土耳其经网络提供服务。所有 GPU 均位于土耳其。

计划中

法兰克福 · 加拿大

目前算力托管在土耳其。法兰克福和加拿大为计划中的地点,目前尚不是可用的部署区域。

首次部署前的常见问题。

我的模型在哪里运行?

当前算力位于土耳其。法兰克福和加拿大正在计划中;来自其他市场的请求可以由土耳其提供服务,无需迁移 GPU。

本地算力总是更快吗?

更短的网络路由可以减少传输延迟,但首个 Token 的时间还取决于模型、队列和输入大小。请从您实际用户所在的位置,用相同的模型和提示词进行比较。

在土耳其托管是否就自动符合 KVKK?

不是。您仍需评估处理依据、告知义务、数据保留、访问权限,以及通过集成或支持渠道发生的任何数据传输。区域算力只是该评估的一部分。

支付时适用哪个汇率?

价格以 USD 计价。使用银行卡支付时,TRY 金额按当时适用的 TCMB USD 现汇卖出价计算,并在该支付会话内保持固定。因此,相同用量的 TRY 费用会随汇率变化;增值税单独列示。

公司、隐私与条款 →

准备您的
首次部署。

请准备一组有代表性的提示词,并明确目标区域、预期每分钟请求数、峰值并发以及上下文/输出上限。识别敏感数据和保留要求。在商定容量和商务条款之前,先借助模型浏览器和价格指南确定范围。

规划部署 → 了解企业版
土耳其伊斯坦布尔 · 兼容 OpenAI · 面向 KVKK
← 价格 价格和限制仅为示例,并非现行报价。最终的模型可用性、价格、容量、数据保留期和 SLA 以您的部署协议为准。