按 Token 计费的推理
分别估算输入和输出 Token，包括对话历史和检索到的文档。如果费率不同，请按各自的费率分别计算。再乘以预期请求数，并加上任何单独计费的嵌入、重排序或音频用量。
12/价格
GPU 与推理
价格详解。
价格和限制仅为示例，并非现行报价。最终的模型可用性、价格、容量、数据保留期和 SLA 以您的部署协议为准。
推理账单由哪些因素决定？
预留或专用 GPU
估算方式：GPU 数量 × 计费小时数 × 约定小时费率。如适用，还应计入闲置容量、副本、存储和网络费用。将利用率和运维责任与按 Token 计费的托管服务进行比较。
批准报价之前
请确认模型/版本、上下文上限、并发数、计费币种、税务处理、最低承诺用量和超额规则。明确支持时间、数据保留、SLA 衡量方式和除外情形。页面所示示例并不构成具有约束力的容量或服务承诺。
对比
比较运营模式。
不同的工具解决不同的问题。在比较标价之前，请先比较部署控制权、数据存放位置和运维责任。
| 能力 | LLMPods | Runpod | Vast.ai | Lambda |
|---|---|---|---|---|
| 模型访问 | 开放权重模型目录；可按协议进行定制部署 | 自定义 GPU 工作负载和公共模型端点 | 由客户配置的 GPU 实例和模型运行时 | 用于您自有推理服务栈的 GPU 云实例和集群 |
| 数据存放位置 | 目前在土耳其；法兰克福和加拿大在计划中 | 取决于所选的部署和产品 | 所选机器/数据中心及所连接的服务 | 所选的云区域和工作空间 |
| 运维责任 | 托管推理；可按协议提供隔离选项 | 托管端点，或由客户运营的 GPU 容器 | 实例生命周期、容器和日志由客户管理 | 实例环境由客户管理；范围取决于具体产品 |
| 商业模式 | 按用量或预留容量以 USD 计价；银行卡支付按 TCMB 汇率以 TRY 扣款 | 基于额度计费；收取算力和存储费用 | 预付额度；收取 GPU、存储和带宽费用 | 实例/集群算力及文件系统使用费用 |
横向滚动以比较各提供商 →
功能概要，并非性能基准测试。选项因产品和配置而异。资料来源核查于 2026 年 10 月 13 日。
每笔支付，汇率透明。
LLMPods 的用量以 USD 计价。银行卡支付以 TRY 扣款，汇率采用支付时适用的土耳其共和国中央银行（TCMB）USD 现汇卖出价，因此同样工作负载的 TRY 金额会随汇率变动。
汇率和 TRY 金额会在支付前显示，并随该笔支付一并记录；发票以 TRY 开具，并注明所用汇率。
USD/TRY 30
3 000 TRY
USD/TRY 40
4 000 TRY
USD/TRY 50
5 000 TRY
仅作示意：按假设的 USD/TRY 汇率 30、40 和 50 计算 $100 的用量。不含税费和银行手续费；以上并非当前汇率。
14/企业版
当一个 Pod
不够用时。
为您的 AI 工作负载预留底层基础设施。
01 · 单个 Pod
一个模型，一份 GPU 分配。
02 · 多个 Pod
共享路由的多个副本。
03 · 机架
锁定在同一机箱内的多个 Pod。
04 · 集群
位于私有边界内的多个机架。
15/终端
运维 Pod，
如同运维基础设施。
同一系统的命令行视图。概念界面：在 CLI 发布之前，所示命令仅为示意。
llmpods · 概念 CLI概念
$ llmpods 个模型 list
NAME TASK DEPLOYMENT
llama-70b-instruct chat shared
qwen-coder-32b coding shared
bge-m3 embedding shared
$ llmpods pod create --model qwen-coder-32b --gpu l40s --region tr-ist-01
POD CREATED
pod_018
region tr-ist-01
state 就绪
model qwen-coder
$ llmpods logs --follow
req 7f39a21 POST /v1/chat/completions pod_018 ttft 24ms 200
req 7f39a22 POST /v1/embeddings pod_041 ttft 6ms 200
$ llmpods usage
requests 1.28M Token 214M gpu-util 67% · 演示数据
$
16/文档
您早已熟悉
这套 API。
POST
https://llmpods.com/panel/v1/chat/completions
请求JSON
{ "model": "llama-70b-instruct", "stream": true, "messages": [ { "role": "user", "content": "Hello, Pod." } ] }
响应200 · JSON
{ "id": "chatcmpl-7f39a21", "object": "chat.completion", "model": "llama-70b-instruct", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "Hello." }, "finish_reason": "stop" } ], "usage": { "total_tokens": 15 } }
流式输出 TokenSSE
data: {"delta": {"content": "Hel"}} data: {"delta": {"content": "lo"}} data: {"delta": {"content": ","}} data: {"delta": {"content": " Pod"}} data: [DONE]