タスクと言語ごとの品質
代表的なトルコ語と英語のプロンプト、専門用語、引用、構造化出力をテストしてください。固定の評価セットを使って、回答、コーディング結果、抽出精度を比較します。ファミリー名だけで適性は判断できません。
05/モデル
オープンモデルで、
LLM推論を。
オープンウェイト、埋め込み、リランキング、音声の各モデルをひとつのAPIで利用できます。カタログで足りない場合は、独自の重みを持ち込めます。
Llama
Qwen
DeepSeek
Mistralモデルファミリーのマークは、それぞれの所有者を示すものです。提供状況はお客様のデプロイによって異なります。提携や推奨を意味するものではありません。
モデルファミリータスクコンテキストデプロイリージョン提供状況
16 / 16 モデル
例示用のモデルカタログです。運用開始前に、デプロイされるバージョン、API識別子、コンテキスト上限、提供状況をご確認ください。
オープンモデルの選び方
まずタスクと評価データを起点に、モデルとデプロイを選択してください。パラメーター数、コンテキスト長、ホスティング場所はそれぞれ異なる制約を表すものであり、いずれも単独で品質を示す指標ではありません。
コンテキストとGPUメモリ
コンテキストには入力トークンと生成トークンの両方が含まれます。長いプロンプトや同時リクエストは、モデルの重みに加えてKVキャッシュのメモリを増加させます。モデルカードに記載された最大値を保証されたキャパシティとみなさず、デプロイ時のコンテキスト上限、数値精度、同時実行数を確認してください。
ライセンスとデプロイの適合性
オープンウェイトであっても、商用利用の権利が同一とは限りません。各モデルのライセンス、利用規定、ファインチューニングの許諾を確認してください。本番トラフィックを統合する前に、API識別子、ツール対応、デプロイの提供状況を確認してください。
06/ハードウェア
すべてのPodの基盤は、
実機のコンピュート。
LLMPodsは他社APIの再販業者ではありません。すべてのPodはランタイムからシャーシまでを備えた物理スタックであり、各レイヤーを確認できます。
01
02
03
04
05
06
07
08
Podランタイムスタック
RTX PRO 6000 Blackwell
アクセラレーター · 仕様書 01
アーキテクチャBlackwell
VRAM96 GB GDDR7
デプロイ共有 · パフォーマンス · 専用
リージョンTR-IST-01
予約予約キャパシティ
提供状況稼働中 · 1.3TB以上のプール型GPUメモリ
Blackwell · 専用
アクセラレーター · 仕様書 02
アーキテクチャBlackwell
VRAMクラスごと
デプロイGPUレンタル · ファインチューニング · カスタムサービング
リージョンTR-IST-01
予約$0.79 – $2.50 / GPU時間
提供状況要問い合わせ
Ampere · 専用
アクセラレーター · 仕様書 03
アーキテクチャAmpere
VRAMクラスごと
デプロイGPUレンタル · ファインチューニング · カスタムサービング
リージョンTR-IST-01
予約$0.79 – $2.50 / GPU時間
提供状況要問い合わせ
エンタープライズクラスター
アクセラレーター · 仕様書 04
アーキテクチャカスタム
VRAMカスタム
デプロイ専用クラスター · プライベートネットワーク
リージョンお客様が選択
予約SLAは個別契約
提供状況個別契約
料金と上限は例示であり、現在のオファーではありません。最終的なモデルの提供状況、価格、キャパシティ、データ保持、SLAはデプロイ契約で定められます。
キャパシティをリクエスト →
07/リージョン
距離は、
インフラです。
トルコには物理インフラがあります。その他のリージョンはネットワーク経由で提供され、「稼働中」「ネットワーク経由」「計画中」と明示しています。
リージョン状態データレジデンシー請求ネットワーク
例示用のリージョン構成 · 運用開始前に状態、データレジデンシー、請求をご確認ください
リージョナルネットワークTR-IST-01 · 稼働中
稼働中 · ホスティング
ネットワーク経由 · ルーティング
計画中
トルコの物理インフラ：1.3TB以上のGPUメモリを備えたRTX PRO 6000 Blackwellクラスター。KVKKを考慮したデータレジデンシー、USD建て価格とTRY決済、e-Fatura対応が適用されます。
現在はトルコ。今後さらにリージョンを計画中。
現在、コンピュートはトルコでホストされています。フランクフルトとカナダは計画中の拠点であり、現時点でデプロイ可能なリージョンではありません。
- 稼働中
イスタンブール / トルコ
現在のコンピュート拠点 · TR-IST-01
- 計画中
フランクフルト / ドイツ
計画中 · 開始時期は未発表
- 計画中
カナダ
計画中 · 開始時期は未発表
08/コントロール
お客様のワークロード。
お客様が決める境界。
Dedicated Podは、お客様が所有する経路を除くすべての経路から切り離すことができます。
- リージョン内処理リクエストを処理する場所を選択できます。
- データ非保持オプションデプロイごとの保持設定。
- 専用インフラ他のテナントと共有しないGPUキャパシティ。
- プライベートエンドポイントパブリック経路を通らずにPodへアクセス。
パブリックインターネット
共有プール
他のテナント
お客様のネットワーク · プライベートエンドポイント
POD-031
TR-IST-01
POD / 031
カスタム
PRO 6000 · プライベート
専用41%
境界有効 · 外部ルート遮断
- 顧客データの管理何を記録し、何を保持するかはお客様が決めます。
- 許可するデータ利用を契約で定義プロンプトと出力はお客様のものです。
- エンタープライズ向け個別契約お客様の要件に合わせて作成する契約条件。
- KVKKを考慮したインフラKVKKの義務に沿ったデプロイオプション。
現地でのホスティングだけで、KVKKへの準拠が成立するわけではありません。
●/リクエストトレース · ライブデモ
リクエストはどこへ送られるのか？
リクエストを送信し、スタックを通過する様子を確認できます。各ステージがタイムスタンプ、所要時間、状態を報告します。
リクエスト7F39A21
最初のトークンデモ 24ms
合計デモ 932ms
デモデータ
ステージ詳細タイムスタンプ所要時間状態
ゲートウェイ
llmpods.com/panel · auth ok
T+000ms
6ms
完了
リージョン
TR-IST-01 選択済み
T+006ms
5ms
完了
ルーター
ルート割り当て済み · 自動
T+011ms
3ms
完了
モデル
qwen-coder · ロード済み
T+014ms
4ms
完了
Pod
POD-018 準備完了
T+018ms
3ms
完了
GPU
PRO 6000 · 割り当て確保済み
T+021ms
3ms
完了
生成
最初のトークン · ストリーミング
T+024ms
908ms
完了
レスポンス
ストリーム終了 · 200 OK
T+932ms
1ms
完了