09/أحمال العمل

أحمال عمل LLM
من RAG إلى الوكلاء.

اختر حِملًا لترى حزمة Pod التي يحتاجها عادةً، والنشر المناسب، وفئات النماذج داخله.

البنية المولدة · RAG
خارجيالمستخدم
APILLMPods API
PODPod للتضمين
خارجيقاعدة بيانات متجهية
PODPod لإعادة الترتيب
PODPod لنموذج لغوي
خارجيالاستجابة

ما الذي يحتاجه كل حمل عمل؟

توضح هذه الأدلة مسؤوليات التطبيق وأدوار النماذج ومعايير التقييم. هي أنماط مرجعية؛ تحدد بياناتك وحركة الاستخدام والتكاملات الإعداد النهائي.

مساعدو الذكاء الاصطناعي

يدير نموذج المحادثة الحوار بينما يدير تطبيقك التاريخ والمصادقة وأذونات الأدوات. حدّد الاحتفاظ ومسارات التصعيد. قيّم إنجاز المهمة وزمن أول رمز والسلوك عند نقص المعلومات.

دعم العملاء

اربط قاعدة معرفة معتمدة وأرسل فقط بيانات العميل اللازمة. إنشاء التذاكر وتعديل الحسابات يتطلبان تفويض التطبيق. قِس الإجابات الصحيحة والتحويل للبشر والالتزام بالسياسات.

RAG والبحث في المستندات

يقسم تطبيقك المستندات ويدير أذونات البحث وقاعدة المتجهات. تسترجع التضمينات المرشحين وقد يحسن إعادة الترتيب الاختيار قبل إجابة LLM. قيّم المراجع واسترجاع النتائج والادعاءات غير المدعومة.

معالجة المستندات

استخرج النص بـOCR أو محلل مناسب قبل طلب الحقول المنظمة. تحقق من المخرجات وفق مخطط واحتفظ بالمراجع. راجع الحقول التعاقدية أو المالية المهمة مع مختص.

مساعدو البرمجة

اختر نموذجًا للبرمجة وحدّد ملفات المستودع في الإدخال. لا تُدخل الأسرار ونفّذ الكود في بيئة مضبوطة. قارن نجاح الاختبارات وجودة التعديلات وزمن الاستجابة على كودك.

التصنيف والاستخراج

حدّد التصنيفات ومخطط JSON قبل الدفعات. استخدم أمثلة ممثلة وفئة غير معروف. تابع الدقة والاسترجاع وصحة المخطط والتكلفة لكل سجل، وأحل النتائج غير الواضحة للمراجعة.

الكلام وتفريغ المكالمات

يحوّل نموذج التفريغ الصوت إلى نص ويمكن لنموذج لغوي تلخيصه. أكد الصيغة والموافقة والاحتفاظ قبل الإدخال. قيّم أخطاء الكلمات واللهجات التركية ومعالجة المتحدثين على تسجيلات فعلية.

وكلاء يستخدمون الأدوات

يقترح LLM استدعاء الأدوات ويتحقق تطبيقك من المعاملات وينفذ المسموح. ضع حدود الصلاحيات والمحاولات والسجلات. قيّم النجاح والإجراءات غير المقصودة والتعافي من فشل الأدوات.

10/المراقبة

كل طلب
يترك أثرًا.

زمن الاستجابة والتوكنات وحمل GPU والتكلفة، مقسّمة حسب المنطقة والنموذج وPod. الأرقام التوضيحية موسومة كبيانات تجريبية.

التتبع · 7F39A21تجريبي
00msتم قبول الطلب
06msتم اختيار المنطقة
11msتم تعيين المسار
18msPod جاهز
24msأول توكن
بث · 908ms
932msاكتمل
طلب / دقيقةآخر 24 ساعة · بيانات تجريبية
6K4.5K3K1.5K0 الذروة 5.2K 00:0006:0012:0018:0024:00
زمن الاستجابةP50P95
2s1s0 P50 · توضيحي 0.93s P95 · توضيحي 1.9s 00:0006:0012:0018:0024:00
الطلبات1.28M
التوكنات214M
TTFT24ms
زمن P500.93s
زمن P951.9s
استخدام GPU67%
معدل الأخطاء0.02%
التكلفة₺ [—]
التقسيم حسب  المنطقة · النموذج · Pod بيانات تجريبية
●/مستوى التحكم

النظام نفسه،
كبرمجيات.

تتحدث وحدة التحكم بلغة الموقع نفسها: Pods ومؤشرات الحالة ورموز المناطق والقياسات ذاتها. افتح وحدة التحكم كاملة في لوحتها الخاصة.

LLMPods / الإنتاج / TR-IST-01 جميع الأنظمة تعمل
Pods النشطة8من 16
طلب / دقيقة4,312تجريبي
توكن / ث182Kتجريبي
سعة GPU67%
زمن P500.93sتجريبي
الاستخدام الشهري214Mتوكن
طلب / دقيقة24h
صحة المناطق
TR-IST-01يعمل
أوروبامخدوم
MENAمخدوم
Pods
PodالنموذجGPUالحالةالحمل
POD-018Llama 70BPRO 6000نشط
POD-024Qwen CoderPRO 6000دافئ
POD-031مخصصPRO 6000مخصص
POD-041تضمينPRO 6000احتياطي
مفاتيح API+ مفتاح جديد
الإنتاج
llmp_live_••••••••••3F82
الاستدلالالتضميناتالنماذجالاستخدام
انتهاء الصلاحيةبلا انتهاء
تاريخ الإنشاء05 أكتوبر
واجهة تصورية · بيانات تجريبية افتح وحدة التحكم كاملة →
11/الاقتصاديات

شاهد الحوسبة
لحظة حدوثها.

يجب أن تكون فوترة الاستدلال قابلة للفحص كالطلب نفسه. توكنات الدخول والخروج ووقت GPU والعدّاد التابع لها.

عدّاد مباشر
الإدخال
اشرح ما هو Pod في فقرة واحدة.
الاستجابة · بث
Pod هو وحدة حوسبة معزولة تستضيف نموذجًا على سعة GPU محجوزة. توجه الطلبات إلى Pod وتجدول على GPU وتبث الرموز فور توليدها. تتكاثر وحدات Pod تحت الحمل وتعود إلى الانتظار عندما تنخفض الحركة.
المنطقةTR-IST
النموذجLLAMA-70B
PODPOD-018
رموز الإدخال412
رموز الإخراج1,284
وقت GPU919 ms
التكلفة التقديرية (412 + 1,284) رمز × $0.25 / 1M = $0.000424

الأسعار والحدود أمثلة وليست عرضًا حاليًا. يحدد اتفاق النشر توافر النماذج والسعر والسعة والاحتفاظ وSLA.

حيثما ينطبق في تركيا
  • فوترة TRYفواتير بالليرة التركية.
  • دعم e-Fatura / e-Arşivفواتير تناسب سير المحاسبة المحلي.
  • علاقة تجارية محليةعقود ودعم مع فريق مقره تركيا.
  • تحليلات الاستخداملكل مفتاح ونموذج وPod، قابلة للتصدير.
شاهد كيف تُقدَّم →