Tokenbasierte Inferenz
Schätzen Sie Eingabe- und Ausgabe-Tokens getrennt, einschließlich Gesprächsverlauf und abgerufener Dokumente. Unterscheiden sich die Preise, berechnen Sie jeden Teil zu seinem eigenen Preis. Multiplizieren Sie mit den erwarteten Anfragen und addieren Sie separat abgerechnete Nutzung für Embeddings, Reranking oder Audio.