Inferência baseada em tokens
Estime os tokens de entrada e de saída separadamente, incluindo o histórico de conversa e os documentos recuperados. Se as tarifas forem diferentes, calcule cada parte com a sua própria tarifa. Multiplique pelo número esperado de requisições; some qualquer uso de embeddings, reranking ou áudio cobrado separadamente.