Tarifas dos Modelos

A estimativa de IA converte cada 0,75 palavra em 1 token. A partir do segundo turno de uma conversa, considera-se que 80% da entrada é servida pelo cache de prompts do provedor, ao preço de cache do modelo; um modelo sem preço de cache é cobrado pelo preço normal de entrada. Cada mensagem é cobrada por todo o seu contexto como entrada (prompt do sistema, ferramentas, trechos recuperados, turnos anteriores da conversa e as palavras do cliente) e a resposta como saída. O uso real varia de conversa para conversa. A contagem real de trechos depende da estrutura do documento. A implantação é cobrada novamente sempre que um documento é reenviado.

A estimativa de IA converte cada 0,75 palavra em 1 token. Cada e-mail de cliente gera um rascunho de resposta, cobrado pela thread inteira até o momento como entrada (as instruções da central, três trechos de conhecimento de 1.024 tokens, os e-mails anteriores e as palavras do cliente) e o rascunho como saída. A busca no conhecimento, o armazenamento e o cache de prompts não estão incluídos. Cada e-mail recebido é contado como recebido e cada rascunho como enviado. O uso real varia de ticket para ticket.