ProxyAI

Auditez le coût et le comportement ensemble

Filtrez par date et par canal, puis comparez les types d'événements, comme le chat IA, Connaissances du bot, Abuse guard, Transfert et l'IA de la plateforme. Chaque ligne sépare les tokens d'entrée et de sortie et affiche le débit de coût. Exportez le CSV lorsque vous avez besoin d'une analyse hors ligne ou d'enregistrements sur le long terme.

Faites une seule comparaison à la fois

Choisissez un événement précis à examiner, par exemple une conversation de test après un changement de modèle ou le téléversement d'un document de politique. Notez le chatbot, le canal et l'heure approximative, puis sélectionnez une plage correspondante dans le Journal d'utilisation. C'est plus utile que de comparer deux totaux généraux dont le trafic et les réglages ont tous deux changé.

Lisez séparément les tokens d'entrée et de sortie, et notez l'entrée en cache lorsque le fournisseur la communique. Une réponse plus longue peut modifier le coût de sortie, tandis qu'un contexte plus volumineux peut modifier le coût d'entrée. Les connaissances et les autres services activés peuvent apparaître comme des types d'événements distincts ; incluez donc le travail pertinent pour la conversation.

Utilisez les Tarifs des modèles pour comprendre les unités de facturation actuelles du modèle sélectionné. Pour une explication pratique des coûts des agents programmés, lisez ce que coûte l'exécution d'un agent IA. Conservez les hypothèses à côté de toute exportation CSV utilisée pour l'analyse.

Lorsque vous examinez la qualité des réponses, revenez à la conversation elle-même. Une facture plus basse ne prouve pas que les clients ont reçu des réponses utiles, et un événement coûteux ne signale pas à lui seul une anomalie. Modifiez un réglage, répétez le test représentatif et comparez à la fois le comportement et l'utilisation enregistrée.