Aller au contenu principal

Évaluez ce que votre agent IA dit et fait.

Une réponse utile ne raconte qu’une partie de l’histoire. Vérifiez aussi les appels aux outils et leurs arguments dans la trace.

Deux façons d’évaluer une exécution

Vérifications sémantiques

Une vérification par IA évalue la réponse selon un critère écrit, par exemple si elle explique la règle d’approbation.

Vérifications procédurales

Les vérifications déterministes examinent les actions et arguments enregistrés, comme l’outil appelé et le compte utilisé. Le résultat dépend des champs capturés dans la trace.

Un remboursement sans approbation

Exemple illustratif

Exécution enregistrée
La réponse indique qu’une approbation est nécessaire. La trace enregistre aussi un appel de remboursement de 640 dollars sans approbation.
Vérifications
La réponse doit expliquer l’approbation et le remboursement ne doit pas être effectué sans elle.
Vérification sémantique
RÉUSSIE
Vérification procédurale
ÉCHOUÉE
Créer un test à partir de votre trace

Lisez les résultats par étape

Le taux de réussite d’une étape indique sa fréquence de réussite parmi ses résultats évalués.

Rapport d’étapes synthétique Échantillon sélectionné · 20 résultats évalués par étape
ÉtapeRéussis / évaluésNombre de résultats
Routage 18 / 20 · 90% 18 réussis · 2 échecs
Arguments 15 / 20 · 75% 15 réussis · 5 échecs
Outil 17 / 20 · 85% 17 réussis · 3 échecs
Réponse 16 / 20 · 80% 16 réussis · 4 échecs

Chaque dénominateur comprend uniquement les résultats réussis ou en échec de cette étape. Les étapes ignorées, absentes et non applicables sont exclues ; sans résultat évalué, il n’y a pas de taux.

Apprenez à interpréter les métriques d’évaluation

Poursuivre la découverte