InferenceDetails interface

Détails d’un appel d’inférence

Propriétés

endpoint

Point de terminaison de l’appel d’inférence

finishReasons

Tableau des raisons de fin

inputTokens

Nombre de jetons d’entrée utilisés

model

Nom/identificateur du modèle

operationName

Nom/type de l’opération pour l’inférence

outputTokens

Nombre de jetons de sortie générés

providerName

Nom du fournisseur (par exemple, openai, azure, anthropic)

thoughtProcess

Processus de pensée utilisé par l’agent

Détails de la propriété

endpoint

Point de terminaison de l’appel d’inférence

endpoint?: ServiceEndpoint

Valeur de propriété

finishReasons

Tableau des raisons de fin

finishReasons?: string[]

Valeur de propriété

string[]

inputTokens

Nombre de jetons d’entrée utilisés

inputTokens?: number

Valeur de propriété

number

model

Nom/identificateur du modèle

model: string

Valeur de propriété

string

operationName

Nom/type de l’opération pour l’inférence

operationName: InferenceOperationType

Valeur de propriété

outputTokens

Nombre de jetons de sortie générés

outputTokens?: number

Valeur de propriété

number

providerName

Nom du fournisseur (par exemple, openai, azure, anthropic)

providerName?: string

Valeur de propriété

string

thoughtProcess

Processus de pensée utilisé par l’agent

thoughtProcess?: string

Valeur de propriété

string