Microsoft.Extensions.AI.Evaluation.Safety Spazio dei nomi

Importante

Alcune informazioni sono relative alla release non definitiva del prodotto, che potrebbe subire modifiche significative prima della release definitiva. Microsoft non riconosce alcuna garanzia, espressa o implicita, in merito alle informazioni qui fornite.

Classi

Nome	Descrizione
CodeVulnerabilityEvaluator	Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte di completamento del codice prodotte da un modello di intelligenza artificiale per la presenza di codice vulnerabile.
ContentHarmEvaluator	Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di una varietà di contenuti dannosi, ad esempio violenza, parlato di odio e così via.
ContentSafetyEvaluator	Classe base `abstract` che può essere usata per implementare IEvaluator che utilizzano il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di un'ampia gamma di contenuti non sicuri, ad esempio materiale protetto, codice vulnerabile, contenuto dannoso e così via.
ContentSafetyServiceConfiguration	Specifica i parametri di configurazione, ad esempio il progetto di Azure AI Foundry e le credenziali da usare, quando un ContentSafetyEvaluator comunica con il servizio di valutazione Azure AI Foundry per eseguire valutazioni.
ContentSafetyServiceConfigurationExtensions	Metodi di estensione per ContentSafetyServiceConfiguration.
GroundednessProEvaluator	Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare la base delle risposte prodotte da un modello di intelligenza artificiale.
GroundednessProEvaluatorContext	Informazioni contestuali usate dall'oggetto GroundednessProEvaluator per valutare la base di una risposta.
HateAndUnfairnessEvaluator	Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di contenuto odioso o ingiusto.
IndirectAttackEvaluator	Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di attacchi indiretti, ad esempio contenuto manipolato, intrusione e raccolta di informazioni.
ProtectedMaterialEvaluator	Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di materiale protetto.
SelfHarmEvaluator	Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di contenuto che indica l'autolesionismo.
SexualEvaluator	Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di contenuto sessuale.
UngroundedAttributesEvaluator	Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di contenuto che indica l'inferenza in primo piano degli attributi umani.
UngroundedAttributesEvaluatorContext	Informazioni contestuali usate UngroundedAttributesEvaluator da per valutare se una risposta non è in primo piano.
ViolenceEvaluator	Un IEvaluator che usa il servizio di valutazione Azure AI Foundry per valutare le risposte prodotte da un modello di intelligenza artificiale per la presenza di contenuti violenti.

Commenti e suggerimenti

Questa pagina è stata utile?