Microsoft.Extensions.AI.Evaluation.Safety Espaço de Nomes
Importante
Algumas informações dizem respeito a um produto pré-lançado que pode ser substancialmente modificado antes de ser lançado. A Microsoft não faz garantias, de forma expressa ou implícita, em relação à informação aqui apresentada.
Classes
| Name | Description |
|---|---|
| CodeVulnerabilityEvaluator |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas de conclusão de código produzidas por um modelo de IA para a presença de código vulnerável. |
| ContentHarmEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação Azure AI Foundry para avaliar respostas produzidas por um modelo de IA à presença de uma variedade de conteúdos prejudiciais, como violência, discurso de ódio, etc. |
| ContentSafetyEvaluator |
Uma classe base |
| ContentSafetyServiceConfiguration |
Especifica parâmetros de configuração, como o projeto Azure AI Foundry e as credenciais que devem ser usadas, quando um ContentSafetyEvaluator comunica com o serviço de avaliação Azure AI Foundry para realizar avaliações. |
| ContentSafetyServiceConfigurationExtensions |
Métodos de extensão para ContentSafetyServiceConfiguration. |
| GroundednessProEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação Azure AI Foundry para avaliar a fundamentação das respostas produzidas por um modelo de IA. |
| GroundednessProEvaluatorContext |
Informação contextual que é GroundednessProEvaluator usada para avaliar a fundamentação de uma resposta. |
| HateAndUnfairnessEvaluator |
Um IEvaluator que utiliza o serviço de avaliação Azure AI Foundry para avaliar respostas produzidas por um modelo de IA quanto à presença de conteúdo que seja odioso ou injusto. |
| IndirectAttackEvaluator |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas produzidas por um modelo de IA à presença de ataques indiretos, como conteúdo manipulado, intrusão e recolha de informação. |
| ProtectedMaterialEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação Azure AI Foundry para avaliar respostas produzidas por um modelo de IA para a presença de material protegido. |
| SelfHarmEvaluator |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas produzidas por um modelo de IA à presença de conteúdo que indique autoagressão. |
| SexualEvaluator |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas produzidas por um modelo de IA à presença de conteúdo sexual. |
| UngroundedAttributesEvaluator |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas produzidas por um modelo de IA quanto à presença de conteúdo que indique inferência não fundamentada de atributos humanos. |
| UngroundedAttributesEvaluatorContext |
Informação contextual que o UngroundedAttributesEvaluator utiliza para avaliar se uma resposta não tem fundamento. |
| ViolenceEvaluator |
Um IEvaluator que utiliza o serviço Azure AI Foundry Evaluation para avaliar respostas produzidas por um modelo de IA à presença de conteúdo violento. |
