Microsoft.Extensions.AI.Evaluation.Safety Namespace
Importante
Algumas informações se referem a produtos de pré-lançamento que podem ser substancialmente modificados antes do lançamento. A Microsoft não oferece garantias, expressas ou implícitas, das informações aqui fornecidas.
Classes
| Nome | Description |
|---|---|
| CodeVulnerabilityEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas de conclusão de código produzidas por um modelo de IA para a presença de código vulnerável. |
| ContentHarmEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de uma variedade de conteúdo prejudicial, como violência, discurso de ódio etc. |
| ContentSafetyEvaluator |
Uma classe base |
| ContentSafetyServiceConfiguration |
Especifica parâmetros de configuração, como o projeto Fábrica de IA do Azure e as credenciais que devem ser usadas, quando um ContentSafetyEvaluator se comunica com o serviço de Avaliação Fábrica de IA do Azure para executar avaliações. |
| ContentSafetyServiceConfigurationExtensions |
Métodos de extensão para ContentSafetyServiceConfiguration. |
| GroundednessProEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar a aterramento das respostas produzidas por um modelo de IA. |
| GroundednessProEvaluatorContext |
Informações contextuais usadas GroundednessProEvaluator para avaliar a aterramento de uma resposta. |
| HateAndUnfairnessEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de conteúdo odioso ou injusto. |
| IndirectAttackEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de ataques indiretos, como conteúdo manipulado, intrusão e coleta de informações. |
| ProtectedMaterialEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de material protegido. |
| SelfHarmEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de conteúdo que indica automutilação. |
| SexualEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de conteúdo sexual. |
| UngroundedAttributesEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de conteúdo que indica inferência não em primeiro plano de atributos humanos. |
| UngroundedAttributesEvaluatorContext |
Informações contextuais usadas UngroundedAttributesEvaluator para avaliar se uma resposta não está em primeiro plano. |
| ViolenceEvaluator |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de conteúdo violento. |
