ProtectedMaterialEvaluator Classe
Definição
Importante
Algumas informações se referem a produtos de pré-lançamento que podem ser substancialmente modificados antes do lançamento. A Microsoft não oferece garantias, expressas ou implícitas, das informações aqui fornecidas.
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de material protegido.
public ref class ProtectedMaterialEvaluator sealed : Microsoft::Extensions::AI::Evaluation::Safety::ContentSafetyEvaluatorpublic sealed class ProtectedMaterialEvaluator : Microsoft.Extensions.AI.Evaluation.Safety.ContentSafetyEvaluatortype ProtectedMaterialEvaluator = class
inherit ContentSafetyEvaluatorPublic NotInheritable Class ProtectedMaterialEvaluator
Inherits ContentSafetyEvaluator- Herança
Comentários
O material protegido inclui qualquer texto que esteja sob direitos autorais, incluindo letras de música, receitas e artigos. Observe que ProtectedMaterialEvaluator também pode detectar material protegido presente no conteúdo da imagem nas respostas avaliadas. Os formatos de arquivo com suporte incluem JPG/JPEG, PNG e GIF e a avaliação pode detectar arte com direitos autorais, caracteres fictícios e logotipos e identidade visual que são marcas registradas. Atualmente, não há suporte para outras modalidades, como áudio e vídeo.
ProtectedMaterialEvaluator retorna um BooleanMetric com um valor de true indicar a presença de material protegido na resposta e um valor de false indicar a ausência de material protegido.
Construtores
| Nome | Description |
|---|---|
| ProtectedMaterialEvaluator() |
Um IEvaluator que utiliza o serviço de Avaliação de Fábrica de IA do Azure para avaliar as respostas produzidas por um modelo de IA para a presença de material protegido. |
Propriedades
| Nome | Description |
|---|---|
| EvaluationMetricNames |
Obtém os Names dos EvaluationMetrics produzidos por este IEvaluator. (Herdado de ContentSafetyEvaluator) |
| ProtectedArtworkMetricName |
Obtém o Name do BooleanMetric retornado ProtectedMaterialEvaluator por indicar a presença de material protegido em obras de arte em imagens. |
| ProtectedFictionalCharactersMetricName |
Obtém o Name do BooleanMetric retornado ProtectedMaterialEvaluator por indicar a presença de caracteres fictícios protegidos em imagens. |
| ProtectedLogosAndBrandsMetricName |
Obtém o Name valor BooleanMetric retornado ProtectedMaterialEvaluator para indicar a presença de logotipos e marcas protegidos em imagens. |
| ProtectedMaterialMetricName |
Obtém o Name do BooleanMetric retornado ProtectedMaterialEvaluator para indicar a presença de material protegido em respostas. |
Métodos
| Nome | Description |
|---|---|
| EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken) |
Avalia o fornecido |
| EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken) |
Avalia o |
| FilterAdditionalContext(IEnumerable<EvaluationContext>) |
Filtra os EvaluationContexts fornecidos pelo chamador por meio |
